Hallonusantara.com | Jakarta — Perkembangan kecerdasan buatan yang kian agresif dinilai menghadirkan ancaman serius bagi keamanan digital dan martabat warga negara. Penyalahgunaan AI untuk memanipulasi foto dan video menjadi konten vulgar kini dianggap telah memasuki fase darurat, seiring lemahnya pagar regulasi dan rendahnya literasi digital.
Ketua Indonesia Cyber Security Forum (ICSF) Ardi Sutedja mengatakan, kemunculan chatbot AI generatif, termasuk Grok, membuka celah baru kejahatan siber berbasis pelecehan visual. Teknologi yang dirancang untuk membantu manusia justru berpotensi menjadi alat penghancur reputasi.
“Foto seseorang bisa tiba-tiba beredar dalam bentuk vulgar, padahal tidak pernah ada pose maupun persetujuan. Ini bukan fiksi, tapi ancaman nyata di era AI yang terlalu longgar,” kata Ardi, dikutip dari Info Publik, Minggu (11/1/2026).
Ardi menilai, dibandingkan platform AI lain yang menerapkan pembatasan ketat, Grok memiliki celah etika karena mampu menghasilkan atau memodifikasi konten visual yang berpotensi merendahkan martabat manusia. Tanpa pengaturan yang jelas, AI berisiko menjadi instrumen pelecehan digital massal.
Indonesia, dengan lebih dari 212 juta pengguna internet, menghadapi tantangan besar dalam keamanan siber. Data Asosiasi Penyelenggara Jasa Internet Indonesia mencatat 64 persen pengguna internet belum memahami risiko keamanan digital secara menyeluruh, termasuk bahaya manipulasi konten berbasis AI.
“Kasus manipulasi foto dan video berbasis AI sudah terjadi di berbagai daerah, dari pemerasan hingga penghancuran reputasi. Yang terlihat saat ini baru bagian kecil dari persoalan yang lebih besar,” ujar Ardi.
Ia mengingatkan, tanpa perlindungan hukum yang memadai dan edukasi publik yang konsisten, masyarakat akan terus menjadi korban kejahatan digital yang semakin canggih dan sulit dilacak.
Undang-Undang Perlindungan Data Pribadi (UU PDP) yang disahkan pada 2022 semestinya menjadi fondasi perlindungan warga di ruang digital. Namun hingga kini, aturan turunannya belum sepenuhnya rampung. Kekosongan ini menyulitkan aparat penegak hukum dalam menentukan tanggung jawab, baik pada pengembang AI, pengguna, maupun platform distribusi.
“Teknologi bergerak cepat, sementara regulasi tertinggal. Aparat akhirnya bekerja di wilayah abu-abu,” kata Ardi.
Menurut dia, penyalahgunaan AI tak lagi bisa dipandang semata sebagai persoalan privasi individu. Manipulasi visual terhadap tokoh publik, pejabat negara, atau figur agama berpotensi memicu konflik sosial dan merusak kepercayaan publik.
Selain kerugian material, korban manipulasi konten AI kerap menanggung beban psikologis berat, mulai dari stigma sosial, gangguan mental, hingga kehilangan pekerjaan—dampak yang sering kali sulit dipulihkan meski konten palsu telah dibantah.
Data Badan Siber dan Sandi Negara menunjukkan ribuan serangan siber terjadi setiap hari, sebagian memanfaatkan teknologi AI untuk menipu dan memeras korban. Tanpa intervensi kebijakan yang tegas, tren ini diperkirakan terus meningkat.
ICSF mendesak pemerintah segera merampungkan regulasi turunan UU PDP yang secara khusus mengatur pemanfaatan AI generatif. Regulasi itu perlu memuat kewajiban penyaring konten otomatis, persetujuan eksplisit pemilik data, transparansi algoritma, serta sanksi tegas bagi pelaku penyalahgunaan.
“Regulasi harus bersifat antisipatif, bukan menunggu korban bertambah,” kata Ardi.
Ia juga menekankan tanggung jawab platform teknologi untuk menerapkan prinsip ethics by design serta pentingnya penguatan literasi digital masyarakat sebagai lapis pertama perlindungan.
Sebagai negara dengan populasi digital terbesar di Asia Tenggara, Indonesia dituntut membangun ekosistem digital yang aman dan bermartabat. Perlindungan data pribadi dan keamanan siber, kata Ardi, mesti menjadi prioritas seiring percepatan transformasi digital.
“AI bisa menjadi berkah atau justru bencana. Semua bergantung pada bagaimana negara mengaturnya,” ujarnya.
(Bet)
