Pemerintah Waspadai ‘Deepfake’ Berbasis AI sebagai Alat Kejahatan Siber Generasi Baru
Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) memperingatkan bahwa teknologi berbasis kecerdasan buatan (AI), khususnya konten manipulasi wajah dan suara yang dikenal sebagai deepfake, kini telah berubah menjadi salah satu alat kejahatan siber generasi baru. Modus tersebut tidak hanya digunakan untuk penyebaran hoaks, tetapi juga untuk penipuan finansial dan pemerasan digital.
Ancaman Deepfake: Kerugian hingga Rp 700 Miliar
Menurut data Komdigi, kerugian akibat penipuan yang memanfaatkan AI-deepfake diperkirakan mencapai hingga Rp 700 miliar. Wakil Menteri Komdigi, Nezar Patria, menegaskan bahwa konten deepfake yang tampak sangat meyakinkan bisa menyasar individu maupun institusi dan menimbulkan dampak nyata seperti kebocoran data pribadi, penyalahgunaan identitas, hingga kerugian finansial.
Modus Deepfake yang Semakin Terorganisir
Beberapa modus yang mulai muncul:
-
Pembuatan video/foto seseorang dengan suara atau wajah yang sangat menyerupai asli untuk memancing kepercayaan korban.
-
Penggunaan sertifikat digital atau identitas online palsu sebagai pendukung konten deepfake.
-
Penyalahgunaan deepfake dalam konteks penipuan keuangan dan teknologi informasi, bukan sekadar misinformasi politik.
Tindakan dan Mitigasi yang Ditanamkan Pemerintah
Sebagai respons, Komdigi telah menempuh beberapa langkah strategis:
-
Penyusunan Peta Jalan AI Nasional yang mencakup etika, akuntabilitas, dan transparansi dalam produksi konten AI.
-
Penegakan hukum melalui alat regulasi seperti Undang‑Undang Informasi dan Transaksi Elektronik (UU ITE), Undang‑Undang Pelindungan Data Pribadi (UU PDP) dan Kitab Undang‑Undang Hukum Pidana (KUHP) untuk menangani kasus deepfake yang bersifat merugikan.
-
Edukasi dan literasi digital kepada masyarakat agar lebih waspada terhadap konten manipulatif dan modus penipuan berbasis AI.
Siapa yang Berisiko?
Baik individu maupun institusi publik/sektor privat dianggap berisiko:
-
Individu bisa menjadi korban manipulasi suara atau video yang kemudian digunakan untuk memeras atau menipu.
-
Lembaga publik dan swasta yang mengandalkan reputasi atau identitas digital rentan terhadap serangan yang memanfaatkan deepfake untuk menyusup ke jaringan atau memancing respon keliru.
Ajakan untuk Waspada
Komdigi menghimbau masyarakat untuk:
-
Tidak mudah percaya terhadap konten audio/video yang tampak asli namun muncul dalam konteks tidak biasa.
-
Memeriksa kebenaran informasi dan sumber sebelum menyebarkan konten.
-
Melaporkan ke otoritas jika mendapat konten yang mencurigakan atau disalahgunakan.
