Peringatan Kominfo Soal Bahaya Deepfake

Teras Merdeka – Teknologi Deepfake yang merupakan hasil kecerdasan buatan (AI) telah memakan korban. Hal itu diungkapkan oleh Wakil Menteri Komunikasi dan Informatika (Wamenkominfo), Nezar Patria.

Diketahui, deepfake mengacu pada hasil pengolahan AI baik berupa gambar, suara, atau video seseorang yang sangat menyerupai aslinya.

Baru-baru ini, ramai di media sosial hasil aplikasi teknologi tersebut yang disalahgunakan oleh orang tak bertanggung jawab, dengan menggunakan gambar Presiden Joko Widodo (Jokowi) sebagai objeknya.

Di mana video tersebut diunggah pada Oktober 2023 di media sosial X yang dahulu bernama Twitter. Video itu menampilkan Jokowi fasih berpidato menggunakan berbahasa Mandarin dan membawa narasi bahwa Jokowi berpihak ke China.

“Makin lama makin canggih. Banyak teman saya yang cukup digital savvy (red: melek digital) nyaris percaya pidato [oleh Jokowi] terjadi di Beijing sampai muncul penjelasan hasil karya deepfake,” ujar Nezar, dikutip dari CNNIndonesia.com, Rabu (6/12/2023).

Nezar menjelaskan bagaimana AI berpotensi disalahgunakan untuk menyebarkan misinformasi seperti konten Jokowi tersebut.

Penggunaan AI, yang dalam hal ini menghasilkan deepfake, berpotensi memicu kekacauan informasi dan membuat publik kebingungan membedakan informasi benar atau tidak.

“Sedemikian mengancam generatif AI. Bisa memporak-porandakan arus informasi yang diterima,” katanya.

Selain misinformasi, ada beberapa risiko AI yang juga perlu dimitigasi. Hal ini membuat Nezar dan Kominfo menyusun Surat Edaran (SE) terkait etika pemanfaatan AI.

Terlebih, Indonesia saat ini sudah berada di masa pemilihan umum (pemilu) yang akan sangat terganggu jika ada penyalahgunaan AI seperti kasus deepfake Jokowi.

Surat Edaran terkait AI ini diharapkan bisa menjadi acuan bagi seluruh pihak, mulai dari pengembang hingga pengguna yang hendak memanfaatkan teknologi AI.

“Surat edaran etika kecerdasan artifisial ini akan segera dikeluarkan dalam rangka untuk tata kelola penggunaan kecerdasan artifisial di masyarakat, dan nantinya akan jadi panduan buat ekosistem pengembangan AI di Indonesia,” ujarnya.

“Jadi, pelaku usaha juga di situ, masyarakat biasa, dari desain, pengembangan sampai penggunaanya nanti bisa mengacu kepada surat edaran etika kecerdasan artifisial ini,” tuturnya.