By : Naomi Leah Christine )*
Recently, a video clip of President Jokowi has been circulating in a fluent Mandarin speech. The video of President Jokowi giving a speech in Mandarin is a hoax created using deepfake technology. The existence of this video is a reminder for the public to always be wary of the spread of hoaxes and deepfakes ahead of the election which could create public unrest.
In facing the 2024 elections, the Indonesian Ministry of Communication and Information (Kominfo) issued a serious warning regarding the potential spread of deepfake AI (Artificial Intelligence) which could damage the democratic process and influence public opinion.
The threat of deepfakes became even more real after a video showing President Joko Widodo alias Jokowi giving a speech in Mandarin circulated on social media, even though it turned out to be edited. The Director General of Informatics Applications, Kominfo, Semuel Abrijani Pangerapan, expressed concern about the sophisticated use of AI to create hoaxes that could mislead the public.
Semuel Abrijani Pangerapan, Director General of Kominfo Informatics Applications, warned the public about the spread of AI deepfakes ahead of the 2024 Election. This became a serious concern after the emergence of a video showing President Joko Widodo giving a speech in Mandarin, which turned out to be the result of manipulation.
In this context, Abrijani Pangerapan warned about the development of the use of artificial intelligence technology in creating hoaxes. He highlighted the importance of getting information from trustworthy sources in an effort to counter the spread of false information.
According to him, an effective way to fight hoaxes is to ensure that information is obtained from sources that have a trusted reputation, because significant news always gets coverage by trusted media.
The threat of deepfakes is increasingly real with videos that appear very similar to the original, and the words spoken also have similarities to the original video. Semuel Abrijani Pangerapan emphasized the importance of tabayyun, or testing information from reliable sources.
The increasing use of deepfake AI for dishonest political interests is a serious challenge that must be faced in the 2024 election.
Deepfake merupakan bentuk manipulasi berbahaya yang dapat mengecoh siapa pun. Teknologi AI digunakan untuk membuat foto, audio, dan video palsu yang terlihat sangat meyakinkan. Dalam konteks pemilihan umum, deepfake dapat digunakan untuk menyebarkan informasi palsu yang dapat memengaruhi hasil pemilu.
Sebagai contoh, Direktur Jenderal Informasi dan Komunikasi Publik di Kementerian Komunikasi dan Informatika, Usman Kansong, menyebut kasus penggunaan deepfake dalam pemilihan wali kota di Chicago, Amerika Serikat. Seorang kandidat terkena dampak buruk akibat video deepfake yang mengkritik polisi.
Usman Kansong menyoroti dampak negatif yang dialami oleh Vallas sebagai akibat dari penyebaran deepfake. Dia menegaskan bahwa penggunaan teknologi kecerdasan buatan yang tidak bertanggung jawab perlu diantisipasi dengan serius menjelang Pemilu 2024.
Menteri Komunikasi dan Informatika, Budi Arie Setiadi, menyoroti pentingnya pedoman etika dalam penggunaan kecerdasan buatan (AI) untuk menghadapi potensi munculnya gangguan informasi baru dalam pemanfaatan teknologi kecerdasan buatan.
Kemajuan teknologi AI dapat memunculkan bentuk gangguan informasi baru, termasuk teknologi deepfake yang memungkinkan manipulasi gambar atau video untuk tujuan pembohongan publik atau penipuan.
Pemanfaatan teknologi AI diproyeksikan akan berkontribusi sebesar 366 miliar dollar AS terhadap produk domestik bruto (PDB) Indonesia pada tahun 2030. Oleh karena itu, Kementerian Kominfo sedang menyusun pedoman etika dalam pemanfaatan kecerdasan buatan di Indonesia untuk mengatasi berbagai tantangan yang mungkin muncul.
Pedoman etika AI akan menjadi instrumen penting dalam menjaga integritas informasi dan melindungi proses demokrasi dari ancaman deepfake dan hoaks yang menggunakan teknologi AI. Ini adalah langkah yang diperlukan dalam menghadapi tantangan baru yang muncul seiring dengan kemajuan teknologi.
Mewaspadai penyebaran deepfake AI menjelang Pemilu 2024 adalah tugas bersama yang membutuhkan peran serta aktif dari masyarakat, pemerintah, dan media. Kemenkominfo telah memberikan peringatan dan pedoman etika untuk menghadapi ancaman ini, namun, tanggung jawab untuk memeriksa informasi dan mengonfirmasi sumbernya juga ada pada kita sebagai individu.
Dalam dunia yang semakin terkoneksi secara digital, kehati-hatian dan kecerdasan dalam menyikapi informasi yang kita terima sangat penting. Mencari informasi dari sumber-sumber yang dapat dipercaya, menjalani tabayyun (pengujian informasi), dan terus menerus meningkatkan literasi digital adalah langkah-langkah kunci dalam menjaga demokrasi kita dari bahaya deepfake dan hoaks yang dapat merusak kepercayaan publik.
Pemilu 2024 adalah momen penting dalam perjalanan demokrasi Indonesia, dan kita semua memiliki tanggung jawab untuk menjaganya. Dengan kesadaran bersama dan langkah-langkah yang bijak, kita dapat mengatasi ancaman deepfake AI dan menjaga integritas proses demokrasi yang adil dan transparan.
Don’t let technology become a weapon that destroys democracy, but instead make it a tool to strengthen our democratic values.
)* The author is a contributor to the Nesia Core Media Institute
