Oleh : Esteria Tamba
(Penulis, Aktivis)
Energi Juang News, Jakarta- Yang menakutkan dari gelombang AI saat ini bukan sekadar kecanggihannya, melainkan kecepatannya mengaburkan batas antara nyata dan palsu. Contohnya video “pelatih paus orca” bernama Jessica Radcliffe yang kabarnya tewas diterkam saat atraksi. Nama itu, tempatnya, bahkan rekamannya semuanya fiksi. Beberapa media internasional sudah membongkar bahwa kisah itu lahir dari konten yang dibuat AI, bukan kejadian nyata. Fakta seperti ini memperlihatkan satu hal: imajinasi seperti wartawan, kemampuan produksi seperti studio, kini bisa ada di tangan siapa pun termasuk penipu.
Dampaknya bukan hanya salah paham, melainkan kerugian nyata. Data Federal Trade Commission (FTC) di AS mencatat kerugian publik akibat penipuan digital pada 2024 tembus US\$12,5 miliar, naik 25% dari tahun sebelumnya; sebagian didorong teknik manipulatif yang makin “meyakinkan” termasuk deepfake suara dan video. Kasus paling ekstrem: staf keuangan di Hong Kong ditipu lewat rapat Zoom yang seluruh “pesertanya” adalah deepfake, hingga mengirim US$25 juta. Ini bukan masa depan dystopia ini sudah terjadi tahun lalu.
Kapasitas penjahat siber juga naik kelas. Laporan dan liputan terbaru menyoroti deepfake real time (wajah dan suara) yang dipakai untuk menyaru CEO, merekrut korban dalam “wawancara” palsu, atau mengunci dana lewat instruksi mendesak. Skala kerugiannya sudah menyentuh puluhan juta dolar per kasus, sementara alat kloning suara bisa bekerja hanya dari belasan menit rekaman. Artinya: siapa pun yang punya jejak digital dari konten kreator sampai pejabat punya “bahan baku” untuk dipalsukan.
Indonesia tidak kebal. Pemerintah lewat Kominfo/Komdigi berkali kali memperingatkan maraknya penipuan berbasis deepfake dan menyerukan literasi verifikasi audio-video. OJK juga menandai lonjakan laporan penipuan digital. Bahkan ada peringatan khusus soal kloning suara yang menyasar warga lewat pesan WhatsApp dengan mengatasnamakan pejabat. Poinnya jelas: kita memasuki fase di mana orang melek teknologi pun bisa terkecoh.
Apa yang harus dilakukan? Pertama, ubah “kebiasaan percaya” menjadi “kebiasaan verifikasi”. Kabar mengejutkan apalagi yang menyentuh emosi wajib dicek lintas sumber tepercaya sebelum di-share. Gunakan pencarian gambar balik (reverse image search), cek apakah ada liputan media kredibel, dan perhatikan sinyal palsu (gerak bibir tak sinkron, artefak aneh, latar yang “terlalu sempurna”). Kasus orca di atas runtuh begitu dicek: tak ada catatan peristiwa, tak ada identitas asli, tak ada lokasi yang valid.
Kedua, dorong standar keamanan dan akuntabilitas. Platform perlu menambah penanda asal-usul konten (content provenance seperti C2PA), memperketat autentikasi akun, dan menindak cepat produsen deepfake yang merugikan publik. Lembaga dan korporasi wajib memperbarui SOP misalnya, transaksi besar tak boleh diputuskan lewat panggilan/rapat digital satu kanal; harus ada verifikasi kedua melalui jalur berbeda. Banyak kebocoran besar terjadi bukan karena teknologi canggih, melainkan prosedur yang malas.
Ketiga, negara harus mempercepat tiga hal: (1) payung hukum spesifik untuk penyalahgunaan AI (termasuk standar pembuktian forensik digital di pengadilan), (2) program literasi publik yang praktis (modul cek fakta audio-video di sekolah dan komunitas), dan (3) kolaborasi industry operator, perbankan, fintech untuk deteksi dan pemblokiran cepat penipuan berbasis AI. Sejumlah inisiatif domestik mulai muncul (anti-scam berbasis AI, kanal klarifikasi hoaks), tapi butuh percepatan dan integrasi ekosistem agar tidak sporadis.
Intinya, AI bukan sekadar alat; ia infrastruktur baru bagi ekonomi dan bagi kejahatan. Adaptif berarti kita mengubah cara menilai kebenaran: bukan dari “terlihat nyata”, tetapi “terverifikasi”. Di era di mana siapa pun bisa memalsukan apa pun, ketahanan kita bukan pada mata, melainkan pada disiplin kritis dan itu harus dilatih, diproteksi regulasi, serta dibantu teknologi yang bertanggung jawab.
Redaksi Energi Juang News
