Perkembangan teknologi kecerdasan buatan atau artificial intelligence (AI) menghadirkan banyak manfaat bagi kehidupan manusia. AI membantu efisiensi pekerjaan, mempercepat riset, memperluas akses pendidikan, hingga memudahkan komunikasi sosial.

Namun, di balik manfaat tersebut, teknologi juga menghadirkan ancaman serius ketika digunakan tanpa etika dan empati. Salah satu ancaman paling nyata adalah penggunaan AI sebagai instrumen penistaan manusia.

Kasus yang melibatkan mahasiswa Fakultas Matematika dan Ilmu Pengetahuan Alam (MIPA) Universitas Tanjungpura berinisial RY menjadi contoh konkret bagaimana teknologi dapat berubah menjadi alat kekerasan psikologis. Dengan memanfaatkan teknologi AI/deepfake, pelaku diduga mengedit foto teman-temannya sesama mahasiswa menjadi gambar vulgar.

Tindakan tersebut bukan sekadar pelanggaran moral atau kenakalan digital biasa, melainkan bentuk perendahan martabat manusia yang memanfaatkan kecanggihan teknologi.

Fenomena deepfake menunjukkan bahwa kemajuan teknologi tidak selalu berjalan seiring dengan kematangan karakter manusia. Deepfake pada dasarnya merupakan teknologi berbasis AI yang memungkinkan manipulasi audio maupun visual sehingga tampak autentik.

Dalam perspektif teori technological determinism dari Marshall McLuhan, teknologi memang membentuk cara manusia berinteraksi dan memandang realitas. Namun, teori tersebut juga mengandung peringatan bahwa teknologi dapat mengubah relasi sosial secara destruktif apabila tidak diimbangi kesadaran etis.

Dalam konteks ini, penggunaan AI untuk membuat konten vulgar berbasis wajah orang lain merupakan bentuk objektifikasi manusia. Filsuf Immanuel Kant sejak lama menegaskan bahwa manusia harus diperlakukan sebagai tujuan, bukan sekadar alat.

Ketika wajah seseorang dipakai tanpa persetujuan untuk kepentingan fantasi, hiburan, atau pelecehan, maka yang terjadi adalah penghilangan kemanusiaan individu tersebut. Korban tidak lagi dipandang sebagai subjek bermartabat, melainkan objek manipulasi digital.

Lebih jauh, tindakan seperti itu juga dapat dikategorikan sebagai kekerasan berbasis gender secara digital (gender-based online violence). Dalam kajian sosiologi digital, kekerasan tidak lagi selalu hadir dalam bentuk fisik. Penyebaran gambar manipulatif, penghinaan visual, hingga eksploitasi tubuh melalui rekayasa AI dapat memunculkan trauma psikologis mendalam, rasa malu sosial, kecemasan, bahkan kerusakan reputasi korban dalam jangka panjang.

Karena itu, kasus di lingkungan Untan tersebut harus menjadi momentum nasional untuk memperkuat pendidikan etika digital dan etika AI. Negara tidak boleh hanya terpukau pada narasi transformasi digital, tetapi juga harus serius membangun kesadaran moral masyarakat dalam menggunakan teknologi.

Sebab, teknologi pada dasarnya bersifat netral; manusialah yang menentukan apakah ia menjadi alat kemajuan atau alat penindasan.

Pendidikan etika AI perlu dimulai sejak dini, termasuk di sekolah dan perguruan tinggi. Mahasiswa yang memiliki akses tinggi terhadap teknologi justru harus menjadi kelompok paling sadar terhadap batas-batas moral penggunaan AI. Literasi digital tidak cukup hanya mengajarkan kemampuan menggunakan aplikasi, tetapi juga harus menanamkan nilai empati, tanggung jawab, privasi, dan penghormatan terhadap martabat manusia.

Pemikiran filsuf teknologi Jacques Ellul relevan dalam konteks ini. Ellul mengingatkan bahwa masyarakat modern sering kali terjebak pada pemujaan terhadap efisiensi teknologi, sambil melupakan dimensi kemanusiaan. Akibatnya, teknologi berkembang jauh lebih cepat dibanding kesiapan moral penggunanya. Kondisi inilah yang terlihat dalam penyalahgunaan deepfake: kemampuan teknologinya tinggi, tetapi kedewasaan etikanya rendah.

Negara juga perlu memperkuat regulasi terkait penyalahgunaan AI dan manipulasi digital. Hukum harus mampu memberikan perlindungan terhadap korban sekaligus efek jera bagi pelaku. Sebab, tanpa regulasi yang tegas, teknologi deepfake berpotensi menjadi alat baru untuk pelecehan seksual, pemerasan, fitnah politik, hingga pembunuhan karakter.

Namun demikian, pendekatan hukum saja tidak cukup. Penanganan persoalan ini harus disertai pembangunan budaya digital yang sehat. Kampus, keluarga, media sosial, dan komunitas masyarakat harus aktif menanamkan kesadaran bahwa di balik setiap foto dan identitas digital terdapat manusia nyata dengan harga diri dan hak untuk dihormati.

Kemajuan AI memang tidak bisa dihentikan. Dunia akan terus bergerak menuju era teknologi yang semakin kompleks dan canggih. Tetapi satu hal yang tidak boleh hilang adalah kemanusiaan itu sendiri.

Teknologi tanpa etika akan melahirkan penistaan. AI tanpa empati dapat berubah menjadi alat kekerasan yang menghancurkan martabat manusia secara sistematis.

Karena itu, kasus deepfake di lingkungan mahasiswa Untan harus dibaca sebagai alarm sosial. Bangsa ini tidak hanya membutuhkan generasi yang cerdas secara digital, tetapi juga generasi yang memiliki karakter, empati, dan tanggung jawab moral.

Sebab pada akhirnya, ukuran kemajuan peradaban bukan terletak pada seberapa canggih teknologinya, melainkan seberapa manusiawi cara teknologi itu digunakan.

Oleh Hizkia Darmayana
(Pemimpin Redaksi Energi Juang News)

Redaksi Energi Juang News