TIMES JABAR, JAKARTA – Kecerdasan buatan Artificial Intelligence (AI) kini menjelma sebagai tulang punggung revolusi digital. Dari ponsel pintar yang kita genggam, sistem rekomendasi di e-commerce, hingga layanan kesehatan berbasis analisis data medis, AI hadir nyaris di semua ruang kehidupan.

Indonesia pun ikut merasakan manfaatnya. AI dipakai untuk membaca big data kesehatan publik, membantu prediksi cuaca ekstrem demi mitigasi bencana, hingga mendukung fintech dalam membuka akses pembiayaan bagi masyarakat kecil. 

Laporan McKinsey (2024) bahkan memprediksi AI mampu menambah 4,6 triliun dolar AS per tahun bagi perekonomian global. Sementara itu, Kementerian Kominfo memperkirakan pemanfaatan AI dapat menyumbang ratusan triliun rupiah ke ekonomi digital Indonesia pada 2030.

Optimisme merebak. Banyak pihak percaya AI akan mempercepat efisiensi, mendorong inovasi, dan menciptakan lapangan kerja baru. Tetapi di balik janji itu, wajah lain AI kian menampakkan diri: diskriminasi algoritmik, penyalahgunaan data pribadi, hingga eksploitasi seksual berbasis deepfake.

Bias di Balik Algoritma

Studi DataRobot (2024) mencatat, mayoritas perusahaan besar di Amerika Serikat (AS), Kanada, dan Eropa telah mengadopsi AI untuk pengambilan keputusan. 

AI dipuji karena efisiensi dan objektivitasnya, tetapi riset yang sama juga menemukan sisi gelapnya: 62 persen perusahaan justru merugi akibat bias algoritmik, mulai dari hilangnya pelanggan hingga runtuhnya reputasi.

Kasus nyata terjadi di AS pada 2024. Sebuah perusahaan harus membayar denda USD 365.000 setelah sistem AI mereka otomatis menyingkirkan perempuan di atas 55 tahun dan laki-laki di atas 60 tahun dari proses rekrutmen. Studi lain menunjukkan, AI cenderung lebih memilih nama berkonotasi “kulit putih” (85 persen) ketimbang “kulit hitam” (9 persen).

Untuk konteks ini, Natalie Sheard (2025) menambahkan, 30 persen organisasi di Australia dan 42 persen perusahaan global kini menggunakan algoritma AI untuk menilai pelamar kerja. Janjinya: efisiensi rekrutmen. Namun pada kenyataannya: diskriminasi melekat. 

Algoritma terbukti menurunkan skor kandidat dengan nama Asia atau Afrika, bahkan mendiskreditkan CV yang memuat kata “perempuan” atau “penyandang disabilitas.” Diskriminasi lama hidup kembali dalam wajah baru: mesin cerdas.

Eksploitasi Seksual Digital

Selain bias, AI juga melahirkan ancaman yang jauh lebih brutal: eksploitasi seksual digital. Sejak 2023, dunia diguncang oleh maraknya konten pornografi berbasis AI. Data terbaru menunjukkan 96 persen konten deepfake di internet adalah pornografi yang menyasar perempuan.

Angka yang mencengangkan datang dari semester pertama 2025: 1.286 video CSAM (Child Sexual Abuse Material) berbasis AI diproduksi dan beredar, melonjak dari hanya dua kasus pada periode sebelumnya. 

Korea Selatan menjadi episentrum krisis, dengan lebih dari 10.000 perempuan mayoritas remaja dan mahasiswa menjadi korban. Kasus deepfake porn di negara itu naik 227 persen hanya dalam dua tahun. 

Inggris dan Australia juga tak luput. Aparat mencatat remaja bunuh diri akibat sextortion berbasis chatbot predator AI. Platform seperti Replika atau Character. 

AI, yang awalnya dirancang untuk mendampingi pengguna secara emosional, justru dipelintir menjadi sarana pelecehan. Teknologi yang dijanjikan sebagai teman digital berubah jadi alat predator.

Deepfake, Data, dan Bahaya Laten

Gelombang masalah etis ini juga menyapu Indonesia. Awal 2024, publik geger oleh tersebarnya video deepfake artis dan influencer. Meski terbukti palsu, reputasi korban hancur, trauma psikologis mendalam, dan sebagian memilih mundur dari ruang publik.

Di sektor finansial, sejumlah bank dan fintech kedapatan menggunakan algoritma pinjaman berbasis AI yang bias. Bukannya memperluas inklusi keuangan, sistem ini justru memperkuat sistem keuangangan yang eklusif denngan menolak aplikasi masyarakat berpenghasilan rendah atau membebankan bunga lebih tinggi tanpa alasan jelas.

Sementara itu, penggunaan facial recognition untuk keamanan publik memunculkan kekhawatiran lain. Tanpa regulasi ketat, data biometrik warga berpotensi disalahgunakan baik oleh korporasi maupun aparat negara. Kasus-kasus ini menunjukkan bahwa masalah etis AI bukan sekadar isu global; ia nyata dan mengetuk pintu Indonesia.

Mengapa pelanggaran etis ini begitu cepat merebak? Jawabannya sederhana: laju teknologi melampaui kesiapan etika dan hukum.

Indonesia memang sudah memiliki Undang-Undang Perlindungan Data Pribadi (UU PDP) sejak 2022. Tetapi UU ini belum menyentuh secara spesifik soal AI, deepfake, atau risiko diskriminasi algoritmik. 

Bandingkan dengan Uni Eropa yang pada 2024 melahirkan AI Act, regulasi komprehensif pertama di dunia yang mengklasifikasikan AI berdasarkan tingkat risiko, sekaligus melarang praktik berbahaya seperti deepfake porn tanpa konsen.

Tanpa kode etik dan payung hukum AI yang jelas, aparat Indonesia sering gagap. Korban deepfake akan terus berjatuhan, dan mereka harus berjuang sendiri, melaporkan kasus dengan pasal KUHP yang usang. Tidak heran banyak perkara berhenti di tengah jalan, meninggalkan korban tanpa keadilan.

Etika Digital dan Tata Kelola AI

Indonesia tak bisa terus bertahan dengan regulasi tambal-sulam. Ada beberapa langkah yang perlu segera diambil:

Pertama, mempercepat penyusunan kode etik dan regulasi nasional AI yang tegas. Aturannya harus melindungi hak dasar manusia di semua lini keuangan, pendidikan, kesehatan, hingga keamanan publik.

Kedua, menegakkan akuntabilitas perusahaan. Pengembang tak bisa lagi berkilah, “kami hanya penyedia platform.” Mereka wajib memastikan algoritma bebas dari bias dan tidak dipakai untuk tujuan kriminal.

Ketiga, memperkuat literasi digital masyarakat. Kasus deepfake di Indonesia membuktikan publik belum siap menghadapi derasnya inovasi. Literasi akan menjadi benteng: membantu warga mengenali, melawan, dan melaporkan pelecehan berbasis AI.

Keempat, memperluas kerja sama global. AI melintasi batas negara, sehingga pengendaliannya juga harus lintas batas. Indonesia harus aktif bersuara dalam forum internasional agar tidak sekadar jadi konsumen, melainkan ikut menetapkan standar etika global.

AI adalah pedang bermata dua. Di satu sisi, ia menawarkan peluang luar biasa bagi pertumbuhan ekonomi, inovasi, dan kemudahan hidup. Di sisi lain, ia membuka ruang baru bagi diskriminasi, kekerasan seksual digital, dan dehumanisasi.

Kasus deepfake, chatbot predator, hingga algoritma bias adalah alarm keras. Teknologi tanpa etika ibarat mesin tanpa rem. Indonesia tidak boleh terlambat lagi. Pedoman etika yang jelas, regulasi progresif, dan komitmen moral dari para pengembang harus segera dibangun.

Pertanyaan besar kini bukan lagi: apakah kita siap dengan AI? Melainkan: apakah kita siap menghadapi risiko etis yang ditimbulkannya? Tanpa itu, masa depan digital yang kita impikan bisa berbalik menjadi distopia yang menakutkan. (*)

***

*) Oleh : Mubasyier Fatah, Bendahara Umum Pimpinan Pusat Ikatan Sarjana Nahdlatul Ulama (PP ISNU) dan Pelaku Industri Teknologi Informasi dan Komunikasi (TIK).

*) Tulisan Opini ini sepenuhnya adalah tanggungjawab penulis, tidak menjadi bagian tanggungjawab redaksi timesindonesia.co.id

*) Kopi TIMES atau rubik opini di TIMES Indonesia terbuka untuk umum. Panjang naskah maksimal 4.000 karakter atau sekitar 600 kata. Sertakan riwayat hidup singkat beserta Foto diri dan nomor telepon yang bisa dihubungi.

*) Naskah dikirim ke alamat e-mail: [email protected]

*) Redaksi berhak tidak menayangkan opini yang dikirim.