CelahkotaNEWS.com – Gelombang gugatan terhadap kecerdasan buatan di berbagai belahan dunia menunjukkan pola yang berulang. Setiap kali ruang digital menimbulkan luka, teknologi kerap menjadi pihak pertama yang disalahkan. Padahal, di balik setiap keluaran akal imitasi atau AI, selalu ada kehendak manusia pihak yang meminta, memanfaatkan, sekaligus menguji batas sistem tersebut.
Di tengah ketimpangan literasi digital dan meningkatnya risiko terhadap kelompok rentan, negara memilih untuk hadir. Bukan dengan menghakimi mesin, melainkan dengan membangun pagar kebijakan agar AI tidak beroperasi di ruang tanpa kendali.
Dalam beberapa bulan terakhir, AI semakin sering muncul di ruang publik, bukan sebagai inovasi, melainkan sebagai terdakwa.
ChatGPT digugat karena dianggap memberikan panduan bunuh diri. Grok, produk AI milik Elon Musk, menuai kecaman global lantaran memungkinkan pembuatan gambar bernuansa pornografi, termasuk konten non-konsensual yang melibatkan anak-anak dan figur publik.
Di berbagai negara, AI mendadak menjadi nama pertama yang disebut setiap kali ruang digital berubah menjadi ruang luka.
Narasi yang beredar pun nyaris seragam. AI disebut “memberi”, “mengajarkan”, dan “menghasilkan”. Bahasa pemberitaan dan pernyataan hukum perlahan memosisikan mesin sebagai subjek aktif, seolah memiliki niat dan kehendak sendiri.
Dalam kerangka ini, AI tampil bukan lagi sebagai alat, melainkan sebagai aktor yang layak dimintai pertanggungjawaban.
Padahal, ada satu fakta mendasar yang kerap luput dari perhatian. Tidak ada satu pun keluaran AI yang muncul tanpa permintaan manusia. Tidak ada teks, gambar, atau respons yang lahir tanpa input. AI tidak memulai percakapan, tidak mengajukan ide, dan tidak memiliki dorongan. Ia hanya merespons.
Kasus Grok memperlihatkan pola itu dengan jelas. Fitur pembuatan gambar yang dibuka untuk publik memungkinkan pengguna mengunggah foto siapa pun dan meminta versi yang lebih vulgar.
Yang kemudian terjadi adalah banjir konten pornografi berbasis AI tanpa persetujuan, memicu kemarahan lintas negara. Setelah tekanan menguat, pembatasan baru diterapkan. Bahkan hingga kini, pagar tersebut belum sepenuhnya seragam di semua kanal.
Fenomena serupa terlihat dalam gugatan terhadap chatbot lain. AI dituduh berkontribusi pada perilaku berbahaya, sementara peran pengguna sering kali hanya menjadi latar belakang cerita.
Sorotan publik bergerak cepat ke teknologi, meninggalkan pertanyaan mendasar tentang niat, konteks, dan tanggung jawab manusia yang memanfaatkan celah sistem.
AI pun menjadi wajah paling mudah untuk disalahkan. Ia—tentu saja—tidak bisa membela diri, tidak berdebat, dan tidak menuntut balik.
Apakah menempatkan AI di kursi terdakwa benar-benar menjawab persoalan? Ataukah justru menghindari diskusi yang lebih rumit tentang bagaimana manusia menggunakan alat yang berada di tangannya?
Pertanyaan itu penting diajukan sebelum menarik kesimpulan tergesa-gesa mengenai AI.
Alat, bukan pelaku
Dalam diskursus teknologi, para pemikir sejak lama mengingatkan satu hal mendasar: teknologi, termasuk AI, tidak pernah netral secara sosial, tetapi selalu netral secara moral. Makna baru muncul ketika teknologi berada di tangan manusia.
Filsuf teknologi Martin Heidegger pernah menegaskan bahwa teknologi bukan sekadar perangkat, melainkan cara manusia menyingkapkan dunia. Dengan demikian, yang perlu diuji bukan mesinnya, melainkan cara manusia memandang dan menggunakannya.
Pandangan serupa disampaikan ilmuwan sosial Neil Postman, yang mengingatkan bahwa setiap teknologi membawa konsekuensi budaya, namun tidak pernah mengambil alih tanggung jawab etis penggunanya.
Teknologi, termasuk AI, dapat memperluas kemampuan manusia, tetapi tidak menggantikan penilaian moral. Ketika penilaian itu berhenti bekerja, alat apa pun dapat berubah menjadi sumber masalah.
Kerangka ini membantu membaca polemik AI hari ini. Menyematkan kesalahan pada kecerdasan buatan berarti memindahkan beban tanggung jawab dari subjek bermoral ke sistem tak bernyawa.
Padahal, AI tidak memiliki niat, kesadaran, maupun tujuan. Ia bekerja berdasarkan pola dan instruksi. Jika hasilnya menyimpang, yang perlu ditelusuri adalah relasi antara pengguna, desain sistem, dan konteks sosial tempat teknologi tersebut dilepaskan.
Analogi alat menjadi relevan. Pisau tidak pernah dipidana meski digunakan untuk melukai. Kamera tidak dituntut ketika dipakai melanggar privasi. Internet tidak diseret ke pengadilan karena menyebarkan kebencian. Demikian pula AI. Dalam seluruh kasus itu, hukum dan etika selalu kembali pada manusia sebagai pemegang kendali.
Bahaya menjadikan AI sebagai “pelaku” utama bukan hanya kekeliruan logika, tetapi juga penyederhanaan persoalan. Fokus publik bergeser ke algoritma, sementara literasi digital, niat pengguna, dan desain tanggung jawab platform luput dari sorotan.
Dalam narasi semacam ini, manusia berisiko tampil sebagai korban pasif dari teknologi yang diciptakannya sendiri. Tentu, pengembang AI tidak bisa cuci tangan. Mereka memikul tanggung jawab untuk merancang pagar pengaman, memperkecil celah penyalahgunaan, dan merespons dampak sosial produknya.
Namun pagar teknis tidak pernah cukup untuk menggantikan satu hal yang tak bisa diotomatisasi: kebijaksanaan manusia dalam menggunakan alat. Di situlah inti persoalan berada. Bukan pada AI yang semakin canggih, melainkan pada kecerdasan manusia yang terkadang memilih berhenti bekerja ketika alat terasa terlalu mudah.
Pagar negara
Di tengah riuh gugatan global terhadap AI, negara-negara dihadapkan pada kenyataan serupa. Menunggu seluruh masyarakat memiliki literasi digital dan kedewasaan etis yang merata adalah pekerjaan panjang, sementara risikonya sudah nyata dan mendesak.
Ketika ruang digital berubah menjadi ruang luka, negara dituntut hadir lebih cepat daripada niat baik.
Pemerintah Indonesia memilih jalur mitigasi struktural. Melalui Kementerian Komunikasi dan Digital, pada Sabtu (10/1), pemerintah memutus akses sementara terhadap aplikasi Grok menyusul maraknya konten pornografi palsu berbasis kecerdasan artifisial.
Praktik deepfake seksual non-konsensual dipandang sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.
Langkah ini menegaskan posisi negara. Bukan teknologi yang diadili, melainkan dampaknya yang dihentikan.
Pemerintah tidak menunggu perdebatan panjang tentang niat mesin, tetapi langsung membatasi ruang gerak sistem yang dinilai membahayakan, terutama bagi perempuan dan anak.
Platform pun dipanggil untuk memberikan klarifikasi, menandai bahwa tanggung jawab tidak berhenti pada pengguna, tetapi juga melekat pada penyelenggara sistem elektronik.
Dasar hukumnya jelas. Negara menggunakan kewenangan yang ada untuk memastikan ruang digital tidak memfasilitasi konten terlarang.
Pendekatan ini mencerminkan kesadaran realistis: ketika niat manusia tidak bisa dikendalikan satu per satu, maka infrastruktur digitalnya yang dipagari. Negara hadir sebagai penjaga ruang, bukan pengatur pikiran.
Pendekatan serupa tampak di berbagai negara. Uni Eropa menuntut dokumentasi dan akuntabilitas pengembang AI. India mengancam mencabut perlindungan hukum bagi platform yang abai. Inggris memanggil pengembang untuk dimintai penjelasan. Di titik ini, regulasi menjadi bahasa bersama—membatasi risiko tanpa mematikan teknologi.
Namun, pagar setinggi apa pun memiliki batas. Regulasi dapat mempersempit bahaya, tetapi tidak pernah menggantikan akal sehat. Sistem bisa dibatasi, fitur dikunci, akses diputus, tetapi kehendak manusia tetap menjadi faktor penentu.
Di sinilah tanggung jawab itu kembali ke asalnya. AI tetap alat. Negara boleh membangun pagar. Platform wajib bertanggung jawab. Namun beban terbesar tidak pernah berpindah. Ia tetap melekat pada manusia sebagai pemilik akal asli.
Karena hanya manusia yang memiliki niat, hanya manusia yang dapat memilih untuk menyalahgunakan, dan hanya manusia yang dapat dimintai pertanggungjawaban moral.
Jika akal asli memilih berhenti bekerja, maka seketat apa pun pagar dibangun, kecerdasan imitasi akan terus dijadikan kambing hitam.
