Oleh: Annisa Zain Rofifah, Fenny Risnanda Aulia Rahmi
(Mahasiswa Pascasarjana Magister Ilmu Komunikasi UNISKA Muhammad Arsyad Al Banjari Banjarmasin)
Maraknya pemberitaan tentang penyalahgunaan Grok AI untuk menghasilkan konten manipulative dan asusila menunjukan bahwa perkembangan kecerdasan buatan tidak selalu sejalan dengan kesiapan etika dan perlindungan publik. Fenomena ini bukan hanya terjadi di Indonesia, tetapi juga di beberapa negara, sehingga jelas bersifat global. Namun bagi Masyarakat, dampaknya terasa sangat personal dan nyata.
Kasus-kasus ini memunculkan rasa resah dan tidak aman di ruang digital. Foto, identitas, dan citra diri yang seharusnya bersifat pribadi, kini dapat dengan mudah disalahgunakan melalui bantuan teknologi.
Ketika AI mampu memanipulasi wajah dan tubuh seseorang tanpa izin, batas antara kenyataan dan rekayasa menjadi kabur. Akibatnya, kepercayaan masyarakat terhadap ruang digital perlahan terkikis.
Di sisi lain, respons pemerintah melalui penyelidikan, peringatan, hingga ancaman pemblokiran menunjukan bahwa negara tidak sepenuhnya berdiam. Namun, dari sudut pandang khalayak, langkah ini masih terasa reaktif.
Kebijakan baru muncul setelah kasus viral dan tekanan publik meningkat. Pola seperti ini menimbulkan Kesan bahwa perlindungan masyarakat baru diberikan setelah kerugian terjadi, bukan dicegah sejak awal.
Masalah ini juga memperlihatkan lemahnya posisi masyarakat dalam ekosistem komunikasi digital. Ketika konten bermasalah beredar, publik seringkali kebingungan harus mengadu kemana dan siapa yang bertanggung jawab.
Dalam konteks ini, penyalahgunaan AI seharusnya dipandang bukan sekedar pelanggaran teknologi, tetapi sebagai masalah komunikasi publik. Konten yang dihasilkan AI tetap merupakan pesan yang memiliki makna , dampak dan konsekuensi sosial. Jika pesan tersebut merendahkan martabat manusia, maka yang terjadi adalah kekerasan simbolik yang merugikan masyarakat luas.
Solusi yang ditawarkan tidak bisa hanya berhenti pada pemblokiran atau sanksi sesaat. Pemerintah perlu membangun pendekatan yang lebih menyeluruh.
Pertama, regulasi harus secara tegas mengatur batas penggunaan AI, terutama yang berkaitan dengan manipulasi identitas dan konten asusila. Aturan ini perlu disosialisasikan secara luas agar Masyarakat memahami hak dan perlindungannya.
Kedua, penyedia teknologi dan platform digital diwajibkan memperkuat sistem pengamanan dan bertanggung jawab atas dampak produknya. Keuntungan ekonomi dari teknologi tidak boleh mengalahkan keselamatan publik.
Ketiga, literasi digital masyarakat harus ditingkatkan, bukan hanya soal cara menggunakan teknologinya, tetapi juga tentang etika, tanggung jawab, dan dampak sosial dari setiap konten yang diproduksi dan dibagikan.
Terakhir, masyarakat perlu dilibatkan sebagai subjek yang dilindungi, bukan sekedar objek kebijakan. Saluran pelaporan yang mudah diakses, pendampingan korban, serta komunikasi public yang transparan akan membantu memulihkan rasa aman di ruang digital.
Penyalahgunaan Grok AI menjadi peringatan bahwa kecanggihan teknologi tanpa kendali etika hanya akan memperluas ketimpangan kuasa antara sistem dan manusia. Jika tidak ditangani dengan serius dan berkelanjutan, public akan terus hidup dalam keresahan di ruang yang seharusnya memberi manfaat. AI seharusnya mempermudah kehidupan manusia, bukan membuat manusia merasa terancam oleh ciptaannya sendiri.(rel)
