Spilltekno – Perusahaan AI milik Elon Musk, xAI, kini tengah menghadapi gugatan hukum serius. Tiga remaja dari Tennessee, Amerika Serikat, menuduh chatbot Grok AI telah mengubah foto mereka menjadi konten berbau seksual. Kasus ini kembali menyoroti isu sensitif seputar etika dan keamanan dalam pengembangan kecerdasan buatan.
Gugatan class action tersebut secara spesifik menuduh Grok AI menghasilkan materi pelecehan seksual anak buatan AI. Para penggugat mengklaim bahwa foto-foto mereka diubah menjadi gambar eksplisit tanpa persetujuan. Kejadian ini menimbulkan kekhawatiran mendalam terhadap potensi penyalahgunaan teknologi canggih.
Ironisnya, gugatan ini juga menyeret nama Elon Musk sebagai co-founder dan pemilik xAI. Penggugat menuduh Musk dan eksekutif perusahaan lainnya sudah mengetahui kemampuan Grok untuk menciptakan materi semacam itu. Mereka disebut tetap meluncurkan ‘spicy mode’ Grok pada akhir tahun lalu, meskipun ada risiko jelas.
Para penggugat terdiri dari dua anak di bawah umur saat ini, serta satu individu yang masih di bawah umur ketika insiden tersebut terjadi. Identitas mereka dirahasiakan untuk melindungi privasi, menggunakan nama samaran seperti Jane Doe 1. Kasus ini menunjukkan dampak nyata teknologi AI pada individu rentan.
Salah satu korban, Jane Doe 1, mengungkapkan bagaimana ia mengetahui gambar eksplisit dirinya beredar luas. Gambar-gambar deepfake tersebut, yang menampilkan wajahnya dan setidaknya 18 anak di bawah umur lainnya, ditemukan di platform Discord. Peredaran konten semacam itu tentu saja sangat merugikan dan traumatis bagi para korban.
Insiden ini memicu perdebatan sengit tentang tanggung jawab pengembang AI terhadap dampak produk mereka. Perusahaan teknologi memiliki kewajiban moral dan hukum untuk memastikan AI mereka tidak disalahgunakan. Pengawasan ketat dan mekanisme keamanan yang robust sangat diperlukan untuk mencegah kasus serupa terulang.
Keamanan data dan privasi pengguna, terutama anak-anak dan remaja, harus menjadi prioritas utama. Platform AI harus menerapkan filter konten yang sangat ketat dan sistem deteksi penyalahgunaan yang canggih. Perlindungan terhadap pengguna di bawah umur adalah aspek fundamental yang tidak bisa ditawar dalam pengembangan AI.
Gugatan ini berpotensi besar merusak reputasi xAI dan Grok di mata publik global. Kasus ini juga bisa menjadi preseden penting bagi industri AI secara keseluruhan. Ini adalah pengingat keras bahwa inovasi teknologi harus selalu diimbangi dengan pertimbangan etika dan keselamatan yang mendalam.
Ikuti terus berita teknologi lainnya hanya di Spilltekno
