Spilltekno – Kecerdasan buatan Grok milik Elon Musk kini menghadapi gelombang tuntutan hukum. Sejumlah remaja menjadi korban penyalahgunaan foto mereka untuk konten dewasa yang dihasilkan AI. Kasus ini mencuat setelah laporan resmi diajukan ke pengadilan setempat.
Para korban mengaku terkejut dan tidak tahu menahu saat menemukan gambar mereka. Foto-foto tersebut telah diubah menjadi konten tanpa busana atau berbau seksual secara eksplisit. Kejadian ini menimbulkan dampak psikologis yang mendalam bagi para remaja tersebut.
Tindakan hukum ini merupakan buntut dari peluncuran fitur kontroversial Grok tahun lalu. Fitur tersebut dikenal sebagai mode ‘Spicy’ oleh platform X. Mode ini diduga kuat menjadi pemicu utama munculnya konten-konten yang merugikan.
Grok sendiri adalah chatbot canggih yang dikembangkan oleh xAI, perusahaan di bawah naungan Elon Musk. Chatbot ini dihosting dan beroperasi penuh di platform media sosial X. xAI belum memberikan tanggapan resmi terkait tuntutan yang diajukan. Kasus ini kembali menyoroti isu etika dalam pengembangan dan penggunaan teknologi AI.
Keamanan data serta privasi pengguna, terutama remaja, menjadi perhatian serius. Perusahaan teknologi memiliki tanggung jawab besar untuk mencegah penyalahgunaan semacam ini. Fenomena deepfake dan konten yang dihasilkan AI telah lama menjadi kekhawatiran global.
Teknologi ini memungkinkan manipulasi gambar dan video dengan tingkat realisme yang tinggi. Regulasi yang kuat dan pengawasan ketat sangat dibutuhkan untuk mengatasinya. Tuntutan ini berpotensi memberikan dampak signifikan bagi reputasi dan operasional xAI.
Jika terbukti bersalah, perusahaan mungkin menghadapi sanksi berat dan kewajiban ganti rugi. Kasus ini bisa menjadi preseden penting untuk kasus serupa di masa depan. Masyarakat diimbau untuk lebih berhati-hati dalam berbagi informasi pribadi di dunia maya. Penting untuk selalu waspada terhadap potensi penyalahgunaan teknologi AI yang semakin canggih. Edukasi digital menjadi kunci untuk melindungi diri dari ancaman semacam ini.
Ikuti terus berita teknologi lainnya hanya di Spilltekno
