Sora dapat digunakan untuk tujuan yang tidak baik, seperti misinformasi, konten kebencian, atau deepfake. Sora juga dapat menghasilkan video yang tidak sesuai dengan etika, moral, atau hukum.
Sora juga dapat membuat video yang tidak akurat, tidak relevan, atau tidak sesuai dengan kenyataan. Oleh karena itu, Sora perlu diuji dan dikontrol dengan baik, agar tidak disalahgunakan atau disalahartikan.
OpenAI sendiri menyadari hal ini, dan telah mengambil langkah-langkah untuk menguji dan mengontrol Sora.
OpenAI telah membatasi ketersediaan Sora untuk tim merah, atau ahli dalam bidang seperti misinformasi, konten kebencian, dan bias, yang akan menguji model secara adversarial, atau mencoba menemukan kelemahan dan celah model.
OpenAI juga telah membuka akses Sora untuk seniman visual, desainer, dan pembuat film, untuk mendapatkan umpan balik tambahan dari para profesional kreatif.
OpenAI juga telah menyediakan pedoman penggunaan dan etika untuk Sora, agar pengguna dapat menggunakan model dengan bertanggung jawab dan bijak.
4. AI yang Menjadi Tonggak Penting Menuju AGI
Sora adalah AI yang menjadi tonggak penting menuju AGI, atau kecerdasan buatan umum, yaitu bentuk AI yang lebih maju dan lebih dekat dengan kecerdasan mirip manusia yang mencakup kemampuan untuk melakukan rentang tugas yang lebih luas.
