Meskipun teknologi ini dapat mempelajari bahasa dari data teks yang besar, tetapi tidak berarti ia dapat memahami makna, konteks, dan tujuan dari teks yang dihasilkannya.
Oleh karena itu, ada kemungkinan bahwa AI Pembuat Karya Tulis Otomatis dapat menghasilkan teks yang tidak sesuai, tidak logis, atau bahkan menyinggung.
Selain itu, tantangan lainnya adalah bagaimana mengukur dan mengevaluasi kualitas karya tulis yang dihasilkan.
Kualitas karya tulis tidak hanya ditentukan oleh aspek teknis, seperti tata bahasa, ejaan, dan kohesi, tetapi juga oleh aspek estetis, seperti gaya, nada, dan orisinalitas. Kualitas karya tulis juga dapat bersifat subjektif, tergantung pada preferensi, pengetahuan, dan latar belakang pembaca.
Oleh karena itu, kita membutuhkan metode dan kriteria yang objektif dan komprehensif untuk menilai karya tulis yang dihasilkan.
Risiko yang Ditimbulkan oleh AI Pembuat Karya Tulis Otomatis
Teknologi ini juga menimbulkan berbagai risiko yang dapat berdampak negatif terhadap individu, masyarakat, dan dunia. Beberapa risiko yang dapat terjadi antara lain:
1. Plagiarisme
Teknologi inidapat dengan mudah menghasilkan teks yang mirip atau sama dengan teks yang sudah ada, tanpa memberikan atribusi atau sumber yang benar.
