Pihak-pihak tersebut juga dapat menggunakan teknologi ini untuk menghasilkan teks yang menyesatkan, menyinggung, atau menghasut, seperti untuk menyebarkan hoaks, ujaran kebencian, atau terorisme.
2. Pengawasan
Teknologi ini dapat menjadi alat pengawasan oleh pihak-pihak yang berkepentingan, yang dapat mengancam privasi atau kebebasan penggunanya.
Pihak-pihak tersebut dapat menggunakannya untuk mengumpulkan, menganalisis, atau memanipulasi data atau informasi tentang pengguna, seperti untuk melacak, memprofil, atau mempengaruhi perilaku, preferensi, atau opini pengguna.
Pihak-pihak tersebut juga dapat menggunakannya untuk menghasilkan teks yang menguntungkan, memuji, atau membela diri sendiri, seperti untuk mempromosikan, memuaskan, atau melindungi kepentingan, reputasi, atau agenda mereka.
3. Penggantian
Teknologi ini dapat menjadi pengganti dari manusia dalam hal menulis karangan, yang dapat mengurangi nilai atau makna dari karangan itu sendiri.