ChatGPT võib koostada tekste, mis on täis valesid, loogikavigu, väljamõeldud fakte või kallutatud infot. Õige ja vale vahel vahettegemine on aga väga raske, kui pole teada, kust need pärit on või mis kontekstis öeldud.

Kõrgkoolides, mis on ühinenud hea teadustavaga ja on viimastel aastatel palju teinud plagiaadiga võitlemisel, seisavad nüüd hoopis suurema probleemi ees. Suvistel kohtumistel arutavad ülikooli õppejõud, et ei saa enam üliõpilastele anda ülesannet kirjutada kodus kirjalik essee, sest väga raske on tuvastada, kas tudeng on oma töö ise kirjutanud või kasutab tekstiroboti abi.