DetectGPT – новий інструмент для ідентифікації тексту, створеного AI

Видати написану AI курсову роботу за свою тепер буде набагато складніше. Стенфордські розробники озброять викладачів інструментом DetectGPT, котрий зможе точно визначити авторство.

Інтенсивність використання великих мовних моделей (LLM) сьогодні зростає стрімкими темпами. Додаткове прискорення цьому процесу додав популярний чат-бот ChatGPT, створений на основі мовної моделі GPT-3.5. Виявилося, що він може писати текстові домашні завдання та курсові роботи настільки якісно, що відрізнити згенерований текст від написаного студентом практично неможливо. Усвідомивши масштаби катастрофи, багато викладачів висловили очікуваний протест та озвучили потребу в системах, які могли б визначати, хто автор тексту – машина чи людина.

Нещодавно дослідники-розробники зі Стенфорда під керівництвом Еріка Мітчелла презентували детектор DetectGPT – один із перших інструментів для боротьби зі згенерованими AI текстами у сфері освіти. В його основу лягла модель ML "zero-shot learning" (здатність системи розпізнавати те, з чим вона ще не знайома). Вона дозволила DetectGPT точно визначити текст, написаний штучним інтелектом. Щоправда, без вказівки, яка саме мовна модель була використана для його створення.

Команда розробників протестувала DetectGPT на масиві даних про фальшиві новини. Отримані результати показали, що їх детектор значно переважає інші методи виявлення тексту, згенерованого AI. Висока продуктивність DetectGPT дає підстави вважати, що в майбутньому він цілком може стати найперспективнішим методом вивчення та визначення машинно-генерованого тексту.