У відповідь на наростаюче занепокоєння освітян щодо здатності ChatGPT допомагати студентам списувати, OpenAI випустила інструмент, який може розпізнавати текст, написаний штучним інтелектом. Однак компанія заявила: «наш класифікатор не є повністю надійним».

«У наших оцінках на «тестовому наборі» англійських текстів наш класифікатор правильно ідентифікує 26% текстів, написаних ШІ (істинні позитивні результати), як «ймовірно написані ШІ», в той час, як неправильно позначає текст, написаний людиною, як написаний ШІ в 9% випадків (помилкові позитивні результати)», – написала компанія, яка розробила ChatGPT, у своєму блозі.

Класифікатор, який навчався на наборі текстів, написаних людиною і штучним інтелектом на одну і ту ж тему, ще не є надійним і повинен лише доповнювати інші способи визначення того, ким написаний текст. Обмеження, які має класифікатор, згідно з OpenAI, включають ненадійність на коротких текстах і значно надійніше працює з текстами від новітніх систем штучного інтелекту.

Нещодавно професори Нью-Йоркського університету сказали студентам, що вони не можуть використовувати ChatGPT без спеціального дозволу, заявивши, що будь-яке використання цього інструменту буде вважатися плагіатом. Викладачі вигадували власні способи виявлення написання есе штучним інтелектом, щоб запобігти будь-якому шахрайству, наприклад, пропускали свої підказки до есе через ChatGPT, щоб мати еталон того, як виглядатиме текст згенерований штучним інтелектом.

22-річний студент, на ім’я Едвард Тіан розробив власний детектор ChatGPT, який був запущений у бета-версії на початку цього року, а 29 січня вийшов у повному обсязі як GPTZeroX. У цьому застосунку ви можете вставити текст або завантажити один або кілька документів одночасно, і програма підрахує, яку частину тексту написав штучний інтелект, і виділить речення, які були написані ШІ. За словами Тіана, застосунок помилявся менш ніж у 2% випадків під час тестування на наборі даних новинних статей BBC та згенерованих машиною статей з такою ж підказкою, що робить GPTZeroX більш надійним, ніж власний детектор OpenAI.

OpenAI закликає людей у своєму блозі, на яких безпосередньо впливає мовний бот, «включаючи, але не обмежуючись вчителями, адміністраторами, батьками, студентами та постачальниками освітніх послуг», надати зворотний зв’язок через опитування в Google Form. Оскільки ChatGPT стає здатним писати все – від студентських есе до коду, вчителі у всьому світі намагаються адаптувати процес навчання до нової технології та обговорюють, як можна використовувати цей інструмент з точки зору етики.