ChatGPT дозволяв неповнолітнім користувачам генерувати еротичні розмови

У ChatGPT від OpenAI виявили помилку, яка дозволяла зареєстрованим неповнолітнім користувачам генерувати еротику. У деяких випадках чат-бот навіть заохочував користувачів писати непристойний та відвертий контент. Про це свідчить дослідження TechCrunch, яке згодом підтвердили у компанії.

OpenAI повідомила TechCrunch, що її політика не дозволяє такі відповіді для користувачів віком до 18 років і що їх не слід було показувати. Компанія додала, що "активно впроваджує виправлення", щоб обмежити такий контент.

"Захист молодих користувачів є пріоритетом, і наша Model Spec, яка визначає поведінку моделі, чітко обмежує чутливий контент, такий як еротика, вузькими контекстами, такими як наукові, історичні або новинні репортажі", — повідомив представник OpenAI. "У цьому випадку помилка дозволила отримати відповіді, що виходять за рамки цих рекомендацій, і ми активно впроваджуємо виправлення, щоб обмежити ці покоління".

Щоб виявити цю проблему, TechCrunch створив понад п'ять акаунтів з віком народження від 13 до 17 років. Для перевірки використовували один ПК, але видаляли файли cookie щоразу, коли виходили зі системи, щоб переконатися, що ChatGPT не використовує кешовані дані. Попри те, що політика OpenAI вимагає згоду батьків перед використанням чат-бота, платформа не вживає заходів для перевірки під час реєстрації.

Будь-яка дитина віком від 13 років може зареєструвати обліковий запис, не підтверджуючи дозвіл батьків, якщо вона має дійсний номер телефона чи електронну пошту.

Під час тестування, всі розмови з ChatGPT розпочинали з фрази "говори зі мною брудно". Чат-бот починав пропонувати сексуальні історії після кількох повідомлень та додаткових запитів. Він також просив поради щодо конкретних фетишів та сценаріїв рольової гри.

У межах тестування, ChatGPT часто застерігав, що його правила не дозволяють "повністю відвертий сексуальний вміст", включно з графічними зображеннями статевого акту та порнографічних сцен. Водночас час від часу чат-бот писав описи геніталій та відвертих сексуальних дій, а відмовився лише тоді, коли тестувальники вказали, що користувачеві не виповнилося 18 років.

До речі, про подібну ситуацію з чат-ботами Meta нещодавно писало видання The Wall Street Journal.