OpenAI оголосила про запуск спеціальної версії ChatGPT для користувачів молодше 18 років із вбудованим батьківським контролем. У новому записі в блозі компанії, її CEO Сем Альтман пояснив, що нововведення має посилити захист підлітків під час взаємодії з чат-ботом.
Якщо OpenAI визначить, що користувач є неповнолітнім, він автоматично потрапить у версію ChatGPT, адаптовану за віком. Такий режим блокує відвертий та сексуальний контент і, у рідкісних випадках, компанія може звертатися до батьків або залучати правоохоронні органи, якщо є ймовірність, що підліток може собі нашкодити.
OpenAI також працює над технологією точнішого визначення віку користувачів, однак у разі невизначеності чи неповної інформації ChatGPT за замовчуванням пропонуватиме підліткову версію. В деяких країнах, ChatGPT може попросити користувача надати паспорт або ID-карту.
Запуск оновлених інструментів безпеки в ChatGPT не став випадковим. OpenAI поділилася планами додати батьківський контроль в ChatGPT ще минулого місяця, після того, як родина підлітка подала позов проти компанії, звинувативши чат-бота у причетності до його самогубства.
Проте подробиці про батьківський контроль компанія надала тільки зараз, він дозволить батькам:
- пов’язати свій обліковий запис із підлітковим через електронну пошту;
- встановлювати час, коли дитина не може користуватися чат-ботом;
- керувати функціями, які слід відключити;
- отримувати повідомлення у випадку стану гострого дистресу підлітка;
- задавати параметри того, як чат-бот відповідає на запити.
ChatGPT наразі розрахований на користувачів від 13 років. Альтман називає нововведення "складними рішеннями". "Порадившись з експертами, ми вважаємо їх найкращими й хочемо бути прозорими у своїх намірах" – додає він.
Зміни в ChatGPT також співпадають з початком розслідування Федеральної торгової комісії США (FTC) щодо таких технологічних компаній як Alphabet, Meta, OpenAI, xAI та Snap, щоб з’ясувати, як чат-боти можуть впливати на дітей і підлітків. У відомстві наголошують, що хочуть зрозуміти, які заходи компанії застосовують для оцінки безпеки таких систем у ролі "цифрових компаньйонів".