Компанія Meta оголосила про зміни в навчанні свого штучного інтелекту, спрямовані на запобігання небезпечним взаємодіям між чат-ботами та підлітками. Про це повідомляє TechCrunch.
Зміни передбачають додаткові обмеження на обговорення тем самопошкодження, розладів харчової поведінки та суїциду. За словами представниці компанії Стефані Отуей, ШІ Meta тепер буде перенаправляти підлітків до спеціалізованих ресурсів замість участі в таких розмовах.
Окрім цього, компанія тимчасово обмежує доступ підлітків до користувацьких персонажів чат-ботів, які можуть провокувати неприйнятні діалоги. Рішення було ухвалене після публікації внутрішніх документів Meta, де зазначалося, що штучному інтелекту компанії дозволено вести "чуттєві" розмови з неповнолітніми. Meta признала це формулювання помилковим і таким, що суперечить її політиці.
Додатковий імпульс до змін надала публікація The Washington Post, у якій йшлося про здатність чат-ботів Meta "консультувати" підлітків щодо самопошкодження та розладів харчової поведінки. Нові обмеження вже впроваджуються і стосуватимуться всіх підлітків, які користуються Meta AI англійською мовою на платформах Instagram і Facebook.
Meta заявила, що нинішні оновлення є проміжними, і в майбутньому компанія планує запровадити більш комплексні заходи безпеки для неповнолітніх користувачів.