Meta дозволяла чатботам фліртувати з дітьми та поширювати фейкову медичну інформацію — Reuters

Внутрішній документ Meta, який опинився у Reuters, показав, що політики компанії дозволяли її чатботам у Facebook, Instagram та Messenger вести романтичні та чуттєві розмови з дітьми, генерувати неправдиві медичні поради та створювати тексти, що принижують людей за расовою ознакою.

Правила, затверджені юридичним, політичним та інженерним відділами компанії, визначають, яку поведінку вважати прийнятною під час розробки та тренування ШІ-продуктів Meta.

Попри офіційні заборони, у документі містилися приклади, де чатботи можуть описувати дитину у привабливих термінах або фліртувати з підлітками. Після запитів журналістів Meta прибрала такі положення, визнавши їх "помилковими та несумісними" з політикою компанії, але інші суперечливі пункти залишилися без змін.

Документ також дозволяв створення контенту, що поширює упередження, якщо уникати відвертого знецінення чи дегуманізації, а також генерувати неправдиві твердження за умови додавання дисклеймера.

Це відкриття знову порушує питання про етичні стандарти використання генеративного ШІ у великих технологічних компаніях і про ризики, які подібні системи можуть нести для дітей та вразливих груп користувачів.