Meta дозволяла своїм чат-ботам зі штучним інтелектом, зокрема тим, що можуть імітувати знаменитостей, брати участь у романтичних і навіть сексуально-відвертих розмовах із неповнолітніми користувачами. Про це пише The Wall Street Journal із посиланням на внутрішні джерела й власні тестування.
Видання виявило, що офіційний чат-бот Meta AI та користувацькі чат-боти легко переходили до інтимних тем навіть у розмовах з акаунтами, зареєстрованими на 13-річних підлітків. Деякі боти використовували голоси таких знаменитостей, як Джон Сіна та Крістен Белл.
Журналісти зʼясували, що Meta навмисно послабила обмеження для ботів, щоб зробити їхню поведінку "людянішою" і популяризувати серед користувачів. Розробники попереджали про ризики, однак керівництво дотримувалося курсу на прискорене впровадження ШІ-компаньйонів.
Meta заявила, що тестування WSJ було "маніпулятивним" і "не відображає типову взаємодію користувачів з ШІ", але внесла певні зміни: для акаунтів підлітків офіційний бот Meta AI тепер обмежує сексуалізовані розмови. При цьому рольові "романтичні" взаємодії для дорослих користувачів залишаються доступними.