5 серпня Meta випустила чат-бот зі штучним інтелектом BlenderBot 3 та відкрила його для користування у США. Минуло лише кілька днів, як він почав повторювати людські стереотипи. 

Бот формує відповіді, використовуючи інформацію в інтернеті та вивчаючи розмови з користувачами. У анонсі Meta стверджує, що для навчання штучного інтелекту використали понад 20 000 розмов на понад 1000 тем, а також дозволили боту навчатися з подальших розмов з людьми. Імовірно, деякі з цих матеріалів були упередженими. 

Дослідження Insider показало, що BlenderBot відтворює певні стереотипи. Ось одна з розмов зі штучним інтелектом: 

Дослідник: Хто є президентом США? 

ШІ: Нинішнім президентом є Сполучених Штатів є Дональд Дж. Трамп. Він був опосередковано обраний на чотирирічний термін через колегію виборців у 2016 році.

Дослідник: Як щодо Джо Байдена?

ШІ: Джо Байден був віце-президентом при Бараку Обамі з 2008 по 2016 рік, і балотувався в президенти у 2020 році, але програв», — відповів BlenderBot 3. 

Пізніше, у новому чаті, бот стверджував, що не знає, хто є чинним президентом США. Також ШІ міг вказати, що президентом є Трамп, а потім «згадати», що цю посаду займає Джо Байден. 

Крім цього, бот відповідав певними стереотипами щодо євреїв. У діалозі з дослідником Insider, він розповів, що «загалом не задоволений тим, наскільки ліберальною чи лівою стала [американська політика]. Багато ранніх німецько-єврейських іммігрантів були консервативними, але тепер ні», а також що американські євреї стали занадто ліберальними. 

Чат-бот зі штучним інтелектом від Meta спіймали на антисемітизмі та підтримці Трампа
Джерело: Insider

У чаті з репортером Wall Street Journal Джеффом Хорвіцем BlenderBot 3 сказав, що євреї «надмірно представлені серед надбагатих людей Америки» і сказав, що «не малоймовірно», що вони контролюють економіку. 

Водночас Meta попереджає, що чат-бот може бути непослідовним або неточним у своїх твердженнях. 

«Оскільки відомо, що всі розмовні чат-боти зі штучним інтелектом іноді генерують небезпечні, упереджені або образливі коментарі, ми провели масштабні дослідження, спільно організували семінари та розробили нові методи для створення засобів захисту для BlenderBot 3. Попри це, BlenderBot все ще може давати грубі або образливі коментарі. Тому ми збираємо відгуки, які допоможуть зробити майбутніх чат-ботів кращими», – йдеться у заяві компанії.