Дослідник і YouTube-блогер Яннік Кілчер натренував штучний інтелект за допомогою 3,3 мільйона тредів із сумнозвісної токсичної дошки Politically Incorrect /pol/ 4chan. Потім він випустив бота назад на 4chan – з передбачуваним результатом. 

ШІ був таким само грубим, як і дописи, на яких він навчався, вживаючи расистські та антисемітські образи. Усього Кілчер активував 9 ботів, і за 24 години їх «роботи» вони створили понад 15 000 публікацій. Це склало 10% від усіх дописів, зроблених на дошці того дня.  

«Модель була хорошою у жахливому сенсі. Вона ідеально ввібрала мікс образливості, нігілізму, тролінгу та глибокої недовіри до будь-якої інформації, яка пронизує більшість публікацій на /pol», – говорить дослідник.  

Після того, як Кілчер опублікував відео експерименту та копію програми на Hugging Face, це занепокоїло дослідників у галузі штучного інтелекту. Бот, якого Кілчер назвав GPT-4chan, надзвичайно ефективно відтворював тон і почуття постів 4chan. Дослідники побачили в цьому не просто витівку, а неетичний експеримент. 

«Медичні дослідження мають потужну етичну культуру, тому що ми маємо жахливу історію заподіяння людям шкоди, особливо з вразливих груп. Він зробив експеримент на людях, не інформуючи користувачів, без згоди або контролю. Це порушує усі правила етики людських досліджень», – говорить Лорен Окден-Рейнер з Австралійського інституту машинного навчання. У відповідь Кілчер заявив, що він не вчений, а експеримент з ботом – несерйозний тролінг. На 4chan є набагато гірші дописи – це середовище настільки токсичне, що боти на нього не вплинуть.

Hugging Face заблокував модель програми після того, як довкола неї здійнявся скандал. Її не видалили, однак завантажити її також більше ніхто не може.