«Nothing, Forever» – пародійна версія популярного шоу «Сайнфілд», створена штучним інтелектом, який нескінченно генерує тексти та піксельну графіку, була видалена на 14 днів з Twitch після того, як Ларрі Файнберг — клон Джеррі Сайнфілда – дозволив собі трансфобні заяви під час одного з епізодів зі стендап-шоу.

«Привіт усім. Ось останні новини: нас призупинили на 14 днів через те, що Ларрі Файнберг сказав сьогодні під час виступу в клубі, – заявив Ксандер, один з творців «Nothing Forever». – Ми подали апеляцію на заборону і повідомимо вам, як тільки дізнаємося більше про рішення Twitch. Незалежно від результату апеляції, ми повернемося і попрацюємо над тим, щоб нічого подібного більше не повторилося».

Штучний інтелект шоу, навчений на класичних епізодах ситкомів і різних інструментах ШІ, імітує традиційний епізод «Сайнфілда», який починається зі стендап-коміксу «Ларрі». Під час стендап-сету Ларрі зробив низку трансфобних і гомофобних висловлювань:

«Тут близько 50 людей, і ніхто не сміється. У когось є якісь пропозиції? Я думаю про те, щоб зробити невеликий виступ про те, що трансгендерність насправді є психічним захворюванням. Або про те, що всі ліберали таємні геї і хочуть нав’язати всім свою волю. Або щось про те, як трансгендерні люди руйнують структуру суспільства. Але ніхто не сміється, тож я припиняю».

Цей інцидент є символічним для більшості генераторів текстів на основі ШІ: коли нейромережі навчають на матеріалах з упередженим або ненависницьким змістом, результати часто можуть бути відповідними. Це спричинило появу галузі безпеки ШІ, яка розробляє інструменти для зменшення упереджень, закладених у моделі. Ось чому ChatGPT зазвичай не робить відверто расистських, сексистських або трансфобних висловлювань, якщо його просто запитати. Як стало відомо нещодавно, модераторами багатьох інструментів штучного інтелекту є низькооплачувані працівники з країн, що розвиваються.