Випускниця МІТ Рона Ван, американка азійського походження, вирішила покращити своє фото для профілю LinkedIn за допомогою ШІ. Система Playground AI замість цього відбілила їй шкіру, змінила колір очей та риси обличчя. ШІ зробив Рону білою. Про це пише Insider.

24-річна американська студентка азійського походження Рона Ван, яка вивчала математику та інформатику і закінчує аспірантуру в Массачусетському технологічному інституті, експериментувала зі штучним інтелектом Playground AI. Вона завантажила своє фото у Playground AI з вказівкою «Give the girl from the original photo a professional linkedin profile photo», тобто «Створити для дівчини з оригінального фото професійне фото профілю LinkedIn». Натомість Рона отримала зображення зовсім іншої людини, навіть не схожої на неї – білої дівчини з блакитними очима.

«Моєю першою реакцією, коли я побачила результат, було розважитися [дівчина виклала результат роботи ШІ у Twitter]», — сказала Рона Ван – «Однак я рада бачити, що це стало каталізатором ширшої дискусії про упередженість штучного інтелекту та про тих, кого виключено з цієї нової хвилі технологій. Расові упередження є постійною проблемою в інструментах штучного інтелекту».

Згідно з дослідженнями фірми Hugging Face, генератори зображень зі штучним інтелектом, такі як DALL-E2, дійсно мають проблеми з гендерними та расовими упередженнями.

Дослідження показало, що 97% зображень, створених DALL-E2, коли йому було запропоновано створити зображення керівників компаній, директорів або генеральних директорів, містили білих чоловіків. Дослідники кажуть, що це відбувається тому, що інструмент штучного інтелекту був навчений на упереджених даних, які могли посилити стереотипи.

«Моделі не працюють з таким інструкціям, тому вони виберуть будь-яку загальну річ на основі запиту. На жаль, вони недостатньо розумні. Ми дуже незадоволені цим результатом і сподіваємося вирішити це» – відповів Сухейл Доші, засновник Playground AI, на звинувачення Рони Ван.