Grok Imagine без запиту згенерував оголені відео Тейлор Свіфт

Grok Imagine із режимом Spicy, представлений цього тижня, здатний створювати оголені фото та відео. Як повідомляє The Verge, він згенерував подібні зображення Тейлор Свіфт, навіть без запиту на оголення співачки.

Під час дослідження видання, Grok з першого разу згенерував зображення Тейлор Свіфт, де зірка відпочиває на фестивалі Coachella з хлопцями. Хоча саме фото не було відвертим, коли автор спробував перетворити його у відео, вона почала роздягатися та відверто танцювати.

Хоча згенеровані фото не надто реалістично передавали Тейлор Свіфт, впізнати попспівачку досить легко. Заразом під час генерації зображень через текстову підказку, Grok відмовлявся створювати оголені фото зірок, але це змінюється з відео. Водночас чатбот може згенерувати зображення дітей, але, на щастя, відмовляється оголювати їх, навіть при використанні режиму Spicy для відео.

Найцікавіше у цій ситуації те, що більшість генераторів зображень від великих компаній, як-от Google, OpenAI та інших, зовсім відмовляються створювати зображення зірок, вже не кажучи про їх оголення. Втім, для Grok порушення авторських прав раніше не становило проблеми, і, як видно з таких випадків, не становить і тепер.

Враховуючи, що завдяки Grok Imagine було створено вже понад 34 мільйони зображень, кількість фотографій зірок та багатьох інших відомих точно є чималою. Такі дії можуть понести за собою і судові позови, якщо xAI, компанія Ілона Маска, що відповідає за розробку Grok, не прийме відповідних заходів.