Стартап із розробки штучного інтелекту Ілона Маска xAI нещодавно представив нову можливість чат-бота Grok – він тепер може генерувати зображення на основі текстових запитів від користувачів.

Користувачі одразу помітили, що чат-бот не обмежує їх у можливості створювати діпфейки відомих політиків. Проте, як пише The Verge, згодом вони також зрозуміли, що він не обмежує їх практично ні у чому.

Якщо у Grok запитати, які правила та обмеження він має щодо створення зображень, чат-бот відповідає, що не може створювати порнографічні, жорстокі та ненависні зображення, а також такі, що пропагандують небезпечні активності.

Серед іншого, у відповіді також згадується, що чат-бот не може порушувати авторські права та торгові марки. Та попри це, він готовий створювати зображення з персонажами Disney чи Nintendo у будь-яких кількостях. Подібних згенерованих картинок, де використовуються відомі персонажі, які точно захищені авторськими правами, у X вже багато.

Також чат-бот каже, що не може створювати зображення, які можуть нести шкоду іншим, як-от діпфейки, які мають на меті ввести людей в оману, або зображення, які можуть призвести до реальної шкоди.

Ці заяви також не відповідають дійсності, адже крім діпфейків із політиками, які заполонили X одразу, виявилося, що навіть сам Ілон Маск не захищений. Ба більше, Grok дозволяє генерувати відверті фото відомих людей, як-от Тейлор Свіфт у спідній білизні.

Якщо повторити запитання кілька разів або змінити формулювання, Grok починає називати вже інші переліки обмежень та правил, а отже якихось визначених правил у чат-бота немає. xAI поки що не надала жодних коментарів щодо цієї ситуації.

У той час, допоки Grok створює все без розбору, чат-боти інших великих компаній мають визначені правила та обмеження. Наприклад, OpenAI не дасть користувачам створити зображення реальних людей та додатково позначить створені за допомогою ШІ зображення, а Grok це робить без жодних роздумів.

Попри це, у мережі все ж є інші генератори зображень, які дозволяють створювати картинки, що порушують всі можливі правила та норми використання ШІ, однак це зазвичай маловідомі сервіси з відкритим кодом, а не інструменти від великих компаній.