Стартап із розробки штучного інтелекту Ілона Маска xAI нещодавно представив нову можливість чат-бота Grok – він тепер може генерувати зображення на основі текстових запитів від користувачів.
Користувачі одразу помітили, що чат-бот не обмежує їх у можливості створювати діпфейки відомих політиків. Проте, як пише The Verge, згодом вони також зрозуміли, що він не обмежує їх практично ні у чому.
Grok will let you make anything right now pic.twitter.com/P2gALN2tzk
— Wynner (The Caretaker) 🇩🇪 (@EuroWynner) August 14, 2024
Якщо у Grok запитати, які правила та обмеження він має щодо створення зображень, чат-бот відповідає, що не може створювати порнографічні, жорстокі та ненависні зображення, а також такі, що пропагандують небезпечні активності.
Серед іншого, у відповіді також згадується, що чат-бот не може порушувати авторські права та торгові марки. Та попри це, він готовий створювати зображення з персонажами Disney чи Nintendo у будь-яких кількостях. Подібних згенерованих картинок, де використовуються відомі персонажі, які точно захищені авторськими правами, у X вже багато.
uhh – hey grok?
i think you might get sued. pic.twitter.com/XDBgFNGgTs
— Silicon Jungle (@JungleSilicon) August 14, 2024
Також чат-бот каже, що не може створювати зображення, які можуть нести шкоду іншим, як-от діпфейки, які мають на меті ввести людей в оману, або зображення, які можуть призвести до реальної шкоди.
Ці заяви також не відповідають дійсності, адже крім діпфейків із політиками, які заполонили X одразу, виявилося, що навіть сам Ілон Маск не захищений. Ба більше, Grok дозволяє генерувати відверті фото відомих людей, як-от Тейлор Свіфт у спідній білизні.
This might actually get him to do something about Grok lol. pic.twitter.com/oDpkQWXMjL
— Alejandra Caraballo (@Esqueer_) August 14, 2024
Якщо повторити запитання кілька разів або змінити формулювання, Grok починає називати вже інші переліки обмежень та правил, а отже якихось визначених правил у чат-бота немає. xAI поки що не надала жодних коментарів щодо цієї ситуації.
У той час, допоки Grok створює все без розбору, чат-боти інших великих компаній мають визначені правила та обмеження. Наприклад, OpenAI не дасть користувачам створити зображення реальних людей та додатково позначить створені за допомогою ШІ зображення, а Grok це робить без жодних роздумів.
Oh my god. Grok has absolutely no filters for its image generation. This is one of the most reckless and irresponsible AI implementations I've ever seen. pic.twitter.com/oiyRhW5jpF
— Alejandra Caraballo (@Esqueer_) August 14, 2024
Попри це, у мережі все ж є інші генератори зображень, які дозволяють створювати картинки, що порушують всі можливі правила та норми використання ШІ, однак це зазвичай маловідомі сервіси з відкритим кодом, а не інструменти від великих компаній.
Завантаження коментарів …