Пошукові системи на базі ШІ, такі як ChatGPT чи Grok 3, дезінформують користувачів, посилаючись на невірні джерела новин у 60% випадків і ігноруючи запити видавців.
Як йдеться у дослідженні, яке провели Columbia Journalism Review і Tow Center for Digital Journalism, було виявлено серйозні проблеми під час тестування восьми популярних ШІ-інструментів, що пропонують пошук інформації у реальному часі.
Для перевірки ефективності роботи таких ШІ-систем вчені надали прямі уривки з реальних новинних статей, а потім попросили кожну модель визначити заголовок, оригінального видавця, дату публікації і URL-адресу. Вони зробили 1600 запитів.
Рівень помилок серед інструментів значно відрізнявся: система Perplexity надала невірну інформацію у 37% запитів, ChatGPT припустився помилок у 67% випадків, Grok 3 показав найгірший результат — 94% неправильних відповідей.
Також дослідники відмітили такі проблеми у використанні цих ШІ-систем:
▪️чат-боти, як правило, не відмовлялися відповідати на питання, на які вони не могли відповісти точно, пропонуючи натомість невірні або ймовірні відповіді;
▪️платні чат-боти давали впевненіше неправильні відповіді, ніж їхні безкоштовні аналоги;
▪️схоже, що кілька чат-ботів обходять налаштування протоколу винятків для роботів;
▪️інструменти генеративного пошуку створювали посилання, цитувавши синдиковані та скопійовані версії статей;
▪️ліцензійні угоди щодо новинного контенту не гарантують точність цитат у відповідях.
Читайте також: Шукаємо з ШІ — чи може Google програти нову битву за пошук?
Коли ці пошукові інструменти штучного інтелекту посилалися на джерела, вони часто спрямовували користувачів на синдиковані версії вмісту на таких платформах, як Yahoo News, а не на сайти оригінальних видавців. Це траплялося навіть у випадках, коли видавці мали офіційні ліцензійні угоди з ШІ-компаніями. Система Perplexity, наприклад, успішно визначила 10 уривків з платного контенту National Geographic, хоча доступ до них мав бути закритим. А ось інструменти Gemini й Grok 3 масово генерували неіснуючі URL-адреси. У випадку з Grok 3 з 200 перевірених посилань 154 виявилися помилковими або вели на неіснуючі сторінки.
Нагадаємо, нещодавно компанія Google запустила нову експериментальну функцію "Режим штучного інтелекту" в Пошуку. Моделі ШІ від Google, OpenAI та Perplexity зможуть опрацьовувати складні запити, збирати, аналізувати та підсумовувати інформацію з багатьох джерел.
Читайте також: Говорить ШІ — 10 чат-ботів та голосових помічників для спілкування