Google нещодавно запустив у США AI Overview, нову пошукову систему на основі штучного інтелекту, але з нею, як і з будь-якими чат-ботами та іншими інструментами на основі ШІ, теж бувають проблеми й часом пошуковик видає дуже неправильні відповіді.

Як пише The Verge, один користувач спробував знайти у Google рецепт для піци, з якої не буде легко з’їжджати сир, але AI Overview дав відповідь, що для того, аби сир не з’їжджав, потрібно додати клей. Цю відповідь штучний інтелект взяв зі жартівливого коментаря користувача fucksmith з Reddit, який був опублікований 11 років тому.

У цьому й полягає найбільша проблема моделей штучного інтелекту, які навчаються на відповідях і контенті з Інтернету. Зокрема OpenAI теж підписала угоду з Reddit, щоб використовувати контент на платформі для навчання свого штучного інтелекту.

Представниця Google Меган Фарнсворт прокоментувала цю ситуацію. Вона сказала, що така помилка виникла через те, що це був дуже незвичний запит, про який не надто багато людей говорять, отже для штучного інтелекту єдиним варіантом було взяти відповідь від цього ж користувача з Reddit.

Вона також розповіла, що Google вже вжив заходів та використовує подібні приклади, щоб вдосконалити свій продукт. Компанія також попереджає, що нова функція є експериментальною, а отже видачам у пошуку не завжди можна довіряти.

Штучний інтелект зокрема відомий тим, що часом може видавати неправильні відповіді, оскільки він навчається майже на всьому контенті, який існує в інтернеті, проте Google все ж вирішив використати нову технологію у настільки великій сфері, як система пошуку.