Google почав ретельніше налаштовувати "Огляди штучного інтелекту" (AI Review) після того, як ШІ-пошук давав користувачам дивні та подекуди небезпечні поради. Про це пише Engadget.
Компанія запустила AI Review у США лише недавно, але невдовзі в мережі з'явилися скарги на роботу пошуку, який базується на штучному інтелекті. За твердженнями користувачів, продукт компанії радив намазати піцу клеєм або з'їсти каміння.
Все це стало приводом для мемів, тож Google намагався видаляти деякі відповіді нового пошуку. Однак тепер компанія почала накладати більше обмежень на AI Review.
Очевидно, що Google вдалося визначити патерни, в яких технологія не працювала належним чином, проаналізувавши приклади відповідей за минулі кілька тижнів.
На основі своїх спостережень компанія запровадила заходи захисту, почавши з налаштування штучного інтелекту для кращого виявлення гумору та сатиричного контенту.
Вона також оновила свої системи, щоб обмежити додавання в огляди користувацьких відповідей, таких як повідомлення із соцмереж і форумів, які можуть давати людям оманливі або навіть шкідливі поради
Крім того, Google також "додав обмеження на запуск для запитів, для яких AI Review не виявилися настільки корисними", і припинила показувати відповіді зі штучним інтелектом на певні теми, пов'язані зі здоров'ям.