Гравець-аматор у го переміг висококласний штучний інтелект, скориставшись слабкістю, виявленою іншим ботом, повідомляє The Financial Times. Скориставшись цим недоліком, американський гравець Келлін Пелрін здобув перемогу над системою KataGo, вигравши 14 з 15 партій без подальшої допомоги комп’ютера.

Це рідкісна перемога людини в грі го з часів знакової перемоги AlphaGo у 2016 році. Вона також показує, що навіть найдосконаліші системи штучного інтелекту можуть мати кричущі «сліпі зони».

Перемога Пелріна стала можливою завдяки дослідницькій фірмі FAR AI, яка розробила програму для пошуку слабких місць у KataGo. Зігравши понад мільйон партій, вона змогла знайти слабке місце, яке може бути використане достойним гравцем-аматором. За словами Пелріна, це «не зовсім тривіально, але й не надскладно» для вивчення. Він використовував той самий метод, щоб обіграти Leela Zero, ще одного топового ШІ для гри в го.

Ось як це працює: мета — створити велику «петлю» з каменів, щоб оточити групу суперника, а потім відволікти комп’ютер, роблячи ходи на інших ділянках дошки. Навіть коли його група була майже оточена, комп’ютер не помітив цієї стратегії.

«Людина могла б досить легко це помітити, – каже Пелрін, – оскільки камені, що оточують групу, чітко виділяються на дошці».

Цей недолік демонструє, що системи штучного інтелекту не можуть «мислити» поза межами свого навчання, тому вони часто роблять речі, які виглядають безглуздими для людини.

Ми бачили подібні речі з чат-ботами, такими як той, що використовується в пошуковій системі Bing від Microsoft. Хоча він добре справлявся з повторюваними завданнями, такими як складання маршруту подорожі, він також надавав невірну інформацію, сварив користувачів за марнування часу і навіть демонстрував «неадекватну поведінку» – ймовірно, через моделі, на яких його навчали.

Компанія Lightvector (розробник KataGo), безумовно, знає про проблему, з якою гравці стикаються вже кілька місяців. У своєму пості на GitHub компанія повідомила, що працює над виправленням для різних типів атак.