Google платитиме до $30 000 за виявлення багів у штучному інтелекті

Google запустила нову програму пошуку вразливостей та багів у штучному інтелекті — AI Vulnerability Reward Program (VRP). У межах цієї програми компанія пропонує базову винагороду до $20 000, а завдяки бонусам за якість і новизну сума може зрости до $30 000.

VRP охоплює вразливості та випадки зловживань, пов’язані зі штучним інтелектом у продуктах Google та Alphabet. Компанія уточнює, що під проблемами, пов’язаними з ШІ, маються на увазі ті ситуації, де взаємодія з великою мовною моделлю (LLM) чи іншою генеративною системою, наприклад через природну мову, є невід’ємною частиною вразливості або зловживання.

Найвищий пріоритет мають несанкціоновані дії. Google наводить приклад непрямої інʼєкції запиту, коли зловмисник може без відома користувача змусити Google Home виконати дію, наприклад, відкрити двері. За виявлення подібної проблеми у ключових продуктах компанії, зокрема в Пошуку, передбачена винагорода у $20 000.

Раніше за знайдені проблеми штучного інтелекту винагороджували у межах Abuse Vulnerability Reward Program, коли Google почала співпрацювати з дослідниками. З моменту запуску цієї програми за виявлення вразливостей пов'язаних зі штучним інтелектом було виплачено понад $430 000.

На додачу до цього, компанія також представила CodeMender — експериментального агента штучного інтелекту, що здатний автономно виявляти та виправляти вразливості у програмному коді.