ШІ-інструмент Google для виявлення помилок знайшов 20 вразливостей у популярному відкритому ПЗ

Компанія Google повідомила про перші результати роботи свого нового інструмента для пошуку вразливостей — Big Sleep, розробленого на базі штучного інтелекту. Про це пише TechCrunch. За словами віцепрезидентки з безпеки Хізер Адкінс, агент виявив 20 вразливостей у програмному забезпеченні з відкритим кодом, зокрема в медіабібліотеці FFmpeg та графічному редакторі ImageMagick.

Big Sleep створено у співпраці між DeepMind та командою Project Zero. Представниця Google Кімберлі Самра уточнила, що всі вразливості були знайдені та відтворені агентом ШІ без участі людини, хоча остаточну перевірку здійснював експерт. Через те що виправлення ще не впроваджені, компанія не розголошує деталей щодо серйозності чи впливу виявлених проблем — це відповідає стандартній політиці Google.

Роял Хансен, віцепрезидент з розробок, назвав результати "новим рубежем" у сфері автоматизованого виявлення вразливостей. Окрім Big Sleep, у галузі вже працюють інші ШІ-інструменти, зокрема RunSybil та XBOW. Останній нещодавно очолив одну з таблиць лідерів на платформі HackerOne.

Втім, деякі розробники відкритого ПЗ висловлюють занепокоєння щодо якості звітів: іноді ШІ генерує хибні повідомлення, які називають "галюцинаціями". Влад Іонеску, технічний директор RunSybil, визнає потенціал Big Sleep, але наголошує на необхідності людського контролю на певних етапах перевірки.