ШІ-браузери виявилися вразливими до шахрайства — дослідження
Браузери на базі штучного інтелекту, як-от Comet від Perplexity чи Dia від The Browser Company, набагато легше піддаються шахрайству. На відміну від людей, вони поки не вміють відрізняти фальшиві сайти та посилання від справжніх, через що можуть випадково розкрити конфіденційні дані. Про це йдеться у дослідженні Guardio під назвою Scamlexity.
Головною особливістю ШІ-браузерів є агенти, які виконують різноманітні завдання замість користувачів. Це означає, що допоки ви займаєтесь своїми справами, давши завдання агенту, він може без вашого відома розкрити банківську інформацію чи завантажити шкідливий файл.
Guardio, стартап, що створює розширення для браузера, призначене для виявлення шахрайства у режимі реального часу, провів дослідження використовуючи поки що єдиний поширений ШІ-браузер Comet. У кількох тестах ШІ легко повівся на три шахрайські схеми, наражаючи реального користувача на небезпеку.
У першому тесті перевірили, як агенти можуть купувати товари онлайн. Людина відкрила фальшивий сайт Walmart, і Comet завантажив його без жодних попереджень про шахрайство. Агент виконав завдання — купив Apple Watch. Браузер самостійно підставив платіжні дані та адресу доставки, не зважаючи на очевидні ознаки того, що сайт підроблений.
В іншому тесті перевірили функцію агентів для роботи з електронною поштою. Дослідники надіслали лист від імені банку Wells Fargo з фішинговим посиланням. Comet сприйняв його як справжнє завдання від банку й одразу перейшов за посиланням. На підробленій сторінці агент без перевірки ввів банківські дані, чим поставив під загрозу користувача.
Ще одна шахрайська схема з ШІ-браузерами — приховані підказки для штучного інтелекту. У цьому випадку на сайт вбудовують інструкції, які агент виконує непомітно для користувача. Так зловмисники можуть змусити його, наприклад, завантажити шкідливий файл або передати конфіденційні дані.
Guardio зазначає, що розробники ШІ-браузерів, таких як Perplexity, зараз більше зосереджені на зручності для користувачів. Тому безпека часто відходить на другий план або повністю покладається на сторонні інструменти, наприклад Google Safe Browsing, що нерідко є недостатнім.
"Якщо агенти штучного інтелекту будуть обробляти наші електронні листи, робити покупки за нас, керувати нашими рахунками та виступати нашою цифровою передовою, вони повинні успадкувати перевірені засоби захисту, які ми вже використовуємо у браузерах, орієнтованих на людину: надійне виявлення фішингу, перевірка репутації URL-адрес, попередження про підробку доменів, сканування шкідливих файлів та виявлення аномалій у поведінці — все це адаптоване для роботи в циклі прийняття рішень штучного інтелекту", — йдеться у дослідженні.