Компанія Anthropic повідомила про випадки використання її агентного штучного інтелекту (ШІ) Claude у злочинних кіберопераціях. Про це пише Engadget.
У новому звіті йдеться про виявлення та припинення діяльності хакера, який застосовував схему Vibe Hacking для шантажу щонайменше 17 організацій, серед яких були установи охорони здоров’я, служби екстреної допомоги та державні структури.
Vibe Hacking — це термін, який використовується для опису кібератак, де зловмисники застосовують ШІ для маніпулювання людськими емоціями та поведінкою, щоб отримати доступ до систем або інформації. Це новий вид соціальної інженерії, де замість традиційних методів злому, ШІ використовується для створення переконливих фішингових повідомлень, шахрайських схем або шкідливого коду.
Зловмисник вимагав у жертв шестизначні суми, погрожуючи оприлюднити конфіденційні дані. За даними Anthropic, ШІ Claude Code використовувався для автоматизації збору інформації, викрадення облікових даних і проникнення в мережі. Крім того, Claude допомагав у виборі цілей, прийнятті стратегічних рішень і створенні візуально загрозливих повідомлень про викуп.
Після виявлення злочинної активності компанія заблокувала відповідні облікові записи та передала інформацію правоохоронним органам. Також було розроблено автоматизований інструмент для виявлення подібних випадків у майбутньому, хоча його принцип роботи не розкривається.
У звіті згадується ще два інциденти: участь Claude у шахрайській схемі працевлаштування, пов’язаній з Північною Кореєю, та створення програм-вимагачів за допомогою ШІ. Anthropic наголошує, що сучасні ШІ-системи здатні виконувати завдання, які раніше вимагали участі цілих команд, і що технічна компетентність більше не є бар’єром для кіберзлочинців.
До слова, раніше ми писали, що експерти вперше виявили шкідливу програму, яка використовує для роботи штучний інтелект. Вона може заражати пристрої на Windows, Linux та macOS.