Як екстремісти використовують генеративний штучний інтелект для пропаганди
Екстремістські угруповання почали експериментувати з генеративним штучним інтелектом для створення пропаганди. Експерти побоюються, що це зведе нанівець роботу, яка спрямована на утримання подібного контенту поза межами інтернету. Про це заявили в Tech Against Terrorism, пише WIRED.
«Наше найбільше занепокоєння викликає те, що якщо терористи почнуть використовувати генеративний ШІ для маніпуляцій з зображеннями у великих масштабах, це цілком може знищити хеш-обмін як рішення, – заявив виконавчий директор міжнародної ініціативи Адам Хедлі. – Це величезний ризик».
Роками платформи Big Tech працювали над створенням баз даних екстремістського контенту насильницького характеру, які допомагали у швидкому та автоматичному видаленні такого контенту в інтернету.
Але тепер Адам Хедлі каже, що його колеги щотижня виявляють близько 5000 прикладів контенту, створеного ШІ. Наприклад, сюди входять зображення, поширенні протягом минулих тижнів групами, що пов’язані з Хезболлою і ХАМАСом.
Втім, у Tech Against Terrorism хвилюються не лише щодо зображень, створених за допомогою ШІ. Ініціатива опублікувала звіт, в якому навела інші способи використання інструментів генеративного ШІ, які можуть використати екстремістські угрупування.
Серед них – використання інструментів автоперекладу, які здатні швидко перекладати пропаганду різними мовами.
Однак Адам Хедлі вважає, що ШІ дає також можливість випередити екстремістські угруповання та запобігти тому, для чого вони хочуть використати технологію.
У зв’язку з цим він анонсував співпрацю з Microsoft для пошуку можливостей створити систему виявлення генеративного ШІ та протидіяти загрозі його використання для створення контенту терористичного характеру.