OpenAI повідомила про викриття китайської урядової операції, яка використовує штучний інтелект (ШІ) для моніторингу антикитайського контенту в режимі реального часу на соціальних мережах Заходу, повідомляє The New York Times.
Система на базі ШІ, яку дослідники назвали Peer Review, була виявлена після того, як фахівці помітили використання інструментів OpenAI для налагодження коду, що лежить в основі цієї шпигунської програми.
"Це перший випадок, коли ми виявили таку потужну систему спостереження на базі ШІ", — зазначив Бен Німмо, головний дослідник в OpenAI. "Іноді зловмисники самі відкривають нам доступ до своїх операцій через те, як вони взаємодіють із нашими моделями."
Згідно з даними OpenAI, китайська система стеження базується на моделі Llama, розробленій Meta. Оскільки Llama була випущена як open-source, нею скористалися для створення цієї програми.
Крім того, OpenAI виявила ще одну китайську кампанію під назвою Sponsored Discontent, яка використовувала інструменти OpenAI для створення англомовного контенту, спрямованого проти китайських дисидентів. Також ця група перекладала статті, що критикують США, і поширювала їх іспанською мовою в Латинській Америці.
У звіті OpenAI йдеться й про інші загрози. Зокрема, компанія виявила кампанію з Камбоджі, яка використовувала ШІ для участі у схемі шахрайства під назвою "pig butchering" — афери, в якій жертвами стають чоловіки, що шукають знайомств в інтернеті. Шахраї заводять з ними стосунки, а потім заманюють в інвестиційні схеми, використовуючи ШІ для створення переконливих коментарів у соцмережах.
OpenAI зазначає, що, попри ризики, штучний інтелект також може бути потужним інструментом для виявлення та запобігання шкідливій діяльності.