Понад 90 провідних вчених хочуть зменшити ризик розробки штучним інтелектом біологічної зброї
Понад 90 видатних вчених, включаючи Нобелівського лауреата Френсіс Арнольд, об’єдналися, щоб підписати важливу угоду, спрямовану на зменшення потенційних ризиків штучного інтелекту (ШІ) у сфері біозброї, підкреслюючи при цьому значні переваги цієї технології для біологічних досліджень. Ця колективна акція стала відповіддю на занепокоєння, висловлене генеральним директором Anthropic Даріо Амодеєм щодо потенційного зловживання ШІ у створенні біологічних загроз, повідомляє The New York Times.
Підписанти угоди, фахівці з розробки білків на основі штучного інтелекту, публічно визнали трансформаційний потенціал ШІ у розвитку біології, зокрема, у розробці нових вакцин і методів лікування. Їх угода формулює зобов’язання відповідально розвивати дослідження ШІ, гарантуючи, що величезні перспективи цих технологій, особливо в дизайні білків, не будуть затьмарені потенціалом зловживань у створенні біологічної зброї.
Центральним елементом консенсусу є регулювання обладнання для виробництва ДНК, що є вирішальним кроком у синтезі біологічних матеріалів, які можуть бути використані для розробки біологічної зброї. Девід Бейкер, ключова фігура в організації угоди та директор Інституту дизайну білків при Вашингтонському університеті, підкреслив необхідність зосередити регуляторні зусилля на цьому етапі синтетичного біологічного конвеєра, щоб запобігти зловживанням.
Ця ініціатива відображає ширший промисловий і науковий рух, спрямований на запобігання подвійного використання технологій штучного інтелекту, які, маючи революційний потенціал для суспільних благ, також становлять значні ризики, якщо їх використовувати у шкідливих цілях. Діалог навколо цього питання активізувався після виступу Амодея в Конгресі, де він спрогнозував, що досягнення в галузі ШІ можуть через кілька років ненавмисно сприяти розробці нової біологічної зброї, попри наявні обмеження.
Угода виступає за надійні протоколи безпеки при виробництві ДНК і закликає до всебічної оцінки безпеки та захисту нових моделей ШІ перед їхнім випуском. Такий проактивний підхід спрямований на те, щоб інтеграція ШІ в біологічні дослідження продовжувала залишатися силою добра, сприяючи інноваціям і одночасно захищаючи від потенційних загроз.