На Аспенському форумі безпеки, який відбувся минулого тижня, колишній генеральний директор Google Ерік Шмідт порівняв штучний інтелект з ядерною зброєю. Він говорив про небезпеку ШІ та закликав до того, щоб технології більше відповідали етиці та моралі людей, яким вони служать. Про це повідомляє Vice.

На думку Шмідта, у найближчому майбутньому США та Китаю слід укласти угоду щодо використання ШІ, як це зробили у 50-х–60-х роках минулого сторіччя для ядерного стримування. Однак до того, як людство ухвалило низку законів, які стримували використання ядерної зброї, знадобилось десятиліття випробувань та знищення двох японських міст – Хіросіми та Нагасакі.  

Тоді ядерна зброя вбила десятки тисяч людей і показала світу свій жахливий потенціал. Зараз людство не використовує її через взаємне гарантоване знищення – теорію стримування, яка передбачає, що якщо одна країна запустить ядерну зброю, інша зробить так само, і цивілізація може загинути.

Попри те, що Шмідт порівнює ШІ з ядерною зброєю, людство навряд чи потребує «взаємного гарантованого знищення» для його використання. ШІ не має такої руйнівної сили, як ядерна зброя. Він також показує цінності своїх творців і стає настільки хорошим, наскільки хорошими є люди, що його розробили. Тому, наприклад, чат-бот, навчений на токсичній дошці зображень 4chan, стає машиною хейт-спічу. 

Такої думки дотримується Деміс Гассабіс, генеральний директор DeepMind, який навчив штучний інтелект перемагати гравців у Starcraft II. 

«Важливо, хто будує ШІ, з якої культури вони походять і які цінності мають розробники. Системи штучного інтелекту навчаться самі… але в системі залишиться осад культури та цінностей творців цієї системи», – говорить Гассабіс.