«Хрещений батько ШІ» пішов із Google та попередив про ризики для людства
Джефрі Гінтон, якого часто називають «хрещеним батьком штучного інтелекту», звільнився з Google та заявив про ризики, пов’язані з ШІ. Про це пише The New York Times.
Доктор Гінтон був піонером у галузі ШІ. У 2012 році він разом із двома студентами створили нейронну мережу, яка змогла проаналізувати тисячі фотографій та навчитися розпізнавати звичайні об’єкти. Google витратила $44 млн, щоб придбати компанію, яку заснував доктор та двоє його студентів.
Їхня система призвела до створення дедалі потужніших технологій, зокрема нових чат-ботів, таких як ChatGPT та Google Bard. У 2018 році Джефрі Гінтон був серед тих, хто отримав Премію Тюрінга за свою роботу над нейронними мережами.
Зараз доктор вважає, що в міру того, як компанії вдосконалюють свої системи ШІ, вони стають все більш небезпечними.
«Подивіться, як це було п’ять років тому і як це відбувається зараз, – акцентував він. – Візьміть різницю і перенесіть її у майбутнє. Це страшно».
Говорячи про Google, Джефрі Гінтон звернув увагу, що до минулого року компанія діяла як незалежний управитель технології, намагаючись не випустити щось, що могло б завдати шкоди. Але тепер, коли Microsoft доповнила свою пошукову систему Bing чат-ботом, Google намагається розгорнути таку ж технологію. Доктор думає, що технологічні гіганти втягнуті в конкурентну боротьбу, яку, можливо, буде нереально зупинити.
Найбільше його непокоїть те, що інтернет буде наповнений фальшивими фото, відео та текстами, і пересічна людина не зможе розпізнати, що є правдою, а що – ні. Водночас він стурбований тим, що з часом технології ШІ перевернуть ринок праці.
Також Джефрі Гінтон занепокоєний тим, що майбутні версії технології становлять загрозу для людства, оскільки часто вони навчаються несподіваній поведінці на основі великих обсягів даних.
«Ідея про те, що ці штуки можуть стати розумнішими за людей – мало хто в це вірив, – сказав він. – Але більшість людей вважали, що це дуже далека перспектива. І я думав, що це дуже далека перспектива. Я думав, що це станеться через 30-50 років, а то й довше. Очевидно, що я більше так не думаю».
Нагадаємо, що після того, як у березні OpenAI випустив нову версію ChatGPT, понад 1000 технологічних лідерів та дослідників підписали відкритого листа із закликом запровадити тимчасовий мораторій на розробку нових систем. Свій заклик вони пояснили тим, що технології ШІ становлять ризики для суспільства та людства. Натомість Ілон Маск планує запустити власний генеративний штучний інтелект TruthGPT, який за планами підприємця має стати безпечнішою версією наявних чат-ботів.