OpenAI формує нову команду на чолі з головним науковим співробітником і одним зі співзасновників компанії Іллею Суцкевером для розробки способів управління та контролю «надрозумних» ШІ-систем. Про це пише TechCrunch.

За прогнозами Суцкевера та керівника групи контролю компанії Яна Лейке, ШІ з інтелектом, що перевищує людський, може з’явитися протягом десятиліття. Цей ШІ – якщо припустити, що він справді колись з’явиться – не обов’язково буде доброзичливим, що зумовить необхідність дослідження способів його контролю та обмеження.

«Наразі у нас немає рішення, як керувати або контролювати потенційно надрозумний ШІ та не дати йому вийти з-під контролю, – пишуть вони. – Наші сучасні методи налаштування ШІ, такі як навчання з підкріпленням на основі зворотного зв’язку з людиною, покладаються на здатність людини контролювати ШІ. Але люди не зможуть надійно контролювати системи ШІ, які набагато розумніші за нас».

Нова група отримає доступ до 20% обчислювальних потужностей, які компанія забезпечила на сьогодні. Команда працюватиме над розв’язання технічних проблем контролю за надрозумним ШІ протягом наступних чотирьох років.

Мета групи в тому, щоб навчити ШІ-системи використовувати людський зворотний зв’язок, навчити ШІ допомагати в оцінці інших ШІ-систем і зрештою створити ШІ, який може проводити дослідження з управління.

Нагадаємо, за результатами опитування дослідницької компанії Valoir, штучний інтелект має потенціал для автоматизації 40% середнього робочого дня.