Штат Каліфорнія зареєстрував проєкт закону під назвою "Закон про безпечні та надійні інновації для передових моделей штучного інтелекту" (SB-1047). Цей проєкт зосереджується на екзистенційних страхах перед майбутніми моделями ШІ та може відчутно обмежити дослідження та розробки у цій сфері. Про це пише Ars Technica.
Законопроєкт вніс сенатор штату Скотт Вінер, він був прийнятий Сенатом Каліфорнії в травні 32 голосами проти 1 і, схоже, має всі шанси бути винесеним на остаточне голосування в Асамблеї штату в серпні 2024 року.
Текст законопроєкту вимагає від компаній, які займаються розробкою моделей штучного інтелекту, запровадити процедури та системи тестування для запобігання та реагування на "інциденти з безпекою".
Проєкт приводить юридичне визначення цих інцидентів безпеки, яке фокусується на визначенні набору "критичних збитків", котрі може спричинити система ШІ. Сюди входить шкода, що призводить до "масових жертв або збитків щонайменше на 500 мільйонів доларів США".
Закон наводить декілька прикладів таких інцидентів: "створення або використання хімічної, біологічної, радіологічної або ядерної зброї" та "точні інструкції для проведення кібератаки на об'єкти критичної інфраструктури".
Щоб запобігти цим, відверто кажучи, науково-фантастичним ситуаціям, кожен, хто навчає достатньо велику модель, повинен "реалізувати можливість швидкого повного вимкнення" і мати політику на випадок такого вимкнення, серед інших запобіжних заходів і тестів.
Автором законопроєкту є співзасновник Центру безпеки ШІ (CAIS) Ден Хендрікс. У статті, опублікованій у журналі Time Magazine, Хендрікс зазначає, що "еволюційний тиск, ймовірно, прищепить ШІ поведінку, яка сприятиме самозбереженню" і призведе до "витіснення людства з ролі домінантного виду на Землі".
Повний текст проєкту можна почитати тут.