Технологічний гігант Microsoft заявляє, що видалить функції виявлення, аналізу й розпізнавання обличчя з власного AI-сервісу Face API. Цього тижня вони будуть недоступні для нових користувачів. Для наявних, доступ припинять протягом року. Про це повідомляє The New York Times.

Зміни стали відповіддю компанії на занепокоєння активістів, які стверджували, що програмне забезпечення для аналізу обличчя, здатне ідентифікувати вік, стать та емоційний стан людини, може принести шкоду — і його не слід продавати.

Раніше Microsoft взяла курс на жорсткіший контроль за системами штучного інтелекту. Після двох років досліджень, її команда створила «Стандарт відповідального ШІ» – документ на 27 сторінок, який встановлює вимоги для AI-систем, щоб вони не мали шкідливого впливу на суспільство. Серед інших вимог, системи мають забезпечувати «актуальні розв’язання проблем, для вирішення яких вони створені» та «подібну якість послуг для різних демографічних груп, в тому числі маргіналізованих».

У Microsoft особливо викликав занепокоєння інструмент для розпізнавання емоцій, який маркував вираз обличчя людини як гнів, презирство, огиду, страх, щастя, подив та інші.

«Існує величезна кількість культурних, географічних та індивідуальних відмінностей у тому, як ми виражаємо себе. Це змушує непокоїтись щодо надійності (роботи технології), а також ставить більше питання, чи є вираз обличчя надійним показником внутрішнього емоційного стану», – говорить головна відповідальна директорка напрямку AI у Microsoft.

Також буде недоступним інструмент аналізу віку та статі й засіб розпізнавання таких атрибутів, як волосся на обличчі або посмішка. Вони могли б стати корисними для людей із поганим зором, однак компанія вирішила, що не варто робити ці інструменти доступними назагал.