У рамках нещодавніх скорочень, які торкнулися 10 тисяч співробітників, Microsoft звільнила і всю команду з питань етики та суспільства у підрозділі розробки штучного інтелекту.
За словами нинішніх і колишніх співробітників, цей крок залишив Microsoft без спеціальної команди, яка б забезпечувала тісний зв’язок принципів відповідального ШІ з дизайном продуктів, у той час, як компанія намагається зробити інструменти штучного інтелекту доступними для більшої кількості користувачів.
У Microsoft все ще активно працює Офіс відповідального ШІ, завданням якого є створення правил і принципів, що регулюють ініціативи компанії в галузі штучного інтелекту. Компанія заявляє, що її загальні інвестиції у відповідальну роботу зростають, попри нещодавні звільнення.
Співробітники зазначили, що команда з питань етики та суспільства відіграла вирішальну роль у забезпеченні того, щоб принципи відповідального ШІ компанії були відображені в дизайні продуктів, які вона випускає.
В останні роки команда розробила рольову гру Judgment Call, яка допомагала дизайнерам уявити потенційну шкоду, яку може завдати ШІ, та обговорити її під час розробки продукту. Це була частина більшого «набору інструментів відповідальних інновацій», який команда опублікувала у відкритому доступі.
Зовсім недавно команда працювала над визначенням ризиків, пов’язаних із впровадженням технології OpenAI у всі свої продукти.
Команда з питань етики та суспільства була найбільшою у 2020 році, коли вона мала близько 30 співробітників, включаючи інженерів, дизайнерів та філософів. У жовтні команду скоротили до 7 осіб у рамках реорганізації.
«Команда не зникає, вона еволюціонує, – сказав Джон Монтгомері, корпоративний віце-президент зі штучного інтелекту Microsoft. – Вона еволюціонує в бік зосередження більшої кількості енергії в окремих продуктових командах, які створюють послуги та програмне забезпечення, що означає, що центральний хаб, який виконував частину роботи, передає свої можливості та обов’язки».
За словами деяких співробітників, цей крок створює фундаментальну прогалину в користувацькому досвіді та цілісному дизайні продуктів зі штучним інтелектом.
«Найгірше те, що ми наражаємо бізнес і людей на ризик», – пояснили вони.
Члени команди з питань етики та суспільства сказали, що загалом вони намагалися підтримувати розробку продуктів. Але, за їхніми словами, оскільки Microsoft зосередилася на постачанні інструментів штучного інтелекту швидше, ніж її конкуренти, керівництво компанії стало менше цікавитися довгостроковим мисленням, на якому спеціалізувалася команда.
З одного боку, зараз Microsoft може мати єдиний шанс, який випадає раз на покоління, отримати значну перевагу над Google у пошуку, програмному забезпеченні для підвищення продуктивності, хмарних обчисленнях та інших сферах, де конкурують гіганти. Перезапустивши Bing зі штучним інтелектом, компанія заявила інвесторам, що кожен відсоток частки ринку, який вона зможе відібрати у Google у пошуку, принесе їй $2 мільярди річного доходу.
Цей пояснює те, чому Microsoft інвестувала в OpenAI та зараз намагається інтегрувати технологію стартапу в кожен куточок своєї імперії.
З іншого боку, всі, хто займається розробкою ШІ, погоджуються, що ця технологія несе в собі потужні й, можливо, екзистенційні ризики, як відомі, так і невідомі.
Ліквідація команди з питань етики та суспільства відбулася якраз тоді, коли решта співробітників групи зосередилися на, можливо, найбільшому виклику: передбаченні того, що станеться, коли Microsoft випустить інструменти, засновані на OpenAI, для глобальної аудиторії.
Минулого року команда написала меморандум, в якому детально описала ризики для бренду, пов’язані з Bing Image Creator, що використовує систему DALL-E від OpenAI для створення зображень на основі текстових підказок. Інструмент для створення зображень був запущений в декількох країнах у жовтні, що стало однією з перших публічних співпраць Microsoft з OpenAI.
Хоча технологія перетворення тексту на зображення виявилася надзвичайно популярною, дослідники Microsoft правильно передбачили, що вона також може загрожувати засобам до існування художників, дозволяючи будь-кому легко копіювати їхній стиль.
Дослідники Microsoft створили список стратегій пом’якшення наслідків, серед яких заборона користувачам Bing Image Creator використовувати імена живих художників як підказок і створення ринку для продажу робіт художників, які б з’являлися, якщо хтось шукав їхнє ім’я в пошуку.
Співробітники компанії стверджують, що жодна з цих стратегій не була реалізована, і Bing Image Creator все одно запустили в тестових країнах.