Компанія Meta планує значно змінити процес оцінки приватності та ризиків у своїх продуктах, замінивши більшість людських рецензентів штучним інтелектом. Внутрішні документи, з якими ознайомилося видання NPR, свідчать, що Meta прагне передати до 90% таких оцінок ШІ-системам.
На практиці це означає, що такі речі, як критичні оновлення алгоритмів Meta, нові функції безпеки і зміни в тому, як дозволено ділитися контентом на платформах компанії, будуть в основному схвалені системою, що працює на основі штучного інтелекту.
Раніше всі оновлення платформ Meta, зокрема Instagram та WhatsApp, проходили ретельну перевірку людьми перед публічним запуском. Однак за останні два місяці компанія подвоїла використання штучного інтелекту, що дозволяє швидше впроваджувати нові функції. Тепер команди розробників заповнюють анкету про продукт, яку потім аналізує ШІ, миттєво визначаючи потенційні ризики.
Колишні співробітники Meta висловлюють занепокоєння, що автоматизація може призвести до зростання ризиків, які можуть призвести до негативних зовнішніх ефектів, пов'язаних зі змінами в продуктах, оскільки ШІ може не помітити серйозні проблеми, які здатні виявити люди. У відповідь Meta заявила, що людський досвід все ще буде використовуватися для оцінки складних питань, а штучний інтелект займатиметься лише низькоризиковими рішеннями.
Ця зміна відбулася невдовзі після публікації квартальних звітів Meta щодо модерації контенту, які показали зменшення кількості видалених матеріалів, але збільшення випадків булінгу та насильницького контенту.