Корпоративні користувачі месенджера Slack, що належить Salesforce вкрай незадоволені тим фактом, що сервіс навчає свій штучний інтелект Slack AI на повідомленнях користувачів. Про це пише Ars Technica.

Вся драма полягає в тому, що на прямі питання представники Slack відповідають, що компанія не використовує дані своїх клієнтів для навчання ШІ, але політика конфіденційності сервісу говорить про інше.

У принципах конфіденційності Slack зокрема сказано, що “Машинне навчання (ML) і штучний інтелект (AI) є корисними інструментами, які ми використовуємо в обмеженому обсязі, щоб покращити місію нашого продукту. Для розробки моделей AI/ML наші системи аналізують дані користувачів (наприклад, повідомлення, контент і файли), надані Slack, а також іншу інформацію (включаючи інформацію про використання), як визначено в нашій політиці конфіденційності та у вашій клієнтській угоді”.

Тим часом на сторінці Slack AI сказано: “Працюйте без турбот. Ваші дані — це ваші дані. Ми не використовуємо їх для навчання Slack AI”.

Slack

Через цю невідповідність користувачі закликали Slack оновити принципи конфіденційності, щоб було зрозуміло, як дані використовуються для Slack AI або будь-яких майбутніх оновлень ШІ. За словами представника Salesforce, компанія погодилася з необхідністю оновлення.

Представник компанії повідомив, що оновлення політики уточнює, що Slack не “розробляє LLM або інші генеративні моделі з використанням даних клієнтів”.

Оновлення також уточнює, що “Slack AI використовує готові LLM, в яких моделі не зберігають дані клієнтів”, гарантуючи, що “дані клієнтів ніколи не залишають межі довіри Slack, а постачальники LLM ніколи не мають жодного доступу до даних клієнтів”.

Однак ці зміни, схоже, не вирішують ключової проблеми користувачів, які ніколи не давали явної згоди Slack на використання своєї інформації для навчання ШІ. На цьому конфлікт між користувачами та сервісом не завершено та компанія продовжує отримувати гнівні відгуки та втрачати корпоративних клієнтів.