Microsoft розробила генеративну модель штучного інтелекту на основі GPT-4 спеціально для американських спецслужб. Вона працює без підключення до інтернету, пише Ars Technica.

Як повідомляється, це – перший випадок, коли Microsoft запустила мовну модель у захищеному середовищі, щоб дозволити агентствам аналізувати надсекретну інформацію без ризиків витоку.

Нова модель, яка ще не має публічної назви, відповідає інтересу спецслужб для використання генеративного ШІ з метою обробки секретної інформації, зменшуючи при цьому ризики витоку даних або спроб злому.

Вільям Чаппелл, технічний директор Microsoft зі стратегічних місій і технологій, повідомив, що розробка нової системи включала 18 місяців роботи над модифікацією суперкомп’ютера зі штучним інтелектом.

Модифікована модель GPT-4 призначена для читання файлів, наданих користувачами, але не має доступу до мережі.

“Це перший випадок, коли ми маємо ізольовану версію – ізольована означає, що вона не підключена до інтернету – і перебуває в спеціальній мережі, доступ до якої має лише уряд США”, – сказав Чаппелл в інтерв’ю Bloomberg.

GPT-4 – це велика мовна модель (LLM), створена OpenAI. Одним із серйозних недоліків використання GPT-4 для аналізу важливих даних є те, що вона потенційно може вигадувати факти та робити хибні висновки.

Оскільки навчені нейронні мережі ШІ не є базами даних і оперують статистичними ймовірностями, вони є поганими фактичними ресурсами, якщо їх не доповнити зовнішнім доступом до інформації з іншого джерела за допомогою такої техніки, як генерація розширеного пошуку (RAG).