Американський стартап в галузі штучного інтелекту Anthropic очікує, що віртуальні співробітники, які працюватимуть на основі ШІ, почнуть з'являтися у корпоративних мережах наступного року. Про це заявив керівник відділу інформаційної безпеки компанії Джейсон Клінтон в інтерв'ю для Axios.
Як зазначив Клінтон, компаніям доведеться переглянути свої стратегії кібербезпеки для управління віртуальними працівниками, оскільки це може призвести до серйозних порушень безпеки в їхніх мережах.
Попри можливі ризики, Клінтон підкреслює, що віртуальні співробітники стануть наступною великою інновацією в галузі ШІ. Сучасні агенти зазвичай виконують конкретні завдання, такі як виявлення шахрайських сповіщень або індикаторів загроз у кібербезпеці. Віртуальні співробітники розширять цю автоматизацію, надаючи їм "пам’ять", визначені ролі в компанії та навіть власні облікові акаунти.
Основними проблемами, які зазначає Anthropic, є визначення дозволів для віртуальних працівників, захист їхніх робочих акаунтів та контроль за їхньою діяльністю. Компанія вважає, що має два ключових зобов’язання щодо таких працівників: по-перше, ретельно перевіряти моделі Claude, щоб забезпечити їхню стійкість до кібератак, і по-друге, відстежувати потенційні проблеми безпеки та запобігати зловживанням з боку зловмисників.
Клінтон зазначає, що мережеві адміністратори вже працюють над контролем доступу до різних систем, захищаючи їх від зловмисників, які використовують повторно продані паролі з даркнету. Він також підкреслює, що віртуальні працівники можуть стати новою проблемою, здатною зламати систему безперервної інтеграції компаній, коли новий код об’єднується та тестується перед стабільним релізом.
Керівник кібербезпеки Anthropic зазначає, що забезпечення безпеки віртуальних працівників стане однією з головних цілей для компаній, що працюють у сфері ШІ, і в це будуть активно інвестувати в наступні кілька років. Особливо Клінтон зацікавлений у рішеннях, які дозволять відстежувати активність облікових записів віртуальних працівників, а також в інструментах для створення нової системи класифікації акаунтів, що краще враховуватиме потреби ШІ-співробітників.