Чат-бот на основі штучного інтелекту, який влада Нью-Йорка створила для того, щоб допомагати власникам малого бізнесу, давав їм дивні поради та відповіді, серед яких були й пропозиції порушення закону. Попри це, влада міста відмовився його видаляти. Про це повідомляє Associated Press.
Чат-бот, який був запущений у жовтні у співпраці з Microsoft для допомоги власникам малого бізнесу у бюрократичних запитаннях, пропонував користувачам алгоритмічно згенеровані текстові відповіді на запитання про навігацію бюрократичним лабіринтом міста.
Бот містить застереження про те, що іноді відповіді можуть бути неправильними, шкідливими або упередженими, а також заяву, що його відповіді не є юридичною порадою. Та попри застереження відповіді бота доходили до того, що пропонували користувачам порушувати закон.
У повідомленнях про помилки у відповідях розповідалося, що чат-бот розповідав, що роботодавець має повне право звільнити працівницю, яка скаржиться на сексуальні домагання, не повідомляє про вагітність, відмовляється підстригти дреди тощо.
Після цих повідомлень влада Нью-Йорка відмовилася видаляти бота. Натомість мер Ерік Адамс захищав рішення залишити чат-бот доступним для користування, хоча й визнав, що відповіді бота були неправильними в деяких областях.
Адамс також розповів, що дозволити користувачам знаходити помилки у відповідях бота є частиною покращення нових технологій.
«Кожен, хто знає технології, знає, як це робиться. Тільки ті, хто боїться, сідають і кажуть: «О, це не працює так, як ми хочемо, тепер ми повинні тікати від цього всім разом». Я так не живу», – сказав мер.
Попри всі недоліки бот продовжує працювати, що викликає занепокоєння в експертів, оскільки подібна система, яка видає купу помилкових та місцями навіть незаконних відповідей, є небезпечною, тим паче якщо її використовує влада без чітких меж та регулювання.
Завантаження коментарів …