Двоє розробників використали модель генерації зображень DALL-E 2 від OpenAI для створення програми судової експертизи, яка може генерувати «гіперреалістичні» поліцейські фотороботи підозрюваного на основі даних користувача.

Програма під назвою Forensic Sketch AI-rtist була створена розробниками Артуром Фортунато та Філіпом Рейно в рамках хакатону в грудні 2022 року. Розробники кажуть, що мета програми — скоротити час, який зазвичай витрачається на те, щоб намалювати підозрюваного, що становить близько двох-трьох годин.

«Ми ще не випустили продукт, тому на цей час у нас немає активних користувачів, – повідомили Фортунато і Рейно. – На даному етапі ми все ще намагаємося перевірити, чи буде цей проєкт придатним для використання в реальних умовах, чи ні. Для цього ми плануємо звернутися до поліцейських відділків, щоб отримати вхідні дані, на яких ми зможемо це протестувати».

Спеціалісти з етики та дослідники ШІ розповідають, що використання генеративного ШІ в поліцейській криміналістиці є дуже небезпечним, оскільки може погіршити наявні расові та гендерні упередження, які з’являються в первинних описах свідків.

«Проблема з традиційними криміналістичними ескізами полягає не в тому, що на їх створення потрібен час (що, здається, є єдиною проблемою, яку намагається вирішити ця програма для криміналістичних ескізів зі штучним інтелектом). Проблема в тому, що будь-який криміналістичний ескіз вже схильний до людських упереджень і слабкості людської пам’яті, – розповіла Дженніфер Лінч, директор з питань судових процесів у сфері стеження Electronic Frontier Foundation. – ШІ не може виправити ці людські проблеми, а ця конкретна програма, швидше за все, погіршить їх через свій дизайн».

Програма просить користувачів надати інформацію або за допомогою шаблону, який запитує стать, колір шкіри, брови, ніс, бороду, вік, опис волосся, очей і щелепи, або за допомогою функції відкритого опису, в якій користувачі можуть ввести будь-який опис підозрюваного, який вони мають. Потім користувачі можуть натиснути кнопку «створити профіль», яка надсилає опис до DALL-E 2 і створює портрет, згенерований штучним інтелектом.

«Дослідження показали, що люди запам’ятовують обличчя цілісно, а не рису за рисою. Процес створення фоторобота, який спирається на опис окремих рис, як у цій програмі, може призвести до того, що обличчя буде разюче відрізнятися від обличчя злочинця, – сказала Лінч. – На жаль, коли свідок бачить складений фоторобот, цей образ може замінити в його свідомості туманний спогад про справжнього підозрюваного».

Додавання DALL-E 2 до і без того ненадійного процесу опису свідків ще більше погіршує ситуацію. Саша Луччіоні, науковий співробітник Hugging Face, стверджує, що DALL-E 2 містить багато упереджень — наприклад, вона показує переважно білих чоловіків, коли її просять створити образ генерального директора. OpenAI постійно розробляє методи для зменшення упередженості результатів роботи свого ШІ.

«Як правило, саме маргіналізовані групи є ще більш маргіналізованими завдяки цим технологіям через існуючі упередження в наборах даних, через відсутність контролю, та через те, що в інтернеті є багато зображень кольорових людей, які вже є дуже расистськими і дуже несправедливими. Це свого роду ускладнюючий фактор», – додає Луччіоні.

Фортунато і Рейно кажуть, що їхня програма працює, виходячи з припущення, що поліцейські описи заслуговують на довіру, і що саме поліцейські повинні нести відповідальність за те, щоб поширювати справедливий і чесний фоторобот.

Самі розробники визнають, що не існує засобів для вимірювання точності згенерованого зображення. У кримінальній справі неточності можуть бути виправлені лише тоді, коли підозрюваного буде знайдено або коли він уже буде у в’язниці. І так само як у випадку, коли поліція ділиться іменами та фотографіями підозрюваних у соціальних мережах, поширення неточного зображення до цього часу може також викликати підозру у надмірно криміналізованого населення. Критики також вказують на те, що припущення розробників про нейтральність поліції ігнорує добре задокументовані докази того, що поліцейські регулярно брешуть, представляючи докази та даючи свідчення у кримінальних справах.