Ізраїль використовує систему ШІ під назвою Lavender AI для створення списку для ліквідації з щонайменше 37 000 осіб у Газі, пов’язаних з терористичним угрупованням ХАМАС, згідно з новим звітом ізраїльського журналу +972, підтвердженим The Guardian.

Lavender AI – це друга система штучного інтелекту, виявлена після того, як торік стало відомо про існування ізраїльської системи The Gospel. Різниця полягає в тому, що The Gospel націлена на будівлі, а Lavender – на людей.

У новому звіті цитують шістьох неназваних офіцерів ізраїльської розвідки, які говорили з +972 про те, що військові Ізраїлю майже повністю покладалися на Lavender в перші тижні війни, попри те, що було відомо про її помилкову ідентифікацію потенційних цілей як терористів.

Військові, які переглядали результати роботи ШІ, за даними +972, приділяли близько 20 секунд на кожне рішення.

Як повідомляється, система Lavender AI працює, аналізуючи інформацію, зібрану майже про всіх 2,3 мільйона палестинців у Секторі Газа за допомогою системи масового спостереження. Вона оцінює ймовірність приналежності тієї чи іншої особи до ХАМАС за непрозорою системою ранжування.

Кожному палестинцю присвоюється рейтинг від 1 до 100, який нібито визначає, наскільки ймовірно він є членом терористичного угрупування.

«Lavender AI вчиться визначати характеристики відомих бойовиків ХАМАСу і [Палестинського ісламського джихаду], інформація про яких була подана машині в якості навчальних даних, а потім знаходити ці ж характеристики – також звані «рисами» – серед населення, пояснили джерела. Особа, у якої виявлено кілька різних викривальних ознак, отримує високий рейтинг, а отже, автоматично стає потенційною мішенню для вбивства», – цитує Gizmodo журнал +972.

Ізраїльське командування надало офіцерам повне схвалення на використання Lavender для наведення на цілі в Газі та не вимагало ретельної перевірки того, «чому машина зробила такий вибір, або вивчення необроблених розвідувальних даних, на яких вона ґрунтувалася».

Люди, які перевіряли рішення Lavender щодо наведення на ціль, здебільшого просто перевіряли, чи була ціль чоловічої статі, хоча, згідно з внутрішніми перевірками, щонайменше 10% цілей не мали жодного зв’язку з ХАМАСом. Незрозуміло, як проводилися ці внутрішні перевірки та чи не був цей відсоток набагато вищим.

За даними +972, більшість цілей були обстріляні в їхніх будинках. Інша автоматизована система, яка використовувалася спільно з Lavender, під назвою «Де тато?» (Where’s Daddy), була використана для ураження цілей у будинках їхніх родин.

«Ми не були зацікавлені в тому, щоб вбивати бойовиків [ХАМАС] лише тоді, коли вони перебували у військовій будівлі або займалися військовою діяльністю, – сказав анонімний офіцер ізраїльської розвідки в інтерв’ю +972. – Навпаки, ЦАХАЛ без вагань бомбив їх у будинках. Набагато легше розбомбити будинок сім’ї. Система побудована так, щоб шукати їх у таких ситуаціях».

У новому звіті також стверджується, що цілі, визначені Lavender, були лише молодшими бойовиками, а це означає, що ізраїльські військові вважали за краще використовувати некеровані боєприпаси, щоб не витрачати дорогі бомби на відносно несуттєві об’єкти.