Удар по школі в Мінабі: розслідування вказало на збої в ланцюжку цілевказівок

Загибель 123 іранських дітей унаслідок удару по школі в Мінабі військові чиновники описують як результат низки збоїв, яких можна було уникнути. Частина співробітників Пентагону дізналася про те, що ціллю стала школа, лише за кілька годин після удару. Про це йдеться в розслідуванні Bloomberg.

Ключовим елементом системи, що викликав застереження слідчих, є платформа Maven від Palantir Technologies Inc. Вона дає змогу координувати складні військові операції — від наведення на ціль до командування й управління — за допомогою програмного забезпечення на базі штучного інтелекту. Система об'єднує понад 150 різних джерел вхідних даних у цілісний набір інформації, на який спираються командири під час ухвалення рішень.

Речник Palantir заявив, що компанія «не несе відповідальності за базові дані та виявлення недоліків у розвідувальній інформації», і що доказів провини її програмного забезпечення немає. Двоє людей, обізнаних із контрактами Palantir і Пентагону, зазначили, що саме уряд відповідає за якість інформації, яка надходить до Maven.

Після удару по Мінабу Palantir вбудував у Maven нові можливості. Вони «переглядають базові розвідувальні дані, щоб виявити фактори, які можуть позначити ціль як невідповідну, та позначити ті невідповідності та неточності, які могли бути пропущені під час перевірки людиною», розповіло джерело, знайоме з питанням. Ця робота вже виявила деякі аномалії.

Надмірна залежність від Maven — лише одна з трьох складових збою в ланцюжку знищення, описаного Bloomberg. Двома іншими стали погані розвідувальні дані та застарілі супутникові знімки. Ще 2019 року один аналітик помітив зміни й зареєстрував зауваження в системі, не підключеній до основної бази даних військової розвідки, яку використовували для цілевказівок. Ці зауваження так і не дійшли до фахівців, які готували пакет ударних даних. Людська розвідка з південного Ірану була обмеженою, хоча школа мала власний веб-сайт і була позначена на Картах Google.

Об'єкт і далі значився як такий, що належить КВІР, оскільки адміністрація Трампа вимагала потужного початкового наступу. Упродовж перших 24 годин було уражено понад 1000 іранських цілей, і, за даними джерел Bloomberg, такі темпи скоротили час, доступний для додаткових підтверджень.

Цей випадок — не поодинокий приклад того, як помилки автоматизованих систем здатні спричиняти серйозні наслідки. Раніше звіт, згенерований штучним інтелектом, ледь не спровокував війну між США та Китаєм: чат-бот помилково оцінив вантаж на борту китайського судна, нібито призначений для програми створення ядерної зброї на Близькому Сході. Про це 18 вересня повідомив телеканал CNN із посиланням на власні поінформовані джерела. Після отримання повідомлення американські військові розробили плани перехоплення й абордажу судна, а літаки ВПС підняли в повітря за тривогою.

Історія з Мінабом ставить ширше питання: наскільки армії світу готові делегувати штучному інтелекту частину рішень у ланцюжку цілевказівок і хто має відповідати за якість даних, на яких ці рішення ґрунтуються. Palantir наполягає, що межа відповідальності проходить між розвідувальними даними уряду та програмним забезпеченням компанії, тоді як слідчі вказують на системну проблему: навіть найдосконаліша платформа не компенсує прогалин у розвідці та надмірного прискорення ухвалення рішень.