Ошибочный доклад ИИ едва не привёл к военному столкновению США и Китая

Об этом сообщил телеканал CNN со ссылкой на четыре информированных источника. По данным издания, доклад утверждал, что китайское судно перевозит компоненты для ядерного оружия, и почти привёл к прямому вооружённому конфликту между США и Китаем.

По информации источников CNN, доклад был подготовлен весной 2026 года, в разгар американо-иранской войны, и широко распространился внутри американского военного командования. Он немедленно вызвал тревогу: военные США перешли в состояние повышенной готовности и запланировали операцию по перехвату судна. Двое собеседников телеканала сообщили, что военнослужащие были готовы подняться на борт, а самолёты уже находились в воздухе.

Однако незадолго до начала операции специалисты провели дополнительную проверку документа. Выяснилось, что доклад был написан аналитиком Командования специальных операций США с использованием чат-бота на базе ИИ, который ошибочно идентифицировал характер груза на судне. Что именно перевозило судно, CNN установить не удалось. Один из источников назвал документ «полностью ложным» и заявил, что инцидент «почти привёл к войне».

По словам источника, аналитик применил чат-бот для обработки разведывательного доклада о грузовой декларации судна, поступившего от Тихоокеанского командования специальных операций США на Гавайях. Остаётся неизвестным, использовался ли коммерческий продукт или инструмент, разработанный американским правительством.

Чат-бот объединил данные из открытых источников с секретной сигнальной разведкой, находившейся в распоряжении правительства, и на основе этого синтеза сделал ошибочный вывод о характере груза. Затем аналитик снова обратился к ИИ, чтобы упаковать полученные данные в стандартный формат разведывательного доклада и распространить его внутри военного ведомства.

Бывший высокопоставленный чиновник, знакомый с системами ИИ, используемыми аналитиками военной разведки, охарактеризовал внутренние инструменты так: «Внутренние инструменты — это в основном переупакованные коммерческие продукты, просто с губной помадой».

Инцидент обнажил более глубокую проблему: американские военные и разведывательное сообщество стремительно внедряют ИИ почти во все сферы — от анализа огромных массивов разведданных и выбора целей до управления бюджетом и логистикой. Однако этот процесс остаётся децентрализованным: разные ведомства используют разные инструменты, следуют разным приказам и применяют разные стандарты безопасности. Единых стандартов проверки достоверности информации, сгенерированной ИИ, не существует.

В январе 2026 года министр обороны США Пит Хегсет опубликовал «Стратегию ускорения ИИ», призванную ускорить внедрение технологии в вооружённых силах. Документ предусматривает «демократизацию экспериментов и трансформации ИИ», а также передачу передовых американских ИИ-моделей непосредственно в руки примерно 3 миллионов гражданских и военных сотрудников по всем уровням секретности.

Опрошенные CNN официальные лица отмечают, что разные подразделения используют разные инструменты, а единого органа, отвечающего за проверку надёжности ИИ-систем, нет. Один из собеседников, знакомый с текущей политикой Пентагона, заявил: «ИИ в целеуказании определённо ускоряется, но нет реальных руководящих принципов о том, как „человек в контуре“ должен предотвращать жертвы среди гражданских или огонь по своим».

Инцидент с китайским судном — не первый случай, когда применение ИИ в военных целях приводит к критическим последствиям. Расследование, опубликованное ранее, показало, что ракетный удар американских войск по школе для девочек в Минабе (Афганистан) 28 февраля 2026 года, в результате которого погибли 123 ребёнка, стал следствием ошибок в системе целеуказания. По данным расследования, президент Трамп потребовал нанести более 1000 ударов в течение 24 часов, и Пентагон переложил задачи на систему искусственного интеллекта Maven компании Palantir. Сотрудники Palantir ошибочно полагали, что система способна выявлять устаревшие данные.

Опубликованный на этой неделе доклад ООН указал, что эти ошибки «вышли за рамки халатности» и могут квалифицироваться как военные преступления. Вашингтон до сих пор публично не признал свою ответственность.