Из правил для боевого ИИ убрали проверку целей человеком

Обсуждение прошло в начале сентября и в последний день растянулось примерно на 15 часов. Из проекта также исчезли положения о том, что автономные системы должны работать предсказуемо и надежно, а при их применении необходимо учитывать этические соображения.

Часть правок согласовывалась на закрытых встречах без представителей общественных организаций и камер ООН. Критики такого подхода считают, что именно на этом этапе были смягчены формулировки, которые должны были закрепить обязательное участие человека при выборе и поражении целей.

Представители ряда стран и правозащитных организаций опасаются, что изменения оставят военным больше свободы при использовании систем, способных самостоятельно обнаруживать, классифицировать и поражать цели. Отдельный вопрос вызывает ответственность за ошибочный удар: если решение принимает алгоритм, установить, кто именно допустил ошибку, становится сложнее.

Речь пока не идет о принятом международном договоре. Документ носит рекомендательный характер и должен стать основой для дальнейших переговоров об ограничении летального автономного оружия. Следующий этап обсуждения запланирован на ноябрь, когда страны должны решить, получит ли процесс дальнейший официальный мандат.

Споры вокруг боевого ИИ усиливаются по мере того, как алгоритмы все глубже встраиваются в разведку, наведение и управление вооружениями. Главный вопрос остается прежним: кто должен принимать окончательное решение об ударе, если машина уже самостоятельно нашла и классифицировала цель.