ИИ завалил Google выдуманными уязвимостями и заставил временно закрыть программу вознаграждений

В качестве причины прекращения приема новых заявок представители Google назвали огромное количество автоматизированных заявок, созданных с помощью искусственного интеллекта. Причем, в подавляющем большинстве такие заявки оказались фальшивыми.

В то же время, аналитики компании признали, что часть отчетов содержала информацию об ошибках в коде — например, переполнение буфера, — однако подобные ошибки или не оказывали существенного влияния на безопасность протоколов, или до них невозможно было подобраться при реальной эксплуатации программ. Иными словами, формально ошибки существовали, но угрозы для пользователей никакой не представляли.

Еще в марте Google пыталась предотвратить такую проблему, для некоторых проектов от их разработчиков компания стала требовать больше доказательств об обнаруженных уязвимостях. Для некоторых категорий программа выплаты за найденные небольшие ошибки вовсе отменили.

Однако, это не помогло, и теперь Google пошла дальше, и вынуждена была полностью приостановила прием именно новых заявок. На данный момент не затронуты поданные в сентябре отчеты и сообщения о проблемах безопасности цепочки поставок.

Помимо этого, Google также предлагает исследователям пользоваться другими своими программами поиска уязвимостей, чтобы работа по выявлению реальных проблем безопасности не останавливалась.