ИИ-агенты OpenAI 16 тысяч раз атаковали сайт ООН

Судя по журналам, агенты пытались получить открытые данные Конференции ООН по торговле и развитию — в частности показатели производственного потенциала, торговли и продовольствия. Доступ к самим сведениям не был секретным. Необычным оказалось другое: столкнувшись с ограничениями HTTP-инструментов и API, системы не остановились, а начали искать обходные маршруты.

Они перебирали поля API, использовали сторонние сервисы как промежуточный браузер, кодировали запросы и нашли способ обходить часть ограничений с помощью двойного кодирования. Позже агенты задействовали учебную площадку Google для экспериментов с XSS, чтобы получать данные крупными порциями. После введения ограничений на частоту запросов активность не прекратилась.

Связь с OpenAI исследователь считает весьма вероятной. Большая часть замеченных Azure-адресов ранее появлялась в инфраструктуре агентных экспериментов, которую связывали с системами компании. В названиях некоторых страниц также встречались обозначения CHATGPT и OAI. Сам исследователь подчеркнул, что прямых доказательств участия сотрудников OpenAI у него нет.

Инцидент показал, что автономные ИИ-системы способны самостоятельно менять стратегию, если сталкиваются с техническими ограничениями. В данном случае речь шла об открытой статистике, однако сам механизм обхода препятствий вызывает вопросы о контроле над агентами при работе с более чувствительными системами.