Anthropic обнаружила сотни тысяч поддельных аккаунтов для копирования Claude

Схема строилась на массовой отправке запросов к Claude. Полученные ответы собирали для обучения других нейросетей. Особенно интересовали злоумышленников подробные рассуждения модели: они помогают понять, как Claude решает задачи, и воспроизвести эти возможности в собственных разработках. 

Anthropic уже пыталась закрыть доступ к подробным рассуждениям, заменив их краткими объяснениями. Но ограничение удалось обойти. В одном из случаев злоумышленники проверили 12 тыс. специально составленных запросов, пытаясь заставить Claude раскрыть скрытую информацию. Затем появились сети посреднических сервисов с сотнями тысяч поддельных аккаунтов. Когда одну учетную запись блокировали, ее место занимала другая. Некоторые аккаунты регистрировали с использованием чужих платежных данных.

Компания изменила механизм защиты. Теперь специальные алгоритмы отслеживают попытки получить скрытые рассуждения Claude. Разработчики также ограничили перенос этих данных между разными версиями нейросети и аккаунтами. По оценке Anthropic, после изменений объем извлекаемой информации сократился в 10–100 раз. Десятки тысяч подозрительных учетных записей были заблокированы, в отдельных случаях — менее чем через два часа после начала атаки.

Обойтись без последствий для обычных клиентов не получилось. Некоторым разработчикам пришлось переделывать подключение к Claude, а часть разрешенных запросов система ошибочно принимает за попытки копирования модели. В Anthropic утверждают, что доля таких ошибок не превышает 0,1%. Компания ожидает новых попыток обхода защиты и не исключает, что нынешние ограничения со временем перестанут работать.

Ранее ICT-Online писал о скандале вокруг китайских разработчиков DeepSeek и Moonshot AI, которые перенаправляли запросы пользователей к Claude. По информации Anthropic, в одном из эпизодов за десять дней через 5380 учетных записей прошло почти 300 тыс. запросов.