ИИ Anthropic не пустили к энергосистеме обслуживающей миллионы домов

Изображение: Magnific.com
Поставщики систем, которые управляют электросетями, водоснабжением и промышленным оборудованием, остались без раннего доступа к одной из самых мощных кибермоделей Anthropic — Claude Mythos. Это вызвало недовольство в отрасли: именно такие системы регулярно становятся целью хакеров.

Компания Anthropic запустила Project Glasswing в апреле. Доступ к Mythos сначала получили около 50 организаций, в основном крупные технологические и финансовые компании. Модель умеет искать уязвимости в программном обеспечении и уже обнаружила тысячи серьезных ошибок. Но представители отрасли операционных технологий, или OT, в первую группу почти не попали.

Для энергетики вопрос оказался особенно чувствительным. OT-системы управляют подстанциями, генерацией и распределением электричества. Часть такого оборудования работает десятилетиями, а заменить или быстро обновить его намного сложнее, чем обычный сервер. Успешная атака здесь может затронуть не одну компанию, а тысячи или миллионы потребителей.

Представители отрасли начали добиваться доступа к Mythos через американские власти и саму Anthropic. После критики компания расширила Glasswing. В программу стали включать организации из энергетики, водоснабжения, здравоохранения и связи.

Свободного доступа к Mythos все равно нет. Anthropic считает возможности модели слишком опасными для открытого распространения: она способна не только находить уязвимости, но и использовать их. Поэтому претендентов сначала проверяют, и только после этого допускают к системе.

Автор: Анатолий Хаблюк.

Тематики: Безопасность

Ключевые слова: информационная безопасность, Искусственный интеллект