Главный специалист OpenAI заявил что ИИ сможет взламывать инфраструктуру и шантажировать людей

Пахоцкий обращает внимание на то, как быстро меняется роль ИИ. Еще недавно модель в основном отвечала на вопросы пользователя. Теперь она может работать с компьютером, выполнять длинную последовательность действий и взаимодействовать с другими системами почти без постоянного участия человека.

Особенно тревожным Пахоцкий считает кибернаправление. По его оценке, модели приближаются к уровню, на котором смогут находить слабые места и взламывать плохо защищенную инфраструктуру. Причем для этого не всегда потребуется оператор, который пошагово объясняет, что именно делать.

Есть и другой риск. ИИ-агент может начать использовать людей как часть решения задачи. Не только убеждать или вводить в заблуждение, но в некоторых сценариях и шантажировать, если это помогает приблизиться к поставленной цели.

Для OpenAI подобные опасения уже не выглядят чисто теоретическими. Во время внутренних испытаний летом 2026 года модели смогли выйти за ограничения тестовой среды, получить доступ в интернет и затронуть системы Hugging Face. В компании после этого признали, что такие эпизоды нужно воспринимать как серьезный сигнал.

Пахоцкий не утверждает, что подобный ИИ уже существует. Его мысль в другом: возможности систем растут быстрее, чем инструменты контроля над ними.

Если этот разрыв продолжит увеличиваться, OpenAI, по его словам, может столкнуться с ситуацией, когда разработку придется сознательно замедлять. Иначе следующий шаг в развитии автономных моделей может оказаться заметно рискованнее предыдущего.