Безопасность ИИ в России: переход от теории к практике. Основные итоги BIS Summit 2026

ИИ – это перспективы или риски? Мнение регулятора

Эксперты в России и мире сходятся во мнении, что искусственный интеллект – наша неизбежная реальность, однако по-разному оценивают степень его влияния на рынок и на развитие человечества в целом. Для кого-то создание ИИ подобно появлению огня: оно выводит общество на принципиально новый уровень технологического развития, кардинально меняет уклад жизни и даже менталитет. Для кого-то это дополнительный мощный фактор экономического роста. Для кого-то – узкий прикладной инструмент. Кто-то рассматривает его больше через призму угроз и опасается, что развитие искусственного интеллекта может привести к деградации естественного.

Безусловно, особый взгляд на ИИ имеют регуляторы, которые рассматривают технологии в контексте глобальных рисков для общества и экономики.

Президент ГК InfoWatch, председатель Правления АРПП «Отечественный софт» Наталья Касперская
Источник: трансляция BIS Summit 2026

Модераторами традиционной сессии BIS SUMMIT «Диалог с регулятором» выступили генеральный директор АНО «Центр компетенций по импортозамещению в сфере информационно-коммуникационных технологий» (ЦКИТ) Илья Массух и президент ГК InfoWatch, председатель Правления АРПП «Отечественный софт» Наталья Касперская.

Заместитель министра цифрового развития, связи и массовых коммуникаций России Александр Шойтов прокомментировал недавно принятый закон о регулировании искусственного интеллекта. По его словам, этот документ сформировал общие границы технологии: определил терминологию и обозначил критичные области, главные среди которых – технологический суверенитет и национальный суверенитет (соответствие ответов ИИ национальным ценностям, которые декларирует государство). Эти цели достигнуты. При этом некоторые важные аспекты ИИ, как, например, информационная безопасность, не были затронуты в законе, так как этому посвящены другие уже существующие нормативные акты.

Заместитель министра цифрового развития, связи и массовых коммуникаций России Александр Шойтов
Источник: трансляция BIS Summit 2026

«Во всех сферах нужны минимальные технологические уровни, которые позволят нам жить самостоятельно, для них нужны меры поддержки. Дальше мы уже смотрим, насколько они конкурентоспособны. Если они начинают соответствовать мировому уровню, то мы их еще больше поддерживаем и начинаем заниматься вопросом экспорта», – указал эксперт.

Александр Шойтов анонсировал появление нового закона, касающегося больших языковых моделей, а также рассказал о создании по поручению зампреда Правительства РФ Дмитрия Григоренко шести рабочих групп по разным направлениям ИИ. Спикер призвал закладывать безопасность в основу инноваций: «Сейчас, когда мы подходим к масштабному внедрению искусственного интеллекта, давайте сразу закладывать в него безопасность – это такой стратегический подход. Если мы планируем играть серьезную роль на мировой арене, надо идти с таким принципом. Вопрос здесь в первую очередь – в исследовании информационной безопасности перспективных технологий и ее внедрении на ранее стадиях».

Первый заместитель директора ФСТЭК Виталий Лютиков подтвердил, что ведомство рассматривает искусственный интеллект, согласно существующим нормативным актам, – как программное обеспечение. Его основная особенность – зависимость от обучающих данных (датацентричность), которые, в частности, влияют на поведение модели. При этом выстраивание механизмов безопасности с учетом применения ИИ мало чем отличается от стандартного: при всех нюансах сохраняются общие подходы. Например, в 1970-х годах появились реляционные СУБД, и через определенное время возникли атаки через SQL-инъекции, а сейчас одна из опасностей кроется в промпт-инъекциях.

Первый заместитель директора ФСТЭК Виталий Лютиков
Источник: трансляция BIS Summit 2026

Виталий Лютиков пояснил, почему в новом законе об ИИ не учтена информационная безопасность: для этого существуют уже давно известные другие законы: например, 152-ФЗ «О персональных данных», 149-ФЗ «Об информации, информационных технологиях и о защите информации», 187-ФЗ «О безопасности критической информационной инфраструктуры Российской Федерации».

«Ограничения моделей реализуются не самой моделью, а ее окружением. Это программное обеспечение: управление запросами и так далее, более-менее понятные механизмы. Поэтому мы вырабатываем определенные меры по обеспечению безопасности, направленные на снижение рисков. Работаем по нашим полномочиям – это, в первую очередь, информация ограниченного доступа, объекты КИИ. Здесь угрозы и риски очевидны: не должно быть утечек информации конфиденциального характера, модель должна предсказуемо и устойчиво функционировать, не влиять на работоспособность объекта – допустим, значимого объекта KИИ», – рассказал эксперт. 

Директор департамента ИБ Банка России Вадим Уваров рассказал о применении ИИ в банковской сфере, в частности, о работе ЦБ по противодействию финансовому мошенничеству и предотвращению операций, проведенных без согласия пользователя. По его словам, Банк России системно занимается этой проблемой с 2018 года. Сейчас в банковской отрасли не осталось «слепых зон». Много внимания уделяется вопросам, связанным с хищением кредитов и займов, контролируется вывод денежных средств через банкоматы, что привело к снижению объемов хищений на 8%. Также фиксируется снижение среднего размера хищений. За первое полугодие 2026 года было предотвращено 34 млн инцидентов на общую сумму 3,7 трлн рублей. Всё это говорит о высоком качестве работы банковских антифрод-систем. Кроме того, созданы механизмы возврата денег, которые были украдены с банковских счетов без участия пользователя или из-за того, что банки не выполнили определенные требования закона.

Директор департамента ИБ Банка России Вадим Уваров
Источник: трансляция BIS Summit 2026

«Мы знаем, что банки используют модели искусственного интеллекта. В июне мы издали методические рекомендации для финансовой сферы, которая работает с искусственным интеллектом – их можно найти на сайте Банка России. Но ключевая история – мы аккуратно прописали, что в процессах, где на значимых объектах критической информационной инфраструктуры используется искусственный интеллект, всегда целесообразно использовать проверку со стороны человека», – отметил спикер.

Применение ИИ в разных отраслях госсектора

Заместитель министра энергетики Российской Федерации Эдуард Шереметцев заверил, что возможностей российских дата-центров хватит для развития и применения технологий ИИ с учетом планов о том, что их совокупная мощность с примерно 5 ГВт возрастет к 2030 году до 14-15 ГВт. В то же время при создании новых ЦОДов при долгосрочном планировании требуется их дифференциация по функциональному назначению: дата-центры, которые будут обеспечивать работоспособность систем в реальном времени, должны находиться рядом с потребителем, а дата-центры, которые предназначены для хранения резервных копий, обучения ИИ-моделей и других подобных целей, могут быть расположены в отдаленных регионах: например, рядом с источником энергии и в зонах с холодным климатом для экономии на охлаждении.

Заместитель министра энергетики Российской Федерации Эдуард Шереметцев
Источник: трансляция BIS Summit 2026

По прогнозам, к началу 2027 года около 70% компаний ТЭК будут в той или иной мере использовать технологии искусственного интеллекта, тогда как на начало 2026 года этот показатель составлял 58%. В отрасли реализуется более трехсот различных проектов в сфере ИИ. По статистике, более половины организаций ТЭК положительно оценивают эффект от использования технологии. Сейчас в основном оно касается автоматизации контакт-центров, генерации документов, проектирования. Что касается управления технологическими системами, ИИ играет роль консультанта, а решение всё равно принимает человек. Предприятия отдают себе отчет об ответственности за инциденты, которые могут возникнуть из-за неверного решения, принятого ИИ. В самых критичных системах на электростанциях всегда есть возможность оперативно перейти от автоматизации к ручному управлению, чтобы держать процесс под контролем.

«Мы, очевидно, придем к тому, что предприятия будут насыщены датчиками, исполнительными механизмами, у нас везде будут качественные, резервированные каналы связи, способные гарантированно и быстро передавать информацию. Мы придем к тому, что искусственный интеллект охватит и технологические системы – это вопрос времени. Поэтому мы стараемся быть в авангарде этого процесса. Нужно не забывать, что качество работы технологий искусственного интеллекта зависит от того, на каких данных он обучается. И вопросы информационной безопасности для нас как никогда актуальны. Мы обеспокоены тем, что сейчас искусственный интеллект кратно сокращает время на проведение атаки, кратно удешевляет стоимость самой атаки. Поэтому, если организация не будет уделять кибербезопасности значительное внимание, мы достаточно быстро рискуем увидеть негативные воздействия после применения этих технологий», – отметил Эдуард Шереметцев.

Аудитор Счетной палаты Российской Федерации Светлана Орлова
Источник: трансляция BIS Summit 2026

Аудитор Счетной палаты Российской Федерации Светлана Орлова рассказала, что высший орган внешнего государственного аудита финансов активно внедряет искусственный интеллект в свои процессы. Счетная палата создает для сотрудников единое цифровое пространство, где большое количество проверок осуществляется в автоматическом режиме в реальном времени, без необходимости посещения того или иного министерства или ведомства. Так, ИИ значительно повысил эффективность проверки планов в рамках противодействия коррупции: в бюджет были возвращены суммы, измеряющиеся миллиардами рублей. Также изучение около 2000 контрактов на закупку программного обеспечения в 2025 году показало, что цена закупки типового ПО при сопоставимых условиях может различаться в 2,6 раза – это позволило проводить госзакупки более эффективно.

«Мы двигаемся в тренде. Но искусственный интеллект не везде должен заменять человека. Есть риски», – добавила Светлана Орлова.

Заместитель руководителя Федерального медико-биологического агентства (ФМБА) России Николай Лишин
Источник: трансляция BIS Summit 2026

Заместитель руководителя Федерального медико-биологического агентства (ФМБА) России Николай Лишин подтвердил, что медицинские учреждения уже уверенно пользуются системами на основе искусственного интеллекта: в частности, инструментами для анализа медицинских изображений (рентгеновских снимков, маммографии и т. д.). Это заметно ускоряет работу врача и повышает качество оказания медицинских услуг. ФМБА, работая со специальным контингентом (атомщики, спортсмены), накопило большой массив данных по определенным категориям, который позволяет обучать модель и в дальнейшем использовать ее наиболее эффективно.

«В начале этого года на накопленных данных о 3000 спортсменах мы разработали модель, которая предсказывает риски сердечно-сосудистых заболеваний. Это позволяет приоритизировать людей, когда они приходят на углубленное медобследование, врач уже видит, на кого надо обратить внимание в первую очередь, у кого есть эти риски. Поэтому в классических направлениях, которые давно известны, нейросети применяются и будут применяться в медицине. Мы внедряем не искусственный интеллект, а функции, которые повышают качество обслуживания, уровень здоровья наших граждан», – указал эксперт.

Генеральный директор АНО «НТЦ ЦК», лидер Консорциума исследований безопасности технологий искусственного интеллекта Игорь Качалин рассказал о деятельности консорциума, который появился два года назад. Сегодня эта организация занимается оценкой применения ИИ в региональных органах власти. По мнению эксперта, пока далеко не все регионы уделяют должное внимание информационной безопасности ИИ-систем: иногда их владелец даже не знает, где у него расположен искусственный интеллект, кто его обучал, насколько безопасна та технология, которую он применяет.

«Члены консорциума сейчас сосредоточились на подготовке методики оценки защищенности не собственно искусственного интеллекта как такового, а информационных систем, в которых используется искусственный интеллект как составляющая часть. На этом пути у нас есть проекты методик, мы движемся в сторону оценки безопасности применения генеративного искусственного интеллекта, агентных систем», – заверил он.

Генеральный директор АНО «НТЦ ЦК», лидер Консорциума исследований безопасности технологий искусственного интеллекта Игорь Качалин
Источник: трансляция BIS Summit 2026

Игорь Качалин обозначил проблему: даже система искусственного интеллекта, созданная отечественным разработчиком по всем требованиям к РБПО, будучи встроенной в конкретную информационную систему с определенной задачей, может оказаться недоверенной. Особенно эта ситуация будет усугубляться с появлением агентных систем, когда агенты начинают взаимодействовать между собой, и правила их взаимодействия не детерминированы. «Как построить границу ответственности? Как обеспечить это взаимодействие, сделать его безопасным? Над этим нам еще очень много предстоит работать», – указал он.

«Технологии искусственного интеллекта чрезвычайно быстро развиваются. Тест Тюринга был пройден только в 2023 году, совсем скоро начался бурный рост генеративного ИИ, за ним появились агентные системы, а сейчас мы уже говорим о мультиагентных системах – а ведь прошло всего три года. Проблема в том, что невозможно ждать устоявшейся технологии, чтобы потом пытаться придумать под нее безопасность. Нам нужно действовать одновременно с этим процессом. Радует, что сегодня говорить про безопасность в контексте применения ИИ начали не только ИБ-специалисты, но и руководители бизнеса, и государство. Очевидно, что в нашей стране нужно даже быстрее, чем западному миру, адаптировать к ИИ системы безопасности, поскольку, на мой взгляд, мы находимся в более уязвимом положении», – подытожила Наталья Касперская. 

Генеральный директор ЦКИТ Илья Массух
Источник: трансляция BIS Summit 2026

Безопасность ИИ-систем в бизнесе

На сессии «Диалог с бизнесом» представители коммерческих организаций разных направлений высказались о том, какие риски и возможности они видят в применении ИИ. Эксперты обозначили несколько типов рисков: технические (например, галлюцинации и ошибки модели), информационные (утечка данных через внешнюю модель, нарушение законодательства, внешние угрозы), операционные (сбой бизнес-процессов из-за неправильных решений ИИ), социальные (нагрузка на сотрудников, утрата компетенций), а также риск невнедрения ИИ.

Вице-президент «Лаборатории Касперского» по развитию бизнеса в России и странах СНГ Анна Кулашова
Источник: трансляция BIS Summit 2026

Вице-президент «Лаборатории Касперского» по развитию бизнеса в России и странах СНГ Анна Кулашова рассказала, что в компании фиксируют большое количество классических и таргетированных атак с использованием инструментов искусственного интеллекта, однако пока не было выявлено никаких новых тактик и техник, которые применяют злоумышленники.

«Поскольку техники и тактики те же, в целом классические системы обнаружения и реагирования на угрозы тоже позволяют с ними работать. Там встраиваются дополнительные модули, и на защите конечных устройств, например, встраивается контроль приложений. Так вы можете понимать, что у вас есть, и начинать этим управлять. То есть по мере развития инструментов атакующих развиваются активные инструменты и у защищающихся», – отметила она.

Директор по искусственному интеллекту в ИТ «Альфа-Банка» Святослав Соловьев
Источник: трансляция BIS Summit 2026

Директор по искусственному интеллекту в ИТ «Альфа-Банка» Святослав Соловьев перечислил два основных вопроса в области ИИ, критически важных для банка. Первый – как защитить собственные данные и данные клиентов (коммерческую и банковскую тайну) от утечек. Поэтому большинство моделей, применяемых сотрудниками «Альфа-Банка», – внутренние. Внешние используются для таких задач, как создание презентаций, маркетинг и т. п., то есть для автоматизации задач, не связанных с контуром данных. И даже в этом случае применяются специальные модули для маскирования всех персональных данных, которые могут попасть в модель.

Второй вопрос – защита от внешних угроз. «Мы стараемся здесь вести битву на опережение. Наша кибербезопасность очень активно использует модели искусственного интеллекта. Разумеется, у нас в контуре платформы нашего искусственного интеллекта есть модуль безопасности: мы таким образом стараемся как можно быстрее закрывать Zero-day уязвимости. У специалистов по безопасности есть отдельная песочница вне контура банка, где они в роли RedTeam тестируют все топовые модели, пытаются взломать наши же системы с целью улучшить нашу безопасность, применяют те подходы, которые сейчас применяют самые продвинутые злоумышленники», – рассказал эксперт.

Директор департамента управления инвестиционными проектами безопасности и планирования, «Норникеля» Алексей Малинский
Источник: трансляция BIS Summit 2026

Директор департамента управления инвестиционными проектами безопасности и планирования, «Норникеля» Алексей Малинский подтвердил, что в компании внедряют системы генеративного ИИ на предприятиях, ожидая от них большую финансовую эффективность, оптимизацию производства, экономии затрат. Служба безопасности работает параллельно с проектами внедрения ИИ, чтобы обеспечить стабильность бизнес-процессов. Поэтому к стоимости внедрения всех систем цифровизации в последние годы добавляются сопоставимые расходы на ИБ.

«Так как наработанных на рынке подходов к защите ИИ еще нет, мы идем по наиболее консервативному пути. Мы говорим о том, что можем использовать ИИ только в закрытом контуре, без использования внешних, открытых систем. И в этом закрытом контуре – идем в партнерство исключительно с отечественными разработчиками. Это нам обеспечивает такую глобальную составляющую безопасности», – пояснил спикер.

Директор Департамента технологической независимости объектов АСУ ТП и КИИ «Росатома» Степан Клятецкий
Источник: трансляция BIS Summit 2026

Директор Департамента технологической независимости объектов АСУ ТП и КИИ «Росатома» Степан Клятецкий подтвердил, что и в «Росатоме» придерживаются консервативной позиции по отношению к ИИ. Изначально все зарубежные и российские внешние модели здесь были запрещены, а сейчас они функционируют в ограниченном контуре, наподобие песочницы, но с реальными данными корпоративного уровня. Это, безусловно, связано с тем, что в корпорации управляют критически важными объектами.

«Спрос на ИИ растет. Расширяется количество сотрудников, которые начинают в производстве работать с моделями. Всё, что касается ИИ в промышленности, – пока это системы поддержки принятия решений, которые жестко ограничены по степени влияния. Например, оператор какой-то установки или производственного узла с помощью системы на основе генеративного искусственного интеллекта анализирует данные, но уже сам принимает для себя решение. Этот подход, я думаю, сохранится длительное время. Международное сообщество в атомной энергетике, рабочие группы в ООН и в МАГАТЭ, сходятся в том, что мы еще очень долго не будем давать возможности искусственному интеллекту непосредственно управлять производством и принимать решения самостоятельно», – прогнозирует спикер.

Руководитель АЛРИИ, директор «Нейролаб» Вячеслав Береснёв
Источник: трансляция BIS Summit 2026

Руководитель Ассоциации лабораторий по развитию искусственного интеллекта (АЛРИИ), директор «Нейролаб» Вячеслав Береснёв напомнил, что задолго до появления генеративного ИИ в России существовали компании, которые занимались искусственным интеллектом за пределами генеративного: например, компьютерным зрением, предиктивной аналитикой и т. д. Учитывая тренд на агентную экономику, стоит полагать, что важность малых и средних компаний, занимающихся нишевыми решениями в сфере ИИ, будет расти.

«Агент – первичен. Сама модель, на которую он опирается, – это двигатель, на котором едет машина. Если он плохой, машина всё равно как-то будет передвигаться. Но обвязка агента (Harness) – это всё остальное, что там есть. Если у тебя есть классный двигатель, но нет нормальной обвязки, ехать в машине будет крайне неприятно, либо она не заведется вообще. И внедрение агента — это не просто поставка софта, а намного более сложная вещь, потому что она приземляется на конкретные бизнес-процессы компании. Ты должен глубоко понимать, куда ты пришел, как там всё работает, и тогда твой агент будет работать хорошо», – рассказал он.

Особое внимание участники дискуссии уделили вопросу теневого ИИ. По результатам опроса гостей конференции, в 66% компаний используют ИИ, в 34 – нет. Российские ИИ применяют 13% респондентов, иностранный – 25%, оба – 28%. Однако эксперты полагают, что ИИ так или иначе присутствует уже в каждой компании – либо официально, либо в статусе Shadow AI.

Директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов
Источник: трансляция BIS Summit 2026

Директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов уверен, что, несмотря на устанавливаемые запреты, во всех более-менее крупных организациях (более пятидесяти человек), сотрудники когда-либо отправляли внутренние защищенные закрытые данные в облака: так быстрее, и человек полагает, что никакого вреда это не принесет. Чаще всего это действительно так.

Гораздо большую угрозу эксперт видит в бесплатных или дешевых агрегаторах ИИ-моделей, которые сегодня появились в большом количестве. «Надо сделать так, чтобы весь тот Harness, вся та система, которая развернута во внутреннем контролируемом контуре, были настолько хороши и удобны, чтобы мне не было никакой нужды ходить куда-то наружу, нелицензионными кривыми путями. Если ты этого не сделаешь, никакие остальные запреты не помогут», – объявил он.

Участники дискуссии сошлись во мнении о том, что в компаниях, заботящихся о сохранности данных, необходимо создавать внутренние удобные инструменты ИИ и формировать четкие правила их использования.

Дальнейшая программа BIS Summit 2026 была разделена на несколько параллельных потоков: дискуссий и практических сессий. О некоторых из них мы расскажем в отдельных материалах.