Алексей Коробченко («Код Безопасности»): «Внедрение и использование ИИ-технологий наблюдается повсеместно, и это меняет рынок кибербезопасности»

— Алексей, насколько сильно за последние годы изменился рынок ИБ, а также подходы компаний к обеспечению ИБ под влиянием ИИ? В чем проявляются эти изменения?

— Рынок кибербезопасности действительно претерпел довольно сильные изменения, поскольку внедрение и использование ИИ-технологий наблюдается повсеместно. С помощью нейросетей компании пишут код, анализируют большие объемы данных, выявляют сложные атаки – в общем, применяют буквально во всех сегментах ИБ.

При этом надо отметить, что появилось новое направление – обеспечение безопасности самих технологий искусственного интеллекта. Если раньше компании могли внедрять их ради интереса, в ограниченных масштабах, а потому не сильно задумывались о возможных угрозах, то сегодня вопрос безопасности стоит довольно остро. В частности, бизнес должен очень внимательно обращаться с корпоративными данными и информацией своих клиентов-пользователей.

Начальник отдела по информационной безопасности компании «Код Безопасности» Алексей Коробченко

Фото: «Код Безопасности»

 — Сегодня искусственным интеллектом пользуется любая мало-мальски крупная компания. При этом многие выбирают публичные нейросети. Есть ли в них опасность?

 — Как и любой публичный сервис, главный риск таких нейросетей – утечка информации. Поэтому при работе с ними есть железное правило – не загружать чувствительные, конфиденциальные данные.

 — Если говорить про угрозы со стороны ИИ, какие категории можно выделить и какие из них вы считаете наиболее болезненными с точки зрения возможного ущерба?

 — Я бы не стал выделять какие-то конкретные категории, потому что использование ИИ в кибератаках имеет довольно размытые черты.

Пожалуй, чаще всего злоумышленники используют искусственный интеллект для различных легенд в рамках социальной инженерии, скажем, создания правдоподобной фейковой страницы онлайн-магазина или банка, написание текста в фишинговом сообщении, сборе информации о целевой компании, а также для автоматизации отдельных этапов хакерской кампании.

 — Согласно различным данным, подавляющая доля кибератак происходит с помощью ботов.

 — Это действительно так – недаром была упомянута автоматизация атак. Для большинства этапов достаточно правильно настроенных ботов, а люди, как правило, подключаются на более поздних стадиях, когда уже произошло закрепление в ИТ-инфраструктуре цели, найдены бэкапы и наиболее ценные данные.

 — А применяются ли ИИ-технологии в работе ИБ-специалистов?

 — Конечно, ведь и «темная», и «светлая» стороны, строго говоря, используют одни и те же технологии. И нейросети здесь не исключение. В основном специалисты по кибербезопасности применяют искусственный интеллект в двух сегментах своей деятельности: анализе данных и автоматизации рутинных действий. Первый сегмент занимает особое положение, поскольку позволяет значительно повысить эффективность работы средств защиты информации. Например, в NGFW «Континент 4» от «Кода Безопасности» используется модуль поведенческого анализа, который анализирует характеристики и параметры сетевого трафика в онлайн-режиме, что позволяет мгновенно обнаруживать потенциальные атаки. При этом модуль самообучается, и, если каких-то параметров трафика нет в шаблонах, но его характеристики кажутся подозрительными, ИИ его заблокирует.

Также нейросети активно применяются в написании различных текстов, справок и плейбуков (сценариев реагирования на инциденты), причем в последнем случае степень автоматизации весьма широка: ИИ может предложить специалисту несколько вариантов действий, а может отработать самостоятельно, при этом ИБ-сотруднику останется только проконтролировать корректность исполнения.

Но все же важно понимать, что нейросети остаются всего лишь вспомогательными инструментами, и полная автоматизация кибербезопасности если и возможна, то очень нескоро.

 — Почему?

 — Во-первых, кибербезопасность – это комплексная история. Можно установить лучшие средства защиты, отладить ИИ-инструменты до безупречности и просто контролировать работу всей системы, попивая кофе, но рано или поздно злоумышленник проникнет в твою ИТ-инфраструктуру. Потому что ты не написал политики безопасности для сотрудников компании, и один из топ-менеджеров установил пароль Qwerty123. Забыл ты и про инструменты комплаенса, которые не позволили бы в принципе установить такой пароль. Так что одни только продвинутые решения не обеспечат безопасность – это всегда сочетание технологий и организационных мер, в том числе скрупулезного написания методичек, политик безопасности, проведения регулярных киберучений и так далее.

Во-вторых, кибербезопасность – это процесс, который не имеет конца. Можно построить идеальную систему (в теории), учесть и актуальные технологии, и необходимые организационные меры, но однажды поставщик твоего ПО выкатит новое обновление, в котором хакеры обнаружат уязвимость нулевого дня. И здесь будут работать уже другие механизмы безопасности и мониторинга, которые тоже важно учитывать.

 — ИИ внедряется в каждый сегмент ИБ-инструментов или есть решения, куда нейросетям ход закрыт?

 — Если не во все, то в большинство, поскольку нейросети действительно показывают высокую эффективность.

 — Какие ИБ-инструменты вы могли бы назвать и какой эффект приносит ИИ в этом контексте?

 — Один из самых показательных сегментов – решения класса DLP, где за счет использования нейросетей существенно улучается контекстный анализ данных. Благодаря ИИ, атаки отлавливаются не столько по сигнатурам, то есть известным параметрам, характерным для той или иной атаки, сколько по контексту. Иными словами, анализируется более масштабный объем критериев, что существенно снижает количество ложных срабатываний. Кроме того, ИИ-инструменты помогают формировать портрет каждого конкретного пользователя, что позволяет обнаружить его компрометацию уже на ранних стадиях.

 — Большое спасибо за беседу!