От экспериментов к продакшену: как превратить ИИ-агентов в управляемый инструмент для бизнеса и критичных ИТ-систем

Создание такой платформы продиктовано острой потребностью рынка: когда искусственный интеллект выходит за рамки простых чат-ботов и начинает работать в критически важных контурах, на первый план выходят вопросы надежности, безопасности и предсказуемости. Именно поэтому презентация вызвала большой интерес как у руководителей бизнеса и ИТ-директоров, оценивающих возврат инвестиций, так и у профильных технических специалистов — архитекторов, DevOps-инженеров и команд эксплуатации, отвечающих за бесперебойную работу сложных систем. О том, как устроена новая платформа и какие результаты она уже показывает на практике, рассказали генеральный директор «Эксепто» Роман Венедиктов, директор по развитию платформенных ИИ-продуктов компании Василий Ситников и архитектор мультиагентной платформы, кандидат технических наук, доцент и старший научный сотрудник Института ИИ ИТМО Николай Бутаков.

Почему ИИ-агенты не доживают до продакшена и при чем здесь «упряжь»

Мировой рынок корпоративного ИИ сегодня переживает парадоксальную ситуацию: интерес к агентным технологиям растет взрывными темпами, но подавляющее большинство запущенных проектов так и остаются на стадии экспериментов. Аналитики Gartner прогнозируют, что к 2027 году более 40% проектов с использованием ИИ-агентов будут закрыты из-за проблем с управляемостью, особенно там, где речь идет о критичных бизнес-процессах.

Директор по развитию платформенных ИИ-продуктов «Эксепто» Василий Ситников напомнил, с каким оптимизмом индустрия входила в этот технологический цикл и как быстро пришло отрезвление при столкновении с реальной экономикой предприятий.

«6 января 2025 года с утра Сэм Альтман написал в Твиттере: "В этом году агенты выйдут на работу". А вечером того же самого дня, не договариваясь с ним, Дженсен Хуанг сказал: "ИТ-отдел — это будет HR-отдел агентов". Прошел год, и давайте посмотрим, что получилось. Исследование KPMG в крупных американских компаниях показало скачок применения агентских приложений с 11% до 53%, а опрос CIO во всех компаниях от Gartner дал 17%. Но самое главное показали исследования MIT: 95%, то есть почти все пилоты, не имеют вообще никакого обоснования в P&L и какого-то влияния на бизнес-эффективность, а более половины внедрений вообще не доходят до промышленной эксплуатации», — напомнил Василий Ситников.

Причина массового провала пилотов кроется не в слабых возможностях нейросетей, а в оторванности моделей от реальной среды предприятия. В подтверждение этого тезиса спикер привел наблюдения ведущих мировых игроков — от компании Databricks, чьи клиенты запустили более 100 тысяч агентов, потребляющих свыше квадриллиона токенов в год, до полностью автоматизированного завода Xiaomi («Dark Factory») в Китае, где алгоритмы без участия людей самостоятельно перенастраивают линию и выпускают по одному флагманскому смартфону каждые шесть секунд. Во всех успешных кейсах главную ценность создает не сама языковая модель, а оцифрованная онтология предприятия и инфраструктурная обвязка вокруг ИИ.

Место платформы «Эксепто» в технологическом стеке
Фото: пресс-служба Эксепто

«За 20 месяцев из ничего, само собой, родилась новая категория продуктов — мультиагентная платформа. Али Годси, генеральный директор Databricks, сказал прекрасную фразу: вообще говоря, у искусственного интеллекта нет проблем с интеллектом, у него проблема с контекстом. Сейчас уже не модель решает, а решает то, насколько вы хорошо эксплуатируете эту модель, то есть насколько у вас продвинутый Harness. По-русски Harness — это «упряжь» или обвязка. По аналогии с автомобилем это жгут проводов, который соединяет ваш мотор с внутренней бортовой электроникой, с трансмиссией и колесами. В нашем случае это инструменты, знания, права и журнал — то, что объединяет система, чтобы бодро скакать на модели. Машина — это не мотор, и агент — это не модель», — объяснил Василий Ситников.

При этом готовые шаблоны от глобальных облачных гиперскейлеров или крупных вендоров бизнес-софта подходят далеко не всем: большинство компаний обладают уникальным ИТ-ландшафтом и собственными регламентами безопасности, которые невозможно полностью перенести в чужое облако.

«Для большинства компаний платформа должна собираться под ваш процесс, а не вы должны ехать в процессы вендора. Почему это важно? Потому что вы десятилетиями налаживали свою систему контроля качества, у вас собственная информационная безопасность, вы занимаетесь теорией ограничений и скрупулезно вытачиваете это под свою компанию. Именно поэтому мультиагентная платформа должна адаптироваться под ваш процесс, а не наоборот», — подчеркнул докладчик.

Отделить модель от процесса: философия платформы «Эксепто»

Чтобы решить проблему управляемости и довести ИИ-агентов до реального производственного контура, в проекте «Эксепто» объединили две взаимодополняющие экспертизы. Провайдер Selectel привнес многолетний опыт промышленной эксплуатации масштабной инфраструктуры, знание корпоративного контура и высоких стандартов информационной безопасности, а Университет ИТМО — фундаментальную научную школу в области искусственного интеллекта и мультиагентных систем.

«Мы занимаемся довольно простой по формулировке, но сложной на практике задачей — как довести агентные платформы до реальных процессов внутри компании. Для того чтобы агенты могли решать задачи, им нужно создать рабочую среду. В нашем понимании это значит, что агенту нужно дать необходимые данные, обеспечить его инструментами и подключить к корпоративным системам. Очень важно объяснить агентам, как устроен процесс, из каких элементов он состоит и как они взаимосвязаны между собой. Ну и права и границы: агент должен понимать, что он делает сам, а где оставляет решение за человеком», — рассказал генеральный директор «Эксепто» Роман Венедиктов.

Зачем нужен отдельный слой
Фото: пресс-служба Эксепто

Если взглянуть на корпоративный ИТ-стек снизу вверх, где в основании лежат серверное оборудование, облако и управляемые сервисы, а этажом выше располагаются каталоги ИИ-моделей и роутеры, то платформа «Эксепто» занимает верхний архитектурный уровень — именно там, где искусственный интеллект непосредственно соприкасается с бизнес-процессами компании. Выделение этого слоя в независимую платформу решает важнейшую стратегическую задачу для бизнеса — избавляет от зависимости от конкретных нейросетей.

Генеральный директор «Эксепто» Роман Венедиктов
Фото: пресс-служба Эксепто

Роман Венедиктов напомнил, что в современном мире искусственный интеллект развивается очень быстро: сегодня одна модель хороша для процессов, а через полгода появляется другая. Поэтому партнеры строят платформу таким образом, чтобы смена модели не приводила к тому, что придется менять все интеграции, правила и прочие процессы. То есть модель можно поменять, а корпоративный процесс и информационные системы должны продолжить работать. «По сути, идея та же, что и у VMware: отделить модель от корпоративного процесса», — пояснил он.

В основу платформы заложены пять фундаментальных принципов управляемости. Прежде всего это контекст и знания, позволяющие системе понимать структуру процесса и связи между его объектами. Второй элемент — четко определенные источники данных и инструменты для выполнения операций. Третий — строгие права и правила, разграничивающие зону автономии алгоритма и полномочия человека. Четвертый принцип отвечает за слаженную совместную работу нескольких агентов над общей задачей, а пятый обеспечивает сквозной контроль и верификацию полученного результата.

Практика в масштабах дата-центров: как «Сигнал» ищет и находит причины сбоев за считанные минуты

Как эти принципы работают в боевом режиме, команда продемонстрировала на примере продукта «Сигнал» — инструмента первичной диагностики инцидентов, который уже внедрен и эксплуатируется в инженерной службе Selectel. Инфраструктура облачного провайдера представляет собой сложнейший живой организм: шесть собственных дата-центров, свыше 50 продуктовых решений, десятки тысяч клиентов и более 20 тысяч датчиков только в одном ЦОД.

Когда в глубине такой инфраструктуры случается нетривиальный сбой, на дежурного инженера третьей или четвертой линии поддержки обрушиваются десятки разрозненных алертов и клиентских обращений. Прежде чем приступить к починке, специалисту нужно вручную изучить тикеты, логи и графики мониторинга просто для того, чтобы понять картину происходящего. На этот первичный сбор данных ранее уходило до 30 минут драгоценного времени, причем скорость диагностики сильно зависела от личного опыта конкретного дежурного. Классические средства автоматизации вроде жестких скриптов и заранее написанных сценариев (ранбуков) в таких ситуациях часто пасуют: инфраструктура постоянно обновляется, и за одинаковыми симптомами — например, замедлением отклика сервиса — могут скрываться совершенно разные первопричины.

Чтобы научить ИИ-агентов ориентироваться в этой среде не вслепую, разработчики дали «Сигналу» машинопонимаемую карту ИТ-ландшафта — онтологию, которая в контуре Selectel объединяет уже более 500 тысяч объектов и функциональных связей между ними. Роман Венедиктов сравнил работу этой системы с диагностикой современного автомобиля: когда на приборной панели загорается индикатор Check Engine, сам по себе он не указывает на конкретную деталь, но понимание устройства машины и опрос связанных датчиков позволяют точно локализовать поломку. Точно так же при падении нескольких сервисов «Сигнал» по карте связей находит их общий зависимый элемент, выдвигает гипотезу и отправляет агентов в мониторинг, логи, тикеты и документацию за доказательствами.

«У нас есть жесткое правило, которое применимо во всех наших продуктах: любая гипотеза без доказательства наружу не выходит. И второе — все расследования у нас сохраняются. Мы должны понимать, куда ходили агенты, зачем они туда ходили, что они сохраняли и как формировались эти гипотезы. В итоге инженер получает карточку инцидента, в которой указана вероятная причина, доказательства, на которых эта причина основана, и рекомендуемый следующий шаг. Доверие здесь строится на быстрой проверяемости фактов, но решение всегда остается за человеком. В нашей ситуации граница очень простая: «Сигнал» готовит разбор инцидента и снимает с инженера механическую часть работы, а инженер принимает решение и отвечает за действия в инфраструктуре», — подчеркнул Роман Венедиктов.

Запуск первого контура внедрения занял четыре месяца и принес бизнесу и команде эксплуатации осязаемый эффект, превзошедший изначальные ожидания. Если на старте проекта целевым показателем времени подготовки гипотезы были 7 минут вместо прежних 30, то в реальной эксплуатации «Сигнал» стал выдавать готовую гипотезу всего за 3 минуты, а полный отчет — менее чем за 5 минут. Точность попадания верной причины в топ гипотез достигла 90% при планке в 80%. В масштабах компании это позволило высвободить до 200 инженерных часов в месяц для решения сложных профильных задач, а вся история расследований стала автоматически сохраняться внутри команды, превращая индивидуальный опыт инженеров в постоянный корпоративный актив.

Что под капотом: три слоя архитектуры и агенты, которые сами пишут код

О том, как устроена внутренняя инженерия решения, рассказал архитектор платформы и старший научный сотрудник Института ИИ ИТМО Николай Бутаков. С технической точки зрения «Сигнал» спроектирован как трехуровневая мультиагентная микросервисная система, где каждый уровень работает на своем временном горизонте.

Архитектор платформы «Эgксепто» Николай Бутаков
Фото: пресс-служба «Эксепто»

Итак, «Сигнал» — это мультиагентная микросервисная система, состоящая из трех основных слоев, которые связаны между собой в разных временных интервалах. Первый уровень — Runtime, или Harness, отвечающий за оперативную деятельность здесь и сейчас. Второй — Meta-Harness, отвечающий за фоновые долгосрочные операции анализа и оптимизации. И третий слой — это интеграция с платформой «Эксепто» и командой автоматической разработки, позволяющая дорабатывать само решение на уровне кода в процессе эксплуатации.

Первый оперативный слой (Runtime) принимает входящие алерты из систем вроде Grafana OnCall и тикеты из Jira через брокеры сообщений RabbitMQ или Kafka, гарантируя надежную доставку каждого события по семантике at-least-once, а также предоставляет инженерам интерактивное окно на базе OpenWebUI. Внутри этого слоя трудятся два ключевых агента, способные при необходимости порождать субагентов. Первый — автономный агент-расследователь, который без участия человека разбирает инцидент и прикрепляет готовый отчет с доказательствами прямо в карточку алерта или комментарий в Jira. Второй — интерактивный операционный агент, которому инженер может поручить собрать данные по сервису, выстроить таймлайн событий, рассчитать радиус поражения (blast radius) перед обновлением или провести проактивный поиск узких мест в системе. При этом агенты опираются на базу знаний и общаются с инфраструктурой через слой MCP-серверов в безопасном режиме чтения (read-only) со встроенными ограничителями частоты запросов (rate limiters), что полностью исключает риск перегрузить наблюдаемую систему.

«Ядром нашей базы знаний является "модель мира" — это граф знаний с онтологией, который позволяет отвечать на вопросы: какие сервисы у нас вообще есть, как они между собой связаны именно функционально, как они образуют продукты, как привязаны к слою observability — то есть где мне найти логи и метрики для конкретных сервисов — и как это все связано с логической и физической инфраструктурой. Кроме этого, важным звеном являются ранбуки, скиллы и проиндексированные предыдущие кейсы, благодаря которым агент не тратит время на заведомо маловероятные гипотезы, а следует четкой последовательности действий и начинает импровизировать только тогда, когда стандартный сценарий не привел к подтверждению», — говорит Николай Бутаков.

Второй архитектурный слой — Meta-Harness — включает служебных агентов, которые наблюдают за работой основных агентов и непрерывно совершенствуют систему. Когда служебный уровень фиксирует слишком долгий поиск причины или большое число вызовов инструментов, он анализирует успешные трассы расследований и превращает этот опыт в новые стандартизированные ранбуки и скиллы.                                                                                                                  

По словам Николая Бутакова, Meta-Harness улучшает основной Harness, чтобы он впоследствии работал быстрее: например, то, что раньше решалось за 5–7 запросов к языковой модели, начинает решаться за 1–2 запроса. Вторая его задача — это майнинг базы знаний, то есть обследование незнакомой динамической legacy-инфраструктуры для построения графа знаний. Кроме того, он может подключать новые источники данных и сам формировать фичер-реквесты для следующего слоя, если видит, что необходима оптимизация на уровне кода.

Самая инновационная часть архитектуры скрыта на третьем уровне, где «Сигнал» интегрируется непосредственно с платформой «Эксепто» и получает в свое распоряжение собственную команду ИИ-агентов-разработчиков. Это позволяет продукту самостоятельно адаптироваться к изменениям в ИТ-среде заказчика — например, при переезде компании на другую тикет-систему или появлении новых источников данных.

«Это набор агентов, который позволяет поддерживать решение в течение всего его функционирования у клиента. Если Meta-Harness вносит правки на уровне базы знаний и конфигурации, то этот компонент позволяет прямо изменять кодовую базу самого решения. Чтобы команда разработки не принимала излишне резких решений, ее направляет спецификация. Все проходит через полный и надежный цикл разработки: от оценки спецификации, проектирования и написания кода до проверки агентами тестирования, внутреннего развертывания для сквозного тестирования и формирования Merge Request с возможностью выкатки в тестовую среду и в прод», — резюмировал Николай Бутаков.

От диагностики до создания приложений: продуктовая линейка для бизнеса

Помимо технического «Сигнала», на единых принципах онтологии и доказательности команда «Эксепто» развивает еще три продукта, ориентированных непосредственно на управленцев и бизнес-подразделения.

Экосистема платформы «Эксепто»
Фото: пресс-служба Эксепто

Продукт «Карта» выступает операционным помощником руководителя: он собирает разрозненные данные из многочисленных корпоративных баз и информационных систем, сопоставляет их с ролевой моделью компании и помогает всесторонне разобрать рабочую ситуацию для принятия управленческого решения.

Второй инструмент — «Радар» — создан для отделов закупок и рыночной аналитики. Когда закупщику приносят таблицу с незнакомой технической номенклатурой, система помогает вычленить ключевые характеристики изделий, сопоставить их с глобальным рынком и найти альтернативных производителей.

Четвертым продуктом линейки стал «Цех» — выросший из внутренних механизмов авторазработки инструмент для бизнес-заказчиков, позволяющий автоматизировать создание и корпоративное внедрение новых приложений по текстовому описанию задачи.

Сотрудники «Эксепто» отвечают на вопросы на стенде компании
Фото: пресс-служба Эксепто

«У всех нас есть задачи, которые мы можем описать словами, но бизнес-пользователь не программист и не обязан программировать. Сейчас экономика создания приложений сильно изменилась: само приложение можно создать буквально за часы. Но ведь создать приложение — не значит внедрить и интегрировать его в компанию. Дальше начинаются обычные корпоративные процессы: как связать его с системами, как настроить доступы, как сопровождать работу, когда внутри компании что-то меняется. "Цех" помогает пройти весь этот путь. Мы строим нашу платформу управления агентами "Эксепто" для того, чтобы возможности искусственного интеллекта переросли в реальные результаты для бизнеса», — подытожил Роман Венедиктов.