Эксперт Т1: путь к управляемому ИИ в корпорациях укладывается в пять этапов и 13 недель

Изображение: Magnific.com
Около 13 недель занимает построение промышленного ИИ-контура в корпорациях. Для этого компаниям придется пройти через масштабные изменения на пяти важнейших для бизнеса уровнях. Об этом на форуме Kazan Digital Week рассказал заместитель руководителя направления «Искусственный интеллект» ИТ-холдинга Т1 Сергей Карпович.

Первые ИИ-проекты нередко возникают в разных подразделениях независимо друг от друга: одна команда создаёт помощника для работы с обращениями, другая — ассистента для подготовки документов, третья экспериментирует с аналитикой данных. Такой подход позволяет быстро проверить гипотезы, но при тиражировании может приводить к повторяющимся расходам, несовместимым базам знаний и разным правилам доступа к информации.

«Количество запущенных ассистентов само по себе не является результатом. Руководителю важно видеть, какие модели и агенты работают в ведомстве, какие данные им доступны, сколько стоит каждая операция и кто отвечает за качество и риски. Для этого нужен единый контур управления ИИ, а не просто объединение уже проведённых пилотов», — отметил Сергей Карпович.

По словам эксперта, переход к такой модели требует изменений на пяти уровнях. Первый уровень — модели. Доступ к ним должен централизоваться через единую точку в защищённом контуре, где действуют общие правила, ограничения и механизмы контроля.

Второй уровень — знания. Разрозненные базы необходимо заменить общим семантическим слоем. Система должна находить сведения в проверенных нормативных документах, регламентах и ведомственных источниках, а сотрудник — видеть, на основании чего подготовлен ответ.

Третий уровень — цифровые сотрудники. Всех ИИ-агентов следует включить в общий реестр. Для каждого из них необходимо зафиксировать владельца, назначение, версию, доступные операции и жизненный цикл.

Четвёртый уровень — экономика. Наряду с бюджетом проекта необходимо измерять стоимость конкретной операции — обработки обращения, документа или заявки. Это позволяет сравнивать эффект от внедрения с исходными показателями процесса.

Пятый уровень — риски. Контроль нужно выстраивать не только после выполнения действия, но и до него: через ограничения доступа, обязательные согласования, журналирование операций и возможность перехода к ручному режиму.

Значение такого контроля возрастает по мере того, как ИИ переходит от подготовки ответов к выполнению действий в государственных информационных системах.

«Ошибка при подготовке справки и ошибка при выполнении операции — это разные уровни риска и ответственности. Поэтому границы полномочий ИИ нужно определять заранее. Изменение критичной записи или отправка юридически значимого документа должны требовать подтверждения человеком, а архитектура — предусматривать остановку системы и возврат к ручному процессу», — подчеркнул Сергей Карпович.

Для российского госсектора, по мнению эксперта, принципиально важно предусматривать размещение моделей, данных и исполнения агентов в защищённом контуре уже при выборе архитектуры и подрядчиков, а не переносить эти вопросы на этап промышленного запуска.

Аналогичные принципы управляемости закладываются и в зарубежные модели. Великобритания включает в число государственных принципов применения ИИ понимание ограничений технологии, управление жизненным циклом системы и осмысленный человеческий контроль. Сингапур предлагает ограничивать автономию агентов, предоставлять им минимально необходимые права и расширять полномочия постепенно — после тестирования и с постоянным мониторингом.

Сергей Карпович рекомендует начинать переход к целевой модели с одного процесса, у которого есть ответственный владелец, измеримый результат и ограниченный уровень риска. За 13 недель можно пройти путь от анализа процесса и фиксации исходных показателей до создания и проверки ассистента, его ограниченной эксплуатации и оценки результатов. Этот срок является ориентиром для одного процесса: фактическая продолжительность зависит от готовности данных, количества интеграций и требований безопасности.

«Запуск ассистента не завершает работу по управлению ИИ. Качество, стоимость операций и риски необходимо оценивать постоянно. Если первый сценарий подтвердил эффект, следующие можно масштабировать на общей платформе — с уже созданными моделями, источниками знаний, интеграциями и правилами контроля», — заключил Сергей Карпович.

Тематики: Интеграция

Ключевые слова: Искусственный интеллект, Т1