DevOps Lounge: митап про AI в проде

Дима Матушкин из Nova AI расскажет, как они собирали AI Gateway. Модель запущена, и дальше надо решать, кто может к ней обращаться, сколько токенов тратить и куда отправлять запрос, если модель недоступна. В докладе — RBAC, квоты, трейсинг, умная балансировка и фейловер, а ещё guardrails, которые снижают риск утечки персональных данных.

Сергей Харламов из VK Tech покажет, что вышло, когда агента подключили к Jira и рабочему мессенджеру команды. У такого «второго тимлида» можно спросить про сроки, попросить документацию или ревью и даже поручить выкатить фичу на стейдж. Апрув при этом всё равно даёт живой тимлид.

После докладов будет ужин, просмотр шоу-игры от коллег и сравнение, как похожие задачи решают в разных командах.

Митап пригодится DevOps- и MLOps-инженерам, тимлидам и архитекторам. Участие бесплатное: можно прийти в зал или подключиться онлайн.

После регистрации придёт письмо с приглашением на офлайн-встречу или ссылкой на трансляцию.

Подробности по ссылке