Naumen идет в генеративный ИИ и запускает LLM-лабораторию

Naumen начал тестирование больших языковых моделей (Large Language Models, LLM) в продуктах компании, чтобы найти способы применения технологии с понятной выгодой для бизнеса. Большие языковые модели позволяют обобщать, понимать и генерировать тексты на разных языках, а также поддерживают интерактивный диалог.

Первым реализованным проектом станет интеллектуальный ассистент Naumen GPT AssistTool, который встраивается в систему управления знаниями Naumen KMS. Задача ассистента — сделать работу сотрудников контактных центов проще и удобнее. В основе решения лежат open source модели, а в перспективе возможна интеграция с российскими вендорами LLM.

Naumen GPT анализирует статьи из базы знаний и генерирует человекоподобный ответ, который можно сразу использовать в диалоге с клиентом. Следуя политике распространения информации, он формирует ответы в рамках той зоны базы знаний, к которой у пользователя есть доступ. Каждый ответ снабжает ссылками на источники или дает сниппеты статей как подтверждение того, что ответ сгенерирован на основе реальных данных. Ответы можно оценить с точки зрения полезности для дальнейшего обучения и корректировки поведения системы.

LLM-модуль в два раза ускоряет поиск информации и подготовку ответов в ситуациях, когда в базе знаний нет готового ответа на вопрос или когда для сбора информации нужно задействовать несколько статей, например, при сравнении продуктов. Он также способен обрабатывать сложные и составные вопросы.

Naumen готовится к тестированию решения на пилотных проектах с клиентами, которые уже используют систему управления знаниями Naumen. LLM-практика также изучает возможность применения технологий GenAI и в других продуктах компании. Например, в процессе создания текстовых и голосовых ботов LLM-модели могут помочь сделать ответы бота более гибкими и эмпатичными. Среди решений в фокусе внимания практики — Naumen Contact Center, Naumen Erudite, Naumen LMS, Naumen Conversational Intelligence, Naumen Service Desk Pro, Naumen Project Ruler.  

«LLM-модели могут способствовать сокращению трудозатрат на настройку решений и создание контента, обеспечить более эффективную помощь операторам, а также стать источником нового пользовательского опыта. И наша задача как вендора — как можно быстрее понять, где применение GenAI оправдано и может принести быстрый бизнес-эффект», — Сергей Попов, директор департамента контактных центров и роботизированных систем Naumen.

«Использование больших языковых моделей в перспективе значительно поднимет уровень обработки и генерации текста во всех решениях продуктовой линейки Naumen. Благодаря этому наши заказчики получат еще больший прирост производительности труда по итогам использования наших технологий», — Игорь Кириченко, CEO Naumen.