Как мы создали внутреннего ИИ-помощника на базе RAG и перестали искать ответы по корпоративной Wiki

В сфере искусственного интеллекта произошло заметное событие. ilyakashlakov 3 минуты назад Как мы создали внутреннего ИИ-помощника на базе RAG и перестали искать ответы по корпоративной Wiki Средний 6 мин 39 Блог компании ЮMoney Искусственный интеллект Машинное обучение * Программирование * Кейс Компании со временем накапливают тысячи страниц документации, и найти нужную информацию становится всё сложнее. Обычный поиск перестаёт справляться, сотрудники тратят время на навигацию по Wiki и повторяют одни и те же вопросы коллегам. Как решили эту проблему: когда большие языковые модели стали рабочим инструментом, мы объединили корпоративные знания с возможностями LLM.

Так появился Юджин — AI-ассистент, который понимает смысл запроса, а не просто ищет совпадения по словам. Меня зовут Илья, я директор департамента разработки ЮMoney. Расскажу, почему отказались от готовых решений и как построили RAG-платформу для корпоративных знаний.

Технические детали

Материал будет полезен архитекторам, AI-инженерам и всем, кто внедряет корпоративные LLM-решения. Почему мы не купили готовое решениеКорпоративных AI-ассистентов на рынке много, но большинство требует ручной загрузки данных. Для небольшой базы знаний это приемлемо, но в компании с постоянно меняющейся документацией такой подход не масштабируется.

Критичным ограничением стала и безопасность — мы не можем передавать конфиденциальные данные внешним сервисам. Поэтому собственная платформа дала полный контроль над источниками, индексацией, выбором моделей и развитием продукта. Что умеет Юджин сегодняЮджин — внутренний AI-ассистент компании.

Он ищет информацию по корпоративным источникам, работает с документами, помогает с кодом и анализирует прикреплённые файлы. Поисковый индекс охватывает документацию, регламенты, инструкции и описания бизнес-процессов. Интерфейс ЮджинаВ чат можно загрузить документ размером до 5 МБ, чтобы получить краткое содержание, найти нужную информацию или задать вопросы по его содержимому.

Отраслевые последствия

Почему это не дообучение моделиМы используем технологию RAG (Retrieval-Augmented Generation): модель не обучается на корпоративной информации. Вместо этого:документы индексируются и преобразуются в векторные представления;по запросу система находит релевантные фрагменты;найденные данные передаются в контекст модели;модель формирует ответ, опираясь на наполненный контекст. Такой подход позволяет быстро обновлять базу знаний без переобучения модели, снижает стоимость эксплуатации и даёт больше контроля над актуальностью данных и безопасностью.

Как устроен поиск внутри ЮджинаАрхитектура Юджина сложнее обычного чат-бота и включает два процесса: формирование базы знаний и поиск по запросу пользователя. Формирование базы знаний ЮджинаШаг 1. Сбор данныхСистема подключается к Wiki, Bitbucket и внутренним документам, автоматически выгружая содержимое для индексации.

Индексация происходит непрерывно, но не после каждого сохранения: при частых правках изменения накапливаются и обрабатываются пакетно через заданные интервалы. Это снижает нагрузку и исключает лишние пересчёты.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.