Архитектура RAG с виртуальной файловой системой и LLM-роутером

В сфере искусственного интеллекта произошло заметное событие. DaMaNic 29 минут назад Архитектура RAG с виртуальной файловой системой и LLM-роутером 3 мин 1K Алгоритмы * Искусственный интеллект Ненормальное программирование * Обзор ВведениеКлассический RAG (Retrieval-Augmented Generation) решает задачу поиска релевантного контекста в векторных базах данных. Однако при работе с большими объемами знаний возникают вопросы структурирования, управления и актуализации информации. В данной статье рассматривается альтернативный подход: использование LLM-роутера и виртуальной файловой системы (VFS) для организации базы знаний.

Реализация выполнена на базе модели Qwen2. 5-3B-instruct-q5_0 и представляет собой концептуальный прототип. Основная идеяАрхитектура вводит дополнительный уровень абстракции между пользователем и векторной базой данных.

Технические детали

Вместо прямого добавления документов в плоское хранилище чанков, система использует LLM для анализа содержимого и автоматического размещения информации в иерархической структуре. Метафора: Система работает как студент с хорошей памятью, но ограниченными знаниями. Если ему предоставить новый материал в естественной форме (например, статью из Википедии), он способен:Понять тему документаОпределить подходящее место для храненияСтруктурировать информацию для последующего использованияИспользовать накопленные знания при ответе на вопросыАрхитектурные компоненты1.

LLM-роутерКомпонент отвечает за классификацию пользовательских запросов и определение намерений:Запрос к базе знаний — запуск поиска в RAGДобавление документа — анализ содержимого и генерация пути в VFSНеоднозначный ввод — запрос уточнения у пользователяРоутер использует локальную LLM с низкой температурой (0. 1) для обеспечения детерминированности. Результат работы — структурированный JSON с полями action, vfs_path, reasoning.

Виртуальная файловая система (VFS)Иерархическая структура путей (аналог файловой системы) для организации документов. Каждый документ имеет уникальный путь (например, /архив/статьи/нейросети/rag_архитектура. Особенность реализации: Двойное хранение данных:Коллекция полных текстов — оригинальные документы для чтения и редактированияКоллекция чанков — фрагменты документов с перекрытиями для семантического поискаЭто позволяет редактировать документы без проблем с overlapping-чанками.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.