Хватит жечь токены на поиск файлов: как QMD помогает кодинг-агентам экономить до 40%
igumnov 11 минут назад Краткое содержание статьи Хватит жечь токены на поиск файлов: как QMD помогает кодинг-агентам экономить до 40% Сложный 5 мин 109 Программирование * Искусственный интеллект Машинное обучение *...
Will Anthropic be the #3 AI Lab at the end of November 2026 (Style Control On)?
Вот важная новость с фронта ИИ: igumnov 11 минут назад Краткое содержание статьи Хватит жечь токены на поиск файлов: как QMD помогает кодинг-агентам экономить до 40% Сложный 5 мин 109 Программирование * Искусственный интеллект Машинное обучение * IT-инфраструктура * Туториал Я заметил что кодинг агенты перед выполнением задачи запускают "find, rg --files, glob" для поиска файлов и нужных классов и модулей. Потом поиск по содержимому файлов через "rg, grep". И на это сжигается много токенов.
И я решил проверить можно ли сэкономить на токенах используя семантический поиск вместо всего выше перечисленного. Если локальный GPU простаивает, почему бы тогда на нем семантический поиск не гонять. Сам я работаю в компании связанной с безопасностью.
Технические детали
И в одном из моих проектов я использую семантический поиск чувствительных документов. И тут мне знакомый присылает ссылку на OpenSource проект который тоже занимается этой задачей. Проект называется "QMD - Query Markup Documents".
Работает из командной строки, извлекает текст из всех форматов документов и создает индекс. Поддерживает он несколько вариантов поиска:# Search across everything qmd search "project timeline" # Fast keyword search qmd vsearch "how to deploy" # Semantic search qmd query "quarterly planning process" # Hybrid + reranking (best quality)Нас интересует последний вариант. Чтобы он работал требуется 3 вещи:embeddinggemma-300M-Q8_0 Vector embeddings (default) ~300MBqwen3-reranker-0.
6b-q8_0 Re-ranking ~640MBqmd-query-expansion-1. 7B-q4_k_m Query expansion (fine-tuned) ~1. 1GBПервая модель используется для индекса чтобы вычислить смысловые вектора кусков текста.
Отраслевые последствия
Вторая используется чтобы сравнить то что было найдено насколько оно близко по смыслу с поисковым запросом. Ну а третья чтобы нагенерить несколько поисковых запросов из исходного запроса чтобы поиск был шире. Сначала надо добавить свои исходники в qmd (это пример для минималистичный проект где сервер на Rust а фронтенд на Angular):qmd collection add .
\ --name PROJECT1 \ --mask "src/**/*. rs,\ frontend/src/**/*. {ts,html,scss},\ README.
md,\ frontend/README. toml,\ frontend/package. json,\ frontend/angular.
Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.






