Redb.Route 3.1.1 (LLM, часть 2: enterprise-паттерны)
redb экосистема В предыдущей статье я анонсировал redb.Route.Llm как 24-й транспорт redb.Route — мы делали LLM ещё одним endpoint'ом наравне с Kafka, RabbitMQ и HTTP, чтобы выкинуть отдельную «AI-инфраструктуру»,...
Anthropic — What company has the best second artificial intelligence model at the end of June?
В сфере искусственного интеллекта произошло заметное событие. redb экосистема В предыдущей статье я анонсировал redb. Llm как 24-й транспорт redb. Route — мы делали LLM ещё одним endpoint'ом наравне с Kafka, RabbitMQ и HTTP, чтобы выкинуть отдельную «AI-инфраструктуру», стоящую рядом с интеграционной.
Заодно я повесил в конец статьи «честный skip-list» — список того, что в 3. 0 ещё не доделано: streaming, ToolCacheStore, KnowledgeStore, BatchStore, EvalRunStore, sliding-window память, sandbox-инструменты. Из этого skip-list'а делано больше, чем я планировал.
Технические детали
Главное — что в процессе доделывания обнаружилась настоящая ценность всей затеи: LLM-транспорт оказался не очередным чат-фреймворком, а недостающим звеном в ESB, после которого «бизнес-агент в проде» перестаёт быть отдельным проектом. Эта статья — про то, как чат-демо превращается в enterprise-агентскую платформу, не переписываясь и не превращаясь в «AI-монолит сбоку». Всё, что ниже — реальный код из репозитория, не псевдокод.
Ссылки на демо-маршруты в конце.
Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.
