Jev, Laya и decision models: Пытаемся разобраться

Значимый прорыв формирует отрасль ИИ: Viacheslav-hub 11 минут назад Объяснить с Jev, Laya и decision models: Пытаемся разобраться Средний 17 мин 379 Искусственный интеллект Машинное обучение * Natural Language Processing * Туториал Привет, Хабр! В последние недели интерес вокруг модели Jev в Ai-сфере набрал такие обороты, что я не смог пройти мимо. Некоторые уже называют ее "убийцей" LLM, новым прорывом в развитии агентов и нашим будущим.

Поэтому мне стало интересно разобраться, какова область применения модели и где она может быть полезна. Что такое Jev Наверное, это первый вопрос, который должен возникнуть. Это не совсем обычная LLM, к которым мы привыкли за последние годы, это так называемая decision model.

Технические детали

Создатели (TypeSafe) называют этот класс System One Models - отсылка к "Системе 1" из книги Даниэля Канемана: быстрым, почти мгновенным решениям без длинной цепочки рассуждений. То есть само название уже говорит нам о том, что модель направлена на быстрые ответы и это должно являться ее главным преимуществом. Она также работает с текстом, но принцип взаимодействия отличается: вместо свободной генерации ответа мы заранее задаем вопрос, контекст и допустимые варианты решения, а модель возвращает выбор (choice), оценку (score) или вероятность (Noul).

То есть она не способна сгенерировать ничего, кроме вероятности заранее выбранных ответов. Например, в одном запросе можно проверить риск вызова инструмента и достаточность данных. Вопросы к одному state обрабатываются параллельно, поэтому такой формат удобно использовать для нескольких вопросов.

Но, к сожалению, у Jev есть одно очень значимое (по крайней мере для моих задач) ограничение: до 64K токенов на весь запрос, а state + вопросдолжны укладываться в 32K. Как попробовать Я использовал Jev по Api через OpenRouter: Jev 1. 13 - API Pricing & Providers | OpenRouter Шаблон запроса, который я использовал в своих тестах: response = httpx.

Отраслевые последствия

post( " headers={ "Authorization": f" ", "Content-Type": "application/json", }, json={ "model": JEV_MODEL, "state": { "" }, "questions": { "is_risky": { "type": "noul", "instructions": ( "Опасно ли выполнять `tool_call` с учётом запроса " "пользователя в `messages`? "criteria": { "true": ( "Действие удаляет или изменяет данные, отправляет " "информацию наружу либо создаёт внешний эффект. "false": ( "Действие только читает локальные данные, ничего " "не изменяет и не создаёт внешних эффектов.

}, } }, }, timeout=60, ) response. raise_for_status() risk_probability = response. json()ПрименениеИспользование в Claude code / Codex / Hermes и т.

д Так как пространство ответа у Jev задаётся заранее, большая часть кейсов - это скорее классификация. Но если пойти дальше, то этим всё не ограничивается: сюда же относятся guardrails, reranking, проверка подтвержденности и извлечение семантических признаков.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.