Нейропрокси для агентов. Чать 1: Gigachat

Вот важная новость с фронта ИИ: Mi113r 1 час назад Объяснить с Нейропрокси для агентов. Чать 1: Gigachat Простой 4 мин 733 DevOps * Кейс Hermes Agent я использую как основной «агентный комбайн». Долгое время он крутился на DeepSeek, но захотелось экспериментов с LLM - первое за что взялся GigaChat от Сбера: русский язык, российская юрисдикция и огромное количество токенов "за красивые глаза".

Казалось бы, делов-то - подставить ключ в конфиг. Под капотом вылезло три нюанса, из-за которых «просто подставить ключ» не работает:- OAuth2 вместо API-ключа. У GigaChat нет статического ключа в стиле DeepSeek/OpenAI.

Технические детали

Есть «ключ авторизации» (по сути client_id:client_secret в base64), который нужно обменивать на короткоживущий access_token (живёт ~30 минут) и периодически обновлять. - Это не drop-in OpenAI. Формат tools/function-calling, streaming-события и список моделей у GigaChat отличаются, поэтому «направить SDK в его endpoint» напрямую не выйдет — посыплются ошибки на мелочах.

- Сертификаты Минцифры. Эндпоинты GigaChat (api. chat, а также OAuth ngw.

ru:9443) подписаны «Русским доверенным УЦ» (Минцифры), которого нет в стандартном CA-bundle (certifi) внутри контейнера. Любой запрос с включённой проверкой TLS падает с self-signed certificate / unable to get local issuer certificate. Вывод напрашивается сам собой: между Hermes и GigaChat нужен свой прокси, который возьмёт на себя OAuth-обмен, трансляцию OpenAI-протокола и работу с сертификатами.

Отраслевые последствия

Берём готовый шлюз gpt2gigaПисать трансляцию OpenAI → GigaChat с нуля — так себе идея: слишком много подводных камней в маппинге tools, streaming и списка моделей. К счастью, у ai-forever есть зрелый проект gpt2giga - FastAPI-прокси, который:- принимает OpenAI-совместимые (а также Anthropic/Gemini) запросы и переводит их в GigaChat;- сам делает OAuth-обмен и обновляет токен по истечении;- фильтрует транспортные заголовки и отделяет API-ключ прокси от учёток GigaChat;- отдаёт /models, /chat/completions, /embeddings в OpenAI-виде. МоделиАктуальный список моделей смотрим через сам прокси (после первого пробного запуска):curl -s -H "Authorization: Bearer $GPT2GIGA_API_KEY"На момент написания это: GigaChat-2, GigaChat-2-Max, GigaChat-2-Pro, GigaChat-3-Lightning, GigaChat-3-Pro, GigaChat-3-Ultra (+ эмбеддинги EmbeddingsGigaR и др.

Сертификаты Минцифры (та самая особенность)Дефолтный certifi внутри python:*-slim-образа gpt2giga не знает про корневой сертификат Минцифры. Первый же запрос в GigaChat с GIGACHAT_VERIFY_SSL_CERTS=True умирает:ssl. SSLCertVerificationError: certificate verify failed: self-signed certificate in certificate chainСамый простой «костыль» — поставить GIGACHAT_VERIFY_SSL_CERTS=False.

Но это отключает проверку TLS целиком: между вашим сервером и Сбером появляется возможность MITM. Для LLM-прокси, через который идут мои данные, так делать не хочется.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.