FAIRouter вышел на NuGet. Выбираем языковую модель под задачу в несколько строк на C#

Значимый прорыв формирует отрасль ИИ: Zachar_5 38 минут назад Краткое содержание статьи FAIRouter вышел на NuGet. Выбираем языковую модель под задачу в несколько строк на C# Простой 4 мин 664 . NET * C# * Искусственный интеллект Open source * Обзор Ранее мы рассказывали о FAIRouter, нашей библиотеке для маршрутизации запросов.

Коротко напомню, что она делает. Есть несколько языковых моделей, у них разные цены, скорость и сильные стороны. FAIRouter сам выбирает модель под задачу, проверяет готовый ответ и учится на отзывах.

Технические детали

Общая схема работы показана на рисунке 1. Как устроен FAIRouter: маршрутизатор выбирает исполнителя, судья принимает ответ, и оба учатсяВерсия на C# теперь опубликована на NuGet, поэтому собирать ее из исходников больше не нужно. В этой статье покажу, как поставить пакет и что с ним можно делать.

Все примеры ниже были собраны на пакете версии 0. УстановкаПонадобится . Создадим консольный проект и подключим пакет:dotnet new console -f net10.

0 -n RouterDemo cd RouterDemo dotnet add package FAI. RouterТакже нужен ключ поставщика моделей. В примерах будем использовать OpenRouter, ключ положим в переменную среды:$env:OPENROUTER_API_KEY = "ваш ключ"Первый запросЗаменим содержимое Program.

Отраслевые последствия

cs следующим кодом:using FAI. Router; FaiRouter router = await FaiRouter. FromOpenRouterAsync( apiKey: Environment.

GetEnvironmentVariable("OPENROUTER_API_KEY ! , modelIds: , databasePath: "fai-router. db RouterAnswer answer = await router.

AskAsync( "Напиши обзор методов кластеризации на 1500 знаков Console. Critic);Здесь modelIds задает список кандидатов, а в файле fai-router. db хранятся веса и журнал ходов.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.