FAIRouter вышел на NuGet. Выбираем языковую модель под задачу в несколько строк на C#

Наш open source маршрутизатор ИИ-моделей FAIRouter (C# версия) вышел на NuGet. Цель проекта обеспечить оптимальный баланс скорости, стоимости и качества, т.е. получать ответ достаточного качества быстрее и дешевле. Показываю, как поставить пакет, отправить первый запрос, обучить маршрутизатор LLM и агентов на отзывах, а также подключить своих кандидатов. Читать далее

Описание из RSS. Читать у источника →

Читайте также

Похожие новости

[Habr] · Москва

Маршрутизатор языковых моделей изнутри. От вектора задачи до судьи и обучения на отзывах

Раннее мы описывали библиотеку FAIRouter для маршрутизации запроса к оптимальному исполнителю. В текущей редакции поддерживаются только LLM…

28.10, 20:41 · 1 мин

[Habr] · Москва

GPT-6 Astra у пяти зарубежных сторонних API-роутеров: сравнение ответов с официальным API

Получить доступ к API современных языковых моделей можно не только напрямую у разработчика. Сторонние API-роутеры тоже предоставляют доступ…

23.10, 13:36 · 1 мин

[Habr] · Забайкальский край

10 API-роутеров с долгосрочным бесплатным или сверхдешёвым доступом к Claude, GPT, DeepSeek, GLM и другим моделям

Собрал 10 API-роутеров с бесплатными моделями, квотами и стартовыми бонусами. Внутри — результаты проверки API, расходы на короткие запросы…

22.10, 15:48 · 1 мин

[Habr] · Москва

Руководство по сборке локального AI-стека. Часть 3. Наполнение моделями

На этом шаге мы наполняем папку models/ моделями под разные задачи, раскладываем их по правилам (плоско vs подпапки с mmproj) и делаем HTML…

26.10, 17:09 · 1 мин

[Tproger] · Забайкальский край

immers.cloud запускает публичные API для open-source нейросетей с оплатой за токены

immers.cloud запустил каталог Immers Foundation Models: API для Qwen, DeepSeek, OCR и TTS-моделей с оплатой за токены. Быстрый прототип и p…

23.10, 12:25 · 1 мин