🚀 OpenRouter: Гигантский супермаркет нейросетей на любой вкус и кошелёк
Так, я тут наконец-то добрался до OpenRouter и в шоке от масштаба — 370+ моделей!
💥 Выбор
Тут есть вообще всё, что можно себе представить (и всё доступно через 1 API):
GPT, Claude, Gemini, Grok, Cohere, Nova, Qwen, Yi, DeepSeek, Mistral, Llama
Что важно, - очень многие из них доступны БЕСПЛАТНО.
А с учётом их количества можно спокойно переключаться между ними в зависимости от задач.
Что особенно круто с точки зрения девопса или техлида:
1. Один API для всего зоопарка моделей — не нужно писать код для каждой модели отдельно
2. Фолбэк-автоматизация — можно настроить автоматическое переключение между моделями при отказе
3. А/Б тестирование моделей — буквально в пару строк кода
Есть подробная документация и инструкция по созданию MCP серверов
#hub #OpenRouter #MCP
———
@tsingular
Так, я тут наконец-то добрался до OpenRouter и в шоке от масштаба — 370+ моделей!
💥 Выбор
Тут есть вообще всё, что можно себе представить (и всё доступно через 1 API):
GPT, Claude, Gemini, Grok, Cohere, Nova, Qwen, Yi, DeepSeek, Mistral, Llama
Что важно, - очень многие из них доступны БЕСПЛАТНО.
А с учётом их количества можно спокойно переключаться между ними в зависимости от задач.
Что особенно круто с точки зрения девопса или техлида:
1. Один API для всего зоопарка моделей — не нужно писать код для каждой модели отдельно
2. Фолбэк-автоматизация — можно настроить автоматическое переключение между моделями при отказе
3. А/Б тестирование моделей — буквально в пару строк кода
Есть подробная документация и инструкция по созданию MCP серверов
#hub #OpenRouter #MCP
———
@tsingular
🔥19👍3
OpenRouter сделали ранкинг моделей на базе статистики использования под разные задачи.
Вопрос,- какая модель лучше для чего? - теперь всегда имеет актуальный ответ.
По месяцам, по неделям, по дням, - в любых разрезах.
Ролевые сценарии, разработка, маркетинг, технологии, наука, переводы, юриспруденция, финансы, здоровье и т.д.
Радует, что по всем направлениям в целом за месяц Соннет 3.7 на первом месте. :) Пользователей не обманешь этими вашими ЛМАренами и прочими бенчмарками.
#ratings #openrouter
———
@tsingular
Вопрос,- какая модель лучше для чего? - теперь всегда имеет актуальный ответ.
По месяцам, по неделям, по дням, - в любых разрезах.
Ролевые сценарии, разработка, маркетинг, технологии, наука, переводы, юриспруденция, финансы, здоровье и т.д.
Радует, что по всем направлениям в целом за месяц Соннет 3.7 на первом месте. :) Пользователей не обманешь этими вашими ЛМАренами и прочими бенчмарками.
#ratings #openrouter
———
@tsingular
🔥4
Для многих задач типа чат ботов и распознавания картинок достаточно производительности таких моделей, как Gemma3:27b
И по размеру она влезает на потребительские видеокарты.
Так вот, оказывается в openrouter она бесплатна.
Причём со скоростью 42 токена в секунду!
Т.е. совсем нет смысла в своём железе, если у вас такие модели на нем крутятся.
Подключились и пользуетесь
Ну, если данные не конфиденциальные конечно.
Там ещё много бесплатного:
google/gemini-2.0-flash-exp:free
qwen/qwen3-coder:free
tngtech/deepseek-r1t2-chimera:free
deepseek/deepseek-r1-0528:free
deepseek/deepseek-chat-v3-0324:free
openai/gpt-oss-20b:free
z-ai/glm-4.5-air:free
moonshotai/kimi-dev-72b:free
qwen/qwen3-235b-a22b:free
moonshotai/kimi-vl-a3b-thinking:free
moonshotai/kimi-k2:free
и многие другие, но эти, пожалуй, из бесплатного самые интересные.
Там же эти модели можно погонять в чат режиме:
https://openrouter.ai/chat?models=deepseek/deepseek-chat-v3-0324:free
#Openrouter #free
———
@tsingular
И по размеру она влезает на потребительские видеокарты.
Так вот, оказывается в openrouter она бесплатна.
Причём со скоростью 42 токена в секунду!
Т.е. совсем нет смысла в своём железе, если у вас такие модели на нем крутятся.
Подключились и пользуетесь
Ну, если данные не конфиденциальные конечно.
Там ещё много бесплатного:
google/gemini-2.0-flash-exp:free
qwen/qwen3-coder:free
tngtech/deepseek-r1t2-chimera:free
deepseek/deepseek-r1-0528:free
deepseek/deepseek-chat-v3-0324:free
openai/gpt-oss-20b:free
z-ai/glm-4.5-air:free
moonshotai/kimi-dev-72b:free
qwen/qwen3-235b-a22b:free
moonshotai/kimi-vl-a3b-thinking:free
moonshotai/kimi-k2:free
и многие другие, но эти, пожалуй, из бесплатного самые интересные.
Там же эти модели можно погонять в чат режиме:
https://openrouter.ai/chat?models=deepseek/deepseek-chat-v3-0324:free
#Openrouter #free
———
@tsingular
1✍12🔥7⚡4❤3
LLM Council: Карпатый запустил совет директоров из нейросетей
Андрей тоже на выходных вайбкодит и опубликовал приложение, которое отправляет запрос сразу нескольким моделям через OpenRouter, заставляет их оценить ответы друг друга, а затем модель-председатель синтезирует финальный результат.
Идея появилась когда Карпатый читал книги вместе с LLM и хотел видеть разные ответы параллельно.
Внутри три этапа:
- Все модели из совета отвечают на вопрос
- Взаимная оценка и ранжирование ответов
- Председатель выдает итоговый вердикт
Навайбкодили демократию за выходные :)
Вообще совет ИИ экспертов популярная фишка будет, я смотрю.
Нарекаю трендом :)
#Karpathy #OpenRouter #Council #dev
———
@tsingular
Андрей тоже на выходных вайбкодит и опубликовал приложение, которое отправляет запрос сразу нескольким моделям через OpenRouter, заставляет их оценить ответы друг друга, а затем модель-председатель синтезирует финальный результат.
Идея появилась когда Карпатый читал книги вместе с LLM и хотел видеть разные ответы параллельно.
Внутри три этапа:
- Все модели из совета отвечают на вопрос
- Взаимная оценка и ранжирование ответов
- Председатель выдает итоговый вердикт
Навайбкодили демократию за выходные :)
Вообще совет ИИ экспертов популярная фишка будет, я смотрю.
Нарекаю трендом :)
#Karpathy #OpenRouter #Council #dev
———
@tsingular
1🔥25👍5❤3⚡3