Выбор моделей: срез на 2026-09-14
Главный вывод
Единого рейтинга LLM нет. Выбирай короткий список по доступности и ограничениям, затем измеряй цену успешного результата на собственных задачах. Названия и доступность ниже проверены 14 сентября 2026 года.
Облачный shortlist
| Семейство | Когда включить в тест | Важное уточнение |
|---|---|---|
| OpenAI GPT-6 Astra | Сложный reasoning, код и долгие агентные задачи | OpenAI называет Astra своей наиболее способной моделью; сравни с более быстрыми вариантами текущего каталога по цене успешной задачи |
| Claude Opus 5 | Универсальная отправная точка в линейке Claude | Anthropic рекомендует начинать с Opus 5 для большинства задач |
| Claude Fable 5.1 | Самые сложные и долгие задачи | Проверяй выигрыш относительно Opus на своём eval-наборе |
| Claude Sonnet 5 / Haiku 4.5 | Баланс скорости и качества / минимальная задержка | Младшая модель не всегда дешевле после повторных попыток |
| Gemini 3.1 Pro | Сложные мультимодальные задачи | Проверяй фактическую доступность нужных модальностей и tools |
| Gemini 3.8 Flash / 3.5 Flash-Lite | Быстрые агентные задачи / большой поток запросов | Сравни latency, rate limits и качество structured output |
Не переноси вывод из публичного бенчмарка прямо в работу. Один provider может быть сильнее в коде, другой — в длинном контексте, мультимодальности, локали или инструментах.
Локальный shortlist
| Кандидат | Зачем тестировать | На что смотреть |
|---|---|---|
| Qwen 3.5 | Есть размеры от компактных до крупных, vision и tool-сценарии | Точный тег, размер файла, шаблон tools и локальный/облачный режим |
| gpt-oss 20B | Практичный класс для более мощного домашнего железа | Квант, память, качество reasoning и лицензия |
| gpt-oss 120B | Эксперименты на большой памяти или сервере | Полный размер весов и реальная скорость |
Это кандидаты, а не победители. Каталоги runtime меняются, а одинаковое семейство может иметь локальные и облачные теги.
Память: быстрый фильтр
| Доступная память | Разумный первый тест |
|---|---|
| 8 GB | 3B–8B в 4-bit, умеренный контекст |
| 16 GB | 7B–14B в 4-bit |
| 24 GB | 14B–32B в 4-bit, если сборка помещается с запасом |
| 32–64 GB | 20B–70B в подходящем кванте и runtime |
| 80 GB+ | крупные модели и серверные сценарии |
Смотри на размер всех весов, а не только активные параметры MoE. Оставляй запас под KV-cache, runtime и систему.
Мини-eval для выбора
- Собери 10–30 реальных задач без чувствительных данных.
- Заранее определи критерии: правильность, полнота, latency, цена, tools, формат и число ручных исправлений.
- Зафиксируй exact model ID или snapshot, параметры, system prompt и инструменты.
- Прогони кандидатов на одинаковых входах; по возможности оцени ответы вслепую.
- Считай не цену токена, а стоимость и время принятого результата с повторными попытками.
- Для локальной модели запиши квант, runtime, железо, контекст и tokens/s.
- Перепроверяй shortlist после обновления моделей, цен или собственного процесса.
Официальные источники
- OpenAI — latest model guide
- Anthropic — models overview
- Google — Gemini API documentation
- Ollama — Qwen 3.5
- Ollama — gpt-oss