Inference (Инференс)
Определение
Инференс — это процесс использования уже обученной модели для получения ответа. Когда ты нажимаешь «Generate» или задаешь вопрос ИИ, запускается процесс инференса.
🔄 Отличие от обучения
- Обучение: Создание весов (требует месяцев и миллионов долларов).
- Инференс: Чтение весов для генерации ответа (требует секунд и нажатия одной кнопки).