Technique Atualizado 2026-04
Destilação de modelos
Model Distillation
Definição
A destilação transfere o conhecimento de um modelo grande (teacher) para um modelo menor (student), preservando o desempenho a um custo mais baixo.
Veja também no glossário
L
LLM (Large Language Model)
An LLM is an AI model trained on billions of texts, capable of understanding and generating human language.
S
SLM (Small Language Model)
An SLM is a compact language model optimized to run on local devices with targeted performance on specific tasks.
F
Fine-tuning
Fine-tuning is the process of retraining an existing AI model on a specific dataset to adapt it to a particular domain or task.
Q
Quantization
Quantization reduces the precision of numbers in an AI model to make it smaller and faster, with minimal quality loss.
Ferramentas que usam destilação de modelos
D
DeepSeek
O modelo chinês open source que rivaliza com o GPT-4
4.7/5
M
Mistral Le Chat
A IA europeia soberana, em conformidade com o GDPR
4.5/5
O
OpenClaw
O agente de IA open source que transforma seus LLMs em trabalhadores autônomos
4.5/5
R
Replit
A IDE na nuvem com IA integrada para programar de qualquer lugar
4.5/5
Perguntas frequentes
Por que destilar em vez de fazer fine-tuning?
O fine-tuning adapta um modelo existente. A destilação cria um novo modelo menor que imita um maior. O resultado é mais rápido e mais barato de executar.
A DeepSeek usa destilação?
Sim. A DeepSeek usou a destilação para criar modelos compactos de alto desempenho, o que contribui para o seu imbatível custo-benefício.
