Technique Actualizado 2026-04
Destilación de modelos
Model Distillation
Definición
La destilación transfiere el conocimiento de un modelo grande (teacher) a un modelo más pequeño (student), conservando el rendimiento a menor costo.
Ver también en el glosario
L
LLM (Large Language Model)
An LLM is an AI model trained on billions of texts, capable of understanding and generating human language.
S
SLM (Small Language Model)
An SLM is a compact language model optimized to run on local devices with targeted performance on specific tasks.
F
Fine-tuning
Fine-tuning is the process of retraining an existing AI model on a specific dataset to adapt it to a particular domain or task.
Q
Quantization
Quantization reduces the precision of numbers in an AI model to make it smaller and faster, with minimal quality loss.
Herramientas que usan destilación de modelos
D
DeepSeek
El modelo chino open source que rivaliza con GPT-4
4.7/5
M
Mistral Le Chat
La IA europea soberana, conforme con el RGPD
4.5/5
O
OpenClaw
El agente de IA open source que convierte tus LLMs en trabajadores autónomos
4.5/5
R
Replit
El IDE en la nube con IA integrada para programar desde cualquier lugar
4.5/5
Preguntas frecuentes
¿Por qué destilar en lugar de hacer fine-tuning?
El fine-tuning adapta un modelo existente. La destilación crea un modelo nuevo más pequeño que imita a uno más grande. El resultado es más rápido y más barato de ejecutar.
¿DeepSeek usa destilación?
Sí. DeepSeek usó la destilación para crear modelos compactos de alto rendimiento, lo que contribuye a su inmejorable relación calidad-precio.
