Modèle Actualizado 2026-04

Mixture of Experts (MoE)

Mixture of Experts
Definición

MoE es una arquitectura de modelo que activa solo una fracción de sus parámetros en cada solicitud, lo que hace más eficientes a los modelos grandes.

Ver también en el glosario

L
LLM (Large Language Model)
An LLM is an AI model trained on billions of texts, capable of understanding and generating human language.
T
Transformer
The Transformer is the neural network architecture powering all modern LLMs, invented by Google in 2017.
A
AI Inference
Inference is the process of using a trained AI model to generate predictions or responses from new data.
F
Foundation Model
A foundation model is a large AI model pre-trained on massive data, adaptable to multiple tasks.

Herramientas que usan mixture of experts

M
Mistral Le Chat
La IA europea soberana, conforme con el RGPD
4.5/5
D
DeepSeek
El modelo chino open source que rivaliza con GPT-4
4.7/5
G
Gemini
El asistente de IA de Google con contexto de 1M de tokens
4.5/5
C
ChatGPT
El asistente de IA conversacional más usado del mundo
4.6/5

Preguntas frecuentes

¿Cómo funciona el MoE?
El modelo contiene varios «expertos» especializados. Un router decide qué expertos activar en cada solicitud. Resultado: un modelo de 1 billón de parámetros solo usa 100 mil millones por solicitud.
¿Qué modelos usan MoE?
GPT-4 (rumoreado), Mixtral de Mistral AI (confirmado), Gemini de Google y DeepSeek V3. El MoE se ha convertido en la arquitectura dominante para los modelos muy grandes.