Modèle Atualizado 2026-04
Mixture of Experts (MoE)
Mixture of Experts
Definição
MoE é uma arquitetura de modelo que ativa apenas uma fração de seus parâmetros em cada solicitação, tornando os modelos grandes mais eficientes.
Veja também no glossário
L
LLM (Large Language Model)
An LLM is an AI model trained on billions of texts, capable of understanding and generating human language.
T
Transformer
The Transformer is the neural network architecture powering all modern LLMs, invented by Google in 2017.
A
AI Inference
Inference is the process of using a trained AI model to generate predictions or responses from new data.
F
Foundation Model
A foundation model is a large AI model pre-trained on massive data, adaptable to multiple tasks.
Ferramentas que usam mixture of experts
Perguntas frequentes
Como funciona o MoE?
O modelo contém vários «especialistas» especializados. Um router decide quais especialistas ativar em cada solicitação. Resultado: um modelo de 1 trilhão de parâmetros usa apenas 100 bilhões por solicitação.
Quais modelos usam MoE?
GPT-4 (rumores), Mixtral da Mistral AI (confirmado), Gemini do Google e DeepSeek V3. O MoE se tornou a arquitetura dominante para modelos muito grandes.
