Modèle Atualizado 2026-04
Mecanismo de atenção
Attention Mechanism
Definição
O mecanismo de atenção permite que um modelo pondere a importância de cada palavra em relação a todas as outras, capturando o contexto global.
Veja também no glossário
T
Transformer
The Transformer is the neural network architecture powering all modern LLMs, invented by Google in 2017.
L
LLM (Large Language Model)
An LLM is an AI model trained on billions of texts, capable of understanding and generating human language.
D
Deep Learning
Deep Learning is a subset of Machine Learning using multi-layered neural networks to learn complex representations from raw data.
C
Context Window
The context window is the maximum amount of text an LLM can process in a single request.
Ferramentas que usam mecanismo de atenção
Perguntas frequentes
O que significa 'Attention is All You Need'?
É o título do paper do Google (2017) que introduziu o Transformer. Ele mostrou que o mecanismo de atenção sozinho era suficiente, sem redes recorrentes.
A atenção tem um custo?
Sim. A atenção clássica tem custo quadrático: dobrar o comprimento do texto quadruplica o cálculo. Por isso as janelas de contexto têm limites.