Modèle Atualizado 2026-04

Mecanismo de atenção

Attention Mechanism
Definição

O mecanismo de atenção permite que um modelo pondere a importância de cada palavra em relação a todas as outras, capturando o contexto global.

Perguntas frequentes

O que significa 'Attention is All You Need'?
É o título do paper do Google (2017) que introduziu o Transformer. Ele mostrou que o mecanismo de atenção sozinho era suficiente, sem redes recorrentes.
A atenção tem um custo?
Sim. A atenção clássica tem custo quadrático: dobrar o comprimento do texto quadruplica o cálculo. Por isso as janelas de contexto têm limites.