Technique Atualizado 2026-04
Inferência de IA
AI Inference
Definição
A inferência é o processo de usar um modelo de IA treinado para gerar previsões ou respostas a partir de novos dados.
Veja também no glossário
L
LLM (Large Language Model)
An LLM is an AI model trained on billions of texts, capable of understanding and generating human language.
T
Token
A token is the basic unit processed by an LLM. It's a piece of word, punctuation or character that the model uses to understand and generate text.
A
AI API
An AI API allows developers to integrate artificial intelligence capabilities into their applications.
G
GPU Cloud
GPU Cloud provides on-demand graphics processors for training and running AI models without hardware investment.
Ferramentas que usam inferência de ia
Perguntas frequentes
Qual é a diferença entre treinamento e inferência?
O treinamento cria o modelo (caro, feito uma única vez). A inferência usa o modelo para responder (mais barato, por solicitação). Quando você faz uma pergunta ao ChatGPT, isso é inferência.
Por que a inferência custa dinheiro?
Cada solicitação exige computação de GPU. Quanto mais longa a resposta e maior o modelo, mais caro fica. É por isso que as APIs cobram por token.