Technique Actualizado 2026-04
Inferencia de IA
AI Inference
Definición
La inferencia es el proceso de utilizar un modelo de IA entrenado para generar predicciones o respuestas a partir de nuevos datos.
Ver también en el glosario
L
LLM (Large Language Model)
An LLM is an AI model trained on billions of texts, capable of understanding and generating human language.
T
Token
A token is the basic unit processed by an LLM. It's a piece of word, punctuation or character that the model uses to understand and generate text.
A
AI API
An AI API allows developers to integrate artificial intelligence capabilities into their applications.
G
GPU Cloud
GPU Cloud provides on-demand graphics processors for training and running AI models without hardware investment.
Herramientas que usan inferencia de ia
Preguntas frecuentes
¿Cuál es la diferencia entre entrenamiento e inferencia?
El entrenamiento crea el modelo (costoso, se hace una sola vez). La inferencia usa el modelo para responder (más barato, por cada solicitud). Cuando le haces una pregunta a ChatGPT, eso es inferencia.
¿Por qué la inferencia cuesta dinero?
Cada solicitud requiere cómputo de GPU. Cuanto más larga es la respuesta y más grande el modelo, más caro resulta. Por eso las API cobran por token.