Technique Actualizado 2026-04
RLHF (Reinforcement Learning from Human Feedback)
Reinforcement Learning from Human Feedback
Definición
El RLHF es una técnica de entrenamiento que usa retroalimentación humana para alinear el comportamiento de un LLM con las expectativas de los usuarios.
Ver también en el glosario
L
LLM (Large Language Model)
An LLM is an AI model trained on billions of texts, capable of understanding and generating human language.
F
Fine-tuning
Fine-tuning is the process of retraining an existing AI model on a specific dataset to adapt it to a particular domain or task.
A
AI Alignment
AI alignment aims to ensure an artificial intelligence system acts in accordance with human values and intentions.
M
Machine Learning
Machine Learning is a branch of AI where systems learn from data to improve their performance without being explicitly programmed for each task.
Herramientas que usan rlhf
Preguntas frecuentes
¿Por qué es necesario el RLHF?
Sin RLHF, un LLM es capaz pero poco útil: puede ser tóxico, salirse del tema o ser demasiado verboso. El RLHF lo vuelve útil, inofensivo y honesto.
¿Cómo funciona el RLHF?
Personas califican varias respuestas del modelo. Un modelo de recompensa aprende esas preferencias y luego el LLM se reentrena para maximizar esa recompensa.
