Technique Atualizado 2026-04
RLHF (Reinforcement Learning from Human Feedback)
Reinforcement Learning from Human Feedback
Definição
O RLHF é uma técnica de treinamento que usa feedback humano para alinhar o comportamento de um LLM com as expectativas dos usuários.
Veja também no glossário
L
LLM (Large Language Model)
An LLM is an AI model trained on billions of texts, capable of understanding and generating human language.
F
Fine-tuning
Fine-tuning is the process of retraining an existing AI model on a specific dataset to adapt it to a particular domain or task.
A
AI Alignment
AI alignment aims to ensure an artificial intelligence system acts in accordance with human values and intentions.
M
Machine Learning
Machine Learning is a branch of AI where systems learn from data to improve their performance without being explicitly programmed for each task.
Ferramentas que usam rlhf
Perguntas frequentes
Por que o RLHF é necessário?
Sem RLHF, um LLM é capaz, mas pouco útil: pode ser tóxico, fugir do tema ou ser verboso demais. O RLHF o torna útil, inofensivo e honesto.
Como o RLHF funciona?
Pessoas avaliam várias respostas do modelo. Um modelo de recompensa aprende essas preferências e, em seguida, o LLM é retreinado para maximizar essa recompensa.
