Éthique Actualizado 2026-04

AI Safety

Definición

La AI Safety es el campo que busca garantizar que los sistemas de IA sean seguros, confiables y no causen daños no deseados.

Ver también en el glosario

A
AI Alignment
AI alignment aims to ensure an artificial intelligence system acts in accordance with human values and intentions.
A
AI Hallucination
An AI hallucination is a response generated by an AI model that appears plausible but is factually incorrect or fabricated.
R
RLHF (Reinforcement Learning from Human Feedback)
RLHF is a training technique that uses human feedback to align an LLM's behavior with user expectations.
G
Generative AI
Generative AI refers to artificial intelligence systems capable of creating original content: text, images, video, audio, code.

Herramientas que usan ai safety

C
Claude
La IA que entiende los matices, de Anthropic
4.7/5
C
ChatGPT
El asistente de IA conversacional más usado del mundo
4.6/5
G
Gemini
El asistente de IA de Google con contexto de 1M de tokens
4.5/5
D
DeepSeek
El modelo chino open source que rivaliza con GPT-4
4.7/5

Preguntas frecuentes

¿Por qué es importante la AI Safety?
Los LLM pueden generar contenido dañino, ser manipulados mediante prompt injection o tomar decisiones sesgadas. La AI Safety busca prevenir estos riesgos.
¿Quién trabaja en AI Safety?
Anthropic (creador de Claude) fue fundada explícitamente para la AI Safety. OpenAI, Google DeepMind y Meta también tienen equipos dedicados.