Éthique Atualizado 2026-04

AI Safety

Definição

A AI Safety é o campo que busca garantir que os sistemas de IA sejam seguros, confiáveis e não causem danos não intencionais.

Veja também no glossário

A
AI Alignment
AI alignment aims to ensure an artificial intelligence system acts in accordance with human values and intentions.
A
AI Hallucination
An AI hallucination is a response generated by an AI model that appears plausible but is factually incorrect or fabricated.
R
RLHF (Reinforcement Learning from Human Feedback)
RLHF is a training technique that uses human feedback to align an LLM's behavior with user expectations.
G
Generative AI
Generative AI refers to artificial intelligence systems capable of creating original content: text, images, video, audio, code.

Ferramentas que usam ai safety

C
Claude
A IA que entende a nuance, da Anthropic
4.7/5
C
ChatGPT
O assistente de IA conversacional mais usado do mundo
4.6/5
G
Gemini
O assistente de IA do Google com contexto de 1M de tokens
4.5/5
D
DeepSeek
O modelo chinês open source que rivaliza com o GPT-4
4.7/5

Perguntas frequentes

Por que a AI Safety é importante?
Os LLMs podem gerar conteúdo prejudicial, ser manipulados por prompt injection ou tomar decisões enviesadas. A AI Safety busca prevenir esses riscos.
Quem trabalha com AI Safety?
A Anthropic (criadora do Claude) foi fundada explicitamente para a AI Safety. OpenAI, Google DeepMind e Meta também têm equipes dedicadas.