Éthique Atualizado 2026-04
Data Poisoning
Definição
O data poisoning é um ataque que injeta dados maliciosos no conjunto de treinamento de um modelo de IA para corromper seu comportamento ou suas previsões.
Veja também no glossário
A
AI Safety
AI Safety is the field focused on ensuring AI systems are safe, reliable and don't cause unintended harm.
A
AI Alignment
AI alignment aims to ensure an artificial intelligence system acts in accordance with human values and intentions.
F
Fine-tuning
Fine-tuning is the process of retraining an existing AI model on a specific dataset to adapt it to a particular domain or task.
M
Machine Learning
Machine Learning is a branch of AI where systems learn from data to improve their performance without being explicitly programmed for each task.
D
Deep Learning
Deep Learning is a subset of Machine Learning using multi-layered neural networks to learn complex representations from raw data.
O
Overfitting
Overfitting occurs when an AI model has over-learned the training data and fails to generalize to new data.
Ferramentas que usam data poisoning
Perguntas frequentes
Como detectar o data poisoning?
A detecção envolve a análise estatística dos dados de treinamento (detecção de anomalias), testar o modelo em datasets limpos e usar técnicas como filtragem de outliers e validação cruzada robusta.
Quais modelos são mais vulneráveis ao data poisoning?
Modelos treinados com dados extraídos da web (como os LLMs) são os mais expostos, já que qualquer pessoa pode publicar conteúdo online. Modelos com fine-tuning em datasets pequenos também são vulneráveis, pois bastam alguns exemplos envenenados.
