Éthique Actualizado 2026-04
Data Poisoning
Definición
El data poisoning es un ataque que inyecta datos maliciosos en el conjunto de entrenamiento de un modelo de IA para corromper su comportamiento o sus predicciones.
Ver también en el glosario
A
AI Safety
AI Safety is the field focused on ensuring AI systems are safe, reliable and don't cause unintended harm.
A
AI Alignment
AI alignment aims to ensure an artificial intelligence system acts in accordance with human values and intentions.
F
Fine-tuning
Fine-tuning is the process of retraining an existing AI model on a specific dataset to adapt it to a particular domain or task.
M
Machine Learning
Machine Learning is a branch of AI where systems learn from data to improve their performance without being explicitly programmed for each task.
D
Deep Learning
Deep Learning is a subset of Machine Learning using multi-layered neural networks to learn complex representations from raw data.
O
Overfitting
Overfitting occurs when an AI model has over-learned the training data and fails to generalize to new data.
Herramientas que usan data poisoning
Preguntas frecuentes
¿Cómo se detecta el data poisoning?
La detección implica el análisis estadístico de los datos de entrenamiento (detección de anomalías), probar el modelo con datasets limpios y usar técnicas como el filtrado de valores atípicos y la validación cruzada robusta.
¿Qué modelos son más vulnerables al data poisoning?
Los modelos entrenados con datos extraídos de la web (como los LLM) son los más expuestos, ya que cualquiera puede publicar contenido en línea. Los modelos con fine-tuning sobre datasets pequeños también son vulnerables, pues bastan unos pocos ejemplos envenenados.
