Alucinación de IA

Porque generan texto prediciendo la palabra más probable, no la más verdadera. No tienen ningún concepto de verdad, solo de plausibilidad estadística.

El RAG (conectar la IA a fuentes verificadas), la verificación humana y el uso de herramientas como Perplexity (que cita sus fuentes) reducen significativamente el riesgo.

Una alucinación de IA es una respuesta de un modelo de lenguaje que suena plausible pero que es factualmente falsa o totalmente inventada. Los LLM están entrenados para predecir texto estadísticamente probable, no para verificar hechos, por lo que pueden inventar citas, estadísticas o fuentes que no existen con total seguridad. Las alucinaciones son más frecuentes en temas de nicho, eventos recientes o preguntas que exigen cifras precisas. Herramientas como Perplexity y Consensus mitigan esto al fundamentar las respuestas en fuentes citadas y verificables.

Ningún método las detecta todas, pero varios enfoques ayudan. Coteja las respuestas manualmente con fuentes primarias. Usa herramientas con RAG como Perplexity o Consensus, que citan sus fuentes para poder verificar las afirmaciones. Haz la misma pregunta de distintas maneras: respuestas contradictorias indican poca fiabilidad. Para usos críticos, pasa las salidas por un segundo modelo (como Claude o ChatGPT) como capa de verificación. La especificidad es una señal de alerta: cifras precisas o citas sin fuente merecen un escrutinio extra.

ChatGPT alucina porque está entrenado para generar texto estadísticamente probable, no texto factualmente verificado. Predice la secuencia de palabras más probable sin comprobar si el resultado es cierto. Las alucinaciones son más frecuentes en temas de nicho, eventos recientes ausentes de sus datos de entrenamiento y preguntas que requieren cifras, nombres o fechas precisas. Herramientas como Perplexity mitigan este riesgo al fundamentar las respuestas en fuentes citadas en lugar de depender de la memoria interna del modelo.

No puedes eliminar del todo las alucinaciones, pero sí reducirlas. Pídele a ChatGPT que cite sus fuentes y admita su incertidumbre. Cuando la precisión factual importa, usa mejor herramientas con RAG como Perplexity, que fundamentan las respuestas en fuentes web en vivo. Para dominios críticos como derecho o medicina, coteja las salidas con fuentes primarias. Claude también tiende a expresar menor confianza ante hechos inciertos, lo que lo convierte en una alternativa útil para tareas sensibles a la precisión.

Pídele a ChatGPT la facturación de una empresa en 2025 y puede devolverte con total seguridad una cifra concreta, por ejemplo «12,3 millones de dólares», que nunca se publicó en ningún lado. El modelo no miente: predice el texto estadísticamente más plausible. Otros casos frecuentes son citas académicas inventadas, precedentes legales ficticios o estadísticas inexistentes. Herramientas como Perplexity y Consensus reducen este riesgo al fundamentar las respuestas en fuentes citadas y verificables.

No existe un ranking definitivo, ya que las tasas de alucinación varían según la tarea, el tema y la metodología de los benchmarks. En general, los modelos más antiguos o pequeños alucinan más que los modelos insignia más recientes. ChatGPT (GPT-4o), Claude y Perplexity puntúan de forma consistente mejor en precisión factual que los modelos anteriores. Perplexity reduce aún más el riesgo al citar fuentes en tiempo real. Los temas de nicho, los datos recientes y las cifras precisas siguen siendo zonas de riesgo para todos los modelos.

No: las alucinaciones no pueden eliminarse por completo, pero sí reducirse considerablemente. La técnica RAG (Retrieval-Augmented Generation) es la mitigación más eficaz: en lugar de depender de la memoria de entrenamiento del modelo, este recurre a fuentes verificadas. Perplexity y Consensus se basan en este principio. El prompt engineering, la verificación de salidas y el fundamentar las respuestas en datos estructurados también ayudan. Herramientas como ChatGPT y Claude han mejorado con el tiempo, pero siguen alucinando, sobre todo en temas de nicho o recientes.