Comportement Aktualisiert 2026-04
KI-Halluzination
AI Hallucination
Definition
Eine KI-Halluzination ist eine Antwort, die von einem KI-Modell generiert wird und plausibel erscheint, aber faktisch falsch oder erfunden ist.
Siehe auch im Glossar
L
LLM (Large Language Model)
Ein LLM ist ein KI-Modell, das auf Milliarden von Texten trainiert wurde und in der Lage ist, menschliche Sprache zu verstehen und zu generieren.
R
RAG (Retrieval-Augmented Generation)
RAG ist eine Technik, die ein LLM mit externen Datenquellen verbindet, um präzisere und aktuellere Antworten zu generieren.
P
Prompt
Ein Prompt ist die Anweisung oder Frage, die Sie einer KI geben, um eine Antwort zu erhalten. Er ist die Schnittstelle zwischen Ihnen und dem Modell.
G
Generative KI
Generative KI bezeichnet KI-Systeme, die in der Lage sind, originale Inhalte zu erstellen: Texte, Bilder, Videos, Audio und Code.
Tools, die ki-halluzination verwenden
Häufig gestellte Fragen
Warum halluzinieren LLMs?
Weil sie Text erzeugen, indem sie das wahrscheinlichste Wort vorhersagen – nicht das wahrhaftigste. Sie haben kein Konzept von Wahrheit, sondern nur von statistischer Plausibilität.
Wie lassen sich Halluzinationen vermeiden?
RAG (die Anbindung von KI an verifizierte Quellen), manuelle Überprüfung und der Einsatz von Tools wie Perplexity (das Quellen zitiert) reduzieren das Risiko erheblich.
Was ist eine KI-Halluzination?
Eine KI-Halluzination ist eine Ausgabe eines Sprachmodells, die überzeugend klingt, aber sachlich falsch oder vollständig erfunden ist. Sprachmodelle sind darauf trainiert, statistisch wahrscheinlichen Text zu erzeugen — nicht Fakten zu prüfen. Sie können Quellen, Zitate oder Zahlen mit hoher Sicherheit erfinden, die schlicht nicht existieren. Halluzinationen treten besonders häufig bei Nischenthemen oder aktuellen Ereignissen auf. Tools wie Perplexity und Consensus reduzieren dieses Risiko durch quellenbasierte Antworten.
Wie erkennt man KI-Halluzinationen?
Keine einzelne Methode deckt alle Halluzinationen auf, aber mehrere Ansätze helfen. Überprüfen Sie KI-Antworten manuell anhand von Primärquellen. Nutzen Sie RAG-basierte Tools wie Perplexity oder Consensus, die Quellen angeben. Stellen Sie dieselbe Frage auf verschiedene Weisen — widersprüchliche Antworten deuten auf Unzuverlässigkeit hin. Für kritische Anwendungsfälle empfiehlt sich ein zweites Modell (z. B. Claude oder ChatGPT) zur Gegenkontrolle. Besondere Vorsicht gilt bei präzisen Zahlen oder Zitaten ohne Quellenangabe.
Warum halluziniert ChatGPT?
ChatGPT halluziniert, weil es darauf trainiert wurde, statistisch wahrscheinlichen Text zu erzeugen – nicht faktisch verifizierten. Das Modell sagt die wahrscheinlichste Wortfolge voraus, ohne die Richtigkeit zu prüfen. Halluzinationen treten besonders häufig bei Nischenthemen, aktuellen Ereignissen außerhalb der Trainingsdaten sowie bei Fragen zu genauen Zahlen oder Namen auf. Tools wie Perplexity reduzieren dieses Risiko, indem sie Antworten mit zitierten Quellen belegen.
Wie lassen sich KI-Halluzinationen in ChatGPT reduzieren?
Halluzinationen lassen sich nicht vollständig vermeiden, aber einschränken. Fordern Sie ChatGPT auf, Quellen zu nennen und Unsicherheiten offenzulegen. Bei faktenkritischen Anfragen empfiehlt sich Perplexity, das Antworten auf aktuelle Webquellen stützt. Claude neigt dazu, bei unsicheren Fakten zurückhaltender zu formulieren — eine nützliche Alternative für präzisionskritische Aufgaben. Ausgaben in sensiblen Bereichen wie Medizin oder Recht sollten stets anhand primärer Quellen überprüft werden.
Können Sie ein konkretes Beispiel für eine KI-Halluzination nennen?
Fragen Sie ChatGPT nach dem Jahresumsatz eines Unternehmens im Jahr 2025, kann es selbstsicher „12,3 Mio. $
Welche KI-Tools halluzinieren am häufigsten?
Es gibt kein abschließendes Ranking, da Halluzinationsraten je nach Aufgabe, Thema und Benchmark-Methodik stark variieren. Ältere oder kleinere Modelle halluzinieren tendenziell häufiger als aktuelle Flaggschiff-Modelle. ChatGPT (GPT-4o), Claude und Perplexity schneiden in Benchmarks zur Faktengenauigkeit regelmäßig besser ab. Perplexity verringert das Risiko zusätzlich durch Quellenangaben in Echtzeit. Nischenthemen und präzise Zahlenwerte bleiben für alle Modelle kritische Bereiche.
Lässt sich KI-Halluzination vollständig verhindern?
Nein — Halluzinationen lassen sich nicht vollständig ausschließen, aber deutlich reduzieren. Die wirksamste Methode ist Retrieval-Augmented Generation (RAG): Das Modell greift auf geprüfte Quellen zurück, statt sich auf sein Trainingswissen zu verlassen. Perplexity und Consensus basieren auf diesem Ansatz. Auch gezieltes Prompt-Engineering und Ausgabeprüfung helfen. ChatGPT und Claude haben sich verbessert, halluzinieren aber weiterhin — besonders bei Nischenthemen oder aktuellen Daten.
