Was ist eine Halluzination bei KI?
Eine Halluzination ist eine erfundene Antwort einer KI, die genauso sicher klingt wie eine belegte. Die KI lügt nicht absichtlich. Sie schreibt ein Wort, das nach ihrem Training wahrscheinlich als Nächstes kommt, auch wenn es nicht stimmt. Am Ton erkennst du eine Halluzination deshalb nicht.
Video ab 1. OktoberDas Video erscheint am Donnerstag, 1. Oktober, um 9 Uhr.
Das Video ist erschienen. Du findest es auf meinem YouTube-Kanal.
Das Wichtigste in einer Minute
- Eine KI schreibt ein wahrscheinliches nächstes Wort. Ob es stimmt, prüft sie nicht.
- Erfundene Antworten klingen genauso sicher wie richtige.
- Vor US-Gerichten sind seit 2023 über 1.300 Fälle dokumentiert, in denen eine KI Fakten oder Quellen erfunden hat.
- Was du unterschreibst oder weitergibst, prüfst du selbst an der Quelle.
Halluzination einfach erklärt
Eine KI wie ChatGPT baut ihre Antwort Stück für Stück, genauer gesagt Token für Token. Bei jedem Schritt wählt sie ein Wort, das nach dem bisherigen Text am besten passt. Ob die Aussage stimmt, prüft sie dabei nicht. Passt eine falsche Fortsetzung besser in den Satz, schreibt sie die falsche.
Das Tückische ist der Ton. Die KI formuliert eine erfundene Zahl genauso ruhig und bestimmt wie eine belegte. Es gibt kein Zögern und keinen Hinweis, dass etwas nicht stimmt.
Ein Beispiel aus der Praxis: der Bericht, der fast einen Einsatz auslöste
Stand: September 2026
Laut einem Bericht von CNN hatte ein Analyst des US-Militärs einen Chatbot gebeten, offene Quellen und geheime Funkdaten zu einem Bericht zusammenzufassen. Der Chatbot las die Ladung eines chinesischen Schiffs falsch und machte daraus Teile für ein Atomwaffenprogramm. Den Bericht ließ der Analyst vom selben Chatbot formatieren. Ein Einsatz wurde erst in letzter Minute abgebrochen.
Das ist kein Einzelfall. Laut CBS News sind vor Gerichten in den USA seit 2023 über 1.300 Fälle dokumentiert, in denen eine KI Fakten oder Quellen erfunden hat.
Quellen
Was das für dich heißt
Eine KI haftet nicht. Was du unterschreibst, verschickst oder veröffentlichst, prüfst du deshalb selbst:
Quelle öffnen
Lass dir die Quelle nennen und öffne sie. Gibt es keine, ist die Aussage nicht belegt.
Zahl und Name vergleichen
Steht die Zahl, der Name oder das Zitat wirklich so in der Quelle?
Im Zweifel weglassen
Was du nicht prüfen kannst, gehört nicht in einen Vertrag, ein Angebot oder einen Post.
Häufige Fragen
Weil sie Texte nach Wahrscheinlichkeit fortsetzt. Sie wählt das Wort, das am besten passt, und prüft dabei nicht, ob die Aussage stimmt. Fehlt ihr das Wissen, füllt sie die Lücke mit etwas, das plausibel klingt.
Am Ton nicht, der ist bei richtigen und falschen Antworten gleich sicher. Verdächtig sind genaue Zahlen, Zitate, Namen und Quellenangaben, auch wenn ein Link dabei ist. Prüf sie an der Originalquelle.
Nein. Man kann sie seltener machen, etwa indem die KI aus vorgegebenen Unterlagen antwortet und die Stelle nennt. Prüfen musst du wichtige Aussagen trotzdem.
Passt dazu
Du willst KI nutzen, ohne dich auf erfundene Antworten zu verlassen?
Ich arbeite 1:1 mit Selbstständigen, Beratern, Coaches und kleinen Teams an Workflows, in denen die KI zuarbeitet und du prüfst. Das Erstgespräch ist kostenlos, dauert 15 Minuten und ist kein Verkaufsgespräch.
Kostenloses Erstgespräch buchen