Dein Lernziel: Du erkennst Halluzinationen und unterscheidest zwischen plausibel klingenden Formulierungen und überprüfbaren Belegen.
Textgrundlage, Quellen und Einordnung
Redaktioneller Stand: 27. Oktober 2026. Alle Dialoge, Fälle, Auswahlfragen und Merksätze sind eigens entwickelte Kursbeispiele, keine wörtlichen Zitate aus den Quellen. Fachliche Grundsätze sind nachstehend belegt.
- NIST (2024): AI RMF – Generative AI Profile, NIST AI 600-1 – Verlässlichkeit und Risiken generativer Systeme, insbesondere Confabulation.
- OpenAI (2025): Warum Sprachmodelle halluzinieren – Falschaussagen können sprachlich plausibel wirken; ein selbstsicherer Ton ist kein Wahrheitskriterium.
- Google for Developers: Introduction to Large Language Models – Token, Kontext, Sprachmodell und Trainingsprinzipien.
Schritt 1 von 5: Eine Quelle, die zu gut passt
Du bereitest einen Vortrag über kommunale Grünflächen vor. Ein KI-Assistent liefert einen perfekten Satz:
„Die Studie Städtisches Grün und Nachbarschaft 2024 des Instituts für Urbane Zukunftsforschung belegt eine Steigerung des Wohlbefindens um exakt 31,7 Prozent.“
Die Aussage ist sehr konkret. Sie hat einen Titel, ein Institut und eine genaue Zahl. Klingt überzeugend.
Deine erste Reaktion?
- Die Zahl im Vortrag verwenden – sie ist präzise.
- Die angegebene Studie und ihren tatsächlichen Inhalt überprüfen.
- Nur den Institutsnamen im Vortrag weglassen.
Rückmeldung – aufklappen
B. Die Studie und das Institut sind für diese Übung frei erfunden. Sie illustrieren eine mögliche Halluzination: eine plausibel formulierte, aber nicht belegte Tatsachenbehauptung. Präzision ist kein Beweis.
Schritt 2 von 5: Was „Halluzination“ bedeutet
Bei generativer KI bezeichnet „Halluzination“ eine Ausgabe, die falsch oder unbelegt sein kann, obwohl sie stimmig und selbstsicher klingt. Das US-amerikanische NIST verwendet dafür auch den fachlichen Ausdruck Confabulation.
Das Phänomen ist erklärbar: Sprachmodelle werden unter anderem darauf trainiert, plausible sprachliche Fortsetzungen zu erzeugen. Sie besitzen dadurch nicht automatisch eine vollständige, jeweils aktuelle Liste überprüfter Tatsachen.
Das ist kein Beweis dafür, dass jede KI-Ausgabe falsch wäre. Viele Antworten sind nützlich und zutreffend. Aber gerade bei seltenen Fakten, konkreten Zahlen, Zitaten und Fundstellen ist besondere Sorgfalt nötig.
Wichtig: Eine erfundene Quellenangabe bleibt erfunden, auch wenn eine KI sie mit scheinbarer Sicherheit wiederholt.
Schritt 3 von 5: Drei Behauptungen, drei Prüfmöglichkeiten
Du liest einen KI-Text mit drei Aussagen:
- „Ein Dreieck hat drei Seiten.“
- „Der Verein hatte 2025 genau 863 Mitglieder.“
- „Das Amtsblatt vom vergangenen Dienstag bestätigt die neue Regelung.“
Welche Angaben brauchen besonders eine externe Quelle?
Rückmeldung – aufklappen
2 und 3. Die genaue Mitgliederzahl ist eine konkrete historische Angabe. Die behauptete Veröffentlichung ist zeit- und quellengebunden. Beides muss am Originalbeleg nachgesehen werden. Aussage 1 kann ohne solche externe Recherche anhand elementarer Geometrie geprüft werden.
Damit sind 2 und 3 nicht automatisch falsch. Sie sind nur ohne nachprüfbare Grundlage nicht ausreichend belegt.
Schritt 4 von 5: Ein brauchbarer Prüfablauf
Bei wichtigen KI-Antworten hilft ein kurzer Ablauf:
- Behauptung isolieren: Was wird genau behauptet?
- Beleg verlangen: Welche überprüfbare Primärquelle soll sie tragen?
- Beleg öffnen: Existiert die Quelle, und steht die Aussage wirklich dort?
- Abgleichen: Stimmen Datum, Zahl, Kontext und Einschränkungen?
- Ungewissheit kennzeichnen: Was bleibt offen?
Ein Internetlink allein genügt nicht. Auch eine echte Quelle kann die behauptete Aussage gar nicht enthalten.
Übung: Eine KI nennt eine angebliche Gesetzesänderung, aber keinen Paragraphen und keine amtliche Veröffentlichung. Wie formulierst du deinen nächsten Schritt?
Rückmeldung – aufklappen
Mögliche Antwort: „Nenne die genaue Rechtsvorschrift und die amtliche Fundstelle. Bis ich die Fassung geprüft habe, behandle ich die Behauptung nicht als gesichert.“
Schritt 5 von 5: Die wichtigste Kontrollfrage
Die beste Frage lautet nicht nur „Klingt das vernünftig?“, sondern:
„Woran kann ich feststellen, dass diese konkrete Aussage stimmt?“
Abschlussaufgabe: Eine KI schreibt über dein Familienmitglied: „Die Diagnose ist eindeutig.“ Du kennst aber nur einen kurzen Symptomtext. Was ist falsch an der Gewissheit?
Rückmeldung – aufklappen
Ein knapper Text erlaubt keine verlässliche medizinische Diagnose. Die Aussage beansprucht mehr Sicherheit, als die verfügbare Grundlage rechtfertigt. In solchen Fällen ist eine qualifizierte medizinische Beurteilung erforderlich.
Merksatz: Nicht die Sicherheit des Tons entscheidet, sondern die Qualität der Belege.