Halluzinationen sind eine bekannte Schwachstelle von KI-Sprachmodellen: Das System erfindet oder fabriziert Informationen, anstatt zugeben, dass es etwas nicht weiß. Das Modell präsentiert diese erfundenen Fakten mit absoluter Sicherheit, sodass Nutzer sie für wahr halten können.
Beispiel: Ein LLM wird gefragt „Wer war der erste Präsident von Australien?“ und erfindet einen Namen, der gar nicht existiert – mit vollständiger Überzeugung. Oder es zitiert ein wissenschaftliches Paper oder eine Studie, die es nie gab. Halluzinationen entstehen, weil das Modell trainiert wurde, immer eine Antwort zu generieren, statt zu sagen „Das weiß ich nicht“. Es vervollständigt statistische Muster basierend auf Traininingsdaten, anstatt faktisch zu überprüfen.
Für professionelle Anwendung ist das Verständnis von Halluzinationen entscheidend: Man sollte KI-Outputs bei kritischen Informationen (Finanzen, Recht, Gesundheit) immer unabhängig überprüfen. Modelle wie Claude wurden speziell daran optimiert, Halluzinationen zu reduzieren und stattdessen ihre Grenzen transparenter zu machen – das ist ein Wettbewerbsvorteil für vertrauenswürdige Anwendungen.
