Das „Halluzinieren“ von KI-Modellen bezeichnet das Phänomen, dass diese Systeme überzeugend klingende, aber faktisch falsche oder erfundene Informationen generieren. Die KI „erfindet“ sozusagen Daten, um eine Antwort zu komplettieren, die statistisch plausibel wirkt.
Dies passiert, weil generative Modelle keine echte Wissensdatenbank haben – sie lernen nur Wahrscheinlichkeitsmuster aus ihren TrainingsdatenDatensätze, mit denen KI-Systeme angelernt werden, um Muster zu erkennen und Vorhersagen zu treffen. Die Qualität und Herkunft dieser Daten ist entscheidend für. Wenn eine Anfrage außerhalb dieser Muster liegt oder die KI unsicher ist, „füllt“ sie Lücken mit überzeugend formulierten, aber falschen Antworten. Ein KI-Chatbot könnte beispielsweise ein fiktives wissenschaftliches Paper zitieren oder eine Firma mit erfundenen Details beschreiben.
Für Berufstätige ist dies kritisch: Sie sollten KI-genierte Informationen immer verifizieren, besonders bei wichtigen Entscheidungen. Im HR-Bereich, bei Recherchen oder Kundenkommunikation kann „Halluzinieren“ zu peinlichen Fehlern oder Vertrauensbruch führen. Ein Verständnis dieses Phänomens ist essentiell für verantwortungsvolle KI-Nutzung.
