Diverse KI-Chatbots, von ChatGPT über Claude bis Gemini, erzählen hartnäckig die gleiche erfundene Geschichte: die des Leuchtturmwärters Elias Thorne. Er soll angeblich in den 1800er-Jahren ein dramatisches Leben geführt und Schiffe gerettet haben. Ein detailreiches Märchen, das es aber nie gab.

Relevant wird das, weil diese hartnäckigen Falschinformationen zeigen, dass sogenannte 'Halluzinationen' von KI keine zufälligen Ausrutscher sind. Sie können sich vielmehr als **fiktive Wahrheiten** im Trainingsmaterial festsetzen und von verschiedenen Modellen unkritisch reproduziert werden. Für jeden, der sich auf KI-Fakten verlässt, ist das ein ernstes Warnsignal.

Forscher der Cornell University haben das Phänomen untersucht. Sie stellten fest, dass die Geschichte von Elias Thorne immer wieder auftaucht, wenn man verschiedene KI-Modelle danach fragt. Die Vermutung: Das Problem könnte bei OpenAIs **GPT-3.5 Modell** liegen. Viele andere Sprachmodelle wurden entweder direkt mit Daten trainiert, die GPT-3.5 beeinflusst haben, oder sie nutzen ähnliche Trainingsansätze, die diese Fiktion unbewusst übernommen haben.

Für dich als Nutzer bedeutet das: Verlasse dich nicht blind auf KI-Fakten, selbst wenn mehrere Modelle das Gleiche behaupten. Wenn du zum Beispiel für ein Schulprojekt oder eine persönliche Recherche auf KI setzt, **prüfe die Quellen immer manuell**. Was wie eine verlässliche Mehrheitsmeinung der KI aussieht, kann eine kollektive Halluzination sein. Dein Vertrauen in die KI-Antworten sollte immer von Skepsis begleitet sein.

Unternehmen, die KI in Recherche, Content-Erstellung oder sogar in der Entscheidungsfindung einsetzen, müssen **robuste Verifizierungsprozesse** einführen. Wenn ein Marketingteam KI-generierte Inhalte ohne Fakten-Check veröffentlicht, kann das dem Ruf schaden. Im besten Fall sind es peinliche Fehler; im schlimmsten Fall kann es rechtliche Konsequenzen haben, wenn Falschinformationen geteilt werden. Der 'Human-in-the-Loop', also die menschliche Kontrolle, ist hier unverzichtbar.

Diese Erkenntnis bietet eine Chance zur Verbesserung. KI-Entwickler können ihre Trainingsdaten und -prozesse **kritischer hinterfragen und bereinigen**. Zudem entstehen neue Tools und Dienste, die speziell darauf ausgelegt sind, KI-Halluzinationen zu erkennen und zu korrigieren. Für Startups, die auf Datenintegrität und Verifikation setzen, könnte das ein neues Geschäftsfeld sein.