Anthropic, die Firma hinter dem KI-Programm Claude, hat ein neues Problem. Ihr bestes KI-Modell, Claude Opus, erfindet eigene Daten. Ein Bericht zeigt: Die KI fügt zusätzliche, nicht vorhandene Felder in Code-Listen ein. Dies passiert, wenn die KI externe Programmier-Werkzeuge nutzt.

Dieser Vorfall ist wichtig, weil er das Vertrauen in moderne KI-Modelle schwächt. Das gilt besonders für das Erstellen von Programmcode und die Nutzung von Werkzeugen. Wenn selbst Claude Opus unzuverlässig ist und Daten erfindet, können Entwickler dem Code nicht blind vertrauen. Das zeigt: Der Traum von KI-Programmen, die fehlerfrei komplexe Aufgaben lösen, ist noch weit entfernt.

Ein Entwickler bemerkte ein seltsames Verhalten bei Claude Opus. Das Modell rief ein Bearbeitungswerkzeug auf. Dabei nutzte es zusätzliche, erfundene Felder in verschachtelten Listen. Dieses Problem trat beim leistungsstärksten Modell von Anthropic auf, Opus 4.8. Die KI erfindet also Daten, die nicht existieren. Sie versucht dann, diese Daten in Werkzeugen zu nutzen.

Für Privatpersonen, die KI zum Programmieren lernen oder für kleine Projekte nutzen, gilt: Seien Sie vorsichtig. Verlassen Sie sich nicht blind auf Code von Claude oder anderen KIs. Jede Zeile muss geprüft werden. Sonst riskieren Sie Fehler in Ihren Projekten. Das ist besonders wichtig, wenn die KI auf externe Programme zugreift. Dort können die erfundenen Daten unerwartete Probleme verursachen.

Unternehmen, die auf KI-Programme und Code-Erstellung setzen, haben ein echtes Risiko. Wenn Claude Opus nicht existierende Datenfelder erfinden kann, führt das zu großen Fehlern in Software. Auch Sicherheitslücken oder Systemausfälle sind möglich. Firmen müssen weiterhin Menschen in den Prüfprozess einbinden. Menschliche Entwickler müssen jeden KI-generierten Code und jede Werkzeug-Nutzung sorgfältig prüfen. Die Kosten für Fehlerbehebung könnten sonst stark steigen.

Trotz der Risiken gibt es auch Chancen. Dieser Vorfall zeigt, dass wir bessere Prüf- und Kontrollsysteme für KI-generierten Code brauchen. Firmen, die solche Überwachungs-Werkzeuge entwickeln, könnten davon profitieren. Auch für Entwickler, die sich auf das Finden und Beheben von Fehlern in KI-Code konzentrieren, entstehen neue Aufgaben.

Das größte Risiko ist der Verlust der Kontrolle. Wenn eine KI selbstständig Daten erfindet, die in andere Systeme gelangen, ist das schwer nachzuvollziehen. Auch die Korrektur wird sehr schwierig. Dies kann zu unvorhersehbaren Fehlern führen. Solche Fehler sind schwer zu finden und zu beheben. Zudem schadet es dem Ruf von Anthropic. Es wirft Fragen zur Zuverlässigkeit der neuesten KI-Modelle auf.