Neue KI-Modelle checkt keiner mehr – sind wir nur noch Zuschauer?

Moderne Künstliche Intelligenz (KI) ist mehr als nur ein cleveres Programm. Sie erstellt immer komplexere Modelle unserer Welt. Diese Modelle sind so kompliziert, dass selbst Fachleute sie nicht mehr ganz verstehen können. Solche undurchsichtigen Systeme sind die Grundlage vieler neuer Anwendungen. Sie werfen wichtige Fragen auf.

Das ist wichtig, weil diese undurchsichtigen Systeme zu "Black Boxes" werden. Eine Black Box ist ein System, dessen Arbeitsweise man nicht versteht. Wenn selbst die Entwickler nicht wissen, warum eine KI eine Entscheidung trifft, ist es schwer, Fehler zu finden. Es ist auch schwer, Vorurteile zu erkennen. Niemand kann dann die Verantwortung für Folgen übernehmen. Das zerstört Vertrauen und birgt große Risiken. Diese Risiken wachsen, je mehr Macht wir den Systemen geben.

Die bekannte MIT Technology Review warnt in ihrer neuesten Ausgabe. Sie sagt, die Komplexität heutiger KI-Modelle übersteigt das menschliche Verständnis. Diese Modelle prägen unser Leben in vielen Bereichen. Es wird aber immer schwieriger, ihre genaue Arbeitsweise zu verstehen. Auch ihre Entscheidungswege sind schwer nachzuvollziehen. Das gilt für große KI-Sprachmodelle. Es gilt auch für spezielle Systeme in der Medizin oder im Finanzwesen.

Für dich als Nutzer bedeutet das: Du musst dich auf KI-Systeme verlassen. Niemand überblickt deren innere Abläufe mehr. Wenn dein Smartphone-Assistent unerwartet reagiert, ist der Grund schwer zu verstehen. Das Gleiche gilt, wenn ein KI-gestütztes Empfehlungssystem seltsame Vorschläge macht. Ein Empfehlungssystem schlägt dir zum Beispiel Produkte vor. Es entsteht eine Abhängigkeit von Technologie. Diese Technologie können wir nur noch wenig steuern. Das wirkt sich auf Jobs, Entscheidungen und die Informationsflut aus, der du begegnest.

Unternehmen stehen vor noch größeren Problemen. Firmen nutzen KI-Modelle in wichtigen Abläufen. Beispiele sind Betrugserkennung, Personalauswahl oder Produktentwicklung. Wenn die Entscheidungen der KI nicht mehr nachvollziehbar sind, entstehen große Probleme. Dazu gehören Schwierigkeiten bei der Einhaltung von Regeln (Compliance) und Haftungsfragen. Es ist schwer, interne Prüfungen durchzuführen. Es ist auch schwer, Kunden zu erklären, warum eine KI eine bestimmte Wahl getroffen hat. Das Risiko von unkontrollierbaren Fehlern und Rufschäden steigt. Daher braucht man immer mehr menschliche Freigaben, bevor die KI handelt. Man nennt das 'Human-in-the-Loop'-Freigaben.