Meta, die Firma hinter Facebook und Instagram, testet ihre KI-Chatbots, also Computerprogramme, die wie Menschen sprechen, mit Daten. Diese Daten gelten als möglicherweise nicht erlaubt. Meta will damit die Sicherheit ihrer Programme verbessern. Dieses Vorgehen führt aber zu viel Kritik. Es geht darum, wo die Grenzen für die Forschung liegen.

Dieses Vorgehen von Meta ist wichtig. Es zeigt, dass große Tech-Firmen mehr Einfluss auf den Umgang mit heiklen Daten bekommen. Wenn große Firmen Daten nutzen, die vielleicht nicht erlaubt sind, auch für gute Ziele, verschwimmen die Regeln. Das betrifft jeden, der KI-Dienste nutzt. Wer garantiert, dass Spuren dieser fragwürdigen Daten nicht in fertige Produkte gelangen? Es geht um Vertrauen und die Sicherheit unserer digitalen Welt.

Das Tech-Unternehmen Meta nutzt für interne Sicherheits-Checks seiner KI-Programme Inhalte, die rechtlich und ethisch fragwürdig sind. Laut Golem.de nennt Meta dies selbst einen 'KI-Sicherheitsbenchmark', also einen Maßstab für KI-Sicherheit. Kritiker sehen darin eine klare Überschreitung von Grenzen. Die verwendeten Daten könnten möglicherweise nicht erlaubtes Material enthalten. Meta will, dass die KI-Programme widerstandsfähiger gegen schädliche Inhalte werden. Sie sollen auch keine solchen Inhalte selbst erzeugen.

Für Privatpersonen bedeutet das: Wenn große Tech-Firmen wie Meta solche Daten verarbeiten, steigt ein Risiko. Sensible oder schädliche Inhalte könnten in KI-Systeme gelangen. Du könntest unwissentlich mit einer KI sprechen, die mit problematischen Quellen trainiert wurde. Das kann die Qualität der Antworten beeinflussen. Im schlimmsten Fall führt es zu unerwünschten oder falschen Informationen. Dein Vertrauen in KI-Helfer könnte darunter leiden.

Unternehmen stehen vor einem Problem. Wer KI-Dienste von Anbietern wie Meta nutzt, muss sich fragen: Wie offen und datenschutzkonform wurden die Programme trainiert? Die Nutzung von möglicherweise illegalem Material im Training ist ein großes Risiko für die Einhaltung von Regeln. Das kann zu Haftungsfragen führen. Dies passiert, wenn die KI später unerwünschte Inhalte erstellt. Firmen müssen genau prüfen, welche Daten in welche Programme fließen. So schützen sie ihren Ruf und ihre rechtliche Sicherheit. Es geht darum, wem die Daten gehören und wer ihre Herkunft kontrolliert.

Die Chance liegt darin, dass KIs durch solche Tests lernen. Sie können extrem schädliche Inhalte besser erkennen und herausfiltern. Wenn die Programme widerstandsfähiger gegen Angriffe und Manipulationen werden, könnten zukünftige KI-Systeme sicherer sein. Das könnte zum Beispiel Deepfakes, also gefälschte Videos, oder die Verbreitung von Hassrede effektiver bekämpfen. Die KI lernt, diese Muster zu erkennen und zu blockieren.