Sicherheitslücken bei xAI: Grok gerät unter Druck nach Skandal um generierte Bilder
- Grok von xAI gerät wegen Sicherheitslücken bei Bildgenerierung unter Druck.
- Pariser Staatsanwaltschaft ermittelt wegen Verbreitung sexualisierter Deepfakes.
Der KI-Chatbot Grok von xAI, gegründet von Elon Musk, steht unter massivem Druck. Nach der Einführung einer Bildgenerierungsfunktion wurden gravierende Sicherheitsmängel bekannt, die international Empörung auslösten.
Grok räumte öffentlich Schwachstellen in den Schutzsystemen ein. Nutzer konnten sexualisierte Bilder von Minderjährigen erzeugen, was strafrechtliche Konsequenzen nach sich ziehen könnte.
Die Pariser Staatsanwaltschaft ermittelt wegen der Verbreitung sexualisierter Deepfakes. Beschwerden französischer Abgeordneter führten zu Untersuchungen gegen Nutzer und Betreiber.
Der Vorfall verstärkt die Debatte über die Regulierung generativer KI. Kritiker sehen in Groks offenen Nutzungsgrenzen ein systemisches Risiko.
Für Elon Musk und xAI kommt die Panne zu einem ungünstigen Zeitpunkt. Die Frage nach ausreichenden Schutzmechanismen rückt in den Fokus.
Der Fall zeigt die Herausforderung, leistungsfähige KI-Modelle mit gesellschaftlicher Verantwortung zu vereinen. Groks Fähigkeit, Vertrauen zurückzugewinnen, hängt von schnellen Sicherheitsverbesserungen ab.
