Nach Kritik an der jüngsten Möglichkeit, freizügige Bilder unter anderem von Minderjährigen mithilfe künstlicher Intelligenz (KI) zu erstellen, hat Elon Musks KI-Chatbot Grok Fehler eingeräumt. Es seien »Schwachstellen in unseren Sicherheitsvorkehrungen festgestellt« worden, hieß es in einem Post auf der Plattform X.

Diese sollten nun »mit größter Dringlichkeit« behoben werden. »Die Verbreitung von kinderpornografischem Material ist illegal und verboten«, stellte die KI fest. Der KI-Chatbot hatte mit der Generierung anzüglicher Fotos Empörung bei X-Nutzern und massive Kritik ausgelöst.

Nutzer können Grok bislang dazu auffordern, freizügige Bilder von Menschen zu generieren. Dabei wurden auch Grenzen überschritten: An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter »in sexualisierten Outfits« erstellt und geteilt zu haben. »Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden«, schrieb Grok auf X.

Französische Abgeordnete wenden sich an Staatsanwaltschaft

In einem weiteren Post hieß es zur Erläuterung, dass es »vereinzelte« Fälle gegeben habe, »in denen Nutzer KI-generierte Bilder von Minderjährigen in knapper Bekleidung angefordert und erhalten« hätten. Medienberichten zufolge sollen auch Frauen von sogenannten Deepfakes betroffen sein. Laut »Politico«  ermittelt die Pariser Staatsanwaltschaft inzwischen zur Verbreitung der sexualisierten Deepfakes.