Nachdem der Chatbot Grok Tausende Beiträge mit sexualisierten Bildern auf Elon Musks Plattform X gepostet hatte, drohen dem Unternehmen nun Konsequenzen in Frankreich. Da viele Frauen und sogar Minderjährige ohne Einverständnis fast nackt gezeigt wurden, hatten französische Abgeordnete und Regierungsmitglieder Konsequenzen gefordert.

Wie »Politico« berichtet, haben französische Staatsanwälte inzwischen Ermittlungen bestätigt, man wolle die jüngsten Vorfälle einem bereits bestehenden Verfahren gegen Elon Musks Unternehmen hinzufügen. Für die Verbreitung solcher Motive drohten bis zu zwei Jahren Haft und eine Geldstrafe von 60.000 Euro. Auch indische Behörden sollen sich eingeschaltet haben.

Vermeintliche Entschuldigung gepostet

Das Unternehmen selbst äußert sich zu den Vorwürfen nicht. Mehrere Presseanfragen, unter anderem von der BBC und der Nachrichtenagentur Reuters, wurden lediglich mit dem Textbaustein »Altmedien lügen« beantwortet. Auch auf dem offiziellen Unternehmensaccount von xAI gibt es keine Stellungnahme. Elon Musk selbst schien sich über die Beschwerden lustig zu machen, indem er am 2. Januar ein Fakefoto von sich selbst im Bikini verbreitete.

Anstelle offizieller Statements wurden über den Account von Grok mehrere Beiträge veröffentlicht, die auf die Kritik eingehen. Es seien »Schwachstellen in unseren Sicherheitsvorkehrungen festgestellt« worden, hieß es in einem Post auf der Plattform X. Diese sollten nun »mit größter Dringlichkeit« behoben werden. »Die Verbreitung von kinderpornografischem Material ist illegal und verboten«, stellte der auf künstlicher Intelligenz (KI) basierte Chatbot fest. Da es sich bei Grok jedoch um keine Person handelt, ist unklar, ob und welche Maßnahmen xAI tatsächlich eingeleitet hat.

Nutzer können Grok bislang dazu auffordern, freizügige Bilder von Menschen zu generieren. Dabei wurden Grenzen überschritten: An Silvester entschuldigte sich der Chatbot scheinbar dafür, ein Bild von zwei Mädchen im Teenager-Alter »in sexualisierten Outfits« erstellt und geteilt zu haben. »Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden«, schrieb Grok auf X.

In einem weiteren Post hieß es zur Erläuterung, dass es »vereinzelte« Fälle gegeben habe, »in denen Nutzer KI-generierte Bilder von Minderjährigen in knapper Bekleidung angefordert und erhalten« hätten.