Der umstrittene KI-Chatbot Grok des US-Milliardärs Elon Musk gerät wegen sexuell expliziter Deepfake-Bilder nun auch im Bundesstaat Kalifornien in den Fokus von Ermittlern. Kalifornien will laut Generalstaatsanwalt Rob Bonta klären, ob die Betreiberfirma xAI gegen Gesetze des Bundesstaats zum Schutz vor Belästigung verstoßen hat. Am Mittwoch eröffnete Kalifornien eine offizielle Untersuchung. Der Staat folgt damit Ländern wie Frankreich und Großbritannien, die bereits rechtlich gegen xAI vorgehen. "Die Flut von Berichten über nicht einvernehmlich erstelltes, sexuell explizites Material, das xAI in den vergangenen Wochen produziert und online gestellt hat, ist schockierend", sagte Bonta. Er verlange unverzüglich Antworten von xAI zu der Frage, wie das Unternehmen plane, "die Erstellung und Verbreitung dieser Inhalte zu stoppen", schrieb Bonta zudem auf Musks Onlineplattform X. Der Gouverneur von Kalifornien, Gavin Newsom, hatte zuvor gefordert, das Unternehmen zu untersuchen "und xAI zur Rechenschaft zu ziehen". Sowohl X als auch xAI gehören ​ zum Firmenimperium von Elon Musk . Zahlreiche Länder ermitteln Die Plattform X und der KI-Entwickler xAI stehen wegen Bildbearbeitungsfunktionen von Grok weltweit in der Kritik. Mit diesen können Nutzer des Chatbots bei hochgeladenen Fotos realer Personen in Sekundenschnelle anzügliche Bilder erstellen – etwa mit Aufforderungen wie "entferne ihre Kleider" oder "ziehe ihr einen Bikini an". Auch die Erstellung und Verbreitung kinderpornografischer Inhalte ist damit möglich. Die derart manipulierten Bilder werden dann über X verbreitet. Die EU-Kommission und die britische Aufsichtsbehörde Ofcom hatten Musks Unternehmen deshalb aufgefordert, Maßnahmen zum Schutz der Grok-Nutzer zu ergreifen. Indonesien und Malaysia haben den Zugang zu Grok vorerst gesperrt. Malaysia hat eine Klage angekündigt . Die Pariser Staatsanwaltschaft weitete eine laufende Untersuchung gegen X aus. Auch Bundesjustizministerin Stefanie Hubig (SPD) kündigte ein härteres Vorgehen an. Musk bestreitet Vorwürfe Musk bestritt die Vorwürfe gegen Grok . "Mir sind keine von Grok generierten Nacktbilder von ⁠Minderjährigen bekannt. Buchstäblich null", schrieb Musk am Mittwoch auf dem Kurznachrichtendienst X. "Natürlich generiert Grok keine Bilder spontan, sondern nur auf Anfrage der Nutzer", betonte Musk in seinem Beitrag. ‍Musk bekräftigte, dass die Software sämtliche illegalen Anweisungen ignoriere und sich nach jeweiligen Ländergesetzen richte. X hatte vergangene Woche angekündigt, illegale Inhalte zu löschen und den Zugriff auf den Chatbot einzuschränken . So sollen nur noch zahlende X-Nutzer auf die Bildfunktionen von Grok zugreifen können. Die Grok-App lieferte zunächst jedoch weiter sexualisierte Bilder. EU droht mit juristischen Schritten Die EU-Kommission reagierte am Mittwoch zurückhaltend auf die Ankündigung des Unternehmens, mit den europäischen Behörden zusammenarbeiten zu wollen. Wenn die geplanten Änderungen nicht effektiv seien, werde sich die EU-Kommission nicht scheuen, ihr ganzes juristisches Arsenal zu nutzen, kündigte ein Sprecher in Brüssel an. Die EU hatte X zuvor angewiesen, ​bis zum Jahresende alle Dokumente und Daten zu Grok aufzubewahren. Zahlreiche Politiker, Bürgerrechts- und Frauenrechtsgruppen fordern zudem von Apple ⁠und Google, die Apps von X und Grok aus ihren jeweiligen App-Stores zu entfernen.