Der Onlinedienst X von US-Milliardär Elon Musk hat seinen KI-Chatbot Grok eigenen Angaben zufolge bei der Erstellung sexualisierter Bilder realer Personen eingeschränkt. Damit reagiert das Unternehmen auf internationale Kritik. Mehrere Länder und der US-Bundesstaat Kalifornien hatten juristische Schritte eingeleitet. Das Unternehmen habe "technologische Maßnahmen" eingeführt, um auf Grok "die Bearbeitung von Bildern realer Personen mit leichter Bekleidung wie Bikinis zu verhindern", teilte X in einer Stellungnahme mit. Diese Beschränkung gelte sowohl für kostenlose Accounts als auch für zahlende Nutzer. Blockade soll für alle Nutzer gelten Außerdem werde die Erstellung von KI-Bildern eingeschränkt. Geografische Blockaden würden nun sicherstellen, dass kein Nutzer mehr mithilfe von künstlicher Intelligenz Bilder realer Personen in Bikinis, Dessous oder ähnlicher Bekleidung erzeugen könne – in Regionen, in denen solche Handlungen illegal seien. Vergangene Woche hatte der zu X gehörende Chatbot-Betreiber xAI die sexualisierte Bildfunktion des Chatbots zunächst nur auf zahlende X-Nutzer beschränkt . Die neuesten Maßnahmen gelten nun für alle. Die grundsätzliche Funktion, KI-Bilder über Grok zu bearbeiten oder zu erstellen, sei künftig allein zahlenden X-Nutzern vorbehalten. Damit wolle der Konzern eine weitere Sicherheitsebene einführen, um zu verhindern, dass jemand den Grok-Chatbot für illegale Zwecke nutzt oder gegen die unternehmensinternen Richtlinien verstößt. Kalifornien und EU ermitteln, Malaysia hat den Bot gesperrt Mit der Ankündigung reagiert X auf wachsende weltweite Kritik an einer umstrittenen Bildfunktion des Chatbots. Über diese konnten Nutzer in Sekundenschnelle aus Fotos realer Personen sexuell explizite Deepfake-Bilder erstellen – etwa mit Aufforderungen wie "entferne ihre Kleider" oder "ziehe ihr einen Bikini an". Auch die Erstellung und Verbreitung kinderpornografischer Inhalte war damit möglich. Die derart manipulierten Bilder wurden dann über X verbreitet. Am Mittwoch hatte der US-Bundesstaat Kalifornien Ermittlungen gegen den Grok-Betreiber xAI aufgenommen. Kalifornien will laut Generalstaatsanwalt Rob Bonta klären, ob die Betreiberfirma xAI gegen Gesetze des Bundesstaats zum Schutz vor Belästigung verstoßen hat. Zuvor hatten bereits die EU-Kommission und die britische Aufsichtsbehörde Ofcom Musks Unternehmen aufgefordert, Maßnahmen zum Schutz der Grok-Nutzer zu ergreifen. Indonesien und Malaysia haben den Zugang zu Grok vorerst gesperrt. Malaysia hat eine Klage angekündigt . Die Pariser Staatsanwaltschaft weitete eine laufende Untersuchung gegen X aus. Auch Bundesjustizministerin Stefanie Hubig (SPD) kündigte ein härteres Vorgehen an. Musk bestreitet Vorwürfe Noch am Mittwoch hatte Musk die Vorwürfe gegen Grok bestritten . "Mir sind keine von Grok generierten Nacktbilder von ⁠Minderjährigen bekannt. Buchstäblich null", schrieb Musk am Mittwoch auf dem Kurznachrichtendienst X. "Natürlich generiert Grok keine Bilder spontan, sondern nur auf Anfrage der Nutzer", betonte Musk in seinem Beitrag. ‍Musk bekräftigte, dass die Software sämtliche illegalen Anweisungen ignoriere und sich nach jeweiligen Ländergesetzen richte. Die EU-Kommission reagierte am Mittwoch zurückhaltend auf die Ankündigung des Unternehmens, mit den europäischen Behörden zusammenarbeiten zu wollen. Wenn die geplanten Änderungen nicht effektiv seien, werde sich die EU-Kommission nicht scheuen, ihr ganzes juristisches Arsenal zu nutzen, kündigte ein Sprecher in Brüssel an. Die EU hatte X zuvor angewiesen, ​bis zum Jahresende alle Dokumente und Daten zu Grok aufzubewahren. Zahlreiche Politiker, Bürgerrechts- und Frauenrechtsgruppen fordern zudem von Apple ⁠und Google, die Apps von X und Grok aus ihren jeweiligen App-Stores zu entfernen.