Nach dem Skandal um sexualisierte KI-Bilder von Elon Musks Chatbot Grok leitet die EU-Kommission ein Verfahren gegen den US-Konzern X ein. Die Kommission beschuldigt das Unternehmen laut einer Mitteilung, die Risiken bei der Einführung seiner Künstlichen Intelligenz auf der Onlineplattform X nicht richtig bewertet und reduziert zu haben. Das Unternehmen X war in die Kritik geraten, weil Nutzerinnen und Nutzer über den KI-Chatbot Grok sexualisierte Bilder erstellen konnten, auch von Kindern . Bei der Untersuchung geht es laut EU-Kommission daher auch um Bilder, die als Kindesmissbrauch gelten könnten. EU-Kommissionspräsidentin Ursula von der Leyen teilte mit, die EU werde die Verantwortung für Konsens und Kinderschutz nicht an Tech-Unternehmen abgeben. "In Europa werden wir unvorstellbares Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht tolerieren." Ermittlungen wegen geschlechtsspezifischer Gewalt Das Verfahren konzentriert sich laut Mitteilung darauf, ob X das Risiko für "geschlechtsspezifische Gewalt und schwerwiegende negative Folgen für das körperliche und geistige Wohlbefinden" genügend eingeschränkt hat. Die Einleitung des Verfahrens auf Grundlage des Gesetzes über digitale Dienste (Digital Services Act, kurz DSA) bedeutet noch keinen Nachweis eines Verstoßes. Sollte X aber nicht einlenken oder entlastende Beweise liefern, könnten Strafen durch die EU-Kommission drohen. Sie wacht in der EU über die Einhaltung der Digitalregeln. Wie lange das Verfahren dauern wird, ist offen. Die KI-Bilder seien "eine gewaltsame, inakzeptable Form der Erniedrigung", sagte auch die EU-Digitalkommissarin Henna Virkkunen. Die Kommission werde nun ermitteln, ob sich X mit seinen internen Vorgaben für Grok an die EU-Gesetze halte oder "die Rechte europäischer Bürgerinnen und Bürger – darunter Frauen und Kinder – als Kollateralschaden behandelt hat". Von einer Strafe oder Sperre des Dienstes sah man aber zunächst ab: Eine Deaktivierung von Grok in der EU zu erwirken, ist nach eigenen Angaben nicht das Ziel der EU-Kommission und eher ein letztes Mittel. Indonesien und Malaysia hatten Grok als erste Länder weltweit Mitte Januar vorübergehend gesperrt . Weitere Untersuchungen laufen Die EU-Kommission kündigte neben der neuen Ermittlung zudem an, eine seit Ende 2023 laufende Untersuchung zu erweitern. Gegen die Onlineplattform laufen bereits mehrere Ermittlungen, unter anderem wegen der Moderation und des Risikomanagements illegaler Inhalte. Anfang Dezember hatte die EU gegen X eine Strafe von 120 Millionen Euro wegen Transparenzmängeln verhängt. Auch die britische Medienaufsichtsbehörde Ofcom hatte Mitte Januar eine offizielle Untersuchung gegen X eingeleitet. Als Grund gab die Behörde ebenfalls die von Grok sexualisierten Bilder an. Dies könne mitunter als Missbrauch gewertet werden. Die Pariser Staatsanwaltschaft ermittelt seit Sommer 2025 gegen X . Die ursprüngliche Ermittlung dreht sich um den Vorwurf, dass Algorithmen in dem sozialen Netzwerk verändert worden sein sollen, um rechtsextremen Inhalten mehr Aufmerksamkeit zu bescheren. Neu sind jetzt auch Vorwürfe wegen Holocaustleugnung und sexueller Abbildungen.