Die Autorin Ashley St. Clair, Mutter eines der Kinder von Elon Musk, hat dessen KI-Firma xAI wegen der Erstellung sexuell expliziter Bilder durch den Chatbot Grok verklagt. Grok habe es Nutzern ermöglicht, sie durch die Erzeugung von Deepfake-Aufnahmen sexuell auszubeuten, heißt es in einer Klageschrift, die in St. Clairs Namen beim obersten Gericht des US-Bundesstaats New York eingereicht wurde. Dies habe sie gedemütigt und seelisch belastet. St. Clair fordert unter anderem eine nicht bezifferte Schadensersatzsumme sowie gerichtliche Anordnungen, die xAI umgehend untersagen sollen, weitere Deepfakes von ihr zuzulassen. St. Clair ist die Mutter von Musks 16 Monate altem Sohn Romulus. Laut der Klageschrift wurde ein Foto von ihr im Alter von 14 Jahren, auf dem sie vollständig bekleidet gewesen ist, so verändert, dass sie darauf einen Bikini trägt. Weitere Bilder zeigten sie als Erwachsene in sexualisierten Posen sowie in einem Bikini mit Hakenkreuzen. St. Clair ist Jüdin. Grok ist auf Musks Social-Media-Plattform X verfügbar und derzeit heftig umstritten. xAI äußerte sich bisher nicht zu der Klage St. Clairs. St. Clair wirft X "Vergeltungsmaßnahmen" vor In der Klageschrift heißt es weiter, St. Clair habe die Deepfakes bei X gemeldet, als sie im vergangenen Jahr erstmals aufgetaucht seien, und deren Entfernung verlangt. Zunächst habe die Plattform geantwortet, dass die Bilder nicht gegen ihre Richtlinien verstoßen würden. Anschließend habe X zugesichert, nicht zuzulassen, dass Aufnahmen von ihr ohne ihre Zustimmung verwendet oder verändert würden. Die Plattform habe dann aber "Vergeltungsmaßnahmen" gegen sie ergriffen, indem ihr das kostenpflichtige X-Abonnement und das Verifizierungshäkchen entzogen worden seien. Sie habe keine Einnahmen mehr über ihren Account mit einer Million Followern erzielen können. Zudem seien auch weiterhin herabwürdigende gefälschte Bilder von ihr zugelassen worden. Am Mittwoch hatte X nach weltweiter Kritik an von Grok erstellten sexualisierten Bildern von Frauen und Kindern angekündigt, dass der Chatbot künftig keine Fotos mehr bearbeiten könne, um Menschen freizügig darzustellen – zumindest dort, wo dies illegal ist. In den USA ist es der Nachrichtenagentur Reuters zufolge weiter möglich, das zu tun. Kaliforniens Justiz hält Deepfakes für "möglicherweise illegal" Kaliforniens Generalstaatsanwalt Robert Bonta hält die generierten Bilder nach eigenen Angaben für "möglicherweise illegal" – und reagierte mit einer Unterlassungsaufforderung an xAI. Die "Flut an Berichten" über das Material, das teilweise Frauen und Kinder zeige, die sexuelle Handlungen ausführten, sei "schockierend", sagte Bonta. Elon Musk selbst hatte am Mittwoch gesagt, ihm seien keine Grok-generierten Nacktbilder von Minderjährigen bekannt . Der umstrittene ⁠Milliardär und ehemalige Trump-Berater Musk wehrt sich gegen die ⁠Regulierung seiner Dienste. In der EU ist X wie alle sozialen Plattformen dem Digital Services ‌Act (DSA) unterworfen, der Onlinefirmen unter anderem dazu verpflichtet, gegen illegale Inhalte im Internet vorzugehen. Musk wird bei ⁠seiner Kritik an derartiger Regulierung von der US-Regierung unterstützt. Beide werfen den europäischen Staaten Zensur und Unterdrückung der Meinungsfreiheit vor.