Dlf 12.01.2026
12:28 Uhr

Frauen und Kinder betroffen - KI-Chatbot Grok in Malaysia und Indonesien wegen sexueller Deepfakes blockiert


Malaysia und Indonesien haben den US-amerikanischen KI-Chatbot Grok gesperrt.

Frauen und Kinder betroffen - KI-Chatbot Grok in Malaysia und Indonesien wegen sexueller Deepfakes blockiert
Die Behörden in den beiden südostasiatischen Ländern erklärten, die bestehenden Kontrollmechanismen reichten nicht aus. Erstellung und Verbreitung von durch Künstliche Intelligenz erstellten pornografischen Inhalten, insbesondere solcher mit Bezug zu Frauen und Minderjährigen, würden so nicht verhindert. Die Kommunikations- und Multimedia-Kommission in Malaysias Hauptstadt Kuala Lumpur teilte mit, sie habe die Unternehmen X und xAI zu strengeren Sicherheitsvorkehrungen aufgefordert.
Grok ist der Chatbot des KI-Unternehmens xAI des Technologie-Unternehmers Musk. Er steht den Nutzern auf dessen Social-Media-Plattform X grundsätzlich kostenlos zur Verfügung. Allerdings wurde die Bildgenerierung und -bearbeitung mittlerweile auf zahlende Nutzer beschränkt. Kritiker bemängeln, dass das Problem mit sogenannten sexuellen Deepfakes dadurch nicht gelöst sei.
Diese Nachricht wurde am 12.01.2026 im Programm Deutschlandfunk gesendet.