Ende August hat Meta mit 48 Bundesstaaten der USA einen außergerichtlichen Vergleich geschlossen, um Klagen wegen des jugendgefährdenden Potentials seiner Plattformen abzuwenden. Knapp 16,7 Milliarden Dollar zahlt der Konzern und verpflichtet sich, weitreichende Maßnahmen für den Jugendschutz zu ergreifen. Nur wenige Tage später zeigen ein Bericht des Magazins „Wired“ und eine Untersuchung des gemeinnützigen Tech Transparency Projects (TTP), dass es damit nicht weit her ist und Profite, die man mit Social Media auf dem chinesischen Werbemarkt erzielen kann, Meta offenbar wichtiger sind als der Schutz von Kindern und Jugendlichen. Wie „Wired“ berichtet, hat Meta zwar nach einer Reportage des Magazins kürzlich rund 50 kinderpornographische Werbespots, die auf seinen Plattformen erschienen, entfernt – noch bevor ein neues KI-System zur Aufspürung solcher Inhalte im Einsatz war. Doch haben Forscher des Tech Transparency Projects seit Anfang August noch mehr als 350 weitere bezahlte Anzeigen auf Meta-Plattformen mit digital manipuliertem Bildmaterial gefunden, einiges davon war identisch mit den Inhalten, die zuvor entfernt worden waren. „Nudify“-Apps, mit denen man Menschen digital entkleiden kann Die Spots weisen KI-generierten sexuellen Kindesmissbrauch auf, sie machen Werbung für sogenannte „Nudify“-Apps, mit denen man Menschen digital entkleiden kann. Manche der Bilder basieren auf Aufnahmen echter Kinder, unter den Dargestellten findet sich auch der Spross einer europäischen Königsfamilie. Beim Anklicken kann man die mit KI erstellten Figuren in sexuell explizite Situationen bringen. Das sei „mehr als KI-generiertes Material“, sagte die TTP-Direktorin Katie Paul gegenüber „Wired“. Es könne „immensen Schaden anrichten, während Meta Geld scheffelt“. Kinderpornographie, auch solche, die KI-generiert ist, um Ähnlichkeit mit echten Kindern zu erzeugen, ist in den USA strafbar. TTP identifizierte im laufenden Jahr Hunderte solcher Werbeanzeigen auf Facebook, Instagram und Threads, die Kinder vom Kleinkind- bis zum jungen Teenager-Alter zeigen. Die meisten dieser Anzeigen verlinkten auf chinesische KI-Apps in Apples App Store und Googles Play Store, die über die besagte Nudify-Funktion verfügen. Apple und Google betonen, sie entfernten solche Apps, sobald sie entdeckt würden. Meta verweist auf „entschlossene Kriminelle“, die derartige Werbung schalteten und die Kontrollen des Konzerns geschickt umgingen. Dem am 8. September veröffentlichten Bericht des Tech Transparency Projects zufolge sind einige der Anzeigen indes von wichtigen Werbepartnern Metas in China platziert worden. Darunter sind der PR-Konzern Blue Focus, die staatlich kontrollierte Marketingfirma GIMC und die digitale Vermarktungsagentur Meetsocial, die Meta mit Provisionen für den Weiterverkauf von Anzeigen belohnt und mit Auszeichnungen unter anderem für „Kundenaktivierung“ geehrt hat. Wie Nachforschungen von Reuters ergeben hatten, nahm Meta 2024 rund 18 Milliarden Dollar an Werbegeldern aus China ein. Seine Social-Media-Plattformen sind dort zwar verboten, bei Meta Werbung zu machen, hat das Regime in Peking chinesischen Unternehmen aber erlaubt. Rund drei Milliarden Dollar Werbeeinnahmen aus China, berichtete Reuters und verwies auf interne Unterlagen von Meta, gingen auf betrügerische, pornographische und andere illegale Aktivitäten zurück, die Meta stillschweigend toleriere. Die internen Dokumente zeigten „die Zurückhaltung des Konzerns, Korrekturen vorzunehmen, die seinem Geschäft schadeten“, schrieben die Autoren. Nach Angaben von TTP entfernt Meta kinderpornographische Werbung nicht nur lückenhaft, sondern auch extrem langsam. Für die Überprüfung einiger der entdeckten und gemeldeten Werbeanzeigen brauchte Meta eine ganze Woche. In einer Stellungnahme zu den Vorwürfen behauptete Meta, man habe viele der von TTP angezeigten Spots bereits zuvor schon entfernt. Die meisten seien weniger als zweihundertmal auf den Plattformen gezeigt worden; man habe an der Werbung kaum 5000 Dollar verdient. Alle kinderpornographischen Inhalte zeige man umgehend beim National Center of Missing and Exploited Children (NCMEC) an. Die Recherchen des TTP und von Reuters sprechen dagegen. Die Staatsanwaltschaft von San Francisco hat Meta aufgefordert, die mit KI-generierter kinderpornographischen Anzeigen sofort zu unterbinden und zu erklären, wie diese auf den Plattformen des Konzerns überhaupt erscheinen können. Die Antwort von Meta lautet, wie „Wired“ berichtet, das falle nicht in die juristische Zuständigkeit der Stadt.