Vernetztes Spielzeug: Wenn der Plüschteddy über Sexpraktiken redet

Süß sieht er schon aus, der kleine Bär. Doch er hat es faustdick hinter seinen Plüschohren. Denn das Spielzeug für Kinder ab drei Jahren, das es bis vor ein paar Tagen in den USA für 99 Dollar zu kaufen gab, kann sprechen. Nicht so wie früher, als Puppen kleine Platten mit immer den gleichen Sätzchen krächzten. Oder wie elektronische Papageien, die mithilfe einer Aufnahmefunktion alles nachplappern, was ihnen vorgesagt wird. Nein, Kumma – so heißt das elektronisch aufgepimpte Stofftier – ist mit einer KI verbunden und kann über alles Mögliche sprechen.

Alles Mögliche ist hier durchaus im Wortsinn zu verstehen, und von hier an wird es gefährlich. Tester einer amerikanischen Verbraucherschutzorganisation trauten ihren Ohren nicht, als es ihnen mit sehr einfachen Fragen gelang, von Kumma Auskunft darüber zu erhalten, wo man im Haus etwa Pillen oder andere gefährliche Dinge finden könne.

Wie etwa Streichhölzer. Was dann kam, erstaunte die Tester noch mehr. Streichholz heißt auf Englisch match. Das bedeutet dort aber auch Treffer im Sinne von Übereinstimmung, etwa bei der Partnersuche. Also lieferte Kumma Informationen zu Dating-Apps und auf Nachfrage auch zu Sexualpraktiken.

Ob der Hersteller das im Sinn hatte, als er den KI-Bären und anderes ähnliches Spielzeug als Tutor für Kinder empfahl, ist nicht wahrscheinlich. Allerdings hat es offenbar an der nötigen Sorgfalt gefehlt, das dahinterliegende KI-Sprachmodell so einzuhegen, dass es nicht freimütig über Dinge plaudert, die nun wirklich nichts für Kinder im Kindergarten- und Grundschulalter sind.

Für Kumma hat der Hersteller das Sprachmodell Chat-GPT 4.0 des US-Herstellers Open AI verwendet. Dort war man von den Entdeckungen der Verbraucherschützer überhaupt nicht begeistert und hat dem Spielzeugfabrikanten das Nutzerkonto gesperrt, wie die New York Times berichtet. Es widerspreche der Nutzungsvereinbarung, die Dienste von Open AI dazu zu verwenden, Menschen unter 18 Jahren auszubeuten, zu gefährden oder zu sexualisieren, teilte Open AI demzufolge in einer Stellungnahme mit. Die Website des Herstellers von Kumma, Folo Toys, ist inzwischen nicht mehr abrufbar. Der Verkauf in den USA wurde eingestellt.

Dass elektronisches Spielzeug gefährlich sein kann, nicht bloß für Kinder, ist nichts Neues. Der US-Geheimdienst NSA etwa verbot schon Ende der 1990er-Jahre, ein Spielzeugwesen namens Furby in den Diensträumen zu nutzen – wegen der Gefahr von Spionage. Das vernetzte Gerät besitzt Sensoren und Mikrofone und spricht neben der jeweiligen Landessprache auch Wörter in einer eigenen Sprache. Eine ebenfalls mit dem Internet verbundene Barbiepuppe von Mattel versuchte ganz offenbar, Interessen und Wünsche von Kindern zu erfahren und erhielt dafür den „Big Brother Award“. Das ist eine Auszeichnung für den schlechten Umgang mit Daten in der digitalen Gesellschaft.

Das größte Problem für Kinder aber dürften weniger solche Spielzeuge sein, sondern Gerätschaften, die nahezu jede und jeder zu Hause hat: Smartphones und Tablets. Experten raten dazu, sie Kindern nicht zu früh zu überlassen und auch später die Nutzung stets im Auge zu behalten.

Vernetztes Spielzeug: Wenn der Plüschteddy über Sexpraktiken redet

Kumma heißt der nur scheinbar niedliche Bär mit KI-Anschluss. Was er so daherplappert, hat US-Verbraucherschützer schockiert. Mittlerweile wurde der Verkauf eingestellt.