Der Einfluss emotionaler künstlicher Intelligenz und digitalem Spielzeug auf die kindliche Entwicklung

Bereiche, in denen Kindern spielen, werden zunehmend von modernen Technologien durchdrungen. Während die Welt in das digitale Zeitalter übergeht, sind Kinder immer häufiger digitalem Spielzeug ausgesetzt. Insbesondere in den letzten Jahren kam es zu einem Anstieg von Spielzeug mit emotionaler künstlicher Intelligenz (KI), sprich von Artikeln, die Daten von Kindern sammeln und deren Funktionalität entsprechend anpassen.

Obwohl diese Entwicklung nicht ohne Vorteile ist – es gibt positive Anwendungsfälle, in denen Spielzeug programmiert wurde, um entstehende psychische Gesundheitsprobleme zu identifizieren, positives Verhalten zu konditionieren und das Online-Lernen zu verbessern (McStay, 2020) – gibt es beachtliche Bedenken.

Was ist emotionale künstliche Intelligenz?

Emotionale KI wird in der Regel als „Verwendung von affektiven Computer- und KI-Techniken zum Erkennen und Einfühlen in das menschliche Gefühlsleben“ verstanden (McStay & Miyashita, 2020). Diese fortschrittlichen Lerntechnologien verwenden eine biometrische Erfassung, um emotionale Reaktionen von Kindern zu lesen und darauf zu reagieren, indem dabei Audio- und Videodaten gesammelt werden (McStay & Miyashita, 2020). Der Trend, das Verhalten von Kindern zu überwachen und darauf zu reagieren, spiegelt andere Entwicklungen bei technologischen Geräten für Erwachsene wider. Obwohl dieses Spielzeug noch nicht weit verbreitet ist, gibt es historische Präzedenzfälle, die darauf hindeuten, dass sie bald zur Norm werden.

Spielzeug hat sich technologisch allmählich weiterentwickelt: Leiterplatten von Ende des 20. Jahrhunderts wurden in den 2000er Jahren zu Spielzeug mit Internetverbindung, woraufhin Ende der 2010er Jahre Bild-/Spracherkennungssoftwares in Spielzeug eingebaut wurde (McStay & Miyashita, 2020). Die derzeitige Entwicklung von emotionalem KI-Spielzeug knüpft somit an das seit langem stattfindende Eindringen von Technologie in das Leben von Kindern an.

Diese Eingriffe bedrohen das Recht der Kinder auf Privatsphäre und, was vielleicht am besorgniserregendsten ist, ihr Recht auf Entfaltung ihres vollen Potenzials gemäß Artikel 29 des Übereinkommens der Vereinten Nationen über die Rechte des Kindes (CRC) (UNCRC, Artikel 29). Da sich Kinder in einem frühen Stadium ihrer emotionalen Reife befinden, sind sie besonders anfällig für den Einfluss von Technologien (McStay & Miyashita, 2020).

Experten für Kindesentwicklung und Bildungstechnologien haben die schwerwiegenden potenziellen Schäden angeführt, die durch Spielzeug entstehen, welches die Emotionen von Kindern manipulieren soll (McStay, 2020). Der Einsatz von Emotionserkennungstechnologien kann die Entwicklung eines Kindes beeinflussen und die Speicherung von Kinderdaten erfordert eine stärkere Regulierung (McStay, 2020).

Obwohl Länder in der Regel Datenschutz und Datenschutzgesetze auferlegen, konzentrieren sich diese überwiegend auf Erwachsene (McStay, 2020). Im Sinne der Konvention über die Rechte des Kindes (CRC) besteht ein großer Bedarf daran, die Daten und das Recht der Kinder auf Spiel zu schützen, um sicherzustellen, dass sie nicht zum finanziellen Vorteil manipuliert werden.

Emotionales KI-Spielzeug in der Praxis

Emotionales KI-Spielzeug ist typischerweise klein und handlich – Geräte, die häufig als „Kumpel“ für Kinder präsentiert werden. Die führenden Unternehmen für soziale Robotik, Jibo und Anki, haben einen Großteil der Entwicklung in diesem Bereich vorangetrieben (Yao, 2017). Jibo (das gleichnamige bahnbrechende Spielzeug des Unternehmens) wird als „äußerst interaktiv und einfühlsam“ beschrieben (Yao, 2017).

Tatsächlich spiegelt diese Beschreibung die Fähigkeit des Spielzeugs wider, Kinder an ihren Gesichtern zu erkennen und ihre Interessen kennenzulernen, um anschließend auf dieser Grundlage mit ihnen zu interagieren (Yao, 2017). Das Spielzeug ist in der Lage zu erkennen, was ein Kind mag und Bilder oder Nachrichten anzuzeigen, die mit diesem Interesse korrelieren (Yao, 2017).

In ähnlicher Weise ist Ankis jüngste Kreation ‚Cozmo‘ ein erschwinglicher Roboter-Kumpel, der die Grenze noch weiter ausreizt. Cozmo ist fähig zu lernen, sich anzupassen und auf Kinder zu reagieren, präsentiert aber auch eine eigene „Laune“ (McStay, 2021). Der Roboter ahmt menschliches Verhalten nach und kann Begeisterung und Zuversicht sowie Traurigkeit und Wut zeigen, wenn eine Situation diese Reaktion hervorruft (McStay, 2021). Das Spielzeug lernt von seinem Benutzer über Kameras und kann Gesichter und Namen lernen sowie auf grundlegende Emotionen mit seinen eigenen „menschlichen“ Reaktionen reagieren (McStay, 2021).

Die Geschichte zeigt uns, dass Spielzeug dieser Art – so auch das Tamagotchi, ein beliebtes digitales Haustierspielzeug aus den 1990er Jahren – Abhängigkeitsprobleme für Kinder verursachen kann, welche sich zunehmend für das Wohlbefinden des Roboters verantwortlich fühlen (Jolin, 2017). Ohne Regulierung werden die Gefahren solcher Zubehöre mit der Technologie nur zunehmen.

Die Vermarktung des Rechts des Kindes auf Spiel

Da es für Menschen immer schwieriger wird, ihre persönlichen Daten zu schützen, sind Kinder einem erhöhten Risiko von Dateninfiltration ausgesetzt. Unternehmen sammeln Kinderdaten und geben sie an Dritte und andere Unternehmensakteure weiter, um zukünftige Marketingstrategien und Produktdesigns umzusetzen (McStay, 2020). Wie eine lange Liste von Medienberichten zeigt, haben schlechte Datensicherheitsmaßnahmen sogar dazu geführt, dass Datensätze häufig verletzt und neu verteilt werden konnten (McStay, 2020).

Weil immer mehr Daten über die emotionale Entwicklung von Kindern gesammelt und verteilt werden, wird es für Familien und Kinder schwierig, ihre Informationen zurückzuverfolgen und vor Missbrauch zu schützen (McStay, 2020). Diese Datenerfassung birgt erhöhte Risiken und liefert Handelsunternehmen wichtige Informationen, um künftig noch manipulativere Technologien damit zu füttern.

Diese Praxis schafft ein Ungleichgewicht der Macht. Kinder werden erfolgreich als „kostenlose Arbeitskräfte“ für Unternehmen und Konzerne eingesetzt, die deren Schwächen um des Gewinns willen ausnutzen möchten (McStay, 2020). Durch das Profiling der Entwicklung von Kindern verletzen diese Spielzeugfirmen das inhärente Recht eines Kindes auf Privatsphäre und setzen es der Möglichkeit aus, dass diese sensiblen Informationen ihnen bis ins Erwachsenenalter folgen (McStay, 2020). Die Kindheit ist eine herausfordernde und sensible Phase in der Persönlichkeitsentwicklung. Der Prozess, sich zu einem gesunden Erwachsenen zu entwickeln, kann erschwert werden, wenn ein Kind in dieser frühen Phase zurückgelassen wird.

Politische Auswirkungen

Emotionale KI stellt politische Entscheidungsträger auf der ganzen Welt vor zahlreiche komplexe Fragen. Sollen Kinder mit diesem Spielzeug spielen, wenn Eltern es nicht vollständig verstehen? Ist es überhaupt fair, Kindern zu erlauben, dieses Spielzeug zu benutzen – und ihre Daten sammeln zu lassen – wenn sie noch keine fundierte Entscheidung treffen können?

Die manipulativen Wurzeln dieser Technologie sowie die natürliche Verletzlichkeit von Kindern erfordern eine erhöhte Aufmerksamkeit, vorausgesetzt Eltern wünschen sich nichts sehnlicher, als das Glück und die Sicherheit ihres Kindes (McStay, 2020). Formale Richtlinien und eine strengere Gesetzgebung sind erforderlich. Die derzeitige Gesetzgebung schützt Kinder in dieser Hinsicht nicht angemessen. Um diese politischen Lücken zu schließen, haben Experten einige Vorgehensweisen vorgeschlagen.

Die politischen Entscheidungsträger könnten Emotionsdaten als eine bestimmte Kategorie identifizieren und damit einen einzigartigen Schutz gewährleisten, der Kinder angemessen absichert (McStay, 2020). Dieser Schutz könnte in Form eines Verbots gewährt werden, das die Verwendung von Emotionsdaten zur Information des kommerziellen Marketings und Produktdesigns ausschließt (McStay & Miyashita, 2020).

Die Verbreitung von Emotionsdaten könnte auch zu einer Ausweitung des Rechts auf Löschung führen: das Recht der Kinder, die Löschung ihrer persönlichen Daten zu beantragen sobald sie 18 Jahre alt sind (McStay, 2020). Alle diese Ansätze müssen im Sinne der CRC formuliert sein und internationalen Standards entsprechen.

Empfehlungen zu möglichen Lösungen

Technologie wird zunehmend eine Rolle im Leben von Kindern spielen. Hello Barbie und Amazon Echo sind nur ein paar Beispiele für die neue Generation von Smart Toys, die ständig aktiv sind und das Verhalten von Kindern überwachen, um Daten zu sammeln (McReynolds, 2017). Während dieses und anderes Spielzeug als pädagogische Produkte vermarktet werden, versäumen es Werbekampagnen die Käufer über die möglichen Auswirkungen des Spielzeugs zu informieren. Auf kommerzieller Ebene müssen sich Unternehmen, NGOs und Gesetzgeber zusammenschließen, um:

die Datentypen, die von Kindern gesammelt werden sowie die Notwendigkeit, diese zu protokollieren, neu zu bewerten (McReynolds, 2017). Unternehmen könnten sicherstellen, dass Daten nach einem festgelegten Zeitraum gelöscht werden und dringliche Verfahren einrichten, um zu definieren, welche Daten aufbewahrt werden.
zu verfügen, dass Unternehmen gezwungen werden, Sensibilisierungskampagnen durchzuführen, mit dem Ziel die Öffentlichkeit für die Risiken emotionaler KI-Spielzeuge, bezogen auf die Privatsphäre und Entwicklung eines Kindes, zu sensibilisieren (McReynolds, 2017).
strengeren Schutz der Privatsphäre von Kindern durchzusetzen und damit zu gewährleisten, dass Spielzeugdesigner für ihre Produkte geprüft, zertifiziert und zur Rechenschaft gezogen werden können (McReynolds, 2017).

Es gibt auch Maßnahmen, die zu Hause durchgeführt werden können, um Kinder besser zu schützen. Eltern und Sorgeberechtigte können:

vermeiden, die Kinderbetreuung und elterlichen Aufgaben auf emotionales KI-Spielzeug zu übertragen, welches natürlich die menschlichen Interaktionen stark vereinfacht und die Entwicklung des Kindes behindern kann (McStay, 2020). Kinder sollten dazu ermutigt werden, ihre Fantasie so weit wie möglich einzusetzen und eine entscheidende aktive Rolle zu spielen.
sich mit der Funktionsweise von emotionalem KI-Spielzeug und dessen möglichen Auswirkungen auseinandersetzen. Eltern sollten besonders auf die Art der Daten achten, die von diesem Spielzeug gesammelt werden und auf die Art und Weise, wie diese Informationen aufbewahrt und verwaltet werden.
so weit wie möglich sicherstellen, dass die Daten von Kindern regelmäßig gelöscht werden, um ihre Privatsphäre zu schützen.

Bei Humanium möchten wir das Bewusstsein für die Bedeutung der Kinderrechte schärfen. Unsere Arbeit ist dank Ihrer Unterstützung möglich! Spenden Sie, um die Rechte der Kinder Wirklichkeit werden zu lassen.

Geschrieben von Vanessa Cezarita Cordeiro

Übersetzt von Carolyn Deloffre

Lektorat von Anita Kister