Unkontrolliertes Experiment Offener Brief gegen KI-Slop für Kinder auf YouTube

85% der Kinder unter 12 Jahren sollen YouTube täglich nutzen, bei fast drei Viertel der Familien mit Kindern unter 6 Jahren wird YouTube oder YouTube Kids täglich eingeschaltet; unter Jugendlichen nutzen rund 70% die Plattform täglich. Das ist ein extrem großes, potentielles Publikum, dessen Aufmerksamkeit hart umkämpft ist und das bereits vor Aufkommen der generativen KI mit automatisiert hergestellten und teilweise traumatisierenden Clips gefüttert wurde. Nach einem öffentlichen Aufschrei in Folge mehrerer Artikel zum Thema hatte YouTube damals viele solcher Videos gelöscht und Kanäle gesperrt ("Elsagate").

Knapp 10 Jahre später steht YouTube wieder in der Kritik, denn nun bekommen die Kinder zunehmend sogenannten KI-Slop zu sehen, also noch billiger und schneller per KI hergestellten, minderwertigen Videocontent. Während grundsätzlich jeder übertriebene Medienkonsum für Kinder ungesund ist (nicht zuletzt weil dadurch weniger Zeit für soziale Interaktionen und kreatives Spiel übrig bleibt), kommt durch den auf Kinder zugeschnittenen KI-Slop ein weiterer, schwerwiegender Faktor hinzu - es handelt sich um oftmals geradezu hypnotisch wirkende Videos weitgehend ohne Handlung, die kleine Kinder an den Bildschirm fesseln, was den Kanalbetreibern (und YouTube) lukrative Einnahmen beschert.

Die mit billigsten Mitteln errechneten Videos weisen oft auch die typischen KI-Fehler mit morphenden Gliedmaßen und ähnliches auf. Was solche Bilder mit den noch nicht fertig entwickelten Kindergehirnen macht, ist dabei noch lange nicht erforscht; erste Erkenntnisse geben jedoch wenig Anlass zur Entwarnung. So könnten Kinder, die viel KI-Slop zu sehen bekommen, später mehr Probleme mit der Realitätseinschätzung bekommen, etwa auch Fake-Aufnahmen schwerer von echten Bildern unterscheiden können, wie die Entwicklungspsychologin McCall Booth gegenüber der NYTimes erklärt. Das mentale Schema der Kinder sei angepasst worden um unwahrscheinliche, aber ästhetisch realistische Figurenaktionen mit aufzunehmen.

Indem der YouTube-Algorithmus Kindern gezielt KI-Slop vorschlägt (Erwachsenen werden solche Videos kaum eingespielt), beteilige sich der Konzern an einem "unkontrollierten Experiment, indem es KI-generierte Inhalte verbreitet, ohne dass deren Nutzen wissenschaftlich belegt ist und ohne die Prinzipien der kindlichen Entwicklung zu berücksichtigen, die darauf hindeuten, dass diese Inhalte wahrscheinlich überwiegend schädlich sind", heißt es nun in einem offenen Brief an die CEOs von YouTube und Google.

Darin verlangt die gemeinnützige Organisation Fairplay zusammen mit über 230 weiteren Experten und Interessenvertretern aus den Bereichen Kinderentwicklung, Verbraucherschutz und Online-Sicherheit von Google / Youtube, "wesentliche Änderungen an der Art und Weise vorzunehmen, wie KI-generierte Inhalte auf YouTube und YouTube Kids, einschließlich Shorts, angezeigt und verbreitet werden."

So sollten alle von KI generierten Inhalte auf YouTube eindeutig gekennzeichnet sein und sich über eine Kindersicherung herausfiltern lassen. Auf YouTube Kids sollten überhaupt keine von KI generierten Inhalte veröffentlicht werden dürfen, ebensowenig wie solche an Kinder gerichteten Videos („Made for Kids“) auf der Hauptplattform YouTube. Von KI generierte Inhalte sollten Nutzern unter 18 Jahren algorithmisch nicht empfohlen werden, während in die Erstellung von KI-generierten Videos für Kinder nicht investiert werden dürfe.

Wie YouTube auf die ziemlich weitgehenden Forderungen reagieren wird, ist noch offen.