Eine aktuelle Untersuchung der New York Times enthüllt ein beunruhigendes Phänomen: YouTube-Algorithmen empfehlen Kleinkindern massenhaft minderwertige, KI-generierte Videos. Für Eltern und Pädagog:innen in Österreich wird es immer schwieriger, die digitalen Kindersendungen von diesem “AI Slop” zu unterscheiden, während die EU mit neuen Gesetzen zur Kennzeichnungspflicht nur langsam nachzieht.
Viele Eltern in Österreich verlassen sich auf YouTube und YouTube Kids als vermeintlich sichere Quellen für die Unterhaltung und Bildung ihrer Kinder. Eine aktuelle Untersuchung der New York Times zeigt jedoch, dass diese Annahme trügerisch sein könnte . Die Studie enthüllt, dass der YouTube-Algorithmus Kindern im Vorschulalter aktiv eine Flut von minderwertigen, KI-generierten Videos, sogenanntem “AI Slop”, vorsetzt. Diese Entwicklung stellt nicht nur die pädagogische Wertlosigkeit dieser Inhalte in Frage, sondern wirft auch ernste Bedenken hinsichtlich der kognitiven Entwicklung von Kindern auf.
Das Ausmaß der KI-Flut im Kinderzimmer
Die Ergebnisse der New York Times-Untersuchung sind alarmierend. Nach dem Ansehen eines einzigen Videos von beliebten Kinderkanälen wie “CoComelon” bestanden in einer 15-minütigen Sitzung über 40% der von YouTube Shorts empfohlenen Videos aus KI-generierten Inhalten . Diese Videos, die oft vorgeben, lehrreich zu sein, sind bei näherer Betrachtung meist bizarr und sinnfrei. Sie zeigen verzerrte Gesichter, Tiere mit überzähligen Gliedmaßen und unverständlichen Text. Mit einer Länge von selten mehr als 30 Sekunden fehlt ihnen jegliche narrative Struktur oder pädagogisch wertvolle Wiederholung, die für das kindliche Lernen essenziell sind .
“Experten sagen, dass das Format keinen Raum für Wiederholung oder narrative Struktur lässt, beides ist für kleine Kinder, die von Medien lernen, unerlässlich. Dennoch erzielen die Videos Millionen von Aufrufen.” – Digital Trends
Die anonymen Produzenten dieser Videos nutzen leicht zugängliche KI-Tools, um mit minimalem Aufwand maximale Reichweite und Werbeeinnahmen zu erzielen. Ein einziges Halloween-Video mit KI-generierten Tieren erreichte über 370 Millionen Aufrufe, was die finanzielle Motivation hinter dieser Content-Schwemme verdeutlicht.
Regulatorische Lücken und die zögerliche Reaktion der Plattformen
Obwohl YouTube nach der Konfrontation durch die New York Times einige der genannten Kanäle aus seinem Partnerprogramm entfernte, bleibt das grundlegende Problem bestehen. Die Plattform verlangt zwar eine Kennzeichnung für realistisch aussehende KI-Inhalte, doch diese Regel greift nicht für animierte oder stilisierte Videos, die den Großteil der Inhalte für Kinder ausmachen. Die Verantwortung, diese Videos zu erkennen und zu filtern, wird somit vollständig auf die Eltern abgewälzt – eine Aufgabe, die selbst für Expert:innen immer schwieriger wird.
Die Europäische Union versucht, dieser Entwicklung mit neuer Gesetzgebung zu begegnen. Der Digital Services Act (DSA) verpflichtet sehr große Online-Plattformen wie YouTube bereits jetzt, systemische Risiken zu bewerten und zu mindern. Während “AI Slop” nicht explizit erwähnt wird, könnten die Vorschriften zur Transparenz von Empfehlungsalgorithmen und zur Risikominderung hier anwendbar sein .
Eine konkretere Regelung wird mit dem EU AI Act erwartet, dessen Kernbestimmungen ab August 2026 in Kraft treten. Dieser sieht eine klare Kennzeichnungspflicht für KI-generierte Inhalte vor (Art. 50). Nutzer:innen müssen darüber informiert werden, wenn sie mit einem KI-System interagieren, und KI-generierte Audio- und Videoinhalte (“Deepfakes”) müssen als solche markiert sein . Ob diese Kennzeichnungspflicht jedoch ausreichen wird, um die Flut an minderwertigen Inhalten einzudämmen, bleibt fraglich, solange die Algorithmen der Plattformen weiterhin auf pures Engagement und nicht auf Qualität optimiert sind.
|
Regulierung
|
Status
|
Relevanz für “AI Slop” auf YouTube
|
|
EU Digital Services Act (DSA)
|
In Kraft
|
Verpflichtet YouTube zur Risikobewertung und Transparenz bei Algorithmen.
|
|
EU AI Act
|
Tritt ab August 2026 in Kraft
|
Führt eine Kennzeichnungspflicht für KI-generierte Inhalte ein.
|
|
YouTube-Richtlinien
|
In Kraft
|
Kennzeichnungspflicht nur für realistische KI-Inhalte, nicht für animierte.
|
Was Eltern und Pädagog:innen jetzt tun können
Angesichts der regulatorischen Lücken und der zögerlichen Selbstregulierung der Plattformen ist die Förderung von Medienkompetenz bei Kindern und Eltern wichtiger denn je. Es ist entscheidend, dass Kinder lernen, Inhalte kritisch zu hinterfragen und die Funktionsweise von Algorithmen zu verstehen. Für Eltern und Pädagog:innen in Österreich bedeutet das konkret:
• Bewusste Auswahl statt passivem Konsum: Verlassen Sie sich nicht auf den Autoplay-Algorithmus. Erstellen Sie stattdessen eigene Playlists mit geprüften, hochwertigen Inhalten. Die American Academy of Pediatrics rät explizit davon ab, Kindern KI-generierte oder stark sensationalisierte Inhalte zu zeigen .
• Gemeinsames Schauen und Sprechen: Sehen Sie sich Inhalte gemeinsam mit Ihren Kindern an und sprechen Sie darüber. Fragen Sie nach, was sie sehen, was ihnen gefällt und was ihnen seltsam vorkommt. So können Sie frühzeitig auf problematische Inhalte aufmerksam werden.
• Sensibilisierung für KI-Merkmale: Auch wenn es schwierig ist, können bestimmte Merkmale auf KI-generierte Inhalte hinweisen: unlogische Handlungen, verzerrte oder sich verändernde Objekte im Hintergrund, seltsame Stimmen oder eine fehlende narrative Logik.
• Nutzung von Alternativen: Erkunden Sie kuratierte und pädagogisch wertvolle Kinder-Mediatheken von öffentlich-rechtlichen Sendern oder spezialisierten Anbietern, die eine sichere und qualitativ hochwertige Alternative zu YouTube bieten können.
Die Flut an “AI Slop” ist mehr als nur ein digitales Ärgernis. Sie stellt eine ernsthafte Herausforderung für die gesunde Entwicklung und die Medienbildung unserer Kinder dar. Es bedarf einer gemeinsamen Anstrengung von Politik, Plattformen, Pädagogik und Elternhaus, um sicherzustellen, dass der “unsichtbare Babysitter” nicht zu einer Gefahr für die kognitive und emotionale Entwicklung der Jüngsten wird.
