Wie gefährlich sind YouTube-Algorithmen für Kinder?

Forscher des "Technology Transparency Projects", einer NGO mit Sitz in den USA, wollten herausfinden, ob es einen Zusammenhang zwischen Waffengewalt und Youtube-Videoempfehlungen gibt.

Sie erstellten separate Youtube-Konten, die sich als typische 9- und 14-jährige Jungen ausgaben, die in den USA leben und gerne Videos spielen.

Die Analysten sahen sich nur Inhalte über Videospiele an, aber einige Konten klickten auf die vom Youtube-Algorithmus empfohlenen Videos, während die anderen Profile diese Vorschläge ignorierten

Scrollen, um mit dem Inhalt fortzufahren
Anzeige

Die Studie ergab, dass die Accounts, die auf die von der Plattform empfohlenen Videos klickten, schnell mit gewalttätigen Inhalten überflutet wurden. Es handelte sich dabei um Videos über Schulschießereien und den Umgang mit Schusswaffen z.B. wurden - etwa 12 Videos pro Tag über einen Monat hinweg.

Die Konten, die die Vorschläge ignorierten, erhielten zwar immer noch einige Gewaltvideos, aber 10 Mal weniger als die anderen. Ein Video, das an einen Minderjährigen weitergeleitet wurde, zeigt z.B. ein junges Mädchen, das eine Pistole hält und abfeuert.

Besorgniserregend ist, dass diese Videos ein breiteres Publikum erreichen. Das "Technology Transparency Project" twitterte einen Kommentar unter einer Filmszene, die fast 1 Million Mal angesehen wurde und eine Schießerei an einer Schule zeigt. Ein Nutzer sagte, diese Szene sei "das, was ihn jeden Tag motiviert".

Für Katie Paul, die Leiterin des "Technology Transparency Projects", verstoßen diese Videos nicht nur gegen die Richtlinien von Youtube, sondern könnten auch gefährdete Kinder auf einen gefährlichen Weg bringen.

Das ist nur ein weiteres Beispiel für das Versagen der Qualitätskontrolle auf einer Plattform, die dem US-Kongress, der Öffentlichkeit und den Eltern immer wieder erklärt hat, dass es sich um eine sichere Plattform handelt und dass ihre Algorithmen keine zunehmend extremen Inhalte empfehlen. Unser Experiment hat gezeigt, dass sie in Wirklichkeit immer extremere Inhalte empfehlen.

Es ist nicht das erste Mal, dass Youtube und andere Social-Media-Plattformen wegen der Förderung gefährlicher Inhalte in die Kritik geraten.

Die Täter, die hinter einigen Massenerschießungen standen, hatten Youtube genutzt, um gewalttätige Inhalte zu finden, und ihre Angriffe manchmal sogar per Livestream zu übertragen.

In Beiträgen auf der Plattform schrieb der Schütze, der vor 5 Jahren in Parkland, Florida, 17 Menschen tötete, gewalttätige Dinge wie "Ich werde ein professioneller Schulschütze sein".

In einigen Fällen hatte Youtube bereits einige der in der Studie identifizierten Videos entfernt, in anderen Fällen sind die Inhalte jedoch noch immer online verfügbar.

Wir haben Youtube um einen Kommentar gebeten, aber zum Zeitpunkt der Ausstrahlung dieses Beitrags lag noch keine Antwort vor.