Googles Filter haben versagt: YouTubes Algorithmen stuften Notre Dame-Brand als 9/11 Fake News ein (Screenshot)

youtube 

Ihr habt es mitbekommen: Seit gestern Abend wütete ein verheerendes Feuer in der Pariser Kathedrale Notre Dame und hat das vor vielen Jahrhunderten errichtete Gebäude schwer beschädigt. Dieses Ereignis beschäftigte am Spätabend die ganze Welt und es gab unzählige Livestreams im Web, unter anderem auch auf YouTube. Doch Googles Videoplattform hat sich dabei erneut blamiert und den Brand gewissermaßen als Fake News eingestuft.


Immer wieder wurden in der Vergangenheit historische Bauwerke zerstört oder schwer beschädigt, aber es war das erste Mal, dass praktisch die ganze Welt im TV und im Web Live dabei zusehen konnte/musste, wie ein Weltkulturerbe verbrennt. Das war eine neue Dimension und sorgte dementsprechend für sehr hohe Zuschauerzahlen bei den YouTube-Livestreams. Dadurch wurden dann auch YouTubes Filter getriggert und die Videos fälschlicherweise als etwas eingestuft, das sie nicht sind.

youtube sad logo

Bereits seit dem vergangenen Jahr warnt YouTube testweise mit kleine Hinweisboxen vor Fake News und Verschwörungstheorien im aktuellen Video, doch erst seit den wenigen Wochen ist diese Funktion vollständig in einigen Ländern freigeschaltet. Aus irgendeinem Grund wurden die gestrigen Livestreams mit dem 11. September (der WTC-Anschlag in New York) in Verbindung gebracht und eine entsprechende Warnung eingeblendet. Zwar war dort eindeutig von einem anderen Event die Rede, dennoch kann es auch gefährlich sein, diese Videos als Fake News einzustufen. Weiter unten seht ihr einen Screenshot der Meldung, die viele US-Nutzer zu sehen bekommen haben.

Statt vor falschen Meldungen zu warnen, sorgt YouTube damit sogar selbst dafür, dass Verschwörungstheorien entstehen. Nach den ersten Meldungen hatte YouTube diese Meldung zwar schnell entfernt, aber dennoch zeigt es, dass die Funktion längst nicht perfekt ist. Wie es überhaupt dazu kommen konnte, das beides in Verbindung gebracht wird, ist unterdessen nicht bekannt. Zwar geht es bei beiden Themen um brennende Gebäude, aber die Bilder sind doch sehr sehr unterschiedlich.

As long as we are using automated methods to throttle content there is always a margin for mistake. This is a multifaceted problem; not only is it working to detect false news but something being falsely associated with 9/11.

Auch der YouTube-Sprecher macht klar, dass so etwas immer wieder passieren kann und wird und es menschliche Kontrolle wohl nicht gehen kann. Insbesondere bei einem Livestream wird das aber nicht so leicht sein.



youtube notre dame

We are deeply saddened by the ongoing fire at the Notre Dame cathedral. Last year, we launched information panels with links to third-party sources like Encyclopaedia Britannica and Wikipedia for subjects subject to misinformation. These panels are triggered algorithmically and our systems sometimes make the wrong call. We are disabling these panels for live streams related to the fire.

In this case specifically, with the recommendation being something so unrelated, we really need better audits to see why it is recommending what it’s recommending

Natürlich war das nur ein Missgeschick und Fehler können sowohl Menschen als auch Algorithmen unterlaufen. Dennoch wirft es auch die Frage auf, wie gut YouTubes Algorithmen wirklich sind, die in jüngster Vergangenheit auch als „Uploadfilter“ bezeichnet werden. Da sie ja gestern endgültig beschlossen wurden, müssen die Entwickler wohl nochmal ran und innerhalb von zwei Jahren das vollkommen unmögliche Wunderwerk vollbringen.

P.S. Aus diversen Gründen sind die Kommentare für diesen Artikel absichtlich deaktiviert.

Siehe auch
» YouTube Faktencheck: YouTube warnt die Nutzer jetzt vor Fake News und Verschwörungstheorien

[futurezone]


Keine Google-News mehr verpassen: Abonniere den GoogleWatchBlog-Newsletter
GoogleWatchBlog Newsletter abonnieren


Teile diesen Artikel:

Facebook twitter Pocket Pocket