Peinlicher Fehler: Google Photos erkennt dunkelhäutige Menschen wohl noch immer als Gorillas

photos 

Google hat sich im Laufe der Jahre eine sehr starke Bilderkennung bzw. Objekterkennung aufgebaut, die unter anderem auch für jeden Nutzer sichtbar in Google Photos zum Einsatz kommt. Doch trotz aller beeindruckenden Ergebnisse ist die Erkennung noch längst nicht perfekt und macht in manchen Fällen Fehler – und das kann in einigen Fällen für großen Ärger sorgen. Wie sich jetzt zeigt, hat Google es bis heute nicht geschafft, einen peinlichen Fehler aus dem Jahr 2015 zu fixen.


Durch vermehrten Einsatz von Künstlicher Intelligenz hat Google in den vergangenen Jahren an vielen Stellen die Erkennung von Bildern bzw. Objekten in Fotos stark verbessert. Am sichtbarsten kommt die Erkennung bei Google Photos zum Einsatz, aber auch Google Lens wäre ohne diese Erkennung nicht möglich und auch Motion Stills hätte es ohne eine sehr genaue Objekterkennung schwer. Doch ausgerechnet bei der Unterscheidung zwischen Mensch und Tier tun sich die Algorithmen schwer.

google photos gorilla

Vor mehr als zweieinhalb Jahren, im Sommer 2015 ist ein sehr peinlicher Bug bei der Erkennung von Objekten bzw. Subjekten in Google Photos aufgefallen: Dunkelhäutige Menschen wurden als Gorillas erkannt und wurden auch in der entsprechenden Kategorie einsortiert. Den Photos-Entwicklern war die ganze Sache natürlich peinlich, und sie hatten sich sehr schnell entschuldigt und den Fehler behoben. Wie sich aber jetzt zeigt, wurde der Fehler gar nicht behoben – zumindest nicht grundlegend.

Damit dieser Fehler nicht wieder auftaucht, hatten Google damals einfach die Kategorien für Gorillas und Schimpansen entfernt, so dass die Menschen nicht mehr falsch erkannt werden konnten. Als erste Maßnahme hat das gereicht und war natürlich auch nachvollziehbar, dass man einen solchen Fehler keinesfalls noch einmal riskieren wollte. Allerdings besteht diese Sperre bis heute, was auch tatsächlich damit erklärt wird, dass die System die Unterscheidung bis heute nicht zuverlässig hinbekommen.

Image labeling technology is still early and unfortunately it’s nowhere near perfect. We still don’t know in a very concrete way what these machine learning models are learning




Es ist davon auszugehen dass die Algorithmen mittlerweile deutlich besser arbeiten, denn in den Cloud-Angeboten rund um die Bilderkennung sind die Kategorien freigeschaltet und arbeiten problemlos. Allerdings reicht auch schon ein einzige False Positive um wieder eine große Debatte anzustoßen, also lässt man es wohl lieber noch so lange gesperrt, bis die System tatsächlich 100 Prozent perfekt arbeiten. Aber wie es in der Stellungnahme schon heißt: Die Erkennung steht noch immer ganz am Anfang.

Da Google Photos mittlerweile aber sogar Haustiere voneinander unterscheiden kann, sollte eigentlich auch die Unterscheidung zwischen dunkelhäutigen Menschen und Gorillas möglich sein. Dass die Künstlichen Intelligenzen innerhalb kürzester Zeit stark lernfähig sind, wurde schon mehrfach auf beeindruckende Art und Weise gezeigt. Man muss aber auch ganz ehrlich sagen, dass obiges Foto einfach etwas unvorteilhaft aufgenommen ist – dennoch sollten Algorithmen in der Lage sein, das zu unterscheiden.

Wozu die Objekterkennung mittlerweile imstande ist, zeigt sich sehr gut an den Beispielen von Google Lens oder auch der schon bald kommenden Entfernung von Objekten aus Fotos.

Siehe auch
» Alles rund um das Thema Bilderkennung
» Teardown: Google Photos kann in Zukunft Objekte entfernen & thematische Filme erstellen
» Alles aus Google Photos herausholen: So lässt sich die Gesichtserkennung und Google Lens aktivieren

[The Verge]


Teile diesen Artikel:

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.