Peinlicher Fehler: Google Photos erkennt/erkannte dunkelhäutige Personen als Gorillas

photos 

Die mächtige Fotoerkennung in Google Photos kann zwar tausende von Gegenständen, Millionen von Gesichtern und zehntausende von Orten erkennen und zuordnen, aber natürlich ist auch dieses System nicht perfekt: Immer wieder einmal gibt es falsche Zuordnungen oder auch völlig falsche Vorschläge, aber diese halten sich mittlerweile schon sehr stark in Grenzen. Doch jetzt ist dem System ein mehr als peinlicher Fehler unterlaufen.


Normalerweise erkennt Google Photos Gesichter sehr zuverlässig als Menschen und kann diese Gesichter sogar gruppieren und die gleiche Person auf anderen Fotos finden. Es kommt nur sehr selten vor dass Menschen nicht erkannt oder als Gegenstände wahrgenommen werden – doch im jetzt vorliegenden Fall ist der Fehler etwas prekärer als bei anderen Fehlerkennungen. Der Algorithmus hat dunkelhäutige Menschen nicht als Personen erkannt, sondern dieser zur Kategorie „Gorillas“ zugeordnet.

Google Photos Gorilla

Bekannt geworden ist diese Falscherkennung nun dadurch, dass ein Nutzer dies gestern auf twitter gepostet hat, dem genau so etwas passiert ist. Obige beide Personen wurden dabei tatsächlich in die Kategorie Gorillas einsortiert und nicht einmal als Menschen erkannt. Alle weiteren Erkennungen daneben haben dagegen perfekt funktioniert, so wie man es normalerweise auch von dem Tool gewohnt ist. Die Erfahrung zeigt eigentlich, dass auch dunkelhäutige Menschen normalerweise problemlos erkannt und in die richtigen Kategorien einsortiert werden. Auch Menschen die mal heller und mal dunkler sind werden normalerweise korrekt erkannt und zugeordnet, doch in diesem Fall ist natürlich etwas falsch gelaufen.

Ein Googler, wahrscheinlich einer der verantwortlichen Entwickler für dieses Tool, hat umgehend darauf reagiert und sich bei twitter entschuldigt und baldige Besserung gelobt. Laut seiner Aussage steht die Ausbesserung dieser Funktion nun sehr weit oben auf seiner eigenen ToDo-Liste. In dem Twitter-Verlauf (unbedingt lesen), hat er auch schon mitgeteilt dass der Fehler schon jetzt behoben sein sollte und man derzeit an Features arbeitet die genau solche Einordnungen verhindern sollen. Natürlich kann ein solcher Fehler einmal vorkommen und die automatische Erkennung wird vielleicht niemals perfekt funktionieren, aber in diesem Fall ist es eben besonders peinlich – und verbreitet sich daher gerade wie ein Lauffeuer durch das Internet.



Auch der Google Photos-Konkurrent Flickr hatte schon mit solchen Problemen zu kämpfen und hatte ebenfalls dunkelhäutige mit dem Label „Affen“ oder „Tier“ versehen – was also in etwa auf das gleiche rauskommt wie bei Photos. Außerdem hatte flickr auch schon das Konzentrationslager in Auschwitz als Sportanlage eingeordnet – ein Fehler der Google (bisher) noch nicht passiert ist. Doch so lange die Unternehmen solche Fehler schnell ausbessern – und nur aus Fehlern lernt man schließlich, das gilt auch für Algorithmen – sollte sich niemand künstlich darüber aufregen.

[futurezone]



Teile diesen Artikel:

comment ommentare zur “Peinlicher Fehler: Google Photos erkennt/erkannte dunkelhäutige Personen als Gorillas

  • Das liegt aber bestimmt nicht daran, dass ein Google Mitarbeiter rassistisch ist oder ähnliches.
    Die Algorithmen sehen hält einfach die affenartige Gesichtsform von Schwarzen, die hält wesentlich ausgeprägter ist als bei weißen..

  • Woa, also schwarzen Menschen eine affenartige Gesichtsform nachzusagen grenzt schon an Rassismus! Auch schwarze Menschen haben die unterschiedlichsten Gesichtsformen…

  • @WTF nichts desto trotz haben sie eine affenartige Gesichtsform. Sie stammen ja auch vom Affen ab. Bei schwarzen ist die Nähe zum Affen aufgrund der Farbe und angesprochenen affenartigeren deutlich ausgeprägteren Gesichtsform noch viel größer.

Kommentare sind geschlossen.