Deepfakes: Google arbeitet an der intelligenten Erkennung von gefälschten Fotos und Videos

 

Für die Bearbeitung von Fotos und Videos ist heute keine teure Software mehr notwendig, sondern je nach Kategorie können auch Web-Apps oder Smartphone-Apps ansprechende Ergebnisse liefern. Was für die Nutzer beeindruckend und spaßig ist, kann in manchen Fällen auch zu Problemen führen – Stichwort Deepfakes. Google nimmt sich diesem Problem, das immer mehr an Relevanz gewinnt, nun an und möchte Forschern dabei helfen, diese zu erkennen.

Die vielen spaßigen Fotofilter in den Messenger-Apps oder kurzzeitige Hypes wie FaceApp zeigen, dass die Erkennung und Bearbeitung von Gesichtern heute keine große Herausforderung mehr ist. Gesichter können problemlos verändert oder ausgetauscht werden, Gefühlslagen lassen sich anpassen und einiges mehr. Durch die Übertreibung ist das in den meisten Fällen sehr gut sichtbar, bei FaceApp hingegen waren die Ergebnisse häufig sehr realistisch, aber es geht auch anders.

Mit Deepfake-Technologien lassen sich Gesichter kombinieren und Dinge auf Foto oder Video bannen, die in der Form niemals passiert sind. Es handelt sich dabei um von Künstlicher Intelligenz berechneten Bildern, die in Kombination mit Menschen bzw. deren Gesichtern und Schauspielern zu einer neuen Szenerie zusammengefügt werden, die nicht wahr sind. Dadurch kann man Menschen etwas sagen oder tun lassen, was niemals geschehen ist, aber dennoch täuschend echt auf Video festgehalten ist.

Weil das aber nicht nur beeindruckend ist, sondern auch problematisch werden kann, steht die Gegenseite nun unter dem Druck, solche Fakes zu erkennen. Google hat gemeinsam mit der Schwester Jigsaw eine große Datenbank entwickelt, in der solche Deepfakes basierend auf vier öffentlich zugänglichen Technologien enthalten sind. Diese Aufnahmen wurden mit Schauspielern und YouTubern erstellt, denen Worte, Gestik und Mimik verpasst wurden, die sie in der Form niemals gesagt haben.

Google erhofft sich dadurch, den Forschern durch den direkten Vergleich Hunderter Gesichter neue Erkenntnisse zur Erkennung von Deepfakes zu liefern. Gerade wenn Bildmaterial als Beweis vor Gericht zum Einsatz kommt, hat man natürlich ein Problem, wenn es sich dabei um Deepfakes handeln könnte. Aber auch in Sozialen Netzwerken oder an anderen öffentlichen Stellen könnten Personen diffamiert und bloßgestellt werden, ohne dass sie etwas getan haben.

Realistisch betrachtet wird das aber wohl ein Kampf gegen Windmühlen sein, den man langfristig nicht gewinnen kann. Die Technologien werden immer besser, die Rechenleistung könnte bald explodieren und von der KI erstellte Gesichter sind mit bloßem Auge nicht mehr als solche zu erkennen (klickt das mal an!). Google selbst ist schließlich sehr aktiv dabei, die KI voranzutreiben, Stimmen zu imitieren und virtuelle Personen zu erschaffen. Man kämpft gewissermaßen auf beiden Fronten.

» Face Forensics
» Ankündigung im Google AI-Blog

Siehe auch
» Google Fotos: So lassen sich die Grenzen sprengen und sehr viel Speicherplatz beim Video-Upload sparen

» Was Google alles weiß: Hier könnt ihr alle Sprachbefehle an den Google Assistant sehen, anhören & löschen

---

---