Android: Google Messages startet Nacktfoto-Scanner jetzt für alle Nutzer – Warnung vor sensitiven Inhalten

 

Google hat schon vor mehreren Monaten ein neues Feature für Google Messages in Aussicht gestellt, das schon bei der ersten Ankündigung für Diskussionen gesorgt hat – und jetzt fällt der Startschuss. Ab sofort befindet sich in der Messenger-App ein Nacktfoto-Scanner, der sowohl Versender als auch Empfänger expliziter Fotos warnen und diese vor möglichen unerwünschten Medien schützen soll.

Auch wenn es sicherlich keine gute Idee ist, Nacktfotos per Messenger zu versenden, scheint das nach wie vor ein großes Thema zu sein, bei dem sowohl Versender als auch Empfänger gewarnt werden sollten. Google hat schon vor einigen Monaten den Nacktfoto-Scanner in Android integriert und jetzt wird dieser erstmals auf breiter Fläche in Google Messages genutzt. Wir haben euch schon vor einiger Zeit gezeigt, wie sich der Android Nacktfotos-Scanner deaktivieren lässt und darüber berichtet, dass der Nacktfoto-Scanner für Family Link-Konten gestartet wurde.

Jetzt geht man den nächsten Schritt und startet die „Warnung vor sensitiven Inhalten“ für alle Nutzer. Dabei handelt es sich um dasselbe Feature mit einer etwas netteren Beschreibung. Konkret zeigt sich die Funktion dadurch, dass jedes empfangene Foto lokal von einer KI gescannt wird und bei möglichen expliziten Inhalten ein Zwischenschritt eingefügt wird. Nutzer können auf das empfangene Bild (das sie noch nicht sehen können) entweder per Nummer-Blockade reagieren, das Bild einfach nicht ansehen oder durch einen weiteren Schritt das Bild runterladen und sehen. Es ist simpel gestaltet, sodass sowohl die Blockade als auch der Abruf nur einen Schritt entfernt sind.

Auf der anderen Seite werden aber auch Versender noch einmal davor gewarnt, ob sie sich das Abschicken nicht noch einmal überlegen möchten. Der Versand ist weiterhin problemlos möglich, muss aber ebenfalls in einem zweiten Schritt bestätigt werden. Auch wenn der erste Versand und die Bestätigung nur wenige Sekunden auseinanderliegen, kann so eine Warnung manchmal dennoch zu einem Umdenken führen und mittelfristig auch den Versender schützen. Sicherlich eine gute Sache.

Google betont, dass der Scan vollständig lokal am Smartphone stattfindet und keine Bilder in der Cloud gespeichert oder dort hochgeladen werden. Es muss also niemand Angst haben, dass solche Bilder plötzlich an unerwünschter Stelle auf den Google-Servern auftauchen. Außerdem gibt es keine Protokollierung oder sonstige Konsequenzen, wenn man solche Bilder versendet oder empfängt. Bis auf die Warnmeldungen ändert sich also nicht viel.

Auch wenn Google das für einen sinnvollen Zweck einsetzt, wird es dennoch wieder Diskussionen darüber geben, ob die Algorithmen damit nicht ein wenig zu weit gehen. Denn gerade im Messenger sind es eben nicht irgendwelche Nacktfotos, sondern eben die eigenen – und da hält man es dann mit dem Scan durch eine KI vielleicht etwas anders. Wer das nicht möchte, kann die Funktion innerhalb von Google Messages abschalten.

Standardmäßig ist es für Erwachsene Nutzer deaktiviert. Für Jugendliche (13-17) ist die Funktion standardmäßig aktiviert und für alle Family Link-Kinderkonten ist die Funktion dauerhaft aktiviert und kann nur von den Eltern abgeschaltet werden. Bleibt abzuwarten, wie gut das wirklich funktioniert. Ich könnte mir vorstellen, dass so mancher Sommer-Urlauber in den nächsten Tagen beim Versand von Strandfotos damit Bekanntschaft macht.

» Gemini: Googles KI-ChatBot bekommt eine Art Inkognito Modus – temporäre Chats für private Konversationen

» Gemini: Starke Personalisierung startet für erste Nutzer – ChatBot erinnert sich an vergangene Konversationen

---

---