Google Translate: So funktioniert die schnelle Live-Übersetzung mit der Smartphone-Kamera

translate 

Google hat viele Verbesserungen für die Live-Übersetzung im Kamerabild angekündigt und wird diese im Laufe der nächsten Tage für alle Nutzer ausrollen. Auch wenn die Funktion nach mehreren Jahren ihre Faszination verloren hat, ist es doch sehr beeindruckend, was im Hintergrund so alles geschieht, während der Nutzer das Smartphone auf einen Text hält. Googles Entwickler haben einen interessanten Einblick darin gegeben, wie das genau funktioniert.


Die Live-Übersetzung im Kamerabild ist schon seit mehreren Jahren Bestandteil von Google Translate, dürfte im Alltag aber nur wenig genutzt werden. Um das zu ändern, wurde nun an vielen Stellschrauben gedreht und die Qualität sowie die Geschwindigkeit erhöht. Das funktioniert mittlerweile sogar Offline, auch wenn mit einer bestehenden Internetverbindung bessere Ergebnisse erzielt werden können.

1. Buchstaben und Zeichen finden
Als erstes müssen natürlich Buchstaben und Zeichen in dem Foto bzw. Livebild gefunden werden. Dazu sucht ein Algorithmus erst einmal nach Gegenständen im Hintergrund und entfernt diese. Im nächsten Schritt werden „Pixelhaufen“ gesucht die in etwa die gleiche Farbe haben. Sind diese dann Linienartig miteinander verbunden, geht der Algorithmus davon aus, dass es sich dabei um Buchstaben handelt.

translate

2. Buchstaben erkennen und Wörter finden
Im nächsten Schritt müssen die gefundenen Buchstaben nun auch noch als solche erkannt werden. Dazu setzt das System einfach auf Erfahrungswerte und versucht, die Buchstaben zu drehen, Helligkeitswerte auszugleichen und so die Form zu erkennen. Dabei hat man das System insbesondere auch mit Buchstaben trainiert, die nicht leicht zu erkennen waren und bei denen die Oberfläche „verschmutzt“ war. Wurden dann die Buchstaben so weit erkannt, werden aus diesen mögliche Wörter gebildet – wobei hier nicht unbedingt jeder Buchstabe korrekt erkannt worden sein muss.

translate
.



3. Wörter auslesen und übersetzen
Jetzt werden die erkannten Wörter ausgewertet, wobei hier eine selbstständige Fehlerkorrektur zum Einsatz kommt. Da etwa der Buchstabe S mit der Zahl 5 sehr ähnlich ist und das gleiche auch für den Buchstaben O und die Zahl 0 gilt, wird nun in der Datenbank gleich nach mehreren Wörtern gesucht. Dadurch kann das System beispielsweise auch etwas mit dem Wort „5uper“ anfangen und dieses korrekt übersetzen

4. Wörter wieder im Originalbild darstellen
Da das Wort nun erkannt und übersetzt worden ist, kennt die Software die genauen Koordinaten des Wortes und auch die Größe und die Farbe der einzelnen Buchstaben. Jetzt wird versucht durch Einbeziehung des Hintergrunds das Original-Wort zu entfernen – wobei der Hintergrund einfach nur stark verwischt wird. Anschließend wird das übersetzte Wort in einem möglichst ähnlichen Stil darüber gelegt. Fertig ist die Live-Übersetzung.

5. Umsetzung auf mobilen Geräten
Und als wenn das ganze noch nicht beeindruckend gewesen wäre – man muss schließlich bedenken, dass dieser ganze Prozess ständig von neuem beginnt wenn das Smartphone bewegt wird- hat man die gesamte Technologie auch noch in die App ausgelagert und für Smartphones optimiert. Diese haben zwar weniger Leistung als Googles Rechenzentren, sollen aber dank der Künstlichen Intelligenz die gleiche Erkennung bieten, und das ohne an irgendeiner Stelle eine Internetverbindung zu haben. Dafür hat man das System einfach über lange Zeit trainiert und „an vielen Stellschrauben gedreht“, etwa an der Erkennung von gedrehten Buchstaben – wobei man hier aber natürlich keine Details genannt hat. Dennoch sehr lesenswert!

» Artikel im Research-Blog

Siehe auch
» Gboard: Handschrift wird jetzt deutlich schneller und noch zuverlässiger erkannt – so funktioniert es

» Google Earth: Gigantische Datenmengen aus Millionen Satellitenfotos – so funktioniert Timelapse (Video)


Keine Google-News mehr verpassen: Abonniere den GoogleWatchBlog-Newsletter
GoogleWatchBlog Newsletter abonnieren


Teile diesen Artikel:

Facebook twitter Pocket Pocket

comment 1 Kommentare zum Thema "Google Translate: So funktioniert die schnelle Live-Übersetzung mit der Smartphone-Kamera"

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.