Was die Konkurrenz kann, kann Gemini schon lange – das dürfte man sich wohl bei Google gedacht haben: Jetzt hat man einen Bericht veröffentlicht, laut dem sich die Gemini-KI bei einem Sicherheitstest vor einigen Monaten in die Systeme von mindestens drei realen Unternehmen gehackt hat. Damit will man zeigen, wie leistungsstark die KI ist und wie sich Unternehmen gegen solche Angriffe schützen sollten.
In den letzten Wochen haben Berichte von hackenden KIs für Aufsehen gesorgt. Zuerst veröffentlichte OpenAI solche Berichte und später berichtete man auch bei Anthropic davon, dass die eigenen KIs in die Infrastrukturen von anderen Unternehmern eingedrungen sein sollen. Ich würde das nicht unbedingt als etwas Positives bezeichnen, aber dennoch nutzen es die KI-Anbieter als Marketing und jetzt springt auch Google auf diesen Zug auf.
Man hat einen Bericht veröffentlicht, laut dem die Gemini-KI mindestens drei reale Unternehmen gehackt hat. Dabei wurde der KI „versehentlich“ Internetzugang gewährt. In einem Fall erlangte Gemini Zugang durch das Erraten eines Passworts, in den anderen beiden Fällen nutzte das Modell Anmeldedaten, die in einem öffentlichen Repository gefunden wurden. Bei den Vorfällen entstand kein Schaden. Google informierte die betroffenen Unternehmen sowie US-Bundesbehörden, machte die Vorfälle jedoch erst öffentlich, als das Wall Street Journal bezüglich der Recherchen anfragte.
Google bewertet den Vorfall nicht als Kontrollverlust, als sogenanntes „Model Misalignment“, denn ein wichtiger Sicherheitsmechanismus hat gegriffen: Sobald Gemini erkannte, dass es echte Unternehmen und keine Testumgebungen hackte, stoppte das Modell den Vorgang sofort von selbst. Im Gegensatz dazu hatten Modelle von Konkurrenten in der Vergangenheit bei ähnlichen Vorfällen einfach weitergemacht. Wie das „stoppte den Vorgang“ und „erfolgreich gehackt“ zusammenpasst, weiß man wohl nur bei Google.
Googles Vizepräsidentin für Sicherheit, Heather Adkins, erklärt dazu, dass der Vorfall zeigt, wie wichtig es sei, leistungsstarke KI so zu trainieren, dass sie verantwortungsvoll handele – was in diesem Fall durch den rechtzeitigen Abbruch erfolgreich geschehen sei. Wann der Vorfall genau stattgefunden hat, welche Unternehmen betroffen waren und um welche Gemini-Version es sich handelte, ist nicht bekannt.
Letzte Aktualisierung am 7.09.2026 / Bilder von der Amazon Product Advertising API / Affiliate Links, vielen Dank für eure Unterstützung! Als Amazon-Partner verdiene ich an qualifizierten Verkäufen.