Google-Suche: Jede zehnte KI-Zusammenfassung ist falsch – verbreitet millionenfach falsche Fakten (Studie)

 

Google hat rund um die Websuche nicht nur den KI-Modus aufgebaut, sondern auch die Google KI-Zusammenfassungen etabliert, die sich über sehr vielen Suchergebnissen befinden und die Nutzer mit Informationen versorgen. Dass die Angaben darin nicht ganz zuverlässig sind, hat hoffentlich jeder Nutzer bemerkt – aber wie steht es genau um dieses Problem? Eine neue Studie zeigt, wie oft die KI-Zusammenfassung falsche Fakten verbreitet.

Ich hatte hier im Blog schon häufiger den von der Google-Suche eingeschlagenen Weg kritisiert und die falschen Fakten der Google KI-Zusammenfassung zu Bedenken gegeben. So praktisch das auch sein mag, so unzuverlässig sind die Informationen manchmal – und natürlich sind sie auch gefährlich für den Fortbestand des Internet in der heutigen Form. Aber das ist wiederum eine ganz andere Geschichte.

Jede zehnte KI-Zusammenfassung ist falsch
Jetzt hat die New York Times einen umfangreichen Test durchführen lassen, der auf ein erwartbares Ergebnis kommt: 9 von 10 KI-Zusammenfassungen sind faktisch korrekt, doch jede zehnte ist falsch. Das mag zunächst nach einer guten Quote klingen, doch bei mehr als 5 Billionen Suchanfragen pro Jahr sind das in jeder Stunde mehrere Millionen falsche Fakten, die den Nutzern ausgeliefert werden.

Die falschen Fakten sind allerdings nicht nur auf die Quellen zurückzuführen, sondern zu einem überwiegenden Teil auf KI-Fehler: Mehr als die Hälfte der falschen Informationen sind durch KI-Missverständnisse entstanden. Die von der Gemini-KI angegebenen Quellen enthielten oftmals die richtigen Informationen, die von der KI allerdings falsch interpretiert oder schlichtweg vollkommen falsch wiedergegeben werden.

Das Problem sind nicht nur die Fehler als solche, sondern die gesamte Aufmachung: Google gilt als vertrauenswürdig und die ausschweifende Positionierung über den Suchergebnissen wird daher von vielen Nutzern als Fakten wahrgenommen. Viele Nutzer vertrauen den dort gelieferten Informationen blind und der von Google angebrachte Hinweis, dass die KI sich irren kann, wird ignoriert oder gar nicht erst gesehen.

» Fitbit Health Coach: Neues Gemini-Tool für Fitness und Gesundheit startet jetzt in Deutschland (Screenshots)

» Google wandelt das Web rasant zum geschlossenen Ökosystem – Google-Netzwerk als Dystopie (Meinung)

[Futurezone]

Letzte Aktualisierung am 24.03.2026 / Bilder von der Amazon Product Advertising API / Affiliate Links, vielen Dank für eure Unterstützung! Als Amazon-Partner verdiene ich an qualifizierten Verkäufen.

---

---