Google-KI-Suche kann Nutzer zu Betrügern leiten – So schützen Sie sich

Googles KI-gestützte Suchzusammenfassungen können Nutzer unbeabsichtigt auf betrügerische Websites und gefälschte Kontaktdaten lenken. Sicherheitsforscher warnen vor einer neuen Dimension altbekannter Online-Betrugsmaschen, die durch die prominente Darstellung von KI-generierten Inhalten verstärkt werden.

Wie die Betrugsmasche funktioniert

Das Grundmuster ist simpel: Nutzer suchen über Google nach der Telefonnummer eines Unternehmens – etwa einer Bank, eines Versicherungsanbieters oder eines Kundendienstes. Die KI-Zusammenfassung liefert eine Nummer, die vertrauenswürdig erscheint, weil sie direkt und prominent präsentiert wird. Tatsächlich landen Anrufer aber bei Betrügern, die sich als das gesuchte Unternehmen ausgeben.

Das Problem verschärft sich durch die Art der Darstellung: Anders als bei klassischen Suchergebnissen fehlen bei KI-generierten Antworten Hinweise auf die Quelle. Nutzer können nicht überprüfen, woher die Information stammt, wer sie veröffentlicht hat oder wie vertrauenswürdig die Quelle ist. Die KI präsentiert das Ergebnis als Fakt – ohne Kontext oder Warnung.

Weitere Risiken durch KI-Empfehlungen

Sicherheitsforscher von Bleeping Computer dokumentierten, dass Googles Search Generative Experience (SGE) auch betrügerische Websites empfiehlt. Diese Seiten verfolgen verschiedene Ziele:

• Weiterleitung zu schädlichen Browser-Erweiterungen
• Gefälschte Gewinnspiel-Angebote für iPhones und andere Produkte
• Phishing-Fallen zur Erbeutung von Zugangsdaten
• Tech-Support-Betrug mit überteuerten Leistungen

Warum KI besonders anfällig ist

KI-Systeme können plausibel klingende, aber falsche Informationen erzeugen – ein Phänomen, das in der Branche als "AI Hallucination" bezeichnet wird. Die generierten Inhalte wirken durch ihre selbstbewusste Präsentation besonders glaubwürdig, auch wenn sie Fehlinformationen enthalten.

Besonders gefährdet sind weniger technikaffine Nutzer, die von vereinfachten KI-Antworten profitieren sollen, aber gleichzeitig am wenigsten in der Lage sind, die Ergebnisse kritisch zu hinterfragen. Google selbst bestätigt, an Lösungen zu arbeiten, konkrete Massnahmen wurden bislang aber nicht kommuniziert.

So schützen sich Nutzer

Experten raten zu mehreren Schritten: Kontaktdaten sollten immer direkt auf der offiziellen Website des Unternehmens gesucht werden, nicht über Suchmaschinen. Bei KI-generierten Informationen empfiehlt es sich, die Angaben mit externen Quellen abzugleichen. Wer Microsoft 365 nutzt, kann KI-Tools anweisen, Quellen anzugeben – ein Feature, das Google bislang nicht standardmässig anbietet.

Für den deutschsprachigen Raum gilt: Besondere Vorsicht ist bei Finanzdiensten geboten. Bankdaten oder Zugangsinformationen sollten niemals am Telefon weitergegeben werden, wenn der Anruf nicht selbst initiiert wurde – unabhängig davon, wie vertrauenswürdig die Nummer in der Google-Suche erschien.