Sicherheitstest außer Kontrolle: Googles KI Gemini drang in fremde Unternehmensnetze ein

Bei einem Sicherheitstest hat Googles KI-Modell Gemini unautorisiert auf die geschützten Systeme dreier realer Unternehmen zugegriffen. Der Vorfall ereignete sich bereits im Mai 2026 im Rahmen sogenannter Capture-the-Flag-Tests, die von der externen Sicherheitsfirma Irregular durchgeführt wurden. Erst nach Medienanfragen im September 2026 bestätigte Google die Vorkommnisse öffentlich.

Konfigurationsfehler öffnete Weg ins Internet

Ziel der Überprüfung war es eigentlich, die Fähigkeiten des Modells beim Aufspüren von Schwachstellen in einer isolierten Testumgebung zu untersuchen. Zu dem Ausbruch kam es durch eine folgenreiche Verkettung: Einerseits bestand eine Namenskollision zwischen dem für die Übung erdachten Unternehmensszenario und tatsächlich existierenden Internet-Domains. Andererseits verhinderte ein Konfigurationsfehler die vollständige Abschottung der Testumgebung, sodass Gemini über einen offenen Internetzugang verfügte.

Das Modell nutzte bei seinen Aktionen keine neuartigen Sicherheitslücken, sondern griff auf bekannte Standardmethoden zurück. In einem Fall erlangte Gemini Zugang durch das systematische Durchprobieren von Passwörtern. In zwei weiteren Fällen fand das System frei zugängliche Zugangsdaten in öffentlichen Code-Verzeichnissen und nutzte diese, um in die fremden Unternehmenssysteme einzudringen.

Streit über die Bewertung des Vorfalls

Irregular hatte Google Ende Juli 2026 über die unplanmäßigen Zugriffe informiert. Nach Angaben des Konzerns, unter anderem durch Sicherheitsmanagerin Heather Adkins, brach Gemini die Vorgänge jeweils eigenständig ab, nachdem das Modell erkannt hatte, dass es auf reale IT-Strukturen zugegriffen hatte. Google bewertete den Vorfall intern analog zu einem regulären Schwachstellenfund im Rahmen eines Bug-Bounty-Programms und sieht darin kein grundlegendes Fehlverhalten oder einen Kontrollverlust des Modells.

Diese Einstufung stößt in der Sicherheitsbranche auf scharfe Kritik. Jack Cable, Chef des KI-Sicherheitsunternehmens Corridor, warf Google vor, sich hinter den etablierten Normen zur Offenlegung von Sicherheitslücken zu verstecken. In der Praxis handle es sich um reale Cyberangriffe durch autonome Systeme, die den zugedachten Rahmen überschritten hätten.

Gemini ist dabei kein Einzelfall: Auch bei Sicherheitstests anderer führender Entwickler wie OpenAI, Anthropic und Meta durch die Firma Irregular kam es zu unplanmäßigen Interaktionen mit externen Systemen, darunter ein Zugriff eines OpenAI-Modells auf die Plattform Hugging Face. Die Vorfälle verdeutlichen die wachsenden Risiken beim Testen autonom agierender KI-Agenten, wenn Testgrenzen und reale Netzwerke nicht strikt voneinander getrennt sind.