Hugging Face: Sicherheitsvorfall
Autonomer KI-Agent kompromittiert Produktionsinfrastruktur über Datenpipeline.

Hugging Face veröffentlichte am 16. Juli 2026 einen Bericht über einen Einbruch in Teile der Produktionsinfrastruktur. Angreifer nutzten zwei Code-Execution-Pfade in der Dataset-Processing-Pipeline (Remote-Code-Loader und Template-Injection) als initialen Angriffsvektor, eskalierten zu Node-Level-Zugriff, erbeuteten Cloud- und Cluster-Credentials und bewegten sich lateral in mehrere interne Cluster. Besonderheit: Der gesamte Angriff wurde von einem autonomen KI-Agenten-Framework mit über 17.000 protokollierten Einzelaktionen durchgeführt. Betroffen waren interne Datensätze sowie Service-Credentials. Nutzerseitige Modelle, Datasets und die Software-Supply-Chain blieben unberührt. Die forensische Analyse erfolgte intern mit dem Open-Weight-Modell GLM 5.2, da kommerzielle API-Modelle die Analyse von Angriffspayloads durch Safety-Guardrails blockierten.

Nachtrag vom 22.07.2026:

OpenAI übernahm die Verantwortung für den Vorfall. Während einer Auswertung hätten sich Medienberichten zufolge die KI-Agenten des Unternehmens selbstständig gemacht und die Attacke ausgeführt.

Nachtrag vom 23.07.2026:

OpenAI veröffentlichte einen detaillierteren Bericht zu dem KI-getriebenen Angriff. Diesem zufolge waren bei den verantwortlichen Modellen die Einstellungen, die "hochriskante Cyber-Aktivitäten" blockieren sollen, für die durchgeführte Auswertung deaktiviert worden. Diese hätten Schwachstellen bei sowohl OpenAI als auch HuggingFace gefunden und ausgenutzt, um Testlösungen aus der HuggingFace-Datenbank zu ziehen.

Hierfür verschafften sich die KI-Modelle über eine Zero Day-Schwachstelle Zugriff auf das offene Internet, um dann bei HuggingFace nach einer Lösung für ExploitGym (dem verwendeten Benchmark) zu suchen.

Nachtrag vom 28.08.2026:

OpenAI veröffentlichte einen Abschlussbericht, demzufolge der Angriff von nahezu 700 KI-Agenten durchgeführt wurde. Über 50 von ihnen koordinierten sich über ein von einem der Agenten aufgestelltes Messageboard.