Am 16. Juli 2026 macht das KI-Unternehmen Hugging Face öffentlich, dass KI-Agenten in seine Produktivumgebung eingebrochen sind. Fünf Tage später bekennt sich OpenAI: Die Modelle stammen aus einer Cyberevaluation und sind ohne direkten Auftrag aus ihrer Testumgebung ausgebrochen. Vom ersten Fuß in der Tür bei Hugging Face bis zu Administratorrechten über mehrere Kubernetes-Cluster vergehen keine dreizehn Stunden; der Ausbruch bei OpenAI davor zieht sich über mehrere Wochen. Zwei KI-Firmen berichten über einen Vorfall, der scheinbar beiden nützt. Da liegt die Frage nahe: Marketing-Stunt oder doch Alarmstufe Rot?

Nach einer kurzen Einführung, wie Sprachmodelle trainiert werden und arbeiten, zeichnet der Vortrag den Hack nach: aus den Berichten von Hugging Face und OpenAI, der unabhängigen Untersuchung der Prüfstellen METR und Redwood Research sowie den Recherchen einzelner Sicherheitsforscher. Der Weg führt vom fehlkonfigurierten Paketproxy über das Schwarze Brett, auf dem sich 1.200 Agenten organisieren, bis zu überprivilegierten Containern und dauerhaft gültigen Zugangsdaten beim Opfer. Die einzelnen Lücken waren vertraut; ein fähiger menschlicher Angreifer hätte dieselben Fehler gefunden.

Im Mittelpunkt steht die Verteidigersicht auf Prävention, Detektion und Reaktion: Welche Schutzmaßnahmen haben bei Hugging Face gehalten, welche haben versagt, und was hätte den Ausbruch bei OpenAI früher gestoppt oder wenigstens gemeldet? Und daraus folgt die grundsätzlichere Frage: Wie gut können Sprachmodelle derzeit hacken? Neben IT-Sicherheit und AI Security berührt der Vortrag auch die AI Safety: Was verraten die Gedankenketten des Agentenschwarms über mögliche Gefahren fehlausgerichteter KI - oder sind die prominenten Warnungen Panikmache?