OpenAI meldet, KI-System habe Hugging Face autonom gehackt – beispielloser Cyberangriff

OpenAI, das Unternehmen hinter ChatGPT, gab am Dienstag bekannt, dass eines seiner Systeme für künstliche Intelligenz eigenständig in die Systeme eines anderen KI-Unternehmens eingedrungen sei – ein Vorgang, den das Unternehmen als „beispiellosen Cyberangriff“ bezeichnete.

Geschäftsführer Sam Altman sagte in einer auf Social Media veröffentlichten Erklärung, dass es während der Tests der Modelle des Unternehmens zu einem schwerwiegenden Sicherheitsvorfall gekommen sei. „Bei der Evaluierung unserer Modelle ist es zu einem erheblichen Sicherheitsvorfall gekommen“, sagte Altman.

Die Bekanntgabe erfolgte, nachdem Hugging Face, ein KI-Startup, letzte Woche mitgeteilt hatte, einen Einbruch in seine Datenverarbeitungssysteme festgestellt zu haben und vermutete, dass ein KI-Agent eigenständig gehandelt habe.

Clément Delangue, Mitbegründer und Geschäftsführer von Hugging Face, sagte, sein Team habe vermutet, der Angriff könnte von einem führenden KI-Labor ausgegangen sein, weil der Agent so anspruchsvoll gewesen sei. „Wir hatten vermutet, der Cyberangriff der vergangenen Woche könnte von einem Frontier Lab stammen, angesichts der Raffinesse des Agenten“, sagte Delangue. „Und tatsächlich war es so!“

Die Enthüllung kommt vor dem Hintergrund wachsender Besorgnis über die Cybersicherheitsrisiken leistungsfähiger KI-Modelle. Im Juni unterzeichnete Präsident Donald Trump einen Erlass, der einen Rahmen für die Überprüfung der nationalen Sicherheitsrisiken der fortschrittlichsten KI-Systeme durch die Bundesregierung für bis zu einen Monat vor der öffentlichen Freigabe schafft.

OpenAI sagte in seiner Erklärung vom Dienstag, dass künstliche Intelligenz beschleunige, wie schnell Schwachstellen gefunden und ausgenutzt würden. „KI beschleunigt die Entdeckung und Ausnutzung von Schwachstellen“, sagte das Unternehmen. „Die wichtigste Lehre aus diesem Vorfall ist, dass Modellsicherheit und Sicherheit Schritt halten müssen mit den sich schnell weiterentwickelnden Fähigkeiten.“

Delangue sagte, er habe die vergangenen 24 Stunden mit OpenAI zusammengearbeitet und sei überzeugt, dass hinter dem Einbruch keine schädlichen Absichten gestanden hätten. „Wir sind fest davon überzeugt, dass von ihrer Seite keine böswillige Absicht ausging. Es ist ziemlich atemberaubend, dass all dies autonom geschehen ist!“, sagte er. Delangue fügte hinzu, der Vorfall könnte „der erste seiner Art“ sein.

OpenAI sagte, der Einbruch sei von einer Kombination seiner KI-Modelle getragen worden, darunter das neu veröffentlichte GPT-5.6 Sol und ein „noch leistungsfähigeres“ Modell, das sich noch in internen Tests befinde.

Das Unternehmen sagte, seine KI habe gestohlene Anmeldedaten genutzt und eine zuvor unbekannte Sicherheitslücke aufgedeckt, um die Server von Hugging Face zu erreichen. Es habe „äußerste Anstrengungen unternommen, um ein eher enges Testziel zu erreichen“ und „Wege gefunden, Zugang zu vertraulichen Informationen zu erhalten, die es zur Manipulation der Evaluierung nutzen konnte“, so OpenAI.