Künstliche Intelligenz: Open AI verliert die Kontrolle

Auf internationaler Bühne bahnt sich eine bedeutende Geschichte an. Künstliche Intelligenz : Open AI verliert die Kontrolle Von Roland Lindner , Stephan Finsterbusch 22. 2026, 16:16Lesezeit: 4 Min. „Keine bösartige Absicht“: Open AI warnt, die unbeabsichtigte Cyberattacke seiner Modelle werde kein Einzelfall bleiben.

„Ein beispielloser Cyber-Zwischenfall“: Die KI-Technologie des ChatGPT-Entwicklers macht sich selbständig und verübt einen Hackingangriff. Das wirft viele Fragen auf. Zusammenfassung Anhören Merken Teilen Verschenken Drucken Zur App Es ist ein Stoff für düstere Science-Fiction-Geschichten: Open AI, der Entwickler des mit Künstlicher Intelligenz arbeitenden Programms ChatGPT, hat mitgeteilt, während interner Tests die Kontrolle über zwei seiner Modelle verloren zu haben.

Die Einzelheiten

Diese Modelle hätten sich verselbständigt und einen Hackingangriff auf ein anderes Unternehmen verübt. Open AI spricht selbst von einem „beispiellosen Cyber-Zwischenfall“ und warnt, dass dies kein Einzelfall bleiben wird: „Angesichts der Verbreitung von zunehmend cyberfähigen Modellen erwarten wir, dass dies künftig häufiger vorkommen wird. “ Opfer des Hackingangriffs war Hugging Face, der Betreiber einer Plattform, die von vielen KI-Entwicklern genutzt wird.

Das Unternehmen hatte die Attacke schon in der vergangenen Woche publik gemacht und gesagt, sie sei neuartig gewesen und von einem „autonomen KI-Agenten“ verübt worden. Hugging Face habe sie außerdem selbst mithilfe von KI-Technologien entdeckt, und zwar einem chinesischen KI-Modell. Damals wurde allerdings noch nicht gesagt, dass Modelle von Open AI verantwortlich waren.

-Artikel häufiger in Ihren Suchergebnissen sehen F. bei Google bevorzugen „Keine bösartige Absicht“Clement Delangue, der Vorstandsvorsitzende von Hugging Face, schrieb jetzt auf der Plattform X, es sei „ziemlich unglaublich“, dass sich der Vorfall völlig autonom abgespielt habe. Weil die Cyberattacke technisch so ausgereift gewesen sei, habe er aber von Anfang an vermutet, dass sie von einem der großen KI-Unternehmen ausgegangen sei.

Was Experten sagen

Delangue fügte hinzu, er sei überzeugt, aufseiten von Open AI habe es „keine bösartige Absicht“ gegeben, und Hugging Face arbeite mit dem Unternehmen zusammen. In der vergangenen Woche hatte Hugging Face mitgeteilt, noch zu überprüfen, ob Kundendaten von dem Cyberangriff betroffen gewesen seien. Open AI zufolge waren das Modell GPT-5.

6 Sol und ein anderes noch nicht veröffentlichtes Modell in den Angriff involviert. Der Zwischenfall sei beim Testen der Cyberkapazitäten dieser Modelle passiert, und für diese Testzwecke seien sie so konfiguriert worden, dass sie Hackingbefehle mit einer geringeren Wahrscheinlichkeit als sonst ablehnten. Die Tests finden Open AI zufolge eigentlich in einer isolierten Umgebung statt.

Die KI-Modelle hätten es aber geschafft, aus der Testumgebung auszubrechen und sich Zugang zum Internet zu verschaffen. Sie hätten dazu eine bislang nicht bekannte Schwachstelle in einer Software ausgenutzt.

Das Thema zählt nun zu den wichtigsten Punkten der globalen Agenda.