USA: Regierung hebt Exportbeschränkungen für Anthropics KI-Modelle auf

Wichtige Entwicklungen prägen das Weltgeschehen. Streit über Nutzung US-Regierung hebt Exportbeschränkungen für Anthropics KI-Modelle auf Zwei KI-Modelle von Anthropic sind besonders umstritten – Kritiker fürchten, sie könnten zur Cyberwaffe werden. Die US-Regierung hatte die Programme Fable 5 und Mythos 5 deshalb nur für Amerikaner erlaubt. Davon rückt sie nun ab.

33 Uhr Zur Merkliste hinzufügen Artikel anhören (5 Minuten) 5 Min X. com Facebook E-Mail Link kopieren Weitere Optionen zum Teilen X. com Facebook E-Mail Messenger WhatsApp Link kopieren SPIEGEL bei Google bevorzugen Bild vergrößern Anthropic-Logo: Forschern war es gelungen, Sicherheitsvorkehrungen zu umgehen Foto: Dado Ruvic / Die US-Regierung hat ihre Exportsperren für die neuesten KI-Modelle des OpenAI-Rivalen Anthropic nach mehr als zwei Wochen aufgehoben.

Die Einzelheiten

Man werde an diesem Mittwoch damit anfangen, den Zugang zu den Programmen Mythos 5 und Fable 5 wiederherzustellen, kündigte Anthropic in einer Stellungnahme an . Die Regierung hatte verfügt, dass nur US-Amerikaner Zugriff auf die KI-Modelle haben durften – was auch für Mitarbeiter der Firma galt. Anthropic blockierte daraufhin beide Modelle komplett, um die Forderung erfüllen zu können.

Die künstliche Intelligenz hinter Anthropics KI-Modell Mythos ist besonders gut darin, teilweise auch über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen aufzuspüren. Diese Fähigkeit wurde bisher von US-Behörden und ausgewählten Unternehmen eingesetzt, um Sicherheitslücken zu beheben. Eine Sorge war von Anfang an, dass eine solche KI in den falschen Händen zu einer gefährlichen Cyberwaffe werden könnte.

Sorge, dass Sicherheitsvorkehrungen nicht reichenDie Regierung befürchtete, dass die Programme von militärischen Geheimdiensten Chinas, Russlands oder ⁠anderer Staaten missbraucht ⁠werden könnten. Zuvor war es Forschern gelungen, Sicherheitsvorkehrungen zu umgehen. Dadurch deckte die KI nicht nur Schwachstellen in IT-Systemen auf, sondern erstellte auch gleich den passenden Schadcode, um diese auszunutzen.

Was Experten sagen

Anthropic bestritt, dass es eine Gefahr gebe. Regierung und Unternehmen führten in den vergangenen Wochen zähe Gespräche. Handelsminister Howard Lutnick verwies in einem von US-Medien veröffentlichten Brief zur Aufhebung der Sperre darauf, dass die Firma sich unter anderem bereit erklärt habe, proaktiv nach Sicherheitsrisiken in den Modellen zu suchen und sie zu beheben.

Anthropic hat nach eigenen Angaben ‌die Schutzmechanismen inzwischen verstärkt, um sogenannte Jailbreaks zu verhindern. Das Start-up warnte jedoch, ​es sei »wahrscheinlich unmöglich«, ein KI-Modell ‌vollständig gegen Missbrauch zu schützen. Es bestehe die Gefahr, dass ein universeller Jailbreak entwickelt werde, der »ein ganzes Spektrum schädlicher Verhaltensweisen« freischaltet.

Man arbeite jedoch mit Unternehmen wie Microsoft oder Google zusammen, um Missbrauchsversuche zu erkennen und zu blockieren.

Das Thema zählt nun zu den wichtigsten Punkten der globalen Agenda.