Anthropic: KI-Modell »Mythos« nach US-Exportbeschränkungen vom Netz genommen

Hier sind die aktuellen Nachrichten aus aller Welt: Anordnung der US-Regierung Anthropic nimmt neuestes KI-Modell »Mythos« vom Netz Anthropic hat seine KI-Modelle »Mythos 5« und »Fable 5« deaktiviert – nach Sicherheitsbedenken der US-Regierung. Ausländische Staatsangehörige sollen aus Sicherheitsgründen keinen Zugang mehr haben. 46 Uhr Zur Merkliste hinzufügen Audio steht in Kürze zur Verfügung In Kürze bereit X.

com Facebook E-Mail Link kopieren Weitere Optionen zum Teilen X. com Facebook E-Mail Messenger WhatsApp Link kopieren SPIEGEL bei Google bevorzugen Bild vergrößern KI-Modell »Mythos« auf einem Smartphone: eine Bedrohung für die nationale Sicherheit der USA? Foto: Nicolas Tucat / Das US-amerikanische KI-Unternehmen Anthropic hat sein bislang leistungsfähigstes Modell namens »Mythos« vorerst deaktiviert.

Die Einzelheiten

Anlass ist eine Verordnung der US-Regierung. Behörden sehen demnach die nationale Sicherheit gefährdet, wenn ausländische Staatsbürger Zugang zu dem System haben. Nach Angaben des Unternehmens muss Anthropic den Zugriff auf die Modelle »Mythos 5« und »Fable 5« für alle ausländischen Staatsangehörigen sperren.

Das gilt demnach auch für Personen ohne US-Staatsbürgerschaft, die sich innerhalb der Vereinigten Staaten aufhalten. »Diese Anordnung hat zur Folge, dass wir Fable 5 und Mythos 5 für alle unsere Kunden unverzüglich deaktivieren müssen, um die Einhaltung der Vorschriften zu gewährleisten«, teilte Anthropic mit . »Der Zugriff auf alle anderen Anthropic-Modelle bleibt davon unberührt.

« Beide KI-Modelle gelten als besonders leistungsfähig. Sicherheitsexperten und Behörden warnen, die Technologie könne für Cyberangriffe auf kritische Infrastruktur missbraucht werden. Anthropic hatte die Software deshalb nur mit Einschränkungen freigegeben.

Was Experten sagen

Nach Darstellung des Unternehmens geht die US-Regierung jedoch davon aus, dass sich diese Beschränkungen mit einem sogenannten »Jailbreak« aushebeln lassen. Bei einer Demonstration habe das Modell eine kleine Anzahl »bereits bekannter, geringfügiger Schwachstellen« gefunden. Auch andere öffentlich verfügbare KI-Modelle seien dazu in der Lage, so das Unternehmen.

Die Firma hält die Anordnung für ungerechtfertigt. Zwar solle die Regierung die Möglichkeit haben, gefährliche Anwendungen im Rahmen eines transparenten und fairen Verfahrens zu untersagen, aber: »Diese Maßnahme entspricht diesen Grundsätzen nicht. « Mehr zum Thema KI-Konzern: Anthropic nun wertvoller als OpenAI Künstliche Intelligenz: Anthropic warnt vor nächster KI-Generation und plädiert für Entwicklungspause Top KI-Modell von OpenAI-Rivale: Anthropic veröffentlicht KI-Modell »Mythos« mit Einschränkungen Anthropic und die US-Regierung streiten seit Monaten darum, in welchen Bereichen die KI-Modelle des Unternehmens eingesetzt werden dürfen – etwa in der Massenüberwachung von Amerikanern oder in autonomen Waffensystem.

Während Anthropic solche Anwendungen ablehnt, pocht das amerikanische Verteidigungsministerium auf die Rechte für »jede rechtmäßige Nutzung«.

Die Entwicklung hat international große Aufmerksamkeit erregt; diplomatische Kreise verfolgen sie genau.