Anthropic warnt vor nächster KI-Generation und plädiert für Entwicklungspause

Wichtige Entwicklungen prägen das Weltgeschehen. Künstliche Intelligenz Anthropic warnt vor nächster KI-Generation und plädiert für Entwicklungspause Der Konzern will an die Börse und schlägt zugleich vor, die Entwicklung von KI-Software weltweit zu unterbrechen. Laut Anthropic besteht ansonsten das Risiko, dass der Mensch die Kontrolle über die Systeme verliert. 10 Uhr Zur Merkliste hinzufügen Artikel anhören (4 Minuten) 4 Min X.

com Facebook E-Mail Link kopieren Weitere Optionen zum Teilen X. com Facebook E-Mail Messenger WhatsApp Link kopieren SPIEGEL bei Google bevorzugen Bild vergrößern Illustration zum Thema Künstliche Intelligenz Foto: Dado Ruvic / Der auf Künstliche Intelligenz spezialisierte US-Konzern Anthropic plädiert für eine weltweite Pause bei der Entwicklung immer leistungsstärkerer KI-Systeme. Eine weltweite Verlangsamung der Spitzenforschung im KI-Bereich wäre »wahrscheinlich sinnvoll«, erklärte der in San Francisco beheimatete Konzern in einem Post auf seiner Website.

Die Einzelheiten

Antropic begründet die Entwicklungspause mit der Möglichkeit, dass sich KI-Systeme künftig selbst verbessern und weiterentwickeln könnten. Eine KI, die sich selbst optimiere, wäre »eine bahnbrechende Entwicklung in der Technologiegeschichte«. Sie könne enormen Nutzen in Wissenschaft und das Gesundheitswesen bringen.

Doch eine solche Selbstoptimierung berge auch das Risiko, dass der Mensch die Kontrolle über KI-Systeme verliere. Wenn Systeme in der Lage seien, ihre Nachfolger vollständig selbst zu entwerfen, sei es wichtig, die Systeme sichern, überwachen und ihr Verhalten steuern zu können. »Entwicklung von KI-Systeme verlangsamen«Man sei bislang noch nicht so weit, dass KI sich selbst optimieren könne.

Diese sogenannte rekursive Selbstverbesserung sei auch nicht unausweichlich. »Sie könnte jedoch schneller eintreten als von den meisten Institutionen erwartet. «Bei der vorgeschlagenen Entwicklungspause müssten laut Anthropic alle KI-Größen in der Welt mitmachen: Sollte ein einzelnes Unternehmen allein pausieren, würden die Konkurrenten einfach an ihm vorbeiziehen.

Was Experten sagen

»Wir halten es für wünschenswert, dass die Welt die Möglichkeit hat, die Entwicklung hochmoderner KI-Systeme zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können«, erklärte Anthropic. Damit eine Pause tatsächlich Wirkung zeigen könnte, müssten sich nach Ansicht von Anthropic führende KI-Konzerne in verschiedenen Ländern – allen voran in den USA und China – darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren. Dafür müssten Regeln aufgestellt und eingehalten werden, »die für alle überprüfbar wären«.

Mehr zum Thema Machtübernahme der Computer: »Was Hitler getan hat, könnte die KI schneller, besser, effektiver« Ein SPIEGEL-Gespräch von Simon Book Börsengänge von Anthropic, OpenAI und Co. : Was, wenn der KI-Hype in sich zusammenfällt?

Die Entwicklung hat international große Aufmerksamkeit erregt; diplomatische Kreise verfolgen sie genau.