Tech-Bosse warnen UN-Sicherheitsrat vor KI

Wichtige Entwicklungen prägen das Weltgeschehen. Die Chefs der größten US-amerikanischen KI-Firmen OpenAI und Anthropic, Altman und Amodei, warnen weiter vor ihrer eigenen Technologie. Vor dem UN-Sicherheitsrat boten beide an, an stärkerer Regulierung mitzuwirken. Um den Anwesenden im UN-Sicherheitsrat klarzumachen, wie schnell sich Künstliche Intelligenz (KI) entwickelt, blickt OpenAI-Chef Sam Altman ziemlich genau drei Jahre zurück.

Damals sei KI "ganz ok" beim Lösen von Grundschul-Matheaufgaben gewesen. Ein Jahr später konnte sie bereits mit Oberstufenschülern mithalten. Vergangenen Sommer erreichte die KI von OpenAI das Niveau einer Goldmedaille bei einem der renommiertesten Mathematikwettbewerbe.

Die Einzelheiten

Heute sei sie sogar in der Lage, sogenannte Millennium-Probleme zu lösen. Nach bedrohlichen Zwischenfällen im Zusammenhang mit KI-Modellen ist eine Debatte um schärfere Regeln entbrannt. mehr Das Risiko, das Sam Altman sieht: "KI könnte sich so schnell weiterentwickeln, dass kein Mensch mehr folgen oder eingreifen kann, wenn nötig.

" Außerdem sieht der Chef von OpenAI die Gefahr einer Machtkonzentration bei einigen wenigen Unternehmen oder Ländern. Auch Dario Amodei, Chef des KI-Unternehmens Anthropic, sieht diese Gefahren. Er warnt zusätzlich vor dem Missbrauch durch Terroristen, die mithilfe von KI biologische Waffen bauen könnten.

"Bei unsachgemäßem Umgang könnte Künstliche Intelligenz zum Risiko für die gesamte Menschheit werden", warnt Amodei weiter. Die Forderungen nach Regulierungen für KI werden laut - auch ein sogenannter Notschalter wird diskutiert. mehr Dass die großen KI-Unternehmen inzwischen selbst vor ihrer Technologie warnen, findet Silicon-Valley-Experte Tom Ford begrüßenswert.

Was Experten sagen

Er vermutet allerdings, dass das nicht ganz uneigennützig geschieht: "Ich nehme das denen schon ab, dass sie da ernsthafte Bedenken haben und es ein paar überraschende Ergebnisse gab, die sie transparent an die Öffentlichkeit bringen wollen", sagt Ford. Aber: "Zum anderen wollen sie aber auch die Richtung vorgeben. Sie wollen nicht ertappt werden und dann letztlich mit rechtlichen Maßnahmen konfrontiert werden, sondern sie wollen da natürlich mitmachen und mitgestalten.

" Die Regulierungsvorschläge der KI-Bosse ähneln einander. Anthropic-Chef Amodei fordert beispielsweise das Erarbeiten internationaler Standards, mit denen die Gefahr des Kontrollverlusts und des Missbrauchs von KI-Modellen getestet werden soll. "Außerdem muss es ein Meldesystem geben für KI-Vorfälle, die für die globale Sicherheit von Bedeutung sind", fordert Amodei.

Das Thema zählt nun zu den wichtigsten Punkten der globalen Agenda.