Mehrere Dutzend Staats- und Regierungschefs haben am 21. September 2026 in New York eine gemeinsame Erklärung für verbindliche Sicherheitsregeln bei sehr leistungsfähiger Künstlicher Intelligenz veröffentlicht. Der Aufruf mit dem Titel „A Call for Control of Frontier AI Models“ zielt auf international abgestimmte Vorgaben für Modelle, deren Fähigkeiten bestimmte Schwellen überschreiten. Deutschland hat den Text nach Regierungsangaben unterzeichnet.
Als politisch treibende Kräfte werden Norwegen und Finnland genannt. Unter den Erstunterzeichnern sind Norwegens Ministerpräsident Jonas Gahr Støre und Finnlands Präsident Alexander Stubb. Der Zeitpunkt ist bewusst gewählt: Die Erklärung erscheint unmittelbar vor der UN-Generaldebatte in New York und soll die Debatte über globale Standards bündeln.
Kernpunkte sind verpflichtende Vorabtests durch Entwickler, transparente Sicherheitsprotokolle, die Möglichkeit unabhängiger, fachkundiger Evaluierungen mit ausreichendem Prüfzugang sowie die Prüfung einer internationalen Institution zur Setzung von Standards und zur Verifikation, sobald definierte Fähigkeitsgrenzen überschritten werden. Vorgesehen sind außerdem gemeinsame Meldepflichten für schwerwiegende Sicherheitsvorfälle und engere Zusammenarbeit in multilateralen Gremien der Vereinten Nationen.
Die Unterzeichner betonen ausweislich des Textes zwei Ziele: erstens Sicherheit und Rechtskonformität bei besonders leistungsfähigen Systemen zu erhöhen; zweitens Fachwissen weltweit verfügbar zu machen, um ein regulatorisches Gefälle zwischen Staaten zu vermeiden. Der Aufruf enthält selbst keine Durchsetzungsmechanismen, erhöht aber den politischen Druck, kompatible nationale und regionale Regelwerke zu entwickeln und zu verzahnen.
Für die Bundesrepublik Deutschland bedeutet die Mitzeichnung vor allem politische Rückendeckung für verpflichtende Prüfverfahren und internationale Koordination. Die Bundesregierung verweist auf den Aufbau technischer Prüfkapazitäten und laufende Arbeiten auf europäischer Ebene. Welche Elemente des Aufrufs in völkerrechtlich bindende Abkommen münden könnten, ist offen und hängt von den anstehenden multilateralen Verhandlungen sowie wirtschaftlichen Interessen in Handel und Technologieentwicklung ab.
Unabhängig davon arbeiten die Europäische Union und mehrere Staaten bereits an Evaluations-, Melde- und Prüfanforderungen. Die Erklärung ordnet sich in diese Bemühungen ein und setzt einen Schwerpunkt auf Modelle mit besonders weitreichenden Fähigkeiten, für die klassische Produktsicherheitsregeln nach Ansicht der Unterzeichner nicht ausreichen. Der weitere Prozess dürfte sich an den Foren der Vereinten Nationen orientieren, wo Fragen der technischen Definition von Fähigkeitsgrenzen, des Prüfzugangs und der internationalen Verifikation verhandelt werden.
Redakteurin: Mira Cadena (Artikel mit KI-Unterstützung).