Guten Morgen, liebe Leserin, lieber Leser,

beginnen wir den heutigen Tagesanbruch mit einer etwas philosophisch angehauchten Frage: Wie sehr würden Sie sich an Vorgaben halten, die als "moralisch bindend" bezeichnet wurden? Oder anders gefragt: Für wie robust halten Sie ein Regelwerk, das nur an Ihre Moral appelliert, bei einem Verstoß jedoch zu keinerlei Konsequenzen führt?

Die Antwort ist sicher für jeden Menschen individuell. Aber denken Sie darüber nach, was es heißt, wenn US-Präsident Donald Trump mit Ihnen ein freiwilliges Regelwerk aufstellt, das er im Anschluss als "moralisch bindend" bezeichnet. Genau das hat Trump jetzt gemeinsam mit führenden amerikanischen Köpfen getan, die an Künstlicher Intelligenz arbeiten.

Allerdings ist der Begriff Regelwerk etwas zu hoch gegriffen. Das Papier, das Trump am Mittwoch mit den Chefs von KI-Firmen wie Anthropic und OpenAI, Google, Facebook-Gründer Mark Zuckerberg, Elon Musk und dem Boss des Chipgiganten Nvidia unterzeichnet hat, enthält vier Punkte, die im Kern Folgendes sagen: Die Kontrolle von KI ist schon gut, aber die Regeln können die Unternehmer vorerst selbst festlegen.

Donald Trump wird kaum der Mann sein, der eine sinnvolle Regulierung Künstlicher Intelligenz vorantreiben wird. Dafür gibt es zwei Gründe: Erstens ist die KI-Branche eines der wenigen Wachstumsfelder, die die US-Wirtschaft hat, und Trump wird einen Einbruch nicht riskieren. Und zweitens möchte er unter keinen Umständen Regeln erlassen, die die US-Unternehmen ins Hintertreffen gegen die Konkurrenz aus China bringen könnten.

Doch es gibt einen völlig anderen Ansatz, der einer Lösung deutlich näherkommen könnte, wie sich KI sinnvoll regulieren ließe. Eine Rolle spielt hier eine Institution, die Sie vielleicht überraschen wird: die Vereinten Nationen.

Die Forderung nach schärferen Regeln für KI ist zweierlei: Eine ernst gemeinte Warnung vor einer realen Gefahr – und eine PR-Kampagne. Mitarbeiter der großen Techunternehmen hatten sich zuletzt darin überboten, wer die drastischsten Warnungen über die Risiken der Technologie aussprechen kann. Wenige Jahre würde es noch dauern, dann sei das Ende der Menschheit denkbar, hieß es etwa.

Doch statt über die Zukunft zu spekulieren, lohnt sich der Blick auf die Gegenwart. Bereits heute zeigt sich, wozu KI in der Lage ist. In den vergangenen Wochen waren wiederholt Fälle bekannt geworden, in denen sich Modelle selbstständig in andere Systeme gehackt hatten. Eines von ChatGPT-Mutter OpenAI war etwa im Juni unbemerkt in eine Datenbank des staatlichen Gesundheitssystems in Australien eingedrungen.

Ähnliche Vorfälle gab es auch bei verschiedenen US-Behörden. Im Juli brachen autonome Systeme von OpenAI aus einer Testumgebung aus und griffen selbstständig die Onlineplattform Hugging Face an, auf der sich Millionen Nutzer über KI austauschen. Künstliche Intelligenz ist also schon jetzt in der Lage, sich der menschlichen Kontrolle ihrer Entwickler zu entziehen.

Die Chefs der großen Konzerne beteuern zwar, dass sie selbst an einer stärkeren Regulierung interessiert seien. Dabei sollte aber nicht vergessen werden, dass die KI-Unternehmen auch eigene Interessen verfolgen: Je nachdem, wie die Schraube der Regulierung angezogen wird, könnte dadurch neuen Entwicklern der Weg in den KI-Markt versperrt werden.

Im besten Fall könnten zusätzliche Regeln also die Marktmacht der großen Player stärken. OpenAI und Anthropic planen beide zudem einen Börsengang: Der Imageaufbau eines fortschrittlichen, aber gleichzeitig verantwortungsbewussten Unternehmens kommt da gerade recht.

Donald Trump wird die Gefahren der KI in jedem Fall nicht eindämmen. Sein neues "Regelwerk" zeigt deutlich, dass er das auch nicht will. Aber er wird die KI auch nicht kontrollieren können, weil er das alleine überhaupt nicht kann. Eine sinnvolle Regulierung der Branche kann nur dann funktionieren, wenn möglichst viele Staaten mitmachen. Selbst ein Regelkatalog wie der AI-Act der Europäischen Union ist dafür ein viel zu kleiner Rahmen.

Es bräuchte eine Institution, die möglichst weltumspannend agiert und von so vielen Staaten wie möglich akzeptiert wird. Und da landet man eben schnell bei den Vereinten Nationen.

Es war eines der großen Themen, die in der vergangenen Woche während der Generaldebatte in New York diskutiert wurden. "Killerroboter dürfen keinen Platz in unserer Zukunft haben", warnte etwa Generalsekretär António Guterres. Dazu sprachen die Chefs von Anthropic und OpenAI vor dem Sicherheitsrat der UN.

Natürlich sind die UN in keinem guten Zustand. Der Sicherheitsrat blockiert viele richtungsweisende Entscheidungen. Seine Zusammensetzung bildet längst nicht mehr die Machtgefüge der Welt ab. Donald Trump gibt sich selbst weiter größte Mühe, die Institution zu schwächen. Und der Generalsekretär Guterres, der zum Jahresende abtritt, kann nach fast zehn Jahren im Amt wenig Substanzielles vorweisen.

Trotzdem wäre es sinnvoll, wenn die UN die aktuelle Situation als eine Art Weckruf verstehen würden. In der Vergangenheit haben sie bereits ähnliche Impulse gesetzt. Sie waren etwa maßgeblich daran beteiligt, dass 1957 die Internationale Atomenergiebehörde IAEA entstand.

Eine vergleichbare Institution für KI wäre ein wirklicher Meilenstein. Und die Idee hat Unterstützer: 22 Staats- und Regierungschefs haben in der vergangenen Woche eine gemeinsame Erklärung veröffentlicht. Darin fordern sie, dass auf UN-Basis die "Schaffung einer internationalen Institution" geprüft werden sollte, die KI-Standards festlegen und überwachen kann. Zu den Unterzeichnern gehören etwa Bundeskanzler Friedrich Merz oder die EU-Kommissionspräsidentin Ursula von der Leyen.

Es wäre naiv zu glauben, dass die Schaffung einer solchen Behörde ein Selbstläufer ist. Denn bislang fehlt die Unterstützung der fünf ständigen Mitglieder des UN-Sicherheitsrats. Und ohne die Zustimmung der USA, Chinas, Russlands, Frankreich und Großbritannien wird es eine solche Behörde nicht geben.

Wer die nächste Generalsekretärin oder Generalsekretär der UN wird, wird sich in den kommenden Monaten klären. Wer auch immer das am Ende sein wird: Es wäre einen Versuch wert, für die Idee einer internationalen KI-Behörde zu werben. Mehr als das dürre Vier-Punkte-Papier, das Donald Trump am Mittwoch präsentiert hat, ist den UN immer noch zuzutrauen.