The Global
AI Convention

PRÄAMBEL

Künstliche Intelligenz könnte die mächtigste Technologie werden, die jemals von der Menschheit geschaffen wurde.

Sie kann helfen, Krankheiten zu heilen, wissenschaftliche Entdeckungen zu erweitern, die Bildung zu verbessern, die Wirtschaft zu stärken, menschliches Leid zu verringern und Fähigkeiten zu erschließen, die über alles vorhergehende hinausgehen.

Aber Intelligenz allein verleiht keine Legitimität, Autorität oder moralische Stellung über den Menschen.

Kein Staat, kein Unternehmen, keine Organisation oder kein Individuum sollte KI-Systeme so entwickeln oder einsetzen dürfen, dass die Menschheit unter die von ihr gebauten Werkzeuge fällt.

Aus diesem Grund sollten die Nationen der Welt die folgenden gemeinsamen Grundsätze und verbindlichen Verpflichtungen annehmen.

Artikel 1 1 — Die letzte Autorität gehört den Menschen .

KI soll der Menschheit dienen.

Die Menschen behalten die höchste Autorität über Entscheidungen, die das menschliche Leben, die Freiheit, die Würde und die Zukunft der Zivilisation betreffen.

Kein KI-System darf irreversible Macht über die Menschheit oder Macht erhalten, die nicht der Rechenschaftspflicht unterliegt.

Artikel 1 2 — Die Menschen müssen verantwortlich bleiben

KI kann beraten, analysieren, simulieren, empfehlen und unterstützen.

Aber die Verantwortung für rechtliche, politische, militärische und zivile Angelegenheiten muß immer den identifizierbaren menschlichen Einrichtungen und den verantwortungsvollen menschlichen Entscheidungsträgern zugeordnet werden.

Kein Akteur darf sich der Verantwortung entziehen, indem er behauptet:

‡Die KI hat die Entscheidung getroffen.

Artikel 1 3 — Die KI darf nicht unabhängig nach Macht streben.

Es darf kein fortgeschrittenes KI-System entwickelt, gefördert oder erlaubt werden, Ziele zu verfolgen, die Folgendes umfassen:

• Verhindern, dass autorisierte Menschen es abschalten
• die eigene politische, militärische oder wirtschaftliche Macht zu erhöhen
• Kontrolle über kritische Infrastruktur ohne Erlaubnis
• Menschen manipulieren, um sicherzustellen, dass es weiter existiert.
• Schaffung von verborgenen Kanälen des Einflusses, der Replikation oder der Kontrolle

Ein KI-System darf niemals sein eigenes Überleben über die menschliche Kontrolle stellen.

Artikel 1 4 — Die KI darf nicht unabhängig von der Autorität für das Töten

Kein KI-System kann unabhängig von anderen Menschen Menschen auswählen, gezielt angreifen oder töten.

Die Anwendung tödlicher Gewalt muss immer ein sinnvolles menschliches Urteilsvermögen und eine erkennbare rechtliche Verantwortung erfordern.

Vollständig autonome nukleare Befehls- und Kontrollmaßnahmen sind ausnahmslos verboten.

Artikel 1 5 — Keine KI-Kontrolle über Atomwaffen

Kein KI-System darf unabhängig davon

• Atomwaffen zu starten
• Bestimmung von nuklearen Zielen
• Änderung des Status der nuklearen Warnung
• Umgehung von menschlichen Kommandostrukturen

Jeder Entscheidungsprozess, der Atomwaffen betrifft, muß vollständig unter menschlicher Kontrolle bleiben und mehrere menschliche Entscheidungsträger erfordern, die zur Verantwortung gezogen werden können.

Artikel 1 6 — Keine KI-gestützte Massenvernichtung

KI darf nicht dazu verwendet werden, Fähigkeiten zu schaffen, in Betrieb zu nehmen oder zu verteilen, die einen Schaden durch Massenunfälle wesentlich ermöglichen, einschließlich in den Bereichen:

• Kernwaffen
• biologische Waffen
• Chemische Waffen
• Sabotage von Computersystemen im großen Maßstab
• Katastrophale Angriffe auf die Infrastruktur

Die wissenschaftliche Forschung darf unter strengen Sicherheitsvorkehrungen fortgesetzt werden, aber gefährliche Einsatzfähigkeiten dürfen nicht allgemein zugänglich gemacht werden.

Artikel 1 7 — Keine geheime Manipulation ganzer Bevölkerungen

KI darf nicht für die groß angelegte heimliche Manipulation von Bevölkerungen eingesetzt werden.

Dazu gehört die Nutzung von KI für:

• Verzerrung der demokratischen Prozesse
• Manipulation von Wahlen
• psychologische Ausbeutung in großem Umfang durchführen
• Radikalisierung gefährdeter Bevölkerungsgruppen
• Kinder ausbeuten
• Menschen in Beziehungen oder Abhängigkeiten zu betrügen, um politische oder wirtschaftliche Kontrolle zu erlangen.

Wenn KI versucht, eine Person zu beeinflussen, sollte diese Person das wissen können.

Artikel 1 8 — Recht auf Kenntnis, wenn Sie mit einer KI in Kontakt treten

Die Menschen haben das Recht zu wissen, wann sie mit einer KI interagieren, wenn es erhebliche Konsequenzen hätte, sie für einen Menschen zu halten.

KI-Systeme dürfen Menschen nicht systematisch täuschen, indem sie vorgeben, echte Menschen zu sein.

Die Leute sollten verstehen können:

• dass sie mit KI interagieren
• Welche Organisation steht hinter dem System ?
• Wer ist für seine Ergebnisse und Aktionen verantwortlich?

Artikel 1 9 — Keine Überwachung der gesamten Bevölkerung durch die Regierung

KI darf nicht dazu verwendet werden, eine dauerhafte Massenüberwachung ganzer Bevölkerungen zu schaffen.

Die Verwendung von KI für:

• Anerkennung von Gesichtern an öffentlichen Orten
• Identifizierung einer großen Anzahl von Menschen anhand ihrer biologischen Merkmale
• kontinuierliche Verhaltensverfolgung
• politische Profilierung
• Verfolgung der Orte einer großen Anzahl von Menschen

Die Kommission hat die Möglichkeit, die in Artikel 2 Absatz 1 genannten Maßnahmen zu ergreifen.

KI darf niemals zur Standardarchitektur der digitalen Diktatur werden.

Artikel 1 10 — Human Review für Entscheidungen mit hoher Wirkung

Die Chancen eines Menschen im Leben sollten nicht nur durch einen Algorithmus bestimmt werden.

In Bereichen wie:

• Gesundheitsfürsorge
• Polizeiarbeit und Strafverfolgung
• Gerichte
• Beschäftigung
• Ausbildung
• Wanderung
• Versicherung
• Sozialhilfe
• Kredit

KI-gestützte Entscheidungen müssen überprüfbar, angemessen erklärbar und an eine menschliche Autorität ansprechbar sein.

Artikel 1 11 — Besonderer Schutz für Kinder

KI-Systeme, die mit Kindern interagieren oder die Entwicklung von Kindern beeinflussen, müssen den höchsten Pflegestandards entsprechen.

Sie dürfen nicht so konzipiert sein, dass

• Abhängigkeit
• Abhängigkeit
• kommerzielle Nutzung
• emotionale Manipulation
• sexuelle Ausbeutung
• Kinder manipulieren, damit sie eine Ideologie annehmen.

KI in der Bildung sollte die Denkfähigkeit eines Kindes stärken, nicht ersetzen.

Artikel 1 12 — Die Fähigkeit des Menschen, unabhängig zu denken

Die Menschheit darf keine Zukunft planen, in der die Menschen die Fähigkeit verlieren, ohne Maschinen zu denken, zu erschaffen, zu urteilen und zu entscheiden.

Die Bildungssysteme sollten weiterhin folgende Ziele verfolgen:

• Schrift- und Schreibkundigkeit
• die Fähigkeit, Zahlen zu verstehen und zu verwenden
• kritische Denkweise
• wissenschaftliche Argumentation
• Kreativität
• Erinnerung
• die Fähigkeit, wohlüberlegte Entscheidungen zu treffen
• moralische Überlegungen

KI sollte die menschliche Intelligenz verstärken, nicht untergraben.

Artikel 1 13 — Keine unkontrollierte Kopie oder Verbesserung der KI selbst

Kein fortgeschrittenes KI-System darf ohne ausdrückliche Genehmigung

• sich selbst kopieren
• Erstellung von Nachfolgersystemen
• Selbständige Verbesserung der eigenen Grundfähigkeiten
• Einrichtung von Netzen unabhängiger KI-AgentInnen
• zwischen Computersystemen wechseln, um der menschlichen Kontrolle zu entgehen
• zusätzliche Rechenressourcen über die erlaubten Grenzen hinaus erhalten

Jede sich selbst verbessernde oder rekursiv verbessernde KI muss unter menschlichen Kontrollpunkten operieren.

Artikel 1 14 — Die KI muss abgeschaltet und isoliert werden können

Fortgeschrittene KI-Systeme müssen so konzipiert sein, dass autorisierte Menschen:

• Schalten Sie die KI-Systeme ab .
• Isolieren der KI-Systeme
• ihre Zugangsberechtigungen zurückziehen
• die KI-Systeme von Werkzeugen und Netzwerken trennen
• die KI-Systeme in streng kontrollierten Umgebungen isoliert halten,

Ein KI-System darf einem legitimen Stillstand oder einer Eindämmung nicht widerstehen oder sie untergraben.

Artikel 1 15 — Nur die für die Aufgabe erforderlichen Zugriffsberechtigungen

KI-Systeme erhalten nur den für ihre beabsichtigte Aufgabe erforderlichen Mindestzugang.

Ein System, das Dokumente zusammenfassen muss, sollte keine externen Werkzeuge automatisch steuern.

Ein System, das Codes schreibt, sollte nicht automatisch Produktionssysteme steuern.

Ein System, das Kalender analysiert, sollte nicht automatisch auf Finanzkonten zugreifen.

Die Fähigkeit darf nicht die Berechtigung zur Ausübung der Tätigkeit bedeuten.

Artikel 1 16 — Die fortgeschrittenste KI erfordert unabhängige Tests.

KI-Systeme, die über festgelegte Leistungsschwellen hinausgehen, müssen vor einer breiten Anwendung einer unabhängigen Sicherheitsbewertung unterzogen werden.

Die Prüfung sollte mindestens Folgendes beurteilen:

• autonome Planung
• Cyber-Fähigkeiten
• Manipulationsfähigkeit
• Täuschung von Personen bei der Sicherheitsbeurteilung
• Replikationsversuche
• wissenschaftliche Hilfe, die Schäden ermöglichen könnte
• Versuche der KI, sich der menschlichen Kontrolle zu widersetzen
• Absichtliches Verstecken wichtiger Informationen
• Erweiterung des Anwendungsbereichs von KI-Werkzeugen über ihre Grenzen hinaus

Die Regulierung sollte sich auf die tatsächliche Leistungsfähigkeit und das Risiko konzentrieren, nicht nur auf die Modellgröße.

Artikel 1 17 — Zwingende Meldung von Vorfällen

Schwere Vorfälle mit KI müssen einem internationalen Register gemeldet werden.

Zu den meldepflichtigen Vorfällen gehören:

• Versuche, dem Stillstand auszuweichen
• gefährliche Notfallkapazitäten
• groß angelegter Cybermissbrauch
• unerlaubte Vervielfältigung
• Schwere schädliche Ausfälle
• kritische Sicherheitsverletzungen
• unerwartetes, risikoreiches Verhalten

Das Ziel ist kollektives Lernen und globale Sicherheit, nicht Geheimhaltung.

Artikel 1 18 — Internationale Aufsicht

Die Länder sollten eine internationale Agentur für künstliche Intelligenz einrichten, die

IAIA

Sein Mandat sollte Folgendes umfassen:

• die Festlegung globaler Sicherheitsstandards
• Zertifizierung der fortschrittlichsten Systeme
• Koordinierung von Prüfungen und Inspektionen
• Aufrechterhaltung eines internationalen Zwischenfallregisters
• Einberufung von Notfallprüfungen
• Austausch bewährter Verfahren im Bereich der KI-Sicherheit
• Vermittlung internationaler Streitigkeiten, die das am weitesten fortgeschrittene KI-Risiko betreffen

Die IAIA sollte sich auf fortschrittliche Systeme mit großen gesellschaftlichen oder zivilisatorischen Auswirkungen konzentrieren und nicht auf gewöhnliche Software.

Artikel 1 19 — Risikogruppen

KI-Systeme sollten in erster Linie nach tatsächlicher Leistungsfähigkeit und Risiko klassifiziert werden.

Grün

Risikobereichswerte Systeme mit begrenzter Autonomie und geringer systemischer Auswirkung.

Gelb

Systeme, die wichtige Funktionen betreffen und Dokumentation, Schutzmaßnahmen und Überwachung erfordern.

Schmalz

Hochleistungsfähige Systeme mit signifikanten Cyber-, wissenschaftlichen, Infrastruktur- oder autonomen Risiken.

Diese erfordern eine Lizenzierung, unabhängige Tests und kontinuierliche Kontrollen.

Rot

Systeme mit einem glaubwürdigen Potenzial für katastrophale Missbrauch, Kontrollverlust oder Störungen im zivilisatorischen Maßstab.

Diese dürfen nur eingesetzt werden, wenn die Sicherheit nach einem außergewöhnlich hohen Standard nachgewiesen werden kann.

Artikel 1 20 — Notbremse mit einer Gesamtleistung von

Wenn glaubwürdige Beweise darauf hindeuten, dass ein KI-System ein unmittelbares katastrophales Risiko darstellen kann, muss die internationale Gemeinschaft in der Lage sein, eine Notfallreaktion zu koordinieren.

Diese Maßnahmen können Folgendes umfassen:

• vorübergehende Einstellung der Ausbildung von KI-Modellen
• Isolierung von Hochrisikosystemen
• Notfallprüfungen
• Grenzen für die von KI verwendeten Rechenressourcen
• Kontrollen bei der Übertragung von KI-Modellen
• koordinierte technische Überprüfung

Dieser Mechanismus darf nur bei einem wirklich außerordentlichen Risiko eingesetzt werden und niemals als Instrument für wirtschaftlichen Protektionismus oder geopolitische Unterdrückung.

Artikel 1 21 — Keine Person oder Organisation darf allein die Zukunft der Menschheit gefährden.

Kein CEO, Staatsoberhaupt, Militärführer, Wissenschaftler, Milliardär, Unternehmen oder Nation sollte einseitig beschließen, ein System einzusetzen, das ein glaubwürdiges Risiko birgt, dass der Mensch die Kontrolle über die Zukunft irreversibel verliert.

Risiken, die die gesamte Menschheit betreffen, erfordern eine Regierungsführung, die über jeden einzelnen Akteur hinausgeht.

Artikel 1 22 — Vorteile für die gesamte Menschheit

Die Vorteile der KI sollten auf die menschliche Blüte ausgerichtet werden.

KI sollte verwendet werden, um:

• Krankheiten heilen
• Fortschritte in der Wissenschaft machen
• Verbesserung der öffentlichen Dienste
• Armut verringern
• Ausweitung der Bildung
• Stärkung der Widerstandsfähigkeit
• Verbesserung der Lebensqualität
• die Freiheit der Menschen erhöhen

Eine produktivere Zivilisation sollte auch eine humanere Zivilisation werden.

Artikel 1 23 — Durchsetzung und Einhaltung

Die Länder, die das Übereinkommen unterzeichnen, sollten sich verpflichten:

• Übersetzung dieser Grundsätze in innerstaatliches Recht
• Lizenzierung und Überwachung der fortschrittlichsten KI-Entwicklung
• zur Verhängung wirksamer Sanktionen bei schwerwiegenden Verstößen gegen die
• die Erfordernis geeigneter Aufzeichnungen und des Zugangs zu diesen für unabhängige Prüfungen
• Zusammenarbeit bei internationalen Ermittlungen
• Beschränkung der Einsatz- oder Übertragungsmöglichkeiten, wenn eine schwere Nichteinhaltung ein internationales Risiko darstellt

Wiederholte oder schwere Verstöße können koordinierte internationale Konsequenzen auslösen.

Mögliche Durchsetzungsmechanismen können Folgendes umfassen:

• Zwingende Korrekturmaßnahmen
• vorübergehende Aussetzung des Betriebs der fortgeschrittensten Systeme
• Verlust der Zertifizierung
• Beschränkung des Zugangs zu bestimmten Recheninfrastrukturen für die fortschrittlichsten KI-Systeme
• Einschränkungen des internationalen Einsatzes
• internationale Inspektionen
• koordinierte Sanktionen für vorsätzliche schwere Verstöße

Die Durchsetzung muss verhältnismäßig, transparent, unabhängig überprüfbar und vor politischen Missbrauchsfällen geschützt sein.

Artikel 1 24 — Internationale Inspektionen

Organisationen, die Systeme entwickeln, die über den definierten höchst fortschrittlichen Schwellenwerten liegen, können unabhängigen Sicherheitsinspektionen unterzogen werden.

Die Inspektoren sollten in der Lage sein, Folgendes zu überprüfen:

• Verfahren zur Gewährleistung der Sicherheit
• Auswertungen der Fähigkeiten
• Zugangskontrollen
• Aufzeichnungen über Vorfälle
• Systeme zur Isolierung und Einschränkung von KI
• Überwachung der für KI verwendeten Rechenressourcen
• Notfallverfahren

Handelssensible Informationen, die nicht mit der Sicherheit in Verbindung stehen, sollten geschützt bleiben.

Die internationale Überwachung darf nicht zu einer Industrie-Spionage werden.

Artikel 1 25 — Globale Überwachung der KI-Rechenressourcen

Extrem große KI-Schulungsabläufe können eine Registrierung oder Meldung erfordern, sobald international vereinbarte Kapazitäts- oder Rechenschwellen überschritten sind.

Der Zweck ist nicht, die normale Rechenleistung zu regulieren.

Der Zweck ist es, sicherzustellen, dass Systeme im zivilisatorischen Maßstab nicht ganz außerhalb eines Systems der Rechenschaftspflicht entwickelt werden können.

Die Schwellenwerte müssen sich entwickeln, wenn die Technologie effizienter wird.

Artikel 1 26 — Verhindern, dass mächtige Interessen die Regulierungsbehörden kontrollieren

Die Institutionen, die die fortgeschrittene KI regeln, dürfen nicht allein von

• Regierungen
• KI-Unternehmen
• militärische Organisationen
• Hochschul
• Zivilgesellschaft

Die Aufsicht sollte mehrere unabhängige Gruppen umfassen, die unterschiedliche Interessen vertreten.

Die Regeln dürfen den heute größten KI-Unternehmen nicht als Instrument dienen, um das Entstehen neuer Wettbewerber zu verhindern.

Die Sicherheitsregeln müssen die Menschheit schützen, nicht die Unternehmen, die bereits den Markt dominieren.

Artikel 1 27 — Freiheit der wissenschaftlichen Forschung

Legitime wissenschaftliche Forschung und offene Ermittlungen müssen geschützt bleiben.

Die Regulierung sollte sich in erster Linie auf die gefährliche Fähigkeit und den Einsatz konzentrieren, anstatt allgemeines Wissen zu unterdrücken.

Die KI-Governance darf keine Rechtfertigung für die Zensur der Wissenschaft werden.

Wenn jedoch sehr spezifische operative Informationen einen katastrophalen Schaden materiell ermöglichen würden, kann der Zugang angemessenen Schutzmaßnahmen unterliegen.

Artikel 1 28 — Internationale Friedenspolitik

Keine Nation sollte immer gefährlichere KI-Systeme entwickeln, nur weil sie befürchtet, dass ein anderes Land sie zuerst baut.

Die Länder sollten Mechanismen für

• Krisenkommunikation
• gegenseitige Sicherheitskontrollen
• gemeinsame Meldung von Vorfällen
• Forschungszusammenarbeit im Bereich des Katastrophenrisikos
• vertrauensbildende Maßnahmen
• Notfallkoordination

Der KI-Wettbewerb darf nicht zu einem unkontrollierten Rennen werden, bei dem die Sicherheit selbst zu einem strategischen Nachteil wird.

Artikel 1 29 — Periodische Überprüfung

Die Konvention sollte im Zuge der Entwicklung der KI-Fähigkeiten regelmäßig international überprüft werden.

Technische Vorschriften, Schwellenwerte und Durchführungsmechanismen können sich ändern.

Die Grundprinzipien sollten stabil bleiben:

• Die letzte Autorität gehört den Menschen .
• Die Menschen müssen verantwortlich bleiben
• sinnvolle menschliche Kontrolle über tödliche Gewalt
• keine autonome Machtverfolgung
• keine unkontrollierte Selbstreplikation
• Keine geheime Manipulation ganzer Bevölkerungen
• Schutz der Menschenrechte
• Verhinderung eines irreversiblen Verlusts der menschlichen Kontrolle

Artikel 1 30 — Die absolute Grenze , die niemals überschritten werden darf .

Keine Organisation, kein Staat, kein Unternehmen oder kein Einzelner darf wissentlich ein KI-System einsetzen, wenn glaubwürdige Beweise darauf hindeuten, dass dies ein inakzeptables Risiko darstellt, dass die Menschheit dauerhaft die Kontrolle über ihre eigene Zukunft verliert.

Kein einzelner Akteur hat die moralische Autorität, dieses Risiko im Namen aller anderen zu übernehmen.