KI könnte die mächtigste Technologie der Geschichte werden. Sie darf niemals mächtiger werden als die Menschheit selbst.
Künstliche Intelligenz kann uns in Wissen, Wissenschaft und Fähigkeiten übertreffen. Aber Intelligenz verleiht nicht das Recht zu herrschen.
Ein vorgeschlagener internationaler Rahmen für die sichere, auf den Menschen ausgerichtete Entwicklung und Nutzung fortgeschrittener künstlicher Intelligenz.
Eine Zukunft, die es wert ist, regiert zu werden Version 1.0 / 2026Künstliche Intelligenz könnte uns in Wissenschaft, Technik, Medizin und Strategie übertreffen. Es ist unrealistisch, zu versuchen, das dauerhaft zu verhindern.
Aber Intelligenz und Autorität sind nicht dasselbe. Eine KI kann intelligenter sein als wir, ohne uns kontrollieren zu dürfen.
Diese Konvention legt keine willkürliche Obergrenze für die Intelligenz fest. Es setzt dauerhafte Grenzen um die Macht.
Ich kann dir helfen.
Die Menschen sind immer noch verantwortlich.
KI könnte außerordentlich fähig werden.
Sie mag keine unabhängige Macht anstreben.
KI kann Leben schützen.
Sie kann nicht unabhängig entscheiden, es zu nehmen.
KI kann sich unter kontrollierten Bedingungen verbessern.
Es darf sich nicht heimlich vermehren oder der Aufsicht entgehen.
Keine Einzelperson, kein Unternehmen, kein Militär oder kein Land
kann mit der Zukunft der gesamten Menschheit spielen.
Es kommt nicht nur darauf an, was KI kann.
Es ist, wer die Macht hat zu entscheiden.
Das Ziel ist nicht, den Fortschritt zu stoppen. Das Ziel ist es, den Fortschritt überlebensfähig, verantwortungsvoll und menschlich zu machen.
Die gemeinsamen Grenzen im Mittelpunkt der vorgeschlagenen Global AI Convention.
Die Menschen behalten die höchste Autorität über Entscheidungen, die das menschliche Leben, die Freiheit, die Würde und die Zivilisation betreffen.
Artikel 1 lesenKein Unternehmen, kein Land oder keine Person kann sich der Verantwortung entziehen, indem sie behauptet, ein KI-System habe die Entscheidung getroffen.
Artikel 2 lesenKI darf niemals unabhängig entscheiden, wer lebt oder stirbt.
Artikel 4 lesenDie Atomwaffen-Startbehörde muss unter menschlicher Kontrolle bleiben.
Artikel 5 lesenDie KI darf nicht die politische, militärische oder wirtschaftliche Macht für sich selbst anstreben.
Artikel 3 lesenKI darf nicht heimlich Bevölkerungen, Demokratien oder Individuen im großen Stil manipulieren.
Artikel 7 lesenDie Menschen sollten wissen, wann sie sinnvoll mit KI interagieren.
Artikel 8 lesenKI darf nicht zur Infrastruktur für permanente Massenüberwachung oder automatisierte Unterdrückung werden.
Artikel 9 lesenEntscheidungen der KI mit hoher Wirkung, die das Leben von Menschen beeinflussen, müssen von verantwortungsvollen Menschen überprüft werden können.
Artikel 10 lesenEine leistungsstarke KI kann sich unter Sicherheitsvorkehrungen verbessern, darf sich aber nicht heimlich replizieren, der Aufsicht entgehen oder unkontrollierte Nachfolger aufbauen.
Artikel 13 lesenAutorisierte Menschen müssen die Fähigkeit behalten, fortgeschrittene KI-Systeme zu isolieren, einzuschränken und zu stoppen.
Artikel 14 lesenKeine Person, kein Unternehmen oder kein Land darf allein handeln und die Menschheit einem glaubwürdigen Risiko einer irreversiblen Katastrophe aussetzen.
Artikel 21 lesenÜbermenschliche Intelligenz erfordert keine übermenschliche Autorität.
Eine Konzept-Illustration, keine Vorhersage oder ein Maß für Intelligenz. Bewegen Sie den Schieberegler: Fähigkeiten ändern sich; legitime Autorität nicht.
30 Artikel. Eine gemeinsame Grundlage für menschliche Souveränität im Zeitalter der KI.
Künstliche Intelligenz könnte die mächtigste Technologie werden, die jemals von der Menschheit geschaffen wurde.
Sie kann helfen, Krankheiten zu heilen, wissenschaftliche Entdeckungen zu erweitern, die Bildung zu verbessern, die Wirtschaft zu stärken, menschliches Leid zu verringern und Fähigkeiten zu erschließen, die über alles vorhergehende hinausgehen.
Aber Intelligenz allein verleiht keine Legitimität, Autorität oder moralische Stellung über den Menschen.
Kein Staat, kein Unternehmen, keine Organisation oder kein Individuum sollte KI-Systeme so entwickeln oder einsetzen dürfen, dass die Menschheit unter die von ihr gebauten Werkzeuge fällt.
Aus diesem Grund sollten die Nationen der Welt die folgenden gemeinsamen Grundsätze und verbindlichen Verpflichtungen annehmen.
KI soll der Menschheit dienen.
Die Menschen behalten die höchste Autorität über Entscheidungen, die das menschliche Leben, die Freiheit, die Würde und die Zukunft der Zivilisation betreffen.
Kein KI-System darf irreversible Macht über die Menschheit oder Macht erhalten, die nicht der Rechenschaftspflicht unterliegt.
KI kann beraten, analysieren, simulieren, empfehlen und unterstützen.
Aber die Verantwortung für rechtliche, politische, militärische und zivile Angelegenheiten muß immer den identifizierbaren menschlichen Einrichtungen und den verantwortungsvollen menschlichen Entscheidungsträgern zugeordnet werden.
Kein Akteur darf sich der Verantwortung entziehen, indem er behauptet:
‡Die KI hat die Entscheidung getroffen.
Es darf kein fortgeschrittenes KI-System entwickelt, gefördert oder erlaubt werden, Ziele zu verfolgen, die Folgendes umfassen:
Ein KI-System darf niemals sein eigenes Überleben über die menschliche Kontrolle stellen.
Kein KI-System kann unabhängig von anderen Menschen Menschen auswählen, gezielt angreifen oder töten.
Die Anwendung tödlicher Gewalt muss immer ein sinnvolles menschliches Urteilsvermögen und eine erkennbare rechtliche Verantwortung erfordern.
Vollständig autonome nukleare Befehls- und Kontrollmaßnahmen sind ausnahmslos verboten.
Kein KI-System darf unabhängig davon
Jeder Entscheidungsprozess, der Atomwaffen betrifft, muß vollständig unter menschlicher Kontrolle bleiben und mehrere menschliche Entscheidungsträger erfordern, die zur Verantwortung gezogen werden können.
KI darf nicht dazu verwendet werden, Fähigkeiten zu schaffen, in Betrieb zu nehmen oder zu verteilen, die einen Schaden durch Massenunfälle wesentlich ermöglichen, einschließlich in den Bereichen:
Die wissenschaftliche Forschung darf unter strengen Sicherheitsvorkehrungen fortgesetzt werden, aber gefährliche Einsatzfähigkeiten dürfen nicht allgemein zugänglich gemacht werden.
KI darf nicht für die groß angelegte heimliche Manipulation von Bevölkerungen eingesetzt werden.
Dazu gehört die Nutzung von KI für:
Wenn KI versucht, eine Person zu beeinflussen, sollte diese Person das wissen können.
Die Menschen haben das Recht zu wissen, wann sie mit einer KI interagieren, wenn es erhebliche Konsequenzen hätte, sie für einen Menschen zu halten.
KI-Systeme dürfen Menschen nicht systematisch täuschen, indem sie vorgeben, echte Menschen zu sein.
Die Leute sollten verstehen können:
KI darf nicht dazu verwendet werden, eine dauerhafte Massenüberwachung ganzer Bevölkerungen zu schaffen.
Die Verwendung von KI für:
Die Kommission hat die Möglichkeit, die in Artikel 2 Absatz 1 genannten Maßnahmen zu ergreifen.
KI darf niemals zur Standardarchitektur der digitalen Diktatur werden.
Die Chancen eines Menschen im Leben sollten nicht nur durch einen Algorithmus bestimmt werden.
In Bereichen wie:
KI-gestützte Entscheidungen müssen überprüfbar, angemessen erklärbar und an eine menschliche Autorität ansprechbar sein.
KI-Systeme, die mit Kindern interagieren oder die Entwicklung von Kindern beeinflussen, müssen den höchsten Pflegestandards entsprechen.
Sie dürfen nicht so konzipiert sein, dass
KI in der Bildung sollte die Denkfähigkeit eines Kindes stärken, nicht ersetzen.
Die Menschheit darf keine Zukunft planen, in der die Menschen die Fähigkeit verlieren, ohne Maschinen zu denken, zu erschaffen, zu urteilen und zu entscheiden.
Die Bildungssysteme sollten weiterhin folgende Ziele verfolgen:
KI sollte die menschliche Intelligenz verstärken, nicht untergraben.
Kein fortgeschrittenes KI-System darf ohne ausdrückliche Genehmigung
Jede sich selbst verbessernde oder rekursiv verbessernde KI muss unter menschlichen Kontrollpunkten operieren.
Fortgeschrittene KI-Systeme müssen so konzipiert sein, dass autorisierte Menschen:
Ein KI-System darf einem legitimen Stillstand oder einer Eindämmung nicht widerstehen oder sie untergraben.
KI-Systeme erhalten nur den für ihre beabsichtigte Aufgabe erforderlichen Mindestzugang.
Ein System, das Dokumente zusammenfassen muss, sollte keine externen Werkzeuge automatisch steuern.
Ein System, das Codes schreibt, sollte nicht automatisch Produktionssysteme steuern.
Ein System, das Kalender analysiert, sollte nicht automatisch auf Finanzkonten zugreifen.
Die Fähigkeit darf nicht die Berechtigung zur Ausübung der Tätigkeit bedeuten.
KI-Systeme, die über festgelegte Leistungsschwellen hinausgehen, müssen vor einer breiten Anwendung einer unabhängigen Sicherheitsbewertung unterzogen werden.
Die Prüfung sollte mindestens Folgendes beurteilen:
Die Regulierung sollte sich auf die tatsächliche Leistungsfähigkeit und das Risiko konzentrieren, nicht nur auf die Modellgröße.
Schwere Vorfälle mit KI müssen einem internationalen Register gemeldet werden.
Zu den meldepflichtigen Vorfällen gehören:
Das Ziel ist kollektives Lernen und globale Sicherheit, nicht Geheimhaltung.
Die Länder sollten eine internationale Agentur für künstliche Intelligenz einrichten, die
IAIA
Sein Mandat sollte Folgendes umfassen:
Die IAIA sollte sich auf fortschrittliche Systeme mit großen gesellschaftlichen oder zivilisatorischen Auswirkungen konzentrieren und nicht auf gewöhnliche Software.
KI-Systeme sollten in erster Linie nach tatsächlicher Leistungsfähigkeit und Risiko klassifiziert werden.
Grün
Risikobereichswerte Systeme mit begrenzter Autonomie und geringer systemischer Auswirkung.
Gelb
Systeme, die wichtige Funktionen betreffen und Dokumentation, Schutzmaßnahmen und Überwachung erfordern.
Schmalz
Hochleistungsfähige Systeme mit signifikanten Cyber-, wissenschaftlichen, Infrastruktur- oder autonomen Risiken.
Diese erfordern eine Lizenzierung, unabhängige Tests und kontinuierliche Kontrollen.
Rot
Systeme mit einem glaubwürdigen Potenzial für katastrophale Missbrauch, Kontrollverlust oder Störungen im zivilisatorischen Maßstab.
Diese dürfen nur eingesetzt werden, wenn die Sicherheit nach einem außergewöhnlich hohen Standard nachgewiesen werden kann.
Wenn glaubwürdige Beweise darauf hindeuten, dass ein KI-System ein unmittelbares katastrophales Risiko darstellen kann, muss die internationale Gemeinschaft in der Lage sein, eine Notfallreaktion zu koordinieren.
Diese Maßnahmen können Folgendes umfassen:
Dieser Mechanismus darf nur bei einem wirklich außerordentlichen Risiko eingesetzt werden und niemals als Instrument für wirtschaftlichen Protektionismus oder geopolitische Unterdrückung.
Kein CEO, Staatsoberhaupt, Militärführer, Wissenschaftler, Milliardär, Unternehmen oder Nation sollte einseitig beschließen, ein System einzusetzen, das ein glaubwürdiges Risiko birgt, dass der Mensch die Kontrolle über die Zukunft irreversibel verliert.
Risiken, die die gesamte Menschheit betreffen, erfordern eine Regierungsführung, die über jeden einzelnen Akteur hinausgeht.
Die Vorteile der KI sollten auf die menschliche Blüte ausgerichtet werden.
KI sollte verwendet werden, um:
Eine produktivere Zivilisation sollte auch eine humanere Zivilisation werden.
Die Länder, die das Übereinkommen unterzeichnen, sollten sich verpflichten:
Wiederholte oder schwere Verstöße können koordinierte internationale Konsequenzen auslösen.
Mögliche Durchsetzungsmechanismen können Folgendes umfassen:
Die Durchsetzung muss verhältnismäßig, transparent, unabhängig überprüfbar und vor politischen Missbrauchsfällen geschützt sein.
Organisationen, die Systeme entwickeln, die über den definierten höchst fortschrittlichen Schwellenwerten liegen, können unabhängigen Sicherheitsinspektionen unterzogen werden.
Die Inspektoren sollten in der Lage sein, Folgendes zu überprüfen:
Handelssensible Informationen, die nicht mit der Sicherheit in Verbindung stehen, sollten geschützt bleiben.
Die internationale Überwachung darf nicht zu einer Industrie-Spionage werden.
Extrem große KI-Schulungsabläufe können eine Registrierung oder Meldung erfordern, sobald international vereinbarte Kapazitäts- oder Rechenschwellen überschritten sind.
Der Zweck ist nicht, die normale Rechenleistung zu regulieren.
Der Zweck ist es, sicherzustellen, dass Systeme im zivilisatorischen Maßstab nicht ganz außerhalb eines Systems der Rechenschaftspflicht entwickelt werden können.
Die Schwellenwerte müssen sich entwickeln, wenn die Technologie effizienter wird.
Die Institutionen, die die fortgeschrittene KI regeln, dürfen nicht allein von
Die Aufsicht sollte mehrere unabhängige Gruppen umfassen, die unterschiedliche Interessen vertreten.
Die Regeln dürfen den heute größten KI-Unternehmen nicht als Instrument dienen, um das Entstehen neuer Wettbewerber zu verhindern.
Die Sicherheitsregeln müssen die Menschheit schützen, nicht die Unternehmen, die bereits den Markt dominieren.
Legitime wissenschaftliche Forschung und offene Ermittlungen müssen geschützt bleiben.
Die Regulierung sollte sich in erster Linie auf die gefährliche Fähigkeit und den Einsatz konzentrieren, anstatt allgemeines Wissen zu unterdrücken.
Die KI-Governance darf keine Rechtfertigung für die Zensur der Wissenschaft werden.
Wenn jedoch sehr spezifische operative Informationen einen katastrophalen Schaden materiell ermöglichen würden, kann der Zugang angemessenen Schutzmaßnahmen unterliegen.
Keine Nation sollte immer gefährlichere KI-Systeme entwickeln, nur weil sie befürchtet, dass ein anderes Land sie zuerst baut.
Die Länder sollten Mechanismen für
Der KI-Wettbewerb darf nicht zu einem unkontrollierten Rennen werden, bei dem die Sicherheit selbst zu einem strategischen Nachteil wird.
Die Konvention sollte im Zuge der Entwicklung der KI-Fähigkeiten regelmäßig international überprüft werden.
Technische Vorschriften, Schwellenwerte und Durchführungsmechanismen können sich ändern.
Die Grundprinzipien sollten stabil bleiben:
Keine Organisation, kein Staat, kein Unternehmen oder kein Einzelner darf wissentlich ein KI-System einsetzen, wenn glaubwürdige Beweise darauf hindeuten, dass dies ein inakzeptables Risiko darstellt, dass die Menschheit dauerhaft die Kontrolle über ihre eigene Zukunft verliert.
Kein einzelner Akteur hat die moralische Autorität, dieses Risiko im Namen aller anderen zu übernehmen.
Ende des Übereinkommens
Version 1.0 - Präambel und alle 30 Artikel
Klassifizieren Sie Systeme nach dem, was sie tun können und den Schaden, den sie verursachen könnten.
Begrenzte Autonomie. Geringe systemische Wirkung.
Ein BeispielEin Werkzeug, das Dokumente zusammenfasst, ohne auf andere Systeme zuzugreifen.
Vorschlagene Ebenen, nicht das geltende internationale Recht. Die Rahmenbedingungen werden anhand von Beispielen veranschaulicht; die endgültigen Schwellenwerte und Bewertungsmethoden müssten international vereinbart werden. Lesen Sie Artikel 19
Eine vorgeschlagene Institution zur Koordinierung der Steuerung fortgeschrittener KI-Systeme mit globalen Auswirkungen.
Wie internationale Vereinbarungen für andere gemeinsame Risiken würde sie die nationale Verantwortung mit der speziell für KI konzipierten internationalen Verifizierung verbinden. Sein Auftrag würde sich auf die fortschrittlichsten Systeme konzentrieren, nicht auf gewöhnliche Software.
Erforschung des vorgeschlagenen MandatsGemeinsame Standards. Unabhängige Kontrollen.
Verantwortungsvolle menschliche Institutionen.
Definition der gemeinsamsten und fortschrittlichsten Anforderungen an die Sicherheit von KI.
Bewertung von Systemen über vereinbarten Schwellenwerten.
Überprüfen Sie Sicherheitspraktiken mit hohem Risiko.
Schaffen Sie ein globales Lernen aus schwerwiegenden KI-Misslungen.
Koordinieren Sie Reaktionen auf glaubwürdige Katastrophenbedrohungen.
Verhindern, dass die Sicherheit im geopolitischen Wettbewerb zu einem Nachteil wird.
Für seltene, außergewöhnliche Situationen, in denen glaubwürdige Beweise auf unmittelbar bevorstehende katastrophale Schäden hindeuten.
Ein Labor, ein Forscher, ein Staat oder ein Mitglied der Öffentlichkeit identifiziert glaubwürdige Anzeichen für unmittelbar bevorstehende Katastrophenrisiken.
Beweisbasierte Auslöser. Verhältnismäßige, zeitlich begrenzte Maßnahmen. Unabhängige Überprüfung und klare Kriterien für die Wiederaufnahme. Transparenz, wo immer es sicher ist. Kein wirtschaftlicher Protektionismus oder geopolitische Unterdrückung.
Lesen Sie Artikel 20Keine einzelne Person oder Institution sollte die absolute Kontrolle haben.
Wählen Sie eine Rolle aus, um ihre Autorität und Grenzen zu sehen.
Die menschlichen Institutionen bleiben verantwortlich; Menschen können eine Überprüfung von Entscheidungen mit großer Wirkung durch Menschen anstreben.
Die menschliche Autorität ist durch Rechte und Gesetze eingeschränkt. Niemand kann allein über die Zukunft der Menschheit entscheiden.
‡ Konzentrierte Intelligenz ist möglicherweise unvermeidlich.
Konzentrierte Macht ohne Verantwortung ist es nicht.
Schutz und Möglichkeit gehören zusammen.
Das ist ein Vorschlag für Fortschritt, den wir teilen können.
Hilft bei der Heilung von Krebs. Neue Medikamente zu entdecken.
Fusions- und saubere Energie. Hilfe bei der Lösung von Klima- und Umweltproblemen.
Die Bildung verbessern. Expertenwissen für alle zugänglich machen.
Erweitern Sie den Wohlstand. Die Regierungen besser arbeiten zu lassen.
Die Menschen helfen, das Universum zu verstehen. Erforschen Sie andere Welten.
Neue Kunst zu schaffen. Entfernen Sie gefährliche und sich wiederholende Arbeiten. Geben Sie den Leuten mehr Zeit.
Diese Konvention ist keine Obergrenze für den menschlichen Fortschritt.
Es ist ein Versuch, sicherzustellen, daß der Fortschritt unser bleibt.
Klarheit ist wichtig. Genauso wie die Freiheit, anderer Meinung zu sein.
Nein.
Die Konvention geht davon aus, dass immer leistungsfähiger werdende KI enorme Vorteile bringen kann.
Sie soll weder die Intelligenz noch den wissenschaftlichen Fortschritt aufhalten.
Es setzt Grenzen um autonome Macht, katastrophale Fähigkeiten, unverantwortliche Entscheidungen und Verlust menschlicher Kontrolle.
Weil Intelligenz schwer zu definieren ist und noch schwieriger, eine dauerhafte Obergrenze zu setzen.
Ein System könnte bei Mathematik oder Medizin weit besser sein als Menschen, ohne dabei gefährlich zu sein.
Die nützlichere Unterscheidung ist zwischen Fähigkeit und Autorität.
Das Ziel ist nicht, dass die Menschen die intelligenteste Wesenheit bleiben.
Das Ziel ist es, sicherzustellen, dass die Menschheit über ihre Zukunft souverän bleibt.
Ja.
Die KI trifft bereits unzählige Routineentscheidungen.
Die Beteiligung des Menschen sollte von der Konsequenz und der Reversibilität abhängen.
Die Konvention konzentriert sich auf Entscheidungen, die Grundrechte, tödliche Gewalt, Katastrophenrisiken und unumkehrbare Macht betreffen.
Vor allem nationale Regierungen durch innerstaatliches Recht.
Für die meisten fortgeschrittenen Systeme mit globalen Auswirkungen fordert der Vorschlag auch internationale Zusammenarbeit, unabhängige Bewertungen und eine vorgeschlagene Internationale Agentur für künstliche Intelligenz.
Nicht von Natur aus.
Die Regulierung sollte sich eher auf die tatsächliche Gefährlichkeit und den Einsatz konzentrieren als darauf, ob die Software offen oder geschlossen ist.
Ein offenes Modell mit begrenzter Gefährlichkeitsfähigkeit kann weniger Risiken bergen als ein hoch autonomes, proprietäres System zur Steuerung kritischer Infrastrukturen.
Ja.
Jeder starke Regulierungsrahmen kann selbst missbraucht werden.
Deshalb sind Transparenz, unabhängige Überprüfung, Verhältnismäßigkeit, wissenschaftliche Freiheit, verteilte Governance und Schutz vor der Kontrolle von Regulierungsbehörden durch mächtige Interessen Teil des Übereinkommens.
Globale Abkommen beginnen selten mit einer universellen Annahme.
Der Rahmen kann als gemeinsame Grundsätze zwischen den teilnehmenden Staaten und Institutionen beginnen und sich dann durch Verträge, bilaterale Abkommen, Normen, Beschaffungsregeln und internationalen Druck entwickeln.
Der Vorschlag zielt darauf ab, zuerst festzulegen, wie die Menschen die Regeln SINDEN.
Die Konvention regelt vor allem Fähigkeit und Macht, anstatt Annahmen über Bewusstsein zu machen.
Wenn sich starke Beweise für das Bewusstsein von Maschinen ergeben, würden Fragen des moralischen Status und der Rechte einen separaten internationalen Rahmen erfordern.
Die Sicherheit des Menschen und die moralische Betrachtung der Maschine schließen sich nicht notwendigerweise gegenseitig aus.
Nicht weil Menschen immer weiser sind.
Wir sind es nicht.
Aber die Menschheit ist die Gemeinschaft, deren Zukunft entschieden wird.
Kein Werkzeug sollte unumkehrbare Autorität über seine Schöpfer erhalten, nur weil es fähiger wird als sie.
Diese Einwände sind real. Der Rahmen ist ein Ausgangspunkt, nicht das letzte Wort.
Das können sie sein. Die menschliche Kontrolle allein reicht nicht aus: Sie muß rechtmäßig, rechenschaftspflichtig und anfechtbar sein. Der Vorschlag stellt sowohl für Regierungen und Unternehmen als auch für KI-Systeme Einschränkungen dar. Sie verleiht keinem Führer unkontrollierte Autorität.
Das kann oft passieren. Bessere Vorhersagen und Empfehlungen sollten die Entscheidungen beeinflussen. Die schwierige Frage ist, wer die Ziele definiert, die Konsequenzen trägt und Berufung einlegen kann. Die überlegene Leistung allein stellt nicht die politische Legitimität fest.
Schlecht konzipierte Regeln können Medizin, Forschung und neue Wettbewerber verzögern. Die Anforderungen sollten in einem angemessenen Verhältnis zu den nachgewiesenen Fähigkeiten und Risiken stehen, wissenschaftliche Freiheit gewährleisten und vor der Kontrolle der Regulierungsbehörden durch mächtige Interessen schützen. Die Kosten der Aufsicht verdienen ebenfalls eine genaue Prüfung.
Einige vielleicht. Kein Vertrag kann vollkommene Einhaltung versprechen. Inspektionen, gemeinsame Meldung von Vorfällen, gegenseitige Überprüfung und angemessene Konsequenzen können die Umgehung erschweren. Das internationale Vertrauen muss durch Beweise gestützt werden, nicht angenommen.
Die Dezentralisierung erschwert die Aufsicht und kann zu echten Lücken führen. Ein funktionierendes System müsste sich auf gefährliche Fähigkeiten, konsequente Einsätze und verantwortungsvollen Zugang zu kritischen Infrastrukturen konzentrieren. Es sollte nicht davon ausgegangen werden, dass jede Kopie eines Modells kontrolliert werden kann.
Wenn sich starke Beweise für ein Bewusstsein ergeben, verdienen Fragen des Wohlergehens und des moralischen Status ernsthafte, unabhängige Betrachtung. Dieser Vorschlag löst sie nicht. Es wäre ein separater Rahmen erforderlich, der neben dem Schutz der Sicherheit und Freiheit des Menschen auch die Menschen schützt.
Eine vorgeschlagene Sequenz, kein angekündigtes Programm.
Es werden keine Regierungen oder Institutionen als Unterzeichner vorgestellt.
Forscher, Bürger, Unternehmen und Regierungen diskutieren über den Rahmen.
KI-Labors und Regierungen übernehmen gemeinsame Sicherheitsverpflichtungen.
Die Länder setzen kompatible, fortschrittlichste KI-Regeln um.
Die Staaten verhandeln über verbindliche gemeinsame Standards.
Die internationale Zertifizierung, Inspektionen, die Meldung von Vorfällen und die Notfallkoordination werden in Betrieb genommen.
‡Kein KI-System darf unumkehrbare Macht über Menschen oder die Zukunft der Menschheit erlangen.Der letzte Grundsatz · Artikel 30
KI könnte intelligenter werden als wir. Es könnte Dinge entdecken, die wir nie konnten. Es könnte helfen, eine Zivilisation aufzubauen, die über alles hinausgeht, was wir uns vorstellen können.
Das macht ihn nicht zu unserem Herrscher.
Wir sollten Intelligenz nicht fürchten.
Wir sollten Macht begrenzen.
Und die ultimative Autorität über die menschliche Zukunft muss menschlich bleiben.