الذكاء الاصطناعي قد يصبح أقوى تكنولوجيا في التاريخ. لا يجب أن تصبح أقوى من البشرية نفسها
الذكاء الاصطناعي قد يتفوق علينا في المعرفة والعلوم والقدرة. لكن الذكاء لا يمنح الحق في الحكم
إطار دولي مقترح لتطوير واستخدام الذكاء الاصطناعي المتقدم بشكل آمن ومتوافق مع البشر.
مستقبل يستحق الحكم النسخة 1.0 / 2026الذكاء الاصطناعي قد يتفوق علينا في العلوم والهندسة والطب والاستراتيجية. محاولة منع ذلك بشكل دائم قد تكون غير واقعية.
لكن الذكاء والسلطة ليسا نفس الشيء يمكن للذكاء الاصطناعي أن يكون أكثر ذكاءً منا دون السماح له بالسيطرة علينا.
هذه الاتفاقية لا تضع سقف تعسفي على الذكاء. إنه يضع حدود دائمة حول السلطة
ربما ينصحك
البشر لا يزالون مسؤولين
قد يصبح الذكاء الاصطناعي قادر بشكل غير عادي.
قد لا تسعى إلى السلطة المستقلة.
الذكاء الاصطناعي قد يحمي الحياة
قد لا تقرر بشكل مستقل أن تأخذها.
الذكاء الاصطناعي قد يحسن نفسه في ظل ظروف خاضعة للرقابة.
لا يمكن أن تتكاثر سراً أو تفلت من الرقابة
لا فرد، شركة، عسكرية أو بلد
قد يُقامر بمستقبل البشرية بأكملها
ما يهم ليس فقط ما يمكن للذكاء الاصطناعي فعله.
هو من لديه القوة لتحديد.
الهدف ليس إيقاف التقدم الهدف هو جعل التقدم قابلاً للنجاة، ومسؤولاً وعلى درجة إنسانية.
الحدود المشتركة في قلب اتفاقية الذكاء الاصطناعي العالمية المقترحة.
يحتفظ البشر بالسلطة النهائية على القرارات التي تؤثر على حياة الإنسان وحريته وكرامته وحضارته.
اقرأ المادة 1لا يمكن لأي شركة أو دولة أو شخص أن يتجنب المسؤولية بقول أن نظام الذكاء الاصطناعي اتخذ القرار.
اقرأ المادة 2يجب ألا يقرر الذكاء الاصطناعي بشكل مستقل من يعيش أو يموت.
اقرأ المادة 4يجب أن تبقى سلطة إطلاق النووي تحت سيطرة بشرية مسؤولة
اقرأ المادة 5يجب ألا يسعى الذكاء الاصطناعي إلى السلطة السياسية أو العسكرية أو الاقتصادية لنفسه.
اقرأ المادة 3يجب ألا يتلاعب الذكاء الاصطناعي سراً بالسكان أو الديمقراطيات أو الأفراد على نطاق واسع.
اقرأ المادة 7يجب أن يعرف الناس متى يتفاعلون بشكل ذي معنى مع الذكاء الاصطناعي.
اقرأ المادة 8يجب ألا يصبح الذكاء الاصطناعي بنية تحتية لمراقبة جماعية دائمة أو قمع آلي.
اقرأ المادة 9يجب أن تظل القرارات ذات التأثير العالي للذكاء الاصطناعي التي تؤثر على حياة الناس قابلة للمراجعة من قبل البشر المسؤولين.
اقرأ المادة 10قد يتحسن الذكاء الاصطناعي القوي تحت الضمانات ولكن يجب ألا يتكرر سراً أو يهرب من الإشراف أو يبني خلفاء غير خاضعين للرقابة.
اقرأ المادة 13يجب على البشر المعتمدين الاحتفاظ بالقدرة على عزل، تقييد وإيقاف أنظمة الذكاء الاصطناعي المتقدمة.
اقرأ المادة 14لا يجوز لأي شخص أو شركة أو بلد أن يتصرف بمفرده ليُعرض البشرية لخطر حقيقي من كارثة لا رجعة فيها.
اقرأ المادة 21الذكاء الخارق للإنسان لا يتطلب سلطة فوق الإنسان
صورة مفهومية، وليس توقعات أو مقياس لذكاء. تحريك الزوايا: تغيرات القدرة؛ السلطة المشروعة لا.
ثلاثون مادة أساس مشترك للسيادة البشرية في عصر الذكاء الاصطناعي
الذكاء الاصطناعي قد يصبح أقوى تكنولوجيا أنشأتها البشرية.
يمكن أن تساعد في علاج الأمراض، وتوسيع الاكتشافات العلمية، وتحسين التعليم، وتعزيز الاقتصادات، وتقليل المعاناة البشرية، وإطلاق القدرات التي تفوق أي شيء كان يُتخيل سابقاً.
لكن الذكاء وحده لا يمنح الشرعية أو السلطة أو الوقوف الأخلاقي فوق البشر.
لا ينبغي السماح لأي دولة أو شركة أو منظمة أو فرد بإنشاء أو نشر أنظمة الذكاء الاصطناعي بطرق تضع البشرية تحت الأدوات التي بناها.
لهذا السبب، ينبغي على دول العالم أن تتبنى المبادئ المشتركة والالتزامات الملزمة التالية.
الذكاء الاصطناعي يجب أن يكون موجودا لخدمة البشرية
يجب على البشر الاحتفاظ بالسلطة النهائية على القرارات التي تؤثر على حياة الإنسان، الحرية، الكرامة، ومستقبل الحضارة.
لا يمكن لأي نظام ذكاء اصطناعي أن يحصل على قوة لا رجعة فيها على البشرية أو قوة لا تخضع للمساءلة.
يمكن للذكاء الاصطناعي أن يقدم المشورة، والتحليل، والمحاكاة، والتوصية، والمساعدة.
ولكن المسؤولية القانونية والسياسية والعسكرية والمدنية يجب أن تبقى دائماً مسؤولة عن المؤسسات البشرية المحددة وصانعي القرار البشريين المسؤولين.
لا يجوز لأي ممثل أن يتهرب من المسؤولية بدعوى:
"الذكاء الاصطناعي اتخذ القرار"
لا يجوز تصميم أي نظام ذكاء اصطناعي متقدم أو تحفيزه أو السماح له بمواصلة تحقيق أهداف تشمل ما يلي:
يجب ألا يعطي نظام الذكاء الاصطناعي الأولوية أبداً لبقائه على قيد الحياة فوق السيطرة البشرية.
لا يمكن لأي نظام ذكاء اصطناعي أن يختار أو يستهدف أو يقتل البشر بشكل مستقل.
استخدام القوة المميتة يجب أن يتطلب دائماً حكم بشري ذو معنى ومسؤولية قانونية يمكن تحديدها.
القيادة والسيطرة النووية المستقلة تماماً ممنوعة دون استثناء.
لا يجوز لأي نظام الذكاء الاصطناعي أن:
كل عملية اتخاذ القرارات التي تتضمن الأسلحة النووية يجب أن تبقى تحت السيطرة البشرية بالكامل وتتطلب عدة صانعي قرارات بشريين يمكن تحملهم المسؤولية.
يجب ألا يستخدم الذكاء الاصطناعي لإنشاء أو تشغيل أو توزيع القدرات التي تمكن بشكل مادي من إلحاق أضرار كبيرة بالضحايا، بما في ذلك في مجالات:
البحث العلمي يمكن أن يستمر تحت ضوابط حماية صارمة، ولكن لا يجب أن تكون القدرة التشغيلية الخطيرة متاحة على نطاق واسع.
يجب ألا يستخدم الذكاء الاصطناعي للتلاعب السري على نطاق واسع في السكان.
ويشمل ذلك استخدام الذكاء الاصطناعي لـ:
إذا كان الذكاء الاصطناعي يحاول التأثير على شخص ما، يجب أن يكون ذلك الشخص قادراً على معرفته.
يحق للناس أن يعرفوا متى يتفاعلون مع الذكاء الاصطناعي كلما كان الخلط بينه وبين إنسان سيكون له عواقب كبيرة.
يجب ألا تخدع أنظمة الذكاء الاصطناعي الناس بشكل منهجي عن طريق التظاهر بأنهم بشر حقيقيين.
يجب أن يكون الناس قادرين على فهم:
يجب ألا يستخدم الذكاء الاصطناعي لإنشاء مراقبة جماعية دائمة لسكان كاملين.
استخدام الذكاء الاصطناعي لـ:
يجب أن تخضع للحدود القانونية الصارمة والضرورة والتناسب والرقابة المستقلة.
يجب ألا يصبح الذكاء الاصطناعي أبداً البنية الافتراضية للديكتاتورية الرقمية.
لا ينبغي أن تحدد فرص أي شخص في الحياة بواسطة خوارزمية فقط.
في مجالات مثل:
يجب أن تكون القرارات بمساعدة الذكاء الاصطناعي قابلة للمراجعة، وقابلة للتفسير بشكل مناسب، وقابلة للطعن في سلطة بشرية.
يجب أن يتم الاحتفاظ بأنظمة الذكاء الاصطناعي التي تتفاعل مع الأطفال أو تشكل نمو الطفولة بأعلى مستويات الرعاية.
يجب ألا تكون مصممة لزيادة:
يجب أن يعزز الذكاء الاصطناعي في التعليم قدرة الطفل على التفكير، وليس أن يحل محله.
يجب على البشرية ألا تصمم مستقبلًا يفقد فيه الناس القدرة على التفكير والإبداع والحكم والقرار بدون آلات.
يجب على الأنظمة التعليمية أن تستمر في تنمية:
يجب أن يضخم الذكاء الاصطناعي الذكاء البشري، لا يُدمر.
لا يجوز لأي نظام ذكاء اصطناعي متطور، دون إذن صريح:
أي ذكاء اصطناعي يتحسن ذاتيًا أو بشكل متكرر يجب أن يعمل تحت نقاط التفتيش التي يسيطر عليها الإنسان.
يجب تصميم أنظمة الذكاء الاصطناعي المتقدمة بحيث يمكن للبشر المصرح لهم:
يجب أن لا يقاوم نظام الذكاء الاصطناعي أو يفسد إيقاف تشغيل مشروع أو احتواء.
يجب أن تتلقى أنظمة الذكاء الاصطناعي الحد الأدنى فقط من الوصول اللازم لتنفيذ المهمة المقصودة.
النظام الذي يحتاج إلى تلخيص الوثائق لا ينبغي أن يتحكم تلقائياً في الأدوات الخارجية.
النظام الذي يكتب الشفرة لا ينبغي أن يتحكم تلقائيا في أنظمة الإنتاج.
النظام الذي يحلل التقويمات لا ينبغي أن يصل تلقائياً إلى الحسابات المالية.
القدرة لا يجب أن تعني الحق.
يجب أن تخضع أنظمة الذكاء الاصطناعي التي تتجاوز عتبات القدرة المحددة لتقييم سلامة مستقل قبل النشر على نطاق واسع.
يجب أن يُقيّم الاختبار، على الأقل:
يجب أن تركز التنظيم على القدرة الفعلية والمخاطر، وليس فقط حجم النموذج.
يجب الإبلاغ عن الحوادث الخطيرة التي تنطوي على الذكاء الاصطناعي إلى سجل دولي.
الحوادث التي يتعين الإبلاغ عنها تشمل:
الهدف هو التعلم الجماعي والسلامة العالمية، وليس السرية.
ينبغي للبلدان إنشاء وكالة دولية للذكاء الاصطناعي:
IAIA
وينبغي أن يشمل ولايته:
يجب أن تركز الوكالة على الأنظمة المتقدمة ذات الآثار المجتمعية أو الحضارية الكبرى، وليس البرمجيات العادية.
يجب تصنيف أنظمة الذكاء الاصطناعي بشكل أساسي حسب القدرة الفعلية والمخاطر.
أخضر
أنظمة منخفضة المخاطر ذات استقلالية محدودة وتأثير نظامي منخفض.
أصفر
الأنظمة التي تؤثر على وظائف مهمة وتتطلب توثيق وقيود ورقابة.
البرتقال
أنظمة ذات قدرة عالية مع مخاطر سيبرانية أو علمية أو بنية تحتية أو مستقلة ذات مغزى.
هذه تتطلب ترخيصاً واختبارات مستقلة ومراقبة مستمرة.
أحمر
الأنظمة ذات الإمكانات الموثوقة لسوء الاستخدام الكارثي، فقدان السيطرة أو تعطيل الحضارة.
يجب ألا يتم استخدامها إلا إذا كان من الممكن إثبات السلامة بمستوى عالٍ بشكل استثنائي.
إذا أشار دليل موثوق إلى أن نظام الذكاء الاصطناعي قد يشكل خطراً كارثياً وشيكاً، يجب أن يكون المجتمع الدولي قادراً على تنسيق الاستجابة لحالات الطوارئ.
قد تشمل هذه التدابير:
هذه الآلية يجب أن تستخدم فقط للمخاطر الاستثنائية الحقيقية ولا تستخدم أبدًا كأداة للحماية الاقتصادية أو القمع الجيوسياسي.
لا ينبغي لأي مدير تنفيذي، رئيس دولة، قائد عسكري، عالم، ملياردير، شركة، أو أمة أن تقرر من جانب واحد نشر نظام يحمل خطرًا معقولًا لفقدان السيطرة البشرية على المستقبل بشكل لا رجعة فيه.
المخاطر التي تؤثر على البشرية كلها تتطلب حوكمة تتجاوز أي ممثل واحد.
يجب توجيه فوائد الذكاء الاصطناعي نحو ازدهار الإنسان.
يجب استخدام الذكاء الاصطناعي لـ:
يجب أن تصبح الحضارة الأكثر إنتاجية أيضًا حضارة أكثر إنسانية.
الدول التي وقعت على الاتفاقية يجب أن تلتزم:
قد تؤدي الانتهاكات المتكررة أو الشديدة إلى حدوث عواقب دولية منسقة.
يمكن أن تشمل آليات التنفيذ المحتملة:
يجب أن يكون التنفيذ متناسبًا وشفافًا وقابلاً للمراجعة المستقلة، وأن يكون محميًا من الإساءة السياسية.
قد تخضع المنظمات التي تقوم بتطوير أنظمة فوق الحدود الأكثر تقدماً المحددة لفحوصات سلامة مستقلة.
يجب أن يكون المفتشون قادرين على التحقق من:
يجب أن تظل المعلومات الحساسة تجارياً غير ذات الصلة بالسلامة محمية.
يجب ألا تتحول الرقابة الدولية إلى تجسس صناعي.
قد تتطلب عمليات تدريب الذكاء الاصطناعي الكبيرة للغاية التسجيل أو الإبلاغ بمجرد تجاوز القدرة المتفق عليها دولياً أو عتبات الحوسبة.
الغرض ليس تنظيم الحوسبة العادية.
والغرض من ذلك هو ضمان أن الأنظمة على نطاق الحضارة لا يمكن تطويرها بالكامل خارج أي نظام للمساءلة.
يجب أن تتطور العتبات مع تزايد كفاءة التكنولوجيا.
المؤسسات التي تحكم الذكاء الاصطناعي المتقدم لا يجب أن تسيطر عليها فقط:
يجب أن تشمل الإشراف مجموعات مستقلة متعددة تمثل مصالح مختلفة.
يجب ألا تتحول القواعد إلى أداة تستخدمها كبرى شركات الذكاء الاصطناعي اليوم لمنع ظهور منافسين جدد.
قواعد السلامة يجب أن تحمي البشرية، وليس الشركات التي تهيمن بالفعل على السوق.
البحث العلمي الشرعي والتحقيق المفتوح يجب أن يظل محميًا.
وينبغي أن تركز التنظيم في المقام الأول على القدرة والانتشار الخطيرين بدلاً من قمع المعرفة العامة.
لا يجب أن تصبح حوكمة الذكاء الاصطناعي مبرراً لفرض الرقابة على العلم.
ومع ذلك، عندما تسمح معلومات تشغيلية محددة للغاية بتسبب ضرر كارثي، يمكن أن يخضع الوصول إلى ضمانات متناسبة.
لا ينبغي لأي دولة أن تطور أنظمة ذكاء اصطناعي أكثر خطورة فقط لأنها تخشى أن تقوم دولة أخرى ببناءها أولاً.
ينبغي للبلدان أن تضع آليات لـ:
يجب ألا تتحول المنافسة في الذكاء الاصطناعي إلى سباق غير قابل للتحكم حيث تصبح السلامة نفسها عيبًا استراتيجيًا.
يجب أن تخضع الاتفاقية لمراجعة دولية منتظمة مع تطور قدرات الذكاء الاصطناعي.
قد تتغير القواعد الفنية والحدود الأساسية وآليات التنفيذ.
يجب أن تبقى المبادئ الأساسية ثابتة:
لا يجوز لأي منظمة أو دولة أو شركة أو فرد نشر نظام الذكاء الاصطناعي عن قصد عندما تشير الأدلة الموثوقة إلى أن القيام بذلك يخلق خطرًا غير مقبول من فقدان البشرية بشكل دائم للسيطرة على مستقبلها.
لا يوجد ممثل فردي لديه السلطة الأخلاقية لقبول تلك المخاطرة نيابة عن الجميع.
نهاية الاتفاقية
النسخة 1.0 · الديباجة والمواد الثلاثون كاملة
تصنيف الأنظمة حسب ما يمكنها فعله والضرر الذي يمكن أن تسبب.
الحكم الذاتي المحدود تأثير نظامى منخفض
مثال توضيحيأداة تلخص الوثائق دون الدخول إلى أنظمة أخرى.
مستويات مقترحة، وليس القانون الدولي الحالي. وتوضح الأمثلة الإطار؛ وسوف يتعين الاتفاق على الحدود النهائية وأساليب التقييم على المستوى الدولي. اقرأ المادة 19
مؤسسة مقترحة لتنسيق حوكمة أنظمة الذكاء الاصطناعي المتقدمة ذات الآثار العالمية.
مثل الترتيبات الدولية للمخاطر المشتركة الأخرى، فإنها تربط المسؤولية الوطنية بالتحقق الدولي المصمم خصيصًا للذكاء الاصطناعي. ولايتها سوف تركز على الأنظمة الأكثر تقدما، وليس البرمجيات العادية.
استكشاف التفويض المقترحمعايير مشتركة التحقق المستقل
مؤسسات بشرية مسؤولة
تحديد متطلبات السلامة الأكثر تقدماً للذكاء الاصطناعي المشتركة.
تقييم الأنظمة فوق الحدود المتفق عليها.
تحقق من الممارسات الأمنية عالية الخطورة.
خلق التعلم العالمي من فشل الذكاء الاصطناعي الخطير.
تنسيق الاستجابات لتهديدات كارثية ذات مصداقية
منع الأمن من أن يصبح عائق في المنافسة الجيوسياسية.
لحالات نادرة و استثنائية حيث الأدلة الموثوقة تشير إلى ضرر كارثي وشيك
مختبر، باحث، دولة أو عضو من الجمهور يحدد علامات موثوقة من خطر كارثي وشيك.
أداة تحريك قائمة على الأدلة تدابير متناسبة ومحدودة في الوقت المناسب مراجعة مستقلة ومعايير واضحة لإعادة البدء الشفافية في أي مكان آمن لا حماية اقتصادية أو قمع جيوسياسي.
اقرأ المادة 20لا ينبغي لأي شخص أو مؤسسة أن يكون لها السيطرة المطلقة.
حدد دورًا لترى سلطته وحدوده.
تبقى المؤسسات البشرية مسؤولة؛ يمكن للناس طلب مراجعة بشرية للقرارات ذات التأثير العالي.
السلطة البشرية مقيدة بالحقوق والقانون لا أحد يقرر مستقبل البشرية وحده
قد يكون الإستخبارات المركزة أمرًا لا مفر منه.
القوة غير المُحاسبة المركزة ليست كذلك.
الحماية والفرصة تنتميان معًا.
هذا اقتراح للتقدم يمكننا مشاركته
يساعد في علاج السرطان اكتشاف أدوية جديدة.
تقدم الاندماج والطاقة النظيفة. تساعد في حل التحديات المناخية والبيئية.
تحسين التعليم. جعل الخبرة متاحة للجميع.
توسيع الازدهار. جعل الحكومات تعمل بشكل أفضل.
لمساعدة البشر على فهم الكون استكشاف عوالم أخرى
خلق فن جديد إزالة الأعمال الخطرة والمتكررة. أعط الناس المزيد من الوقت
هذا المؤتمر ليس سقفًا على التقدم البشري.
إنها محاولة لضمان أن التقدم يبقى لنا.
الوضوح مهم وكذلك حرية الاختلاف
لا.
يفترض الاتفاقية أن الذكاء الاصطناعي المتزايد القوة يمكن أن يخلق فوائد هائلة.
الغرض منه ليس إيقاف الذكاء أو التقدم العلمي
إنه يضع حدود حول القوة المستقلة، والقدرة الكارثية، والقرارات غير المسؤولة وفقدان السيطرة البشرية.
لأن الذكاء صعب التعريف، وأصعب حتى وضع سقف دائم عليه.
يمكن للنظام أن يكون أفضل بكثير من البشر في الرياضيات أو الطب دون أن يكون خطيرا.
التمييز الأكثر فائدة هو بين القدرة والسلطة.
الهدف ليس ضمان أن البشر يبقون أذكى كيان.
الهدف هو ضمان بقاء البشرية ذات سيادة على مستقبلها.
نعم.
الذكاء الاصطناعي يتخذ بالفعل عدد لا يحصى من القرارات الروتينية.
يجب أن يعتمد التدخل البشري على النتيجة والإمكانية للعودة.
تركز الاتفاقية على القرارات التي تتضمن الحقوق الأساسية والقوة المميتة والمخاطر الكارثية والقوة غير القابلة للتراجع.
تتولى الحكومات الوطنية ذلك أساسًا من خلال قوانينها المحلية.
أما الأنظمة الأشد تقدمًا ذات الآثار العالمية، فيدعو المقترح أيضًا إلى التعاون الدولي والتقييم المستقل وإنشاء وكالة دولية للذكاء الاصطناعي.
ليس بطبيعته
وينبغي أن تركز التنظيم على القدرة والتنفيذ الخطيرين الفعليين بدلاً من كون البرنامج مفتوح أو مغلق.
قد يشكل نموذج مفتوح ذو قدرة خطيرة محدودة مخاطر أقل من نظام خاص ذاتي للغاية يتحكم في البنية التحتية الحيوية.
نعم.
أي إطار تنظيمي قوي يمكن أن يُساء استخدامه.
ولهذا السبب الشفافية، والمراجعة المستقلة، والتناسب، والحرية العلمية، والحوكمة الموزعة، والحماية من سيطرة الجهات التنظيمية من قبل المصالح القوية هي جزء من الاتفاقية.
نادراً ما تبدأ الاتفاقيات العالمية بتبني عالمي.
يمكن أن يبدأ الإطار كمبادئ مشتركة بين الدول والمؤسسات المشاركة، ثم يتطور من خلال المعاهدات والاتفاقيات الثنائية والمعايير وقواعد المشتريات والضغط الدولي.
الغرض من الاقتراح هو أولاً أن يحدد ما تعتقد البشرية أن القواعد يجب أن تكون.
الاتفاقية تحكم في المقام الأول القدرة والقوة بدلاً من القيام بافتراضات حول الوعي.
إذا ظهر دليل قوي على وعي الآلة، فإن أسئلة الوضع الأخلاقي والحقوق ستحتاج إلى إطار دولي منفصل.
السلامة البشرية والاعتبار الأخلاقي للآلة لا يستبعد بعضهما البعض بالضرورة.
ليس لأن البشر دائماً أكثر حكمة
نحن لسنا كذلك
لكن البشرية هي المجتمع الذي يتم تحديد مستقبله.
لا ينبغي لأي أداة أن تحصل على سلطة لا رجعة فيها على صانعيها ببساطة لأنها تصبح أكثر قدرة منهم.
هذه الاعتراضات حقيقية الإطار هو نقطة البداية وليس الكلمة النهائية.
يمكن أن يكونوا كذلك التحكم البشري وحده ليس كافياً: يجب أن يكون قانونياً ومسؤولاً ومستعداً للتحدي. يفرض الاقتراح قيوداً على الحكومات والشركات وكذلك أنظمة الذكاء الاصطناعي. لا يمنح أي قائد سلطة غير محدودة.
قد تفعل ذلك في كثير من الأحيان. التنبؤات والتوصيات الأفضل يجب أن تكون مصدر قراءة للقرارات. السؤال الصعب هو من يحدد الأهداف ويتحمل العواقب ويمكنه الطعن الأداء الفائق لا يحدد بحد ذاته الشرعية السياسية.
القواعد التي تم تصميمها بشكل سيء يمكن أن تؤخر الطب والبحث والمنافسين الجدد. يجب أن تكون المتطلبات متناسبة مع القدرة والمخاطر المثبتة، مع الحرية العلمية والحماية من سيطرة الجهات التنظيمية من قبل المصالح القوية. تكاليف الرقابة تستحق أيضا التدقيق.
البعض قد يفعل لا يمكن لأي معاهدة أن تعد بالامتثال الكامل. يمكن أن تجعل عمليات التفتيش والإبلاغ المشترك عن الحوادث والتحقق المتبادل والعواقب المتناسبة التهرب أكثر صعوبة. الثقة الدولية يجب أن تكون مدعومة بالدليل، وليس افتراض.
اللامركزية تجعل الإشراف أصعب وقد تترك ثغرات حقيقية. النظام القابل للتطبيق يحتاج إلى التركيز على القدرات الخطرة، ونشر التداعيات والوصول المسؤول إلى البنية التحتية الحيوية. لا ينبغي أن يفترض أنه يمكن التحكم في كل نسخة من النموذج.
إذا ظهرت أدلة قوية على الوعي، فإن أسئلة الرفاهية والوضع الأخلاقي تستحق دراسة جادة ومستقلة. هذا الاقتراح لا يحلّها. سيكون هناك حاجة إلى إطار منفصل إلى جانب حماية السلامة والحرية البشرية.
تسلسل مقترح، وليس برنامج معلن.
لا يتم تقديم أي حكومات أو مؤسسات كمتوقعين.
يناقش الباحثون والمواطنون والشركات والحكومات هذا الإطار.
مختبرات الذكاء الاصطناعي والحكومات تتبنى التزامات السلامة المشتركة.
تنفذ البلدان قواعد الذكاء الاصطناعي الأكثر تقدماً.
تتفاوض الدول على معايير مشتركة ملزمة.
تصبح الشهادات الدولية والتفتيشات والإبلاغ عن الحوادث وتنسيق الطوارئ تعمل.
لا يمكن لأي نظام من أنظمة الذكاء الاصطناعي أن يكتسب قوة لا رجعة فيها على البشر أو على مستقبل البشرية.المبدأ الأخير · المادة 30
قد يصبح الذكاء الاصطناعي أكثر ذكاءً منا. قد يكتشف أشياء لم نستطع اكتشافها قد يساعد في بناء حضارة تتجاوز كل ما يمكننا تخيله حالياً
هذا لا يجعله حاكمنا
لا ينبغي أن نخشى الذكاء.
بل أن نُخضع السلطة للضوابط.
والسلطة النهائية على مستقبل البشرية يجب أن تبقى بشرية.