एआई इतिहास की सबसे शक्तिशाली तकनीक बन सकती है। यह कभी भी मानवता से अधिक शक्तिशाली नहीं बन सकता।
कृत्रिम बुद्धिमत्ता ज्ञान, विज्ञान और क्षमता में हमसे आगे निकल सकती है। लेकिन बुद्धि शासन करने का अधिकार नहीं देती।
उन्नत कृत्रिम बुद्धिमत्ता के सुरक्षित, मानव-संरेखित विकास और उपयोग के लिए एक प्रस्तावित अंतर्राष्ट्रीय ढांचा।
एक भविष्य जो शासन करने लायक है संस्करण 1.0 / 2026कृत्रिम बुद्धि अंततः विज्ञान, इंजीनियरिंग, चिकित्सा और रणनीति में हमसे आगे निकल सकती है। इसे स्थायी रूप से रोकने की कोशिश करना अवास्तविक हो सकता है।
लेकिन बुद्धि और अधिकार एक ही चीज़ नहीं हैं। एक एआई हमसे अधिक बुद्धिमान हो सकता है, बिना हमें नियंत्रित करने की अनुमति दिए।
यह सम्मेलन बुद्धि पर मनमाने ढंग से कोई सीमा नहीं रखता है। यह सत्ता के चारों ओर स्थायी सीमाएं स्थापित करता है।
एआई सलाह दे सकता है।
मनुष्य जिम्मेदार हैं।
एआई असाधारण रूप से सक्षम हो सकता है।
यह स्वतंत्र शक्ति की मांग नहीं कर सकता।
एआई जीवन की रक्षा कर सकता है।
यह स्वतंत्र रूप से इसे लेने का निर्णय नहीं ले सकता है।
नियंत्रित परिस्थितियों में एआई स्वयं में सुधार कर सकता है।
यह गुप्त रूप से प्रतिकृति नहीं कर सकता है या निगरानी से बच नहीं सकता है।
कोई व्यक्ति, कंपनी, सैन्य या देश
मानवता के भविष्य के साथ जुआ खेल सकता है।
केवल यह मायने नहीं रखता कि एआई क्या कर सकता है।
यह तय करने की शक्ति किसके पास है।
लक्ष्य प्रगति को रोकना नहीं है। लक्ष्य है प्रगति को जीवित, उत्तरदायी और मानवीय बनाना।
प्रस्तावित वैश्विक एआई सम्मेलन के केंद्र में साझा सीमाएं।
मानव जीवन, स्वतंत्रता, गरिमा और सभ्यता को प्रभावित करने वाले निर्णयों पर मनुष्य अंतिम अधिकार रखता है।
अनुच्छेद 1 पढ़ेंकोई भी कंपनी, देश या व्यक्ति यह कहकर जिम्मेदारी से बच नहीं सकता कि एआई प्रणाली ने निर्णय लिया है।
अनुच्छेद 2 पढ़ेंएआई को कभी भी स्वतंत्र रूप से यह तय नहीं करना चाहिए कि कौन जीवित है या मरता है।
अनुच्छेद 4 पढ़ेंपरमाणु प्रक्षेपण प्राधिकरण को जिम्मेदार मानव नियंत्रण के अधीन रहना चाहिए।
अनुच्छेद 5 पढ़ेंएआई को अपने लिए राजनीतिक, सैन्य या आर्थिक शक्ति का पीछा नहीं करना चाहिए।
अनुच्छेद 3 पढ़ेंएआई को आबादी, लोकतंत्र या व्यक्तियों को बड़े पैमाने पर गुप्त रूप से हेरफेर नहीं करना चाहिए।
अनुच्छेद 7 पढ़ेंलोगों को यह जानना चाहिए कि वे एआई के साथ सार्थक बातचीत कब कर रहे हैं।
अनुच्छेद 8 पढ़ेंएआई को स्थायी सामूहिक निगरानी या स्वचालित उत्पीड़न के लिए बुनियादी ढांचा नहीं बनना चाहिए।
अनुच्छेद 9 पढ़ेंलोगों के जीवन को प्रभावित करने वाले उच्च प्रभाव वाले एआई निर्णयों की समीक्षा जिम्मेदार मनुष्यों द्वारा की जानी चाहिए।
अनुच्छेद 10 पढ़ेंशक्तिशाली एआई सुरक्षा उपायों के तहत सुधार कर सकते हैं, लेकिन गुप्त रूप से प्रतिकृति नहीं करना चाहिए, पर्यवेक्षण से बचें या अनियंत्रित उत्तराधिकारी बनाएं।
अनुच्छेद 13 पढ़ेंअधिकृत मनुष्यों को उन्नत एआई प्रणालियों को अलग करने, प्रतिबंधित करने और रोकने की क्षमता बनाए रखनी चाहिए।
अनुच्छेद 14 पढ़ेंकोई भी व्यक्ति, कंपनी या देश अकेले ही मानवता को अपरिवर्तनीय आपदा के विश्वसनीय जोखिम के लिए उजागर नहीं कर सकता है।
अनुच्छेद 21 पढ़ेंमानव से अधिक बुद्धि के लिए मानव से अधिक अधिकार की आवश्यकता नहीं होती।
एक अवधारणा चित्रण, एक पूर्वानुमान या बुद्धि का एक उपाय नहीं। स्लाइडर को स्थानांतरित करें: क्षमता बदलती है; वैध प्राधिकरण नहीं करता है।
30 लेख। एआई के युग में मानव संप्रभुता के लिए एक साझा नींव।
कृत्रिम बुद्धि मानवता द्वारा बनाई गई सबसे शक्तिशाली तकनीक बन सकती है।
यह रोगों को ठीक करने, वैज्ञानिक खोजों को बढ़ाने, शिक्षा में सुधार करने, अर्थव्यवस्थाओं को मजबूत करने, मानव पीड़ा को कम करने और पहले की कल्पना से परे क्षमताओं को अनलॉक करने में मदद कर सकता है।
लेकिन बुद्धि ही केवल मानव से अधिक वैधता, अधिकार या नैतिक स्थिति प्रदान नहीं करती है।
किसी भी राज्य, कंपनी, संगठन या व्यक्ति को एआई सिस्टम बनाने या तैनात करने की अनुमति नहीं दी जानी चाहिए जो मानवता को उसके द्वारा बनाए गए उपकरणों के नीचे रखता है।
इस कारण से विश्व के राष्ट्रों को निम्नलिखित साझा सिद्धांतों और बाध्यकारी प्रतिबद्धताओं को अपनाना चाहिए।
मानवता की सेवा के लिए एआई का अस्तित्व होना चाहिए।
मानव जीवन, स्वतंत्रता, गरिमा और सभ्यता के भविष्य को प्रभावित करने वाले निर्णयों पर मनुष्य अंतिम अधिकार बनाए रखेगा।
किसी भी एआई प्रणाली को मानवता पर अपरिवर्तनीय शक्ति या ऐसी शक्ति प्राप्त नहीं हो सकती है जो जवाबदेही के अधीन न हो।
एआई सलाह दे सकता है, विश्लेषण कर सकता है, अनुकरण कर सकता है, सिफारिश कर सकता है और सहायता कर सकता है।
लेकिन कानूनी, राजनीतिक, सैन्य और नागरिक जिम्मेदारी हमेशा पहचानने योग्य मानव संस्थाओं और जवाबदेह मानव निर्णय निर्माताओं के लिए जिम्मेदार बनी रहनी चाहिए।
कोई भी अभिनेता यह दावा करके जिम्मेदारी से बच नहीं सकता:
एआई ने निर्णय लिया।
किसी भी उन्नत एआई प्रणाली को डिज़ाइन नहीं किया जाएगा, प्रोत्साहन नहीं दिया जाएगा या उन लक्ष्यों को प्राप्त करने की अनुमति नहीं दी जाएगी जिनमें शामिल हैंः
एक एआई प्रणाली को कभी भी मानव नियंत्रण से ऊपर अपने स्वयं के अस्तित्व को प्राथमिकता नहीं देनी चाहिए।
कोई भी एआई प्रणाली स्वतंत्र रूप से मनुष्यों को नहीं चुन सकती, उन्हें निशाना बना सकती है या मार सकती है।
घातक बल के उपयोग के लिए हमेशा सार्थक मानवीय निर्णय और पहचान योग्य कानूनी जिम्मेदारी की आवश्यकता होती है।
पूर्ण स्वायत्त परमाणु कमान और नियंत्रण बिना किसी अपवाद के निषिद्ध है।
कोई भी एआई प्रणाली स्वतंत्र रूप से:
परमाणु हथियारों से संबंधित हर निर्णय प्रक्रिया पूरी तरह मानव नियंत्रण में होनी चाहिए और इसके लिए कई मानव निर्णय निर्माताओं की आवश्यकता होती है जिन्हें जिम्मेदार ठहराया जा सकता है।
एआई का उपयोग ऐसी क्षमताओं को बनाने, परिचालन करने या वितरित करने के लिए नहीं किया जाना चाहिए जो सामूहिक दुर्घटना क्षति को सक्षम करती हैं, जिसमें निम्न क्षेत्रों में शामिल हैंः
वैज्ञानिक अनुसंधान सख्त सुरक्षा उपायों के तहत जारी रह सकता है, लेकिन खतरनाक परिचालन क्षमता को व्यापक रूप से सुलभ नहीं किया जाना चाहिए।
एआई का उपयोग बड़े पैमाने पर आबादी के गुप्त हेरफेर के लिए नहीं किया जाना चाहिए।
इसमें एआई का उपयोग शामिल हैः
यदि एआई किसी व्यक्ति को प्रभावित करने का प्रयास कर रहा है, तो उस व्यक्ति को यह जानने में सक्षम होना चाहिए।
लोगों को यह जानने का अधिकार है कि जब वे एआई के साथ बातचीत कर रहे हैं, तो जब भी इसे मानव के लिए गलत समझना महत्वपूर्ण परिणाम होगा।
एआई प्रणालियों को वास्तविक मानव होने का दिखावा करके लोगों को व्यवस्थित रूप से धोखा नहीं देना चाहिए।
लोगों को यह समझना चाहिए कि:
AI का उपयोग पूरी आबादी की स्थायी सामूहिक निगरानी बनाने के लिए नहीं किया जाना चाहिए।
एआई का उपयोगः
सख्त कानूनी सीमाओं, आवश्यकता, आनुपातिकता और स्वतंत्र पर्यवेक्षण के अधीन होना चाहिए।
एआई को डिजिटल तानाशाही की डिफ़ॉल्ट वास्तुकला नहीं बनना चाहिए।
जीवन में किसी भी व्यक्ति के अवसरों को केवल एक एल्गोरिथ्म द्वारा निर्धारित नहीं किया जाना चाहिए।
जैसे कि:
एआई-सहायता प्राप्त निर्णयों की समीक्षा, उचित रूप से समझाया जा सकता है और एक मानव प्राधिकरण के लिए अपील योग्य होना चाहिए।
एआई प्रणाली जो बच्चों के साथ बातचीत करती है या बचपन के विकास को आकार देती है, उसे देखभाल के उच्चतम मानक पर रखा जाना चाहिए।
उन्हें अधिकतम करने के लिए डिज़ाइन नहीं किया जाना चाहिएः
शिक्षा में एआई को बच्चे की सोचने की क्षमता को मजबूत करना चाहिए, न कि उसे बदलना।
मानवता को ऐसा भविष्य नहीं बनाना चाहिए जिसमें लोग मशीनों के बिना तर्क करने, बनाने, न्याय करने और निर्णय लेने की क्षमता खो दें।
शिक्षा प्रणालियों को निम्नलिखित की खेती करना जारी रखना चाहिए:
एआई को मानव बुद्धि को बढ़ाना चाहिए, उसे कम नहीं करना चाहिए।
कोई उन्नत एआई प्रणाली स्पष्ट प्राधिकरण के बिना नहीं हो सकतीः
किसी भी आत्म-सुधार या पुनरावर्ती रूप से सुधारने वाले एआई को मानव नियंत्रण चौकियों के तहत काम करना चाहिए।
उन्नत एआई प्रणालियों को इस प्रकार डिजाइन किया जाना चाहिए कि अधिकृत मनुष्य कर सकें:
एक एआई प्रणाली को वैध शटडाउन या नियंत्रण का विरोध या उपेक्षा नहीं करनी चाहिए।
एआई सिस्टम को केवल अपने इच्छित कार्य के लिए आवश्यक न्यूनतम पहुंच प्राप्त होगी।
एक प्रणाली जो दस्तावेजों को सारांशित करने की जरूरत है, उसे बाहरी उपकरणों को स्वचालित रूप से नियंत्रित नहीं करना चाहिए।
एक प्रणाली जो कोड लिखती है, उसे उत्पादन प्रणालियों को स्वचालित रूप से नियंत्रित नहीं करना चाहिए।
कैलेंडर का विश्लेषण करने वाली प्रणाली को स्वचालित रूप से वित्तीय खातों तक नहीं पहुंचना चाहिए।
क्षमता का अर्थ यह नहीं होना चाहिए कि वह हकदार है।
परिभाषित क्षमता सीमा से ऊपर की एआई प्रणालियों को व्यापक तैनाती से पहले स्वतंत्र सुरक्षा मूल्यांकन से गुजरना होगा।
परीक्षण में कम से कम निम्नलिखित का मूल्यांकन किया जाना चाहिएः
विनियमन को केवल मॉडल आकार पर नहीं, बल्कि वास्तविक क्षमता और जोखिम पर ध्यान केंद्रित करना चाहिए।
एआई से जुड़ी गंभीर घटनाओं की सूचना एक अंतरराष्ट्रीय रजिस्टर में दी जानी चाहिए।
रिपोर्ट करने योग्य घटनाओं में शामिल हैंः
उद्देश्य सामूहिक शिक्षा और वैश्विक सुरक्षा है, गुप्तता नहीं।
देशों को एक अंतर्राष्ट्रीय कृत्रिम बुद्धिमत्ता एजेंसी की स्थापना करनी चाहिए:
IAIA
इसके जनादेश में निम्नलिखित शामिल होना चाहिए:
आईएआईए को साधारण सॉफ्टवेयर के बजाय प्रमुख सामाजिक या सभ्यतागत प्रभावों वाली उन्नत प्रणालियों पर ध्यान केंद्रित करना चाहिए।
एआई प्रणालियों को मुख्य रूप से वास्तविक क्षमता और जोखिम के आधार पर वर्गीकृत किया जाना चाहिए।
हरा
सीमित स्वायत्तता और कम प्रणालीगत प्रभाव के साथ कम जोखिम वाली प्रणालियाँ।
पीला
ऐसी प्रणालियाँ जो महत्वपूर्ण कार्यों को प्रभावित करती हैं और जिनके लिए प्रलेखन, सुरक्षा उपायों और पर्यवेक्षण की आवश्यकता होती है।
नारंगी
अत्यधिक सक्षम प्रणाली, जिसमें साइबर, वैज्ञानिक, बुनियादी ढांचा या स्वायत्त जोखिम होता है।
इनसे लाइसेंसिंग, स्वतंत्र परीक्षण और निरंतर नियंत्रण की आवश्यकता होती है।
लाल
ऐसी प्रणालियाँ जिनमें विनाशकारी दुरुपयोग, नियंत्रण की हानि या सभ्यता-स्तर के विघटन की विश्वसनीय संभावना है।
इनका उपयोग तब तक नहीं किया जाना चाहिए जब तक कि सुरक्षा को असाधारण रूप से उच्च मानक के लिए प्रदर्शित नहीं किया जा सकता है।
यदि विश्वसनीय साक्ष्य इंगित करते हैं कि एआई प्रणाली आसन्न विनाशकारी जोखिम पैदा कर सकती है, तो अंतर्राष्ट्रीय समुदाय को आपातकालीन प्रतिक्रिया का समन्वय करने में सक्षम होना चाहिए।
ऐसे उपायों में शामिल हो सकते हैंः
इस तंत्र का उपयोग केवल वास्तविक असाधारण जोखिम के लिए किया जाना चाहिए और आर्थिक संरक्षणवाद या भू-राजनीतिक दमन के लिए एक उपकरण के रूप में कभी नहीं।
किसी भी सीईओ, राज्य के प्रमुख, सैन्य नेता, वैज्ञानिक, अरबपति, कंपनी या राष्ट्र को एकतरफा रूप से ऐसी प्रणाली को तैनात करने का निर्णय नहीं लेना चाहिए जो भविष्य पर मानव नियंत्रण के अपरिवर्तनीय नुकसान का एक विश्वसनीय जोखिम वहन करती है।
मानवता को प्रभावित करने वाले जोखिमों के लिए किसी एक व्यक्ति से परे शासन की आवश्यकता होती है।
एआई के लाभों को मानव की उन्नति की दिशा में निर्देशित किया जाना चाहिए।
एआई का उपयोग निम्न के लिए किया जाना चाहिए:
अधिक उत्पादक सभ्यता को अधिक मानवीय सभ्यता भी बनना चाहिए।
इस सम्मेलन पर हस्ताक्षर करने वाले देशों को निम्नलिखित के लिए प्रतिबद्ध होना चाहिए:
बार-बार या गंभीर उल्लंघन करने से समन्वित अंतर्राष्ट्रीय परिणाम हो सकते हैं।
संभावित प्रवर्तन तंत्रों में शामिल हो सकते हैंः
प्रवर्तन को आनुपातिक, पारदर्शी, स्वतंत्र रूप से समीक्षा योग्य और राजनीतिक दुरुपयोग से सुरक्षित होना चाहिए।
जिन संगठनों ने निर्धारित सबसे उन्नत सीमाओं से ऊपर की प्रणालियाँ विकसित की हैं, वे स्वतंत्र सुरक्षा निरीक्षणों के अधीन हो सकते हैं।
निरीक्षकों को निम्नलिखित की पुष्टि करने में सक्षम होना चाहिए:
सुरक्षा से संबंधित नहीं वाणिज्यिक रूप से संवेदनशील जानकारी को संरक्षित रखा जाना चाहिए।
अंतर्राष्ट्रीय निगरानी को औद्योगिक जासूसी नहीं बनना चाहिए।
अत्यधिक बड़े एआई प्रशिक्षण रन के लिए पंजीकरण या रिपोर्टिंग की आवश्यकता हो सकती है, एक बार अंतरराष्ट्रीय स्तर पर सहमत क्षमता या कंप्यूटिंग सीमाओं को पार कर लिया जाता है।
इसका उद्देश्य सामान्य कंप्यूटिंग को विनियमित करना नहीं है।
इसका उद्देश्य यह सुनिश्चित करना है कि सभ्यता-स्तर की प्रणालियाँ पूरी तरह से किसी भी प्रणाली के दायित्व के बाहर विकसित नहीं की जा सकती हैं।
प्रौद्योगिकी के अधिक कुशल होने पर सीमाओं को विकसित करना होगा।
उन्नत एआई को नियंत्रित करने वाली संस्थाओं को केवल इस प्रकार से नियंत्रित नहीं किया जाना चाहिए:
पर्यवेक्षण में विभिन्न हितों का प्रतिनिधित्व करने वाले कई स्वतंत्र समूह शामिल होने चाहिए।
नियम ऐसा साधन नहीं बनने चाहिए जिसके ज़रिए आज की सबसे बड़ी एआई कंपनियाँ नए प्रतिस्पर्धियों को उभरने से रोक सकें।
सुरक्षा नियमों को मानवता की रक्षा करनी चाहिए, न कि उन कंपनियों की जो पहले से ही बाजार पर हावी हैं।
वैध वैज्ञानिक अनुसंधान और खुली जांच को संरक्षित रखा जाना चाहिए।
विनियमन मुख्य रूप से सामान्य ज्ञान को दबाने के बजाय खतरनाक क्षमता और तैनाती पर ध्यान केंद्रित करना चाहिए।
एआई शासन विज्ञान की सेंसरशिप के लिए औचित्य नहीं बन सकता।
हालांकि, जहां अत्यधिक विशिष्ट परिचालन जानकारी वस्तुतः विनाशकारी क्षति को सक्षम करेगी, वहां पहुंच आनुपातिक सुरक्षा उपायों के अधीन हो सकती है।
किसी भी राष्ट्र को खतरनाक एआई सिस्टम विकसित नहीं करना चाहिए क्योंकि उसे डर है कि दूसरा देश पहले उन्हें बनाएगा।
देशों को निम्नलिखित के लिए तंत्र स्थापित करना चाहिए:
एआई प्रतियोगिता एक अनियंत्रित दौड़ नहीं बननी चाहिए जहां सुरक्षा ही एक रणनीतिक नुकसान बन जाए।
इस सम्मेलन की नियमित अंतरराष्ट्रीय समीक्षा होनी चाहिए क्योंकि एआई क्षमताएं विकसित हो रही हैं।
तकनीकी नियम, सीमाएं और कार्यान्वयन तंत्र बदल सकते हैं।
मूलभूत सिद्धांत स्थिर रहना चाहिए:
कोई भी संगठन, राज्य, कंपनी या व्यक्ति जानबूझकर एआई प्रणाली को तैनात नहीं कर सकता है जब विश्वसनीय सबूत इंगित करते हैं कि ऐसा करने से मानवता के स्थायी रूप से अपने भविष्य पर सार्थक नियंत्रण खोने का अस्वीकार्य जोखिम पैदा होता है।
किसी भी व्यक्ति के पास नैतिक अधिकार नहीं है कि वह दूसरों की ओर से जोखिम उठा सके।
सम्मेलन का अंत
संस्करण 1.0 · प्रस्तावना और सभी 30 अनुच्छेद
प्रणालियों को वर्गीकृत करें कि वे क्या कर सकते हैं और वे क्या नुकसान पहुंचा सकते हैं।
सीमित स्वायत्तता। कम प्रणालीगत प्रभाव।
उदाहरणएक उपकरण जो अन्य प्रणालियों तक पहुँचने के बिना दस्तावेजों का सारांश देता है.
प्रस्तावित स्तर, वर्तमान अंतर्राष्ट्रीय कानून नहीं। उदाहरणों से इस ढांचे को समझाया जा सकता है; अंतिम सीमाओं और मूल्यांकन विधियों पर अंतरराष्ट्रीय स्तर पर सहमति बनाने की आवश्यकता होगी। अनुच्छेद 19 पढ़ें
वैश्विक प्रभावों के साथ उन्नत एआई प्रणालियों के शासन को समन्वयित करने के लिए एक प्रस्तावित संस्था।
अन्य साझा जोखिमों के लिए अंतर्राष्ट्रीय व्यवस्थाओं की तरह, यह राष्ट्रीय जिम्मेदारी को विशेष रूप से एआई के लिए डिज़ाइन किए गए अंतरराष्ट्रीय सत्यापन के साथ जोड़ देगा। इसका जनादेश सामान्य सॉफ्टवेयर पर नहीं, बल्कि सबसे उन्नत प्रणालियों पर केंद्रित होगा।
प्रस्तावित जनादेश का अन्वेषण करेंसाझा मानकों। स्वतंत्र जांच।
जवाबदेह मानव संस्थाएं।
साझा सबसे उन्नत एआई सुरक्षा आवश्यकताओं को परिभाषित करें।
सहमत सीमाओं से ऊपर की प्रणालियों का मूल्यांकन करें।
उच्च जोखिम सुरक्षा प्रथाओं की जांच करें।
गंभीर एआई विफलताओं से वैश्विक सीख बनाना।
विश्वसनीय विनाशकारी खतरों के लिए प्रतिक्रियाओं का समन्वय करना।
भू-राजनीतिक प्रतिस्पर्धा में सुरक्षा को नुकसान पहुंचाने से रोकना।
दुर्लभ, असाधारण स्थितियों के लिए जिसमें विश्वसनीय सबूत आसन्न विनाशकारी नुकसान की ओर इशारा करते हैं।
एक प्रयोगशाला, शोधकर्ता, राज्य या जनता के सदस्य आसन्न विनाशकारी जोखिम के विश्वसनीय संकेतों की पहचान करते हैं।
साक्ष्य आधारित ट्रिगर। आनुपातिक, समय-सीमित उपाय। स्वतंत्र समीक्षा और स्पष्ट पुनः आरंभ मानदंड। पारदर्शिता जहां भी सुरक्षित है। कोई आर्थिक संरक्षणवाद या भू-राजनीतिक दमन नहीं।
अनुच्छेद 20 पढ़ेंकिसी भी व्यक्ति या संस्था का पूर्ण नियंत्रण नहीं होना चाहिए।
किसी भूमिका को चुनकर उसका अधिकार और सीमाएं देखें।
मानव संस्थाएं जवाबदेह बनी रहती हैं; लोग उच्च प्रभाव वाले निर्णयों की मानवीय समीक्षा कर सकते हैं।
मानव अधिकार अधिकारों और कानूनों से सीमित है। मानवता के भविष्य का निर्णय कोई व्यक्ति अकेले नहीं ले सकता।
केंद्रित बुद्धि अपरिहार्य हो सकती है।
केंद्रित गैर-जवाबदेही शक्ति नहीं है।
सुरक्षा और संभावना एक साथ हैं।
यह प्रगति का एक प्रस्ताव है जिसे हम साझा कर सकते हैं।
कैंसर को ठीक करने में मदद करें। नई दवाओं की खोज करना।
उन्नत संलयन और स्वच्छ ऊर्जा। जलवायु और पर्यावरण संबंधी चुनौतियों को हल करने में मदद करें।
शिक्षा में सुधार करना। विशेषज्ञता को सभी के लिए सुलभ बनाना।
समृद्धि का विस्तार करें। सरकारों को बेहतर काम करने दें।
मनुष्य को ब्रह्मांड को समझने में मदद करें। अन्य दुनिया का अन्वेषण करें।
नई कला का निर्माण करना। खतरनाक और दोहराव वाले कामों को हटा दें। लोगों को और समय दें।
यह सम्मेलन मानव प्रगति की सीमा नहीं है।
यह एक प्रयास है कि प्रगति हमारी ही रहे।
स्पष्टता मायने रखती है। असहमत होने की स्वतंत्रता भी।
नहीं।
सम्मेलन मानता है कि तेजी से शक्तिशाली एआई बहुत बड़ा लाभ पैदा कर सकता है।
इसका उद्देश्य बुद्धि या वैज्ञानिक प्रगति को रोकना नहीं है।
यह स्वायत्त शक्ति, विनाशकारी क्षमता, गैर-जवाबदेह निर्णय और मानव नियंत्रण के नुकसान के आसपास सीमाएं स्थापित करता है।
क्योंकि बुद्धि को परिभाषित करना कठिन है और एक स्थायी छत पर रखना और भी कठिन है।
एक प्रणाली खतरनाक होने के बिना गणित या चिकित्सा में मनुष्यों से बहुत बेहतर हो सकती है।
अधिक उपयोगी अंतर क्षमता और अधिकार के बीच है।
लक्ष्य यह सुनिश्चित करना नहीं है कि मनुष्य सबसे बुद्धिमान इकाई बने रहे।
इसका लक्ष्य यह सुनिश्चित करना है कि मानवता अपने भविष्य पर संप्रभु बनी रहे।
हाँ।
एआई पहले से ही अनगिनत नियमित निर्णय लेता है।
मानव भागीदारी परिणाम और प्रतिवर्तीता पर निर्भर होनी चाहिए।
यह सम्मेलन मौलिक अधिकारों, घातक बल, विनाशकारी जोखिम और अपरिवर्तनीय शक्ति से जुड़े निर्णयों पर केंद्रित है।
मुख्यतः राष्ट्रीय सरकारों द्वारा घरेलू कानून के माध्यम से।
वैश्विक प्रभाव वाली अधिकांश उन्नत प्रणालियों के लिए, प्रस्ताव में अंतर्राष्ट्रीय सहयोग, स्वतंत्र मूल्यांकन और एक प्रस्तावित अंतर्राष्ट्रीय कृत्रिम बुद्धिमत्ता एजेंसी का भी आह्वान किया गया है।
स्वाभाविक रूप से नहीं।
विनियमन में सॉफ्टवेयर खुला या बंद होने के बजाय वास्तविक खतरनाक क्षमता और तैनाती पर ध्यान केंद्रित किया जाना चाहिए।
सीमित खतरनाक क्षमता वाला एक खुला मॉडल महत्वपूर्ण बुनियादी ढांचे को नियंत्रित करने वाले अत्यधिक स्वायत्त मालिकाना प्रणाली की तुलना में कम जोखिम पैदा कर सकता है।
हाँ।
किसी भी शक्तिशाली नियामक ढांचे का दुरुपयोग किया जा सकता है।
यही कारण है कि पारदर्शिता, स्वतंत्र समीक्षा, आनुपातिकता, वैज्ञानिक स्वतंत्रता, वितरित शासन और शक्तिशाली हितों द्वारा नियामकों के नियंत्रण से सुरक्षा सम्मेलन का हिस्सा हैं।
वैश्विक समझौते शायद ही कभी सार्वभौमिक गोद लेने से शुरू होते हैं।
यह ढांचा भाग लेने वाले राज्यों और संस्थानों के बीच साझा सिद्धांतों के रूप में शुरू हो सकता है, फिर संधियों, द्विपक्षीय समझौतों, मानकों, खरीद नियमों और अंतर्राष्ट्रीय दबाव के माध्यम से विकसित हो सकता है।
प्रस्ताव का उद्देश्य सबसे पहले यह स्थापित करना है कि मानवता मानती है कि नियमों को क्या होना चाहिए।
यह सम्मेलन मुख्य रूप से चेतना के बारे में धारणा बनाने के बजाय क्षमता और शक्ति को नियंत्रित करता है।
यदि मशीन चेतना के ठोस प्रमाण सामने आते हैं, तो नैतिक स्थिति और अधिकारों के प्रश्नों को एक अलग अंतरराष्ट्रीय ढांचे की आवश्यकता होगी।
मानव सुरक्षा और मशीन नैतिकता का विचार जरूरी नहीं कि एक दूसरे के लिए अपवाद हों।
क्योंकि मनुष्य हमेशा बुद्धिमान होते हैं।
हम नहीं हैं।
लेकिन मानवता वह समुदाय है जिसका भविष्य तय किया जा रहा है।
किसी भी उपकरण को अपने रचनाकारों पर अपरिवर्तनीय अधिकार नहीं मिलना चाहिए केवल इसलिए कि यह उनसे अधिक सक्षम हो जाता है।
ये आपत्तियाँ वास्तविक हैं। ढांचा एक प्रारंभिक बिंदु है, अंतिम शब्द नहीं।
वे हो सकते हैं। केवल मानव नियंत्रण ही पर्याप्त नहीं है: यह कानूनी, जवाबदेह और चुनौती के अधीन होना चाहिए। प्रस्ताव सरकारों और कंपनियों के साथ-साथ एआई प्रणालियों को भी प्रतिबंधित करता है। यह किसी भी नेता को अनियंत्रित अधिकार नहीं देता है।
ऐसा अक्सर हो सकता है। बेहतर भविष्यवाणियों और सिफारिशों से निर्णयों को सूचित किया जाना चाहिए। कठिन प्रश्न यह है कि लक्ष्य कौन निर्धारित करता है, परिणाम कौन सहन करता है और अपील कौन कर सकता है। श्रेष्ठ प्रदर्शन, अपने आप में, राजनीतिक वैधता को स्थापित नहीं करता है।
खराब तरीके से तैयार किए गए नियम चिकित्सा, अनुसंधान और नए प्रतिद्वंद्वियों को पीछे छोड़ सकते हैं। आवश्यकताओं को वैज्ञानिक स्वतंत्रता और शक्तिशाली हितों द्वारा नियामकों के नियंत्रण से सुरक्षा के साथ प्रदर्शित क्षमता और जोखिम के अनुपात में होना चाहिए। पर्यवेक्षण की लागतों पर भी गौर करने की आवश्यकता है।
कुछ लोग ऐसा कर सकते हैं। कोई भी संधि पूर्ण अनुपालन का वादा नहीं कर सकती। निरीक्षण, साझा घटना रिपोर्टिंग, पारस्परिक सत्यापन और आनुपातिक परिणाम चोरी को कठिन बना सकते हैं। अंतर्राष्ट्रीय विश्वास को साक्ष्य द्वारा समर्थित किया जाना चाहिए, न कि अनुमानित।
विकेंद्रीकरण से पर्यवेक्षण कठिन हो जाता है और वास्तविक अंतराल रह सकते हैं। एक व्यवहार्य व्यवस्था को खतरनाक क्षमताओं, परिणामी तैनाती और महत्वपूर्ण बुनियादी ढांचे तक जवाबदेह पहुंच पर ध्यान केंद्रित करने की आवश्यकता होगी। यह मान नहीं लेना चाहिए कि किसी मॉडल की प्रत्येक प्रति को नियंत्रित किया जा सकता है।
यदि चेतना के प्रबल प्रमाण सामने आते हैं, तो कल्याण और नैतिक स्थिति के प्रश्नों पर गंभीर, स्वतंत्र विचार करने की आवश्यकता है। यह प्रस्ताव उन्हें हल नहीं करता है। मानव सुरक्षा और स्वतंत्रता के लिए सुरक्षा के साथ एक अलग ढांचे की आवश्यकता होगी।
एक प्रस्तावित अनुक्रम, घोषित कार्यक्रम नहीं।
किसी भी सरकार या संस्था को हस्ताक्षरकर्ता के रूप में प्रस्तुत नहीं किया गया है।
शोधकर्ता, नागरिक, कंपनियां और सरकारें इस ढांचे पर चर्चा करती हैं।
एआई प्रयोगशालाएं और सरकारें सामान्य सुरक्षा प्रतिबद्धताओं को अपनाती हैं।
देश संगत सबसे उन्नत एआई नियमों को लागू करते हैं।
राज्य बाध्यकारी साझा मानकों पर बातचीत करते हैं।
अंतर्राष्ट्रीय प्रमाणन, निरीक्षण, घटना रिपोर्टिंग और आपातकालीन समन्वय चालू हो जाते हैं।
कोई भी एआई प्रणाली मनुष्यों पर या मानवता के भविष्य पर अपरिवर्तनीय शक्ति प्राप्त नहीं कर सकती है।अंतिम सिद्धांत · अनुच्छेद 30
एआई हमसे अधिक बुद्धिमान हो सकता है। यह उन चीज़ों को खोज सकता है जो हम कभी नहीं कर सकते थे। यह एक सभ्यता बनाने में मदद कर सकता है जो कि हम वर्तमान में कल्पना कर सकते हैं।
यह उसे हमारा शासक नहीं बनाता।
हमें बुद्धिमत्ता से डरना नहीं चाहिए।
हमें सत्ता को जवाबदेह बनाना चाहिए।
और मानव भविष्य पर अंतिम अधिकार मानव ही रहना चाहिए।