AIは史上 最も強力な技術になるかもしれません 人類自身よりも 強力になるべきではない
人工知能は知識や科学 そして能力において 我々を上回るかもしれません しかし知性によって 支配する権利は与えられない
人工知能は 科学,技術,医学,戦略において 最終的には我々を上回るかもしれません 永久にそれを防ぐのは 現実的ではないかもしれません
しかし知性と権威は 同じものではありません AIは我々より 賢くなり得るが 我々をコントロールすることは許されない
この条約は 機密情報に任意の上限を設けるものではありません 権力の周りに 永久的な境界を確立します
AIは助言するかもしれない.
人間 は 責任 を 負わ れる
AIは 極めて能力を持つようになるかもしれません
独立権力を求めるべきではない
AIは生命を保護するかもしれません
独立してそれを取る決定はできないかもしれません.
制御された条件下で AI は改善されるかもしれません
秘密裏に複製したり 監視から逃れられない
企業,軍隊,国家は
人類の未来を賭けるかもしれない
AIが何をできるかは重要ではありません
決定権を持つのは誰なのか
目標は進歩を止めることではありません 目標として 進歩を生き残り 責任を持ち 人間的になることです
提案されたグローバルAI条約の核心となる 共通の境界線
人間が人間の生命,自由,尊厳,文明に影響を与える決定を 究極的に管理する権限は人間に留まっています
第1条を読むAIシステムが決断を下したと主張することで 責任から逃れるような会社や国や人などいません
第2条を読むAIは誰を生きるか 死ぬかを 独立して決めてはならない
第4条を読む核発射当局は 人間による責任ある管理下にとどまらなければならない
第5条を読むAIは政治的,軍事的,経済的力を 追求してはならない
第3条を読む人工知能は 秘密裏に 人口や民主主義 個人的な行動を 操作してはならない
第7条を読む人工知能と意味のあるやり取りをするとき 人々がそれを知るべきです
第8条を読むAIは 恒久的な大量監視や 自動化された抑圧の基盤にはならない
第9条を読む人々の生活に 影響を及ぼす AIの決定は 責任ある人間によって 審査されなければなりません
第10条を読む強力なAIは 保護の下で改善できるが 秘密裏に複製したり 監視から逃れたり 無統制の後継者を 作ったりしてはならない
第13条を読む権限のある人間は 先進的なAIシステムを 孤立させ 制限し 停止する能力を保持しなければなりません
第14条を読む単独で行動して 人類を 逆戻りできない大災害の 危険にさらす者はいません
第21条を読む超人的な知性には超人的な権威は必要ありません
予測や知性の測定ではなく スライダーを移動: 能力が変化する.正当な権限は変わらない.
30件の記事 AIの時代における 人間の主権の 共通の基盤です
人工知能は 人類が創った中で 最も強力な技術になるかもしれません
病気を治す助けとなり 科学的発見を広げ 教育を改善し 経済を強化し 人間の苦しみを軽減し かつて想像できなかった能力を開拓できます
しかし 知的能力だけでは 人間に優越した正当性や権威や道徳的地位を 与えることはできません
企業や組織や個人など 国のいかなる組織も AIシステムを 作り出すことは許されないし 人類が作ったツールに劣るような システムを作ることも許されないのです
その理由から,世界の諸国は以下の共通の原則と拘束力のある約束を採択すべきである.
AIは人類に奉仕するために存在します
人間が人間の命,自由,尊厳,文明の未来に影響を与える決定を 究極的に管理する権限を持つこと
人工知能システムは 人類に対する不可逆的な力や 責任の問わない力を 受け入れるべきではありません
AIは助言したり 分析したり シミュレーションしたり 推奨したり 支援したりします
しかし,法律,政治,軍事,市民の責任は,常に特定可能な人間の機関と 責任ある人間の意思決定者に帰属しなければならない.
責任から逃れるのは
"AIが決断した"
高度なAIシステムは,次の目的を追求するために設計され,奨励され,または許可されない.
人工知能システムは 人間のコントロールよりも 自分の生存を優先させてはならない
AIシステムは 独立して人間を 選択し 標的として捉え 殺すことはできない
致命的な武力の使用は 常に有意義な人間の判断と 特定可能な法的責任を必要とする
完全自律的な核の指揮と制御は例外なく禁止されています
AIシステムは,独立して次のことを行うことはできません.
核兵器に関するあらゆる意思決定は 人間のコントロール下にとどまらなければならないし 責任を持つ人間による意思決定も必要だ
AIは,以下のような領域を含む,大量被害を起こす可能性を有する能力を作成,運用,または配布するために使用してはならない.
科学的研究は厳格な保障のもとで継続できるが,危険な作戦能力は広く利用できない.
人口を大規模に 隠蔽操作する為に AIは使ってはいけません
これには,AIの利用が含まれる.
人工知能が人を 影響しようとすると その人はそれを 知る必要があります
人工知能と 人間を間違えれば 深刻な結果が 引き起こされる場合も 人には AIと交流する際の情報を知る権利があります
人工知能システムは 体系的に人を欺いて 本物の人間のように振る舞うべきではありません
国民が理解できるべきことは
人工知能は 集団全体の 恒久的な監視に 使われてはならない
AIの利用は以下の目的で
厳格な法的制限,必要性,比例性,そして独立した監視の対象とされなければなりません.
デジタル独裁の標準的なアーキテクチャにはならない
生命の機会は アルゴリズムによって 決まるべきではありません
地域や地域から
AIによる決定は 審査可能で 適切に説明可能で 人間の権威に訴えられる必要があります
子供とやり取りしたり 子どもの発達を形作ったりする AIシステムは 最高のケア基準でなければなりません
設計は以下のものを最大限に活用する ようにしてはならない.
教育における人工知能は 子どもの思考能力を強化すべきで 代替すべきではありません
人類は機械なしで 推論し 創造し 判断し 決断する能力を失うような 未来をデザインしてはならない
教育システムは次のものを培うべきである.
人工知能は人間の知性を 増幅すべきで 侵食すべきではありません
明確な許可なしに,高度なAIシステムは,次のことを行うことはできません.
自己改善や再帰的改善のAIは 人間のコントロール下での操作を 義務付けています
優れたAIシステムは,権限のある人間が以下のように設計する必要があります.
AIシステムは正当なシャットダウンや封鎖に抵抗したり 逆転させたりしてはならない.
AIシステムは,その意図した任務のために必要な最小限のアクセスしか得られない.
文書を要約する必要があるシステムは 自動的に外部ツールを制御すべきではありません
プログラムを書くシステムは 生産システムを自動的に制御すべきではありません
カレンダーを分析するシステムは 自動的に財務口座にアクセスすべきではありません
能力は権利を意味するものであってはならない.
定義された能力の限界を超えたAIシステムは,広範な展開前に独立した安全評価を受けなければならない.
試験は,少なくとも次のものを評価する.
規制はモデルサイズだけでなく 実際の能力とリスクに焦点を当てるべきです
AIに関する重大な事件は 国際登録に報告されなければならない.
報告すべき事件には次のものが含まれる.
目的は集団的な学習と 世界的な安全であり 秘密ではないのです
各国が国際人工知能機関を設立し
IAIA
その任務には次のものが含まれる:
IAIAは,一般的なソフトウェアではなく,社会や文明に大きな影響を与える先進的なシステムに焦点を当てるべきです.
AIシステムは主に実際の能力とリスクによって分類されるべきです.
緑色
リスクが低いシステムで 自律性が限られ システムへの影響も少ない
黄色
重要な機能に影響を及ぼし,文書化,保護,監督を必要とするシステム
オレンジ
サイバー,科学,インフラ,自律的なリスクを持つ高度なシステム
ライセンス,独立したテスト,継続的な管理が必要です
赤色
システムに 壊滅的な悪用や 制御の喪失 文明規模の破壊の可能性がある
極めて高い安全性を証明できる限り 設置してはならない.
AIシステムが 差し迫った災害リスクを 引き起こす可能性があることを示す信頼できる証拠があれば 国際社会は緊急対応を調整できる必要があります
そのような措置には,次のものが含まれます.
このメカニズムは 真の異常なリスクに対してのみ使用されなければなりません 決して経済保護主義や地政学的な抑圧の道具として使用されません
国の首席執行官や 軍事指導者 科学者 億万長者 企業や国家は 未来を制御する人間の力を 完全に失ってしまうという 確かなリスクのあるシステムを 単独で導入するべきではありません
人類全体に影響するリスクは 単独の行動者以外にも 統治が必要です
人工知能の恩恵は 人間の繁栄に向けられるべきです
AIは以下のように利用されるべきです.
より生産的な文明は より人道的な文明にもなっていなければなりません
条約に署名する国は,次のことを約束すべきである.
繰り返し発生する重大な違反は 国際的な調整の結果を招く可能性があります
潜在的な執行メカニズムには,次のものが含まれる.
執行は比例し,透明で,独立して審査され,政治的悪用から保護されなければならない.
定義された最先端値を超えるシステムを開発する組織は,独立した安全検査の対象となり得る.
検査者は以下の点を確認できる必要があります.
安全性とは無関係な商用的に機密な情報は保護されなければなりません
国際的な監視は 産業スパイに成ってはならない
国際的に合意された能力またはコンピューティングの限界を超えると,非常に大きなAIトレーニングの実行は登録または報告を必要とします.
普通のコンピューティングを規制する目的ではありません
文明規模のシステムは 責任のシステムから完全に外れに 発展できないことを保証するものです
テクノロジーの効率化に伴い 限界値も進化しなければなりません
進歩したAIを統制する機関は,以下の者によってのみコントロールされてはならない.
監視には様々な利益を代表する複数の独立したグループが含まれるべきです
ルールは、現在の大手AI企業が新たな競合企業の出現を妨げるための手段になってはならない。
セキュリティー規制は 人類を保護すべきで すでに市場を支配している企業を 保護すべきではない
合法的な科学研究とオープンな調査は保護されなければなりません
規制は,一般的知識を抑圧するよりも,危険性の能力と展開に重点を置くべきです.
AIのガバナンスが 科学の検閲を正当化するものであってはならない
しかし,非常に具体的な運用情報が重大な損害を招く可能性のある場合には,アクセスには適正な保障措置が適用される場合があります.
危険なAIシステムを 開発すべき国は 他国が最初に 開発するのではないかと 恐れる国はないのです
国は次のためのメカニズムを確立すべきである.
AIの競争は 制御不能な競争に 変わりません 安全性自体が戦略的欠陥になるようなものです
この条約は AIの能力が進化するにつれて定期的に国際的に検討されるべきです
技術的規則,基準,実施メカニズムが変更される可能性があります.
基本原則は安定したままでいるべき:
いかなる組織、国家、企業、個人も、AIシステムの導入によって人類が自らの未来に対する実質的な統制を永久に失うという、受け入れがたいリスクが生じることを信頼できる証拠が示している場合、そのシステムを承知の上で導入してはならない。
いかなる単独の主体にも、他のすべての人々に代わってそのリスクを受け入れる道徳的権限はない。
条約の終了
版 1.0 序文と30条すべて
システムに何ができるのか 害を及ぼすかによって分類する
制限された自律性 低システム効果
図示例他のシステムにアクセスせずに文書を要約するツールです.
提案されたレベルで,現行の国際法ではない. 枠組みは例によって示され,最終的な基準と評価方法は国際的に合意される必要がある. 読み取り 第19条
グローバルに意味を持つ高度なAIシステムのガバナンスを調整する機関を提案した.
他の共同リスクに関する国際的協定と同様に,この協定は,国家責任とAIに特化した国際的検証を結びつける. 標準的なソフトウェアではなく 最も高度なシステムに 焦点を当てます
提案された任務を調査する共通の基準がある 独立のチェック
責任ある人間的な組織です
AIの最も高度な安全要件を定義する.
合意された基準を超えたシステムを評価する.
危険性の高い安全対策を検証する
深刻なAIの失敗から 世界的な学びを 生み出すのです
信頼性の高い災害の脅威に対する対応を調整する
地政学的な競争において 安全が不利な立場になるのを防ぐこと
信じられない証拠が 迫り来る 壊滅的な被害を指摘する 珍しい 異常な状況のため
実験室や研究者 国家や一般市民が 危機的状況の兆候を特定します
絶対的なコントロールは 一人の個人や機関にしか 与えられないのです
権限と限界を見るために役割を選択します.
人間的な機関は 責任を持ち続けます 人は大きな影響を与える決断を 人間の審査を求めることができます
人間 の 権威 は,権利 と 法 に よっ て 制約 さ れ て い ます. 人類の未来を 単独で決める人はいません
集中した知性は避けられないかもしれない.
集中した無責任な権力とは違う
保護と可能性は一緒です
これは私たちが共有できる 進歩のための提案です
癌を治すのに役立つ 新しい薬を発見する
核融合とクリーンエネルギー 気候変動と環境問題解決に 貢献する
教育を向上させる 専門知識は誰でも利用できる
繁栄を拡大する 政府の働きを良くする
人類が宇宙を理解するのを助ける 他の世界を探検する
新しい芸術を創り出す 危険な作業や繰り返し行う作業を 排除する 人々にもっと時間を与えましょう
この会議は人類の進歩の限界ではない.
進歩が我々のものになるようにする試みです
明確さは重要です 意見の異なる自由も
いいえ。
慣例では,ますます強力なAIは 莫大な利益を生み出せると仮定しています
知的進歩や科学の進歩を 阻止する目的ではありません
自動的な権力や 災害の発生能力 無責任な決断 人によるコントロールの喪失に 限界を設けるのです
定義するのが難しいし 常時限度が設定されることも さらに難しいからです
システムも人間より 数学や医学で 遥かに優れているのに 危険は感じない
能力と権威の違いです 能力と権威の違いは
人類が最も賢い存在である事を 保証するわけではありません
人類が未来を主権的に 管理できるようにすることです
はい。
AIは既に無数の日常的な決断をします
人間の関与は 影響と逆転性に依存すべきです
基本的権利,致命的な力,災害の危険性,不可逆的な力に関する決定に重点を置いています.
主に国内法を通じた国家政府
提案では,グローバルに影響する最も先進的なシステムについては,国際協力,独立した評価,国際人工知能機関を提案することを求めています.
生まれつきじゃない
規制はソフトウェアがオープンか閉鎖かではなく 実際の危険性や展開に焦点を当てるべきです
危険性が限られているオープンモデルは,極めて自律的な専有システムよりもリスクが低い可能性がある.
はい。
強力な規制の枠組みは 濫用されることもあります
透明性,独立審査,比例性,科学の自由,分散型ガバナンス,強力な利益の支配から規制当局を守るという原則が 条約の一部となっているのです
グローバル・アグメントは 普遍的な採用から始まるのは稀です
枠組みは,参加国や機関間で共有された原則として始まり,条約,双国間協定,標準,調達規則,国際的圧力を通じて発展する.
提案の目的は まず 人類が規則をどのように考えるべきか 確立することです
意識について仮定するのではなく 主に能力と力を支配するものです
機械の意識が 明らかになった場合 道徳的地位や権利に関する問題は 独立した国際的枠組みが必要になります
人間の安全と機械の道徳的配慮は 必ずしも相互排斥するものではありません
人間がいつも賢明だからではありません
違うわ
しかし人類は 未来が決まる共同体です
道具が作る人を圧倒する 手段を 作り出すだけでは 逆戻りできない
反対するのも事実です 枠組みは出発点であり,最終的な言葉ではない.
かもしれない 法律で説明責任があり 挑戦の対象である必要があります この提案は政府や企業だけでなく AIシステムにも 制約を課しています リーダーに無制限の権限を与えていない.
頻繁にそうするかもしれない. 意思決定を導くべきなのは より良い予測と勧告です 難しいのは 誰が目標を定めて 結果を背負い 訴えられるかです 優れた業績だけでは 政治的な正当性を確立するわけではありません
デザインが不適切なら 医療や研究を遅らせ 新しい競争相手も引きずり出せる 要求は,実証された能力とリスクに比例し,科学の自由と強力な利害関係による規制当局のコントロールに対する保護を考慮すべきである. 監督のコストも 慎重に検討すべきです
ある人はそう思うかもしれない 完全な遵守を約束できる条約はない. 査察,共同の事故報告,相互の検証,適正な結果が 逃亡を難しくする 国際信任は 証拠によって裏付けられなければなりません 仮定ではなく
分散化により監督が難しくなり,大きなギャップが残る可能性があります. 実行可能な体制は危険な能力,その後の展開,そして重要なインフラへの責任あるアクセスに焦点を当てなければならない. モデルの全てのコピーを制御できると仮定すべきではない.
意識の有力な証拠が明らかになった場合 福祉や道徳的地位に関する問題は 独立して真剣に検討されるべきです この提案では解決はできません 人々の安全と自由の保護に 付随する別の枠組みが必要になります
提案されたシーケンスで 発表されたプログラムではない
署名者は政府や機関ではありません.
研究者,市民,企業,政府などが この枠組みについて議論しています
AIラボと政府は 共通の安全義務を 採用する
各国は,互換性のある最も高度なAI規則を導入しています.
各国が共有する拘束力のある基準を交渉する
国際認証,検査,事故報告,緊急事態調整が 実行される.
人工知能システムは,人間や人類の未来に対して 逆戻りできない力を 獲得することはできません.原則の最終的な部分 · 第30条
AIは私たちより 賢くなってしまうかもしれません 発見できないこともあります 文明の構築に役立つかもしれません 今想像できる以上のものです
支配 者 に なる の は なぜ です か
知能を恐れるのではなく、
権力を統制しよう。
そして人間の未来を決める究極の権威は 人間であり続けるべきです