Скачать PDF (английский)Вернемся к предложению.
Независимое глобальное предложение · версия 1.0

The Global
AI Convention

Опубликовано 10 сентября 2026 года

Это независимое предложение в области политики, а не принятый международный договор. Оно не связано с ООН, каким-либо правительством или международной организацией. Международное агентство по искусственному интеллекту (IAIA) — предлагаемая к созданию организация.

Преамбула

Искусственный интеллект может стать самой мощной технологией, когда-либо созданной человечеством.

Она может помочь в лечении болезней, расширить научные открытия, улучшить образование, укрепить экономику, уменьшить человеческие страдания и раскрыть возможности, которые ранее были невообразимы.

Но только интеллект не дает легитимности, авторитета или морального положения выше людей.

Ни одному государству, компании, организации или отдельному человеку не должно быть разрешено создавать или развертывать системы ИИ таким образом, чтобы поставить человечество ниже инструментов, которые оно построило.

По этой причине народы мира должны принять следующие общие принципы и обязательные обязательства.

Статья 1 — Окончательная власть принадлежит людям .

ИИ должен существовать, чтобы служить человечеству.

Человеческие существа должны сохранять окончательную власть над решениями, которые затрагивают человеческую жизнь, свободу, достоинство и будущее цивилизации.

Ни одна система ИИ не может получить необратимую власть над человечеством или власть, которая не подлежит подотчетности.

Статья 2 — Люди должны оставаться ответственными

ИИ может консультировать, анализировать, моделировать, рекомендовать и помогать.

Но юридическая, политическая, военная и гражданская ответственность всегда должна быть возложена на идентифицируемые человеческие учреждения и ответственные человеческие лица, принимающие решения.

Ни один участник не может уклониться от ответственности, утверждая:

√ИИ принял решение.

Статья 3 — ИИ не должен стремиться к власти самостоятельно

Никакая передовая система ИИ не должна быть разработана, стимулирована или разрешена для достижения целей, включающих:

Система ИИ никогда не должна ставить собственное выживание выше контроля человека.

Статья 4 — ИИ не должен самостоятельно санкционировать убийство.

Ни одна система ИИ не может самостоятельно выбирать, нацеливаться или убивать людей.

Использование смертоносной силы всегда должно требовать разумного человеческого суждения и юридической ответственности.

Полностью автономное ядерное командование и управление запрещено без исключения.

Статья 5 — Нет контроля над ядерным оружием

Ни одна система ИИ не может самостоятельно:

Каждый процесс принятия решений, связанных с ядерным оружием, должен оставаться полностью под человеческим контролем и требует нескольких людей, принимающих решения, которые могут быть привлечены к ответственности.

Статья 6 — Нет искусственного уничтожения

ИИ не должен использоваться для создания, эксплуатации или распространения возможностей, которые существенно способствуют массовому причинению вреда, в том числе в области:

Научные исследования могут продолжаться при строгих гарантиях, но опасные оперативные возможности не должны быть широко доступны.

Статья 7 — Никаких тайных манипуляций с целым населением.

ИИ не должен использоваться для крупномасштабных тайных манипуляций с населением.

Это включает использование ИИ для:

Если ИИ пытается повлиять на человека, тот должен знать об этом.

Статья 8 — Право знать, когда вы взаимодействуете с ИИ

Люди имеют право знать, когда они взаимодействуют с ИИ, если ошибка в человеке может иметь серьезные последствия.

Системы ИИ не должны систематически обманывать людей, притворяясь настоящими людьми.

Люди должны понимать:

Статья 9 — Никакого правительственного наблюдения за целыми группами населения

ИИ не должен использоваться для создания постоянного массового наблюдения за целым населением.

Использование ИИ для:

должны быть подчинены строгим юридическим ограничениям, необходимости, пропорциональности и независимого надзора.

ИИ никогда не должен стать архитектурой цифровой диктатуры по умолчанию.

Статья 10 — Человеческий контроль для принятия решений с большим влиянием

Ни один человек не должен иметь возможности в жизни, определяемые только алгоритмом.

В таких областях, как:

Решения, принимаемые с помощью ИИ, должны быть проверяемыми, надлежащим образом объясняемыми и апеллируемыми человеческому авторитету.

Статья 11 — Особая защита детей

Системы ИИ, которые взаимодействуют с детьми или формируют детское развитие, должны соблюдать самые высокие стандарты ухода.

Они не должны быть разработаны с целью максимизации:

ИИ в образовании должен укреплять способность ребенка думать, а не заменять его.

Статья 12 — Способность людей мыслить независимо

Человечество не должно строить будущее, в котором люди потеряют способность рассуждать, создавать, судить и принимать решения без машин.

Образовательные системы должны продолжать развивать:

ИИ должен усиливать человеческий интеллект, а не разрушать его.

Статья 13 — Не допускается неконтролируемое копирование или улучшение ИИ самостоятельно

Ни одна из передовых систем ИИ не может без явного разрешения:

Любой самосовершенствующийся или рекурсивно улучшающийся ИИ должен работать под контролем человека.

Статья 14 — ИИ должно быть возможно отключить и изолировать

Развитые системы ИИ должны быть разработаны таким образом, чтобы уполномоченные люди могли:

Система ИИ не должна противостоять или нарушать законное отключение или ограничение.

Статья 15 — Только разрешения на доступ, необходимые для выполнения задачи

Системы ИИ получают только минимальный доступ, необходимый для выполнения их предназначенной задачи.

Система, которая должна обобщать документы, не должна автоматически контролировать внешние инструменты.

Система, которая пишет код, не должна автоматически контролировать производственные системы.

Система, которая анализирует календари, не должна автоматически получать доступ к финансовым счетам.

Способность не должна означать право.

Статья 16 — Самый продвинутый ИИ требует независимого тестирования

Системы ИИ, превышающие определенные пороговые значения возможностей, должны пройти независимую оценку безопасности до широкого внедрения.

Испытания должны оценивать как минимум:

Регулирование должно сосредоточиться на фактической способности и риске, а не только на размере модели.

Статья 17 — Обязательная отчетность о происшествиях

О серьезных инцидентах с участием ИИ необходимо сообщать в международный реестр.

К инцидентам, о которых необходимо сообщать, относятся:

Цель - коллективное обучение и глобальная безопасность, а не секретность.

Статья 18 — Международный надзор

Странам следует создать Международное агентство по искусственному интеллекту:

IAIA

Его мандат должен включать:

ИИАИ должна сосредоточиться на передовых системах с серьезными социальными или цивилизационными последствиями, а не на обычном программном обеспечении.

Статья 19 — Глобальные уровни риска

Системы ИИ должны классифицироваться в первую очередь по фактическим возможностям и рискам.

Зеленый

Системы с низким уровнем риска, ограниченная автономия и низкое системное воздействие.

Желтый

Системы, влияющие на важные функции и требующие документации, гарантий и надзора.

Оранжевый

Высокопроизводительные системы с существенным кибер-риском, научным риском, инфраструктурным риском или автономным риском.

Для этого требуется лицензирование, независимые испытания и постоянный контроль.

Красный

Системы с вероятным потенциалом катастрофического злоупотребления, потери контроля или разрушения цивилизации.

Они не должны использоваться, если только не будет доказано, что они безопасны на исключительно высоком уровне.

Статья 20 — Глобальная аварийная тормозная система

Если достоверные доказательства указывают на то, что система ИИ может представлять собой неизбежный катастрофический риск, международное сообщество должно иметь возможность координировать аварийный ответ.

Такие меры могут включать в себя:

Этот механизм должен использоваться только при наличии действительно чрезвычайных рисков и никогда не должен использоваться в качестве инструмента экономического протекционизма или геополитического подавления.

Статья 21 — Ни один человек или организация не может рисковать будущим человечества в одиночку.

Ни один генеральный директор, глава государства, военный лидер, ученый, миллиардер, компания или страна не должны в одностороннем порядке принимать решение о развертывании системы, которая несет в себе реальную опасность необратимой потери человеческим контролем над будущим.

Риски, которые затрагивают все человечество, требуют управления не только одним актором.

Статья 22 — Польза для всего человечества

Польза ИИ должна быть направлена на развитие человека.

ИИ следует использовать для:

Более продуктивная цивилизация должна также стать более гуманной.

Статья 23 — Применение и соблюдение

Страны, подписавшие конвенцию, должны обязаться:

Повторные или серьезные нарушения могут привести к скоординированным международным последствиям.

Потенциальные механизмы принудительного исполнения могут включать в себя:

Применение должно быть пропорциональным, прозрачным, подлежащим независимой проверке и защищенным от политических злоупотреблений.

Статья 24 — Международные инспекции

Организации, разрабатывающие системы сверх определенных наиболее высоких пороговых значений, могут подвергаться независимым проверкам безопасности.

Инспекторы должны иметь возможность проверить:

Коммерчески чувствительная информация, не связанная с безопасностью, должна оставаться защищенной.

Международный надзор не должен превращаться в промышленный шпионаж.

Статья 25 — Глобальный надзор за вычислительными ресурсами ИИ

Очень большие курсы обучения ИИ могут потребовать регистрации или отчетности, как только будут превышены согласованные на международном уровне пороговые значения возможностей или вычислительных мощностей.

Целью не является регулирование обычных вычислений.

Цель состоит в том, чтобы гарантировать, что системы цивилизационного масштаба не могут быть разработаны полностью вне какой-либо системы подотчетности.

Пороги должны развиваться по мере того, как технология становится более эффективной.

Статья 26 — Предотвращение влиятельных интересов от контроля регуляторов

Институты, управляющие передовым ИИ, не должны контролироваться исключительно:

Надзор должен включать несколько независимых групп, представляющих различные интересы.

Правила не должны становиться инструментом, с помощью которого крупнейшие сегодняшние компании в сфере ИИ препятствуют появлению новых конкурентов.

Правила безопасности должны защищать человечество, а не компании, которые уже доминируют на рынке.

Статья 27 — Свобода научных исследований

Законные научные исследования и открытые исследования должны оставаться под защитой.

Регулирование должно быть сосредоточено в первую очередь на опасном потенциале и развертывании, а не на подавлении общего знания.

Управление ИИ не должно стать оправданием цензуры науки.

Однако в тех случаях, когда весьма специфическая оперативная информация могла бы существенно способствовать катастрофическому ущербу, доступ может быть обеспечен пропорциональными гарантиями.

Статья 28 — Международный мирный принцип

Ни одна страна не должна разрабатывать все более опасные системы ИИ только потому, что она боится, что другая страна построит их первой.

Странам следует создать механизмы для:

Соревнование по ИИ не должно превращаться в бесконтрольную гонку, где сама безопасность становится стратегическим недостатком.

Статья 29 — Периодический обзор

Конвенция должна регулярно проходить международный обзор по мере развития возможностей ИИ.

Технические правила, пороговые значения и механизмы реализации могут измениться.

Основные принципы должны оставаться стабильными:

Статья 30 — Абсолютный предел, который никогда не должен быть пересечен.

Ни одна организация, государство, компания или отдельный человек не могут сознательно развернуть систему ИИ, если имеются достоверные доказательства того, что это создает неприемлемый риск того, что человечество навсегда потеряет значимый контроль над своим будущим.

Ни один отдельный актер не имеет морального авторитета принять этот риск от имени всех остальных.

Конец Конвенции. Преамбула и все 30 статей.
https://globalaiconvention.org