The Global
AI Convention

Önsöz

Yapay zeka, insanlık tarafından şimdiye kadar yaratılan en güçlü teknoloji olabilir.

Hastalıkları tedavi etmeye, bilimsel keşifleri genişletmeye, eğitimi geliştirmeye, ekonomileri güçlendirmeye, insan acılarını azaltmaya ve daha önce hayal edilemeyecek kapasiteler açığa çıkarmaya yardımcı olabilir.

Ama zeka tek başına insanlara meşruiyet, otorite veya ahlaki bir konum vermez.

Hiçbir devletin, şirketin, kuruluşun veya bireyin, yapay zeka sistemlerini, insanlığı kendi inşa ettiği araçların altına yerleştiren şekillerde oluşturmasına veya kullanmasına izin verilmemelidir.

Bu nedenle, dünya ulusları aşağıdaki ortak ilkeleri ve bağlayıcı taahhütleri benimsemek zorundadır.

Madde 1 — Son yetki insana aittir .

Yapay zekâ insanlığa hizmet etmek için var olmalıdır.

İnsanlar, insan yaşamını, özgürlüğünü, onurunu ve medeniyetin geleceğini etkileyen kararlarda nihai yetkiyi elinde tutmalıdır.

Hiçbir yapay zekâ sistemine insanlık üzerinde geri alınamaz veya hesap sorulamayan bir güç verilemez.

Madde 2 — İnsanlar sorumlu kalmalı.

Yapay zeka tavsiye, analiz, simülasyon, tavsiye ve yardım sağlayabilir.

Fakat yasal, siyasi, askeri ve sivil sorumluluk her zaman tanımlanabilir insan kurumlarına ve hesap verebilecek insan karar vericilerine ait kalmalıdır.

Hiçbir aktör şu iddialarla sorumluluktan kaçamaz:

“AI kararını verdi.”

Madde 3 — Yapay zeka bağımsız olarak güç peşinde koşmamalı.

Hiçbir gelişmiş yapay zeka sistemi, aşağıdakileri içeren hedefleri takip etmek üzere tasarlanamaz, teşvik edilmez veya buna izin verilmez:

• Yetkili insanların kapatmasını engelleyen
• kendi siyasi, askeri veya ekonomik gücünü artırmak
• Kritik altyapının kontrolünü izinsiz ele geçirmek
• Varlığını sürdürmek için insanları manipüle ediyor.
• gizli etki, kopyalama veya kontrol kanalları oluşturmak

Yapay zeka sistemi kendi hayatta kalmasını asla insan kontrolünün üstünde tutmamalı.

Madde 4 — Yapay zeka bağımsız olarak öldürmeye izin veremez.

Hiçbir yapay zeka sistemi bağımsız olarak insanları seçemez, hedef almaz veya öldüremez.

Ölümcül kuvvet kullanımı her zaman anlamlı bir insan yargısı ve belirlenebilir yasal sorumluluk gerektirmelidir.

Tamamen otonom nükleer komuta ve kontrol istisnasız yasaklanmıştır.

Madde 5 — Nükleer silahlar üzerinde AI kontrolü yok

Hiçbir YZ sistemi bağımsız olarak:

• Nükleer fırlatma yetkisi veriyorum.
• Nükleer hedefleri belirlemek
• nükleer alarm durumunu değiştirmek
• İnsan komuta yapıları bypass

Nükleer silahlarla ilgili her karar süreci tamamen insan kontrolü altında kalmalı ve sorumlu tutulabilecek birkaç insan karar vericisi gerektirmelidir.

Madde 6 — Yapay zeka ile yapılan kitlesel imha yok.

Yapay zeka, aşağıdaki alanlar dahil olmak üzere kitlesel kaza zararını sağlayan yetenekleri oluşturmak, işletmeye geçirmek veya dağıtmak için kullanılmamalıdır:

• Nükleer silahlar
• Biyolojik silahlar
• Kimyasal silahlar
• Bilgisayar sistemlerinin büyük ölçekli sabotajı
• Kötü bir altyapı saldırısı

Bilimsel araştırma, katı korumalar altında devam edebilir, ancak tehlikeli operasyonel yetenekler geniş çapta erişilebilir hale getirilmemelidir.

Madde 7 — Tüm halkı gizli manipülasyonlar yapmamak.

Yapay zeka, büyük ölçekli gizli manipülasyonlar için kullanılmamalı.

Bu, AI'nın aşağıdakiler için kullanılmasını içerir:

• Demokratik süreçleri çarpıtmak
• Seçimleri manipüle etmek için.
• Büyük çapta psikolojik istismar yapıyorlar.
• savunmasız popülasyonları radikalleştirmek
• Çocukları sömürmek
• İnsanları aldatmak için ilişkilere girmek veya siyasi veya ekonomik kontrolü sağlamak

Eğer yapay zeka bir insanı etkilemeye çalışıyorsa, o kişi bunu bilmeli.

Madde 8 — Yapay zeka ile etkileşim kurduğunuzda bunu bilme hakkı

İnsanlar, bir insanla yanlış anlamak önemli sonuçlar doğuracağı zaman, AI ile etkileşimde olduklarını bilmeye hakkı vardır.

Yapay zeka sistemleri, insanları gerçek insanlar gibi davranarak sistematik olarak kandırmamalıdır.

İnsanlar şunu anlamalı:

• Yapay zeka ile etkileşime girdiklerini
• Sistemin arkasında hangi organizasyon var?
• çıkışlarından ve eylemlerinden kim sorumludur

Madde 9 — Tüm halkın devlet tarafından gözetlenmesi yok.

Yapay zeka, tüm nüfusun sürekli kitlesel gözetimini oluşturmak için kullanılmamalıdır.

Yapay zeka kullanımı:

• halka açık yerlerde yüzleri tanımak
• biyolojik özellikleri ile çok sayıda insanı tanımlamak
• Sürekli davranış izleme
• politik profil oluşturma
• Çok sayıda insanın yerini takip etmek

sıkı yasal sınırlamalar, gereklilik, orantılılık ve bağımsız denetim altında olmalıdır.

Yapay zeka asla dijital diktatörlüğün standart mimarisi olmamalı.

Madde 10 — Yüksek etki kararları için insan denetimi

Hiçbir insanın hayatındaki fırsatlar sadece bir algoritma tarafından belirlenmemelidir.

Bu alanlar:

• sağlık
• polislik ve kanun uygulanması
• mahkemeler
• iş
• eğitim
• göç
• sigorta
• sosyal yardımlar
• kredi

Yapay zeka destekli kararlar gözden geçirilebilir, uygun şekilde açıklanabilir ve bir insan otoritesine temyiz edilebilir olmalıdır.

Madde 11 — Çocuklar için özel koruma

Çocuklarla etkileşime giren veya çocukluk gelişimini şekillendiren YZ sistemleri en yüksek bakım standardına sahip olmalıdır.

Bunlar aşağıdakileri en üst düzeye çıkarmak için tasarlanmamalıdır:

• bağımlılık
• bağımlılık
• Ticari kullanım
• Duygusal manipülasyon
• cinsel istismar
• Çocukları bir ideolojiyi benimsemeleri için manipüle etmek

Eğitimdeki yapay zeka, çocuğun düşünme yeteneğini güçlendirmeli, yerine koymamalı.

Madde 12 — İnsanların bağımsız düşünme yeteneği

İnsanlık, insanların makine olmadan akıl yürütme, yaratma, yargılama ve karar verme yeteneğini kaybettiği bir gelecek tasarlamamalıdır.

Eğitim sistemleri şu alanları geliştirmeye devam etmelidir:

• okur yazarlık
• sayıları anlama ve kullanma yeteneği
• eleştirel düşünme
• bilimsel akıl yürütme
• yaratıcılık
• hafıza
• iyi düşünülmüş kararlar verme yeteneği
• ahlaki düşünce

Yapay zeka insan zekasını güçlendirmeli, yok etmemeli.

Madde 13 — Yapay zekânın kendisinden kontrolsüz kopyalama veya geliştirme yok

Hiçbir gelişmiş yapay zeka sistemi, açık bir yetki olmadan:

• Kendini kopyalamak
• halef sistemleri oluşturmak
• kendi temel yeteneklerini bağımsız olarak geliştirmek
• bağımsız yapay zeka ajanlarının ağlarını çalıştırmak
• İnsan kontrolünden kaçmak için bilgisayar sistemleri arasında hareket et
• izin verilen sınırların ötesinde ek bilgi işlem kaynakları elde etmek

Kendini geliştiren veya rekursif olarak geliştiren herhangi bir yapay zeka, insan kontrol noktaları altında çalışmalıdır.

Madde 14 — Yapay zekayı kapatıp izole etmek mümkün olmalı.

Gelişmiş yapay zeka sistemleri, yetkili insanların:

• Yapay zeka sistemlerini kapatın.
• Yapay zeka sistemlerini izole edin.
• erişim izinlerini geri al.
• Yapay zeka sistemlerini araçlardan ve ağlardan ayırmak
• Yapay zeka sistemlerini sıkı kontrol edilen ortamlarda izole etmek

Yapay zeka sistemi, meşru kapanmaya veya kısıtlamaya karşı direnmemelidir.

Madde 15 — Sadece görev için gerekli erişim izinleri

Yapay zeka sistemleri, amaçlanan görevleri için gerekli olan minimum erişimi alabilir.

Belgelerin özetlenmesi gereken bir sistem, dış araçları otomatik olarak kontrol etmemelidir.

Kod yazan bir sistem, üretim sistemlerini otomatik olarak kontrol etmemelidir.

Takvimleri analiz eden bir sistem, finansal hesaplara otomatik olarak erişmemelidir.

Yetenek, hak anlamına gelmemeli.

Madde 16 — En gelişmiş yapay zekalar bağımsız test gerektirir.

Belirli yetenek eşiklerinin üzerinde olan yapay zeka sistemleri, geniş çapta kullanıma sunulmadan önce bağımsız bir güvenlik değerlendirmesinden geçmelidir.

Testler en az aşağıdakileri değerlendirmelidir:

• Özerk planlama
• Siber yetenek
• manipülasyon yeteneği
• Güvenlik değerlendirmeleri sırasında insanları kandırmak
• kopyalama girişimleri
• zarar verebilecek bilimsel yardım
• Yapay zekânın insan kontrolüne direnme girişimleri
• Önemli bilgileri kasıtlı olarak saklamak
• Yapay zeka araçlarının kullanım alanını sınırlarının ötesine çıkarmak

Düzenleme sadece model boyutuna değil, gerçek kapasiteye ve riske odaklanmalıdır.

Madde 17 — Zorunlu olay bildirimi

Yapay zeka ile ilgili ciddi olaylar uluslararası bir kayda rapor edilmelidir.

Rapor edilmesi gereken olaylar şunlardır:

• Kapatmaktan kaçınma girişimleri
• tehlikeli acil durum yetenekleri
• Büyük çaplı siber kötüye kullanım
• izinsiz kopyalama
• ciddi zararlı arızalar
• kritik güvenlik ihlalleri
• beklenmedik yüksek riskli davranış

Amaç kolektif öğrenme ve küresel güvenlik, gizlilik değil.

Madde 18 — Uluslararası gözetim

Ülkeler Uluslararası Yapay Zeka Ajansı'nı kurmalı:

IAIA

Görevleri şunları içermelidir:

• küresel güvenlik standartlarının belirlenmesi
• en gelişmiş sistemleri sertifikalandırmak
• denetim ve denetimleri koordine etmek
• Uluslararası bir olay kaydı tutmak
• acil durum incelemelerinin toplanması
• Yapay zeka güvenliği ile ilgili en iyi uygulamaların paylaşımı
• En gelişmiş yapay zeka riskini içeren uluslararası anlaşmazlıklarda arabuluculuk yapmak

IAIA, sıradan yazılımlara değil, büyük toplumsal veya medeniyetsel etkilere sahip gelişmiş sistemlere odaklanmalıdır.

Madde 19 — Global AI risk seviyeleri

Yapay zeka sistemleri öncelikle gerçek yetenek ve risklere göre sınıflandırılmalıdır.

Yeşil

Sınırlı özerklik ve düşük sistemik etki ile düşük riskli sistemler.

Sarı

Önemli işlevleri etkileyen ve belgelendirme, koruma ve denetimi gerektiren sistemler.

Portakal

Anlamlı siber, bilimsel, altyapı veya özerk risklere sahip yüksek yetenekli sistemler.

Bunlar lisans, bağımsız test ve sürekli kontrol gerektirir.

Kırmızı

Kötü bir şekilde kullanılması, kontrol kaybı veya uygarlık ölçeğinde bozulma potansiyeli olan sistemler.

Güvenliğin olağanüstü yüksek bir standartta olduğu kanıtlanmadıkça bunlar kullanılmamalıdır.

Madde 20 — Global acil durum fren

Eğer güvenilir kanıtlar bir AI sisteminin yakın bir felaket riski oluşturabileceğini gösterirse, uluslararası topluluk acil bir müdahaleyi koordine edebilmelidir.

Bu tür önlemler şunları içerebilir:

• Yapay zeka modellerinin eğitimini geçici olarak durdurmak
• yüksek riskli sistemlerin izole edilmesi
• Acil durum denetimleri
• Yapay zeka tarafından kullanılan hesaplama kaynakları ile ilgili sınırlamalar
• Yapay zeka modellerinin aktarılmasına ilişkin kontroller
• koordineli teknik inceleme

Bu mekanizma, sadece gerçek olağanüstü riskler için kullanılmalı ve asla ekonomik korumacılık veya jeopolitik baskı için bir araç olarak kullanılmamalıdır.

Madde 21 — Hiçbir insan ya da kuruluş insanlığın geleceğini tek başına riske atamaz.

Hiçbir CEO, devlet başkanı, askeri lider, bilim adamı, milyarder, şirket veya ulus, gelecekte insan kontrolünün geri dönüşü olmayan kaybı için güvenilir bir risk taşıyan bir sistem kurmaya tek taraflı olarak karar vermemelidir.

Tüm insanlığı etkileyen riskler, herhangi bir aktörün ötesinde yönetim gerektirir.

Madde 22 — Tüm insanlığın paylaşılan faydaları

Yapay zekânın faydaları, insanlığın gelişmesine yönlendirilmelidir.

Yapay zeka şu amaçlarla kullanılmalıdır:

• Hastalıkları iyileştirmek
• Bilimde ilerleme kaydetmek.
• kamu hizmetlerini iyileştirmek
• yoksulluğu azaltmak
• Eğitim alanını genişletmek
• dirençliliği güçlendirir
• yaşam kalitesini artırmak
• İnsan özgürlüğünü arttırmak

Daha üretken bir medeniyet aynı zamanda daha insani bir medeniyet olmalıdır.

Madde 23 — Uygulama ve uyum

Sözleşmeyi imzalayan ülkeler şu taahhütleri yapmalıdır:

• Bu ilkelerin ulusal hukuka aktarılması
• en gelişmiş yapay zeka geliştirmelerinin lisanslanması ve denetlenmesi
• ciddi ihlaller için etkili cezalar
• bağımsız denetimler için uygun kayıtlar ve erişim gerektiren
• Uluslararası soruşturmalarda işbirliği yapmak
• ciddi bir uyumsuzluk uluslararası risk oluşturduğunda konuşlandırma veya transferleri kısıtlayan

Tekrarlanan veya ciddi ihlaller uluslararası koordineli sonuçlara yol açabilir.

Potansiyel uygulama mekanizmaları şunları içerebilir:

• zorunlu düzeltici eylem
• En gelişmiş sistem operasyonunun geçici olarak askıya alınması
• Sertifikayı kaybetmek
• En gelişmiş yapay zeka sistemleri için belirlenmiş bilgisayar altyapısına erişimi kısıtlayan
• uluslararası konuşlandırma kısıtlamaları
• Uluslararası denetimler
• kasıtlı ciddi ihlaller için koordineli yaptırımlar

Uygulama orantılı, şeffaf, bağımsız bir şekilde gözden geçirilebilir ve siyasi istismarlara karşı korunmalıdır.

Madde 24 — Uluslararası denetimler

Sistemleri tanımlanmış en ileri sınırların üzerinde geliştiren kuruluşlar bağımsız güvenlik denetimlerine tabi olabilir.

Denetçilerin aşağıdakileri doğrulaması gerekir:

• Güvenliği sağlamak için uygulanan prosedürler
• yetenek değerlendirmeleri
• erişim kontrolü
• olay kayıtları
• AI'yi izole etmek ve kısıtlamak için sistemler
• Yapay zeka için kullanılan bilgisayar kaynaklarının gözetimi
• Acil durum prosedürleri

Güvenlikle ilgili olmayan ticari açıdan hassas bilgiler korunmalıdır.

Uluslararası gözetim endüstriyel casusluk haline gelmemeli.

Madde 25 — Yapay zeka hesaplama kaynaklarının küresel gözetimi

Aşırı büyük yapay zeka eğitimleri, uluslararası kabul edilen yetenek veya hesaplama eşiklerinin aşılması durumunda kayıt veya raporlama gerektirebilir.

Amaç sıradan bilgisayarları düzenlemek değil.

Amaç, uygarlık ölçeğindeki sistemlerin tamamen herhangi bir hesaplama sistemi dışında geliştirilmemesini sağlamak.

Teknoloji daha verimli hale geldiği için eşikler gelişmelidir.

Madde 26 — Güçlü çıkarların düzenleyicileri kontrol etmesini önlemek

Gelişmiş yapay zekayı yöneten kurumlar sadece şu kişiler tarafından kontrol edilmemelidir:

• hükümetler
• AI şirketleri
• askeri örgütler
• akademisyenler
• sivil toplum

Denetim, farklı çıkarları temsil eden çok sayıda bağımsız grubu içermelidir.

Kurallar, bugünün en büyük yapay zekâ şirketlerinin yeni rakiplerin ortaya çıkmasını engellemek için kullanacağı bir araca dönüşmemelidir.

Güvenlik kuralları insanlığı korumalı, piyasaya hâkim olan şirketleri değil.

Madde 27 — Bilimsel araştırma özgürlüğü

Yasal bilimsel araştırma ve açık araştırma korunmalı.

Düzenlemeler, genel bilgileri bastırmak yerine öncelikle tehlikeli kapasite ve dağıtım üzerine odaklanmalıdır.

Yapay zeka yönetimi, bilime sansür uygulamak için bir gerekçe olmamalı.

Ancak, çok özel operasyonel bilgilerin felaket zarar vermesine olanak sağlayacağı durumlarda, erişim orantılı koruma önlemlerine tabi olabilir.

Madde 28 — Uluslararası barış prensibi

Hiçbir ülke, giderek daha tehlikeli AI sistemleri geliştirmemeli çünkü başka bir ülkenin bunları ilk inşa edeceğinden korkuyor.

Ülkeler aşağıdakiler için mekanizmalar oluşturmalıdır:

• kriz iletişim
• Karşılıklı güvenlik doğrulama
• paylaşılan olay bildirimi
• felaket riski üzerine araştırma işbirliği
• güven oluşturma önlemleri
• Acil durum koordinasyonu

Yapay zeka rekabeti, güvenliğin kendisinin stratejik bir dezavantaj haline geldiği kontrolsüz bir yarış olmamalı.

Madde 29 — Periyodik inceleme

Sözleşme, yapay zeka yetenekleri geliştikçe düzenli olarak uluslararası gözden geçirilmelidir.

Teknik kurallar, eşikler ve uygulama mekanizmaları değişebilir.

Temel ilkeler sabit kalmalıdır:

• Son yetki insana aittir .
• İnsanlar sorumlu kalmalı.
• Ölümcül güç üzerinde anlamlı insan kontrolü
• Güç için bağımsız bir çaba yok.
• Kontrolsüz kendi kendini çoğaltma yok.
• Tüm halkı gizli manipülasyonlar yapmamak.
• İnsan haklarının korunması
• İnsan kontrolünün geri dönüşü olmayan kaybının önlenmesi

Madde 30 — Asla aşılmaması gereken mutlak sınır .

Hiçbir kuruluş, devlet, şirket veya birey, güvenilir kanıtlar yapmanın insanlığın kendi geleceği üzerindeki anlamlı kontrolünü kalıcı olarak kaybetme riskini oluşturduğunu gösterdiğinde bilerek bir AI sistemi kullanamaz.

Hiçbir aktörün, diğerleri adına bu riski kabul etme ahlaki yetkisi yoktur.