The Global
AI Convention

FORMÁLI

Gervigreind gæti orðið öflugasta tækni sem mannkynið hefur skapað.

Hún getur hjálpað til við að lækna sjúkdóma, auka vísindalegar uppgötvanir, bæta menntun, styrkja efnahagslífið, draga úr þjáningum manna og opna möguleika sem eru ofar öllu því sem áður var ímyndað sér.

En greind ein og sér veitir ekki lögmæti, vald eða siðferðislega stöðu yfir mönnum.

Engin ríki, fyrirtæki, samtök eða einstaklingar ættu að fá að búa til eða koma upp AI kerfum á þann hátt að setja mannkynið undir verkfæri sem það hefur byggt.

Af þeirri ástæðu ættu þjóðir heims að samþykkja eftirfarandi sameiginlega meginreglur og skuldbindandi skuldbindingar.

Grein 1 — Endanleg vald tilheyrir mönnum.

Gervigreind skal vera til þess að þjóna mannkyninu.

Menn skulu halda endanlegu ákvörðunarvaldi um málefni sem varða líf, frelsi, reisn og framtíð siðmenningarinnar.

Engu gervigreindarkerfi má veita óafturkræft vald yfir mannkyninu eða vald sem ekki er hægt að krefjast ábyrgðar á.

Grein 2 — Mennirnir verða að vera ábyrgir.

Vísindavélin getur gefið ráð, greint, líkt, mælt með og aðstoðað.

En lögfræðileg, pólitísk, hernaðarleg og borgaraleg ábyrgð verður alltaf að vera á ábyrgð þekktra mannlegra stofnana og ábyrgra manna sem taka ákvarðanir.

Enginn aðili má forðast ábyrgð með því að fullyrða:

Almenningin tók ákvörðunina.

Grein 3 — Heimskavitund má ekki leita valds sjálfstætt

Engin háþróuð gervigreindarkerfi skal hannað, hvatt eða leyft að sinna markmiðum sem fela í sér:

• hindra heimilaða menn frá að loka það niður
• að auka stjórnmála-, hernaðar- eða efnahagslegt vald sitt
• taka stjórn á mikilvægum innviðum án leyfis
• Hann er að beita mönnum til að tryggja að hann haldi áfram að vera til.
• skapa falinn rásar áhrifa, endurtekningar eða stjórn

Vísindavél má aldrei setja eigin lifun fram yfir stjórn manna.

Grein 4 — AI má ekki sjálfstætt heimila morð

Ekkert AI-kerfi getur sjálfstætt valið, miðað eða drepið menn.

Notkun banvæns valds þarf alltaf að krefjast skilvirks mannsæmis og skiljanlegrar lagalegrar ábyrgðar.

Full sjálfstýrð kjarnorkustjórnun er bannað án undantekninga.

Grein 5 — Ekkert AI-stjórn yfir kjarnorkuvopnum

Engin AI-kerfi má sjálfstætt:

• leyfa kjarnaútgáfu
• ákveða kjarnorku markmiðum
• breyta viðvörunarstöðu vegna kjarnorku
• Bypass mannleg stjórn byggingar

Öll ákvarðanatökuferli sem varða kjarnorkuvopn verða að vera algerlega undir stjórn manna og þurfa nokkra mennskra ákvarðandi sem geta verið taldir ábyrgir.

Grein 6 — Engin fjöldadráp með gervigreindum

Heimska greina má ekki nota til að búa til, koma í notkun eða dreifa getu sem gerir verulega kleift að valda stórfelldum skaða, þ.m.t. á sviði:

• kjarnorkuvopn
• Líffræðivopn
• efnavopn
• stórfelld skemmdarverk í tölvukerfum
• hörmulegar árásir á innviði

Vísindalegar rannsóknir geta haldið áfram undir ströngum öryggisreglum en hættuleg rekstrarhæfni má ekki gera aðgengileg fyrir alla.

Grein 7 — Engin leynigreining á heilu íbúum

Ekki má nota gervigreind til leynilegrar fjöldastýringar á almenningi.

Þetta felur meðal annars í sér að nota gervigreind til að:

• afbaka lýðræðisleg ferli
• hafa ólögmæt áhrif á kosningar
• misnota fólk sálrænt í stórum stíl
• ýta viðkvæmum hópum í átt að öfgum
• misnota börn
• blekkja fólk inn í tengsl eða ósjálfstæði til að ná pólitískum eða efnahagslegum tökum á því

Ef gervigreind reynir að hafa áhrif á manneskju ætti hún að geta vitað af því.

Grein 8 — Rétt til að vita hvenær þú ert í samskiptum við gervigreind

Fólk á rétt á að vita hvenær það er í samskiptum við gervigreinda ef mistök um að hún sé manneskja hafa verulegar afleiðingar.

Vísindavélkerfi má ekki blekkja fólk með því að láta eins og það sé raunverulegur maður.

Fólki ætti að vera skiljanlegt:

• að þeir séu í samskiptum við gervigreinda
• hvaða samtök standa á bak við kerfið
• sem ber ábyrgð á útkomum og aðgerðum

Grein 9 — Engin eftirlit ríkisins með heilu íbúum

Ekki má nota gervigreind til að skapa varanlegt fjöldaeftirlit með heilum samfélögum.

Notkun gervigreindar til:

• andlitsgreiningar á almannafæri
• lífkennagreiningar í stórum stíl
• stöðugrar hegðunarvöktunar
• pólitískrar persónugreiningar
• víðtækrar staðsetningarvöktunar

verður að lúta ströngum lagalegum takmörkunum, nauðsyn, meðalhófi og óháðu eftirliti.

Gervigreind má aldrei verða sjálfgefin undirstaða stafræns einræðis.

Grein 10 — Mannleg endurskoðun á ákvörðunum sem hafa mikil áhrif

Tækifæri neins manns í lífinu ætti ekki að vera ákveðin aðeins af algoritmi.

Á sviðum eins og:

• heilbrigðisþjónusta
• lögregluþjónusta og lögsögu
• dómstólar
• atvinnu
• menntun
• flótta
• tryggingar
• félagsleg greiðsla
• lán

Ákvarðanir með aðstoð gervigreindar verða að vera endurskoðanlegar, skýranlegar á viðeigandi hátt og hægt er að áfrýja þeim til mannlegs yfirvalds.

Grein 11 — Sérstök vernd barna

Gervigreindarkerfi sem eiga samskipti við börn eða móta þroska þeirra verða að uppfylla ströngustu kröfur um umönnun og varfærni.

Ekki má hanna þau til að hámarka:

• fíkn
• ósjálfstæði
• viðskiptalega misnotkun
• tilfinningalega stjórnun
• kynferðislega misnotkun
• hugmyndafræðilega innrætingu

Gervigreind í menntun ætti að styrkja hugsun barns, ekki koma í hennar stað.

Grein 12 — Hæfni manna til að hugsa sjálfstætt

Mannkynið má ekki hanna framtíð þar sem menn missa hæfileikann til að hugsa, skapa, dæma og ákveða án véla.

Menntakerfi ættu að halda áfram að rækta:

• læsi
• hæfni til að skilja og nota tölur
• gagnrýnin hugsun
• vísindaleg rökfræði
• skapandi
• minningar
• hæfni til að taka vel ígrundaðar ákvarðanir
• siðferðisleg hugleiðing

Vísindavitund ætti að auka hugvit mannlegs, ekki rjúfa það.

Grein 13 — Engin óstjórnað afritun eða endurbætur á gervigreindinni sjálf

Engin háþróuð gervigreindarkerfi má, án skýrslugerðar:

• afrita sjálfan sig
• skapa eftirfylgjandi kerfi
• sjálfstætt að bæta eigin grunnhæfileika
• koma netum sjálfstæðra gervigreindarfulltrúa í notkun
• flytja milli tölvukerfa til að komast undan stjórn mannsins
• að fá viðbótar tölvuauðlindir umfram leyfileg mörk

Allar sjálfbættar eða endurteknar gervigreindar verða að starfa undir eftirliti manna.

Grein 14 — Heimskavitund verður að geta lokað og einangrað

Framþróuð gervigreindarkerfi verða að vera hannað þannig að heimilaðir menn geti:

• Slökktu á AI kerfum.
• einangra gervigreindarkerfi
• afturkalla aðgangsgögn sín
• að fjarlægja gervigreindarkerfi frá verkfærum og netum
• halda gervigreindarkerfum einangruðum í stranglega stjórnuðu umhverfi

Vísindavitundarkerfi má ekki standa gegn lögmætri niðurstöðu eða innihaldi eða brjóta hana niður.

Grein 15 — Aðeins þau aðgangsskyldu sem nauðsynleg eru fyrir verkefnið

Heimilegsvitundarkerfi skulu aðeins fá lágmarks aðgang sem nauðsynlegur er til að sinna fyrirhugaðri verkefni þeirra.

Kerfi sem þarf að taka saman gögn ætti ekki að stjórna sjálfkrafa utanaðkomandi verkfærum.

Kerfi sem skrifar kóða ætti ekki að stjórna framleiðslu kerfum sjálfkrafa.

Kerfi sem greinar dagatal ætti ekki að fá sjálfkrafa aðgang að fjárhagsreikningum.

Hæfni má ekki þýða réttindi.

Grein 16 — Almennileg æðstu gervigreind krefst sjálfstæðra prófa.

Heimilegt greiningarkerfi sem eru yfir skilgreindum hæfnismörkum þurfa að fara í gegnum sjálfstætt öryggismat áður en þau eru notuð víða.

Við prófun skal að lágmarki metið:

• sjálfstæð skipulag
• netþjónustu
• meðhöndlunaraðgengi
• blekking fólks við öryggismat
• tilraunir til að endurtaka
• vísindaleg aðstoð sem gæti gert skaða
• tilraunir gervigreindar til að standast stjórn mannsins
• að fela mikilvæg upplýsingar af ásettu viti
• að auka umfang notkunar á gervigreindarverkfærum út fyrir takmörk þess

Reglugerðir ættu að beina sjónum að raunverulegum getu og áhættu, ekki aðeins stærð módelsins.

Grein 17 — Skylda til að tilkynna um atvik

Alvarleg atvik sem varða gervigreind verða að tilkynnt til alþjóðlegs skrár.

Tilvik sem tilkynnt skal um eru:

• tilraunir til að komast hjá lokun
• hættuleg bráðabirgðageta
• stórfelld netnotkun
• óheimilt endurtekning
• alvarleg skaðleg bilun
• alvarleg öryggisbrot
• óvænt áhættuhegðun

Tilgangurinn er sameiginlegt nám og alþjóðlegt öryggi, ekki leynd.

Grein 18 — Alþjóðlegt eftirlit

Lönd ættu að stofna alþjóðlega öryggisstofnun:

IAIA

Umboð þess ætti að fela í sér:

• að setja alþjóðlegar öryggisviðmið
• vottun á mest háþróaðum kerfum
• samræma endurskoðun og úttekt
• að halda alþjóðlega atvikaskrá
• að boða til neyðarendurskoðana
• að miðla bestu venjum í öryggi gagnvart gervigreindri hugsun
• miðlun á alþjóðlegum deilum þar sem mest þróað AI áhætta er til staðar

IAIA ætti að einbeita sér að háþróaðum kerfum með mikilvægar samfélagslegar eða siðmenningarlegar afleiðingar en ekki venjulegum hugbúnaði.

Grein 19 — Alþjóðleg áhættuflokka í AI

Vísindavélkerfi ætti að flokka fyrst og fremst eftir raunverulegum getu og áhættu.

Grænn

Lítil áhættu kerfi með takmarkað sjálfstæði og litla kerfisáhrif.

Gulur

Kerfi sem hafa áhrif á mikilvæga starfsemi og þarfnast skjala, öryggis og eftirlits.

Stærri

Hárhæf kerfi með verulega netvarna-, vísinda-, innviða- eða sjálfstæða áhættu.

Þessar aðgerðir krefjast leyfisveitingar, óháðra prófanir og stöðugrar eftirlits.

Rauður

Kerfi sem geta orðið fyrir stórfelldri misnotkun, stjórnleysi eða óreiðufærni á menningarheild.

Ekki má nota þær nema hægt sé að sýna fram á að öryggi þeirra sé í einstaklega háum mæli.

Grein 20 — Alþjóðleg neyðarbremsa

Ef trúverðug sönnunargögn benda til þess að AI-kerfi geti verið óumdeilanleg stórhættuleg hætta, verður alþjóðasamfélagið að geta samræmt viðbragð í neyðartilvikum.

Slíkar aðgerðir geta verið:

• tímabundið stöðvun á þjálfun AI líkanum
• einangrun hááhættu kerfa
• neyðarendurskoðun
• takmörk á tölvustofnunum sem gervigreind notast við
• eftirlit með flutningi AI-hönnunar
• samræmd tæknileg endurskoðun

Þessi aðferð má aðeins nota við raunverulega óvenjulega áhættu og aldrei sem verkfæri til hagræðis verndarsamskipta eða jarðmálalegra kúgunar.

Grein 21 — Enginn einstaklingur eða samtök geta sett framtíð mannkynsins í hættu einir.

Enginn framkvæmdastjóri, höfuð ríkis, herforingi, vísindamaður, milljarðamæringur, fyrirtæki eða þjóð ætti einhliða að ákveða að setja upp kerfi sem ber trúverðuga áhættu á óafturkræfum tapi á stjórn mannsins yfir framtíðinni.

Hættur sem varðar alla mannkynið krefst stjórnunar sem er ekki einni aðila að þakka.

Grein 22 — Ávinningur sem allur mannkynið á sameiginlegt

Kostir gervigreindar ættu að beina sér í átt að blómgun mannsins.

Vísindavitund ætti að nota til að:

• lækna sjúkdóma
• gera framfarir í vísindum
• bæta opinberar þjónustu
• minnka fátækt
• að auka menntun
• styrkja þol
• bæta lífsgæði
• auka frelsi mannsins

Framleiðandi siðmenning ætti einnig að verða mannúðlegri.

Grein 23 — Framkvæmd og samræmi

Þau ríki sem undirrita samninginn ættu að skuldbinda sig til að:

• um að setja þessar meginreglur í innlenda lög
• leyfi og eftirlit með þróun á háþróaðri gervigreind
• um skilvirk viðurlög vegna alvarlegra brot-
• um að gera kröfu um viðeigandi skrár og aðgang til sjálfstæðra endurskoðana
• samstarf við alþjóðlegar rannsóknir
• takmarka ráðstöfun eða flutninga þegar alvarleg ósamræmi skapar alþjóðlega áhættu

Endurteknar eða alvarlegar brot geta haft samræmdar alþjóðlegar afleiðingar.

Mögulegar framkvæmdaaðgerðir geta verið:

• skylda til að bæta úrræði
• tímabundin stöðvun á mest þróuðum kerfi
• tap á vottun
• takmarka aðgang til tiltekins reikniverndar fyrir háþróaðustu gervigreindarkerfi
• takmarkanir á alþjóðlegri ráðningu
• alþjóðlegar skoðanir
• samræmdar refsingar vegna viljandi alvarlegra brota

Framkvæmd skal vera í samræmi við hlutfall, gagnsæ, óháð endurskoðun og verndað gegn pólitískum misnotkun.

Grein 24 — Alþjóðleg skoðun

Samtök sem þróa kerfi umfram skilgreind mest háþróuð mörk geta verið háð óháðum öryggisúttektum.

Eftirlitsmenn ættu að geta staðfest:

• aðgerðir til að tryggja öryggi
• hæfni- og starfsmat
• aðgangsstýringar
• skráningar á atburðum
• kerfi til að einangra og takmarka AI
• eftirlit með tölvuauðlindum sem notuð eru til gervigreindar
• neyðarferli

Viðskiptalega viðkvæmar upplýsingar sem tengjast ekki öryggi ættu að vera verndar.

Alþjóðlegt eftirlit má ekki verða að atvinnuspiona.

Grein 25 — Alþjóðlegt eftirlit með tölvuforðum gervigreindar

Mjög stórir þjálfunarferlar í gervigreind geta krafist skráningar eða skýrslu þegar yfir eru komnir alþjóðlega samningar um hæfni eða reikniþröskuld.

Tilgangurinn er ekki að stjórna venjulegum tölvum.

Tilgangurinn er að tryggja að kerfi á menningarmáli geti ekki þróast alveg utan hvers konar kerfis um ábyrgð.

Þröskuldir verða að þróast eftir því sem tæknin verður skilvirkari.

Grein 26 — Að koma í veg fyrir að öflugur hagsmunamál stýri eftirlitsaðilum

Stofnunum sem stjórna háþróaðri gervigreind má ekki einungis stjórnast af:

• stjórnvöld
• Vísindavefur
• hernaðarfélög
• fræðimenn
• borgaralegt samfélag

Eftirlit ætti að ná til margra óháðra hópa sem fulltrúa mismunandi hagsmunaaðilum.

Reglurnar mega ekki verða tæki fyrir stærstu gervigreindarfyrirtæki samtímans til að hindra að nýir keppinautar komi fram.

Öryggisreglur eiga að vernda mannkynið, ekki fyrirtæki sem nú þegar ráða markaðnum.

Grein 27 — Frelsi vísindalegra rannsókna

Lögmætar vísindalegar rannsóknir og opin rannsóknarferli verða að vera verndaðar.

Reglugerðir ættu að beina sjónum fyrst og fremst að hættulegum getu og notkun en ekki að þagga niður almennri þekkingu.

Stjórnun gervigreindar má ekki verða réttlæting fyrir ritskoðun vísinda.

Þegar mjög sérstakar rekstrarupplýsingar myndu gera stórfelldan skaða mögulegan, er þó heimilt að taka miðlungs gæsluvarðhald.

Grein 28 — Alþjóðleg friðarregla

Ekkert ríki ætti að þróa hættulegri gervigreindarkerfi eingöngu vegna þess að það óttast að annað land byggir þær fyrst.

Lönd ættu að koma á framfæri fyrir:

• samskipti í kreppum
• gagnkvæm öryggispróf
• sameiginleg tilkynning um atvik
• Samstarf um rannsóknir á hamfariróki
• traustbyggingaraðgerðir
• samhæfingu neyðarástandsins

Samkeppni um gervigreind má ekki verða óstjórnað kapphlaup þar sem öryggi sjálft verður að stefnumótandi ókostum.

Grein 29 — Tímabundin endurskoðun

Samningurinn ætti að fara í reglulega alþjóðlega endurskoðun eftir því sem hæfni til gervigreindar þróast.

Tæknilegar reglur, mörk og framkvæmdaaðferðir geta breyst.

Grunnreglur eiga að vera stöðugar:

• Endanleg vald tilheyrir mönnum.
• Mennirnir verða að vera ábyrgir.
• skilvirk stjórn manns á banvænu valdi
• engin sjálfstæð leit að valdi
• engin óstjórnað sjálfseðli
• Engin leynigreining á heilu íbúum
• vernd mannréttinda
• forvarnir gegn óafturkræfum tap á stjórn mannsins

Grein 30 — Algjör takmörk sem aldrei má fara yfir

Engin samtök, ríki, fyrirtæki eða einstaklingar mega meðvitað beita gervigreindar kerfi þegar trúverðug sönnunargögn benda til þess að það skapist óásættanleg hætta á að mannkynið missi varanlega skilvirka stjórn á eigin framtíð.

Enginn einstaklingur hefur siðferðislegt vald til að taka á því í þágu allra annarra.