Vit skulu ikki óttast vitlíki. Vit skulu stýra valdinum.
Ein kunstiligur intelligensur kann við tíðini yvirganga okkum í vísindum, verkfrøði, heilivági og strategi. Tað er kanska ikki realistiskt at royna at forða tí fyri alla tíð.
Men intelligensur og myndugleiki eru ikki tað sama. Ein AI kann vera meira intelligent enn vit uttan at hava loyvi til at stýra okkum.
Hesin sáttmáli setur ikki eitt tilvildarligt loft fyri vitlíki. Hann setur varandi mørk fyri valdi.
Evnini kunnu vaksa.Menniskjaliga fullveldið má verða verandi.
01
AI kann geva tær ráð. Menniskju hava framvegis ábyrgdina.
02
Vitlíki kann gerast óvanliga ført. Tað kann ikki søkja sær sjálvstøðuga valdømu.
03
Vitlíki kann verja lív. Tað kann ikki sjálvstøðugt avgera at taka tað.
04
Ein AI kann betra seg sjálva undir stýrdum umstøðum. Tað kann ikki koppseta seg í loyndum ella sleppa undan eftirliti.
05
Eingin persónur, fyritøka, hermaður ella land kunnu spæla við framtíðina hjá øllum menniskjum.
02Hví er hetta umráðandi
Óvanligt potentiali. Tað er ein stór ábyrgd.
Tað avgerandi er ikki bara, hvat vitlíki kann gera. Tað er tann, sum hevur valdið at taka støðu.
Ai kann hjálpa menniskjanum
Lækna sjúku og fremja vísindaligar uppgávur
At betra um útbúgvingina og minka um fátækradømi
Loysa truplar verkfrøðiligar uppgávur
At økja um produktivitetin og betra um almennu tænasturnar
At kanna rúmdina og at taka støðu til umhvørvisligar avbjóðingar
Men vald uttan reglur kann gera tað møguligt
Sjálvstýrd krígsførsla og fjøltáttaði eftirlit
Politiskur manipuleringur
Katastrofallir teldusníkarangir og vandamikil lívfrøðiligur førleiki
Ein ongar tíðir fyrr hendandi styrki
Skipanir, sum ikki eru undir týðandi menniskjaligari eftirliti
Endamálið er ikki at steðga menningini. Endamálið er at gera framgongdina yvirlivandi, ábyrgdarfull og menniskjaliga.
03Grunnurin
12 meginreglur. Ein menniskjalig framtíð.
Felags mørkini eru kjarnin í uppskotinum um eina alheims AI-sáttmála.
30 greinir. Eitt felags grundarlag fyri menniskjaligum sjálvræði í vitlíkisøldini.
Inngangur
Vitlíki kann gerast tann máttmesta tøknin, sum mannaættin nakrantíð hevur skapt.
Tað kann hjálpa okkum at lekja sjúkur, fremja vísindaligar uppdagingar, bøta um útbúgving, styrkja búskapin, minka um menniskjaliga líðing og lata upp fyri møguleikum, sum vit ikki áður hava kunnað ímyndað okkum.
Men vit og førleiki geva ikki í sjálvum sær rættmæti, myndugleika ella moralska støðu oman fyri menniskju.
Einki ríki, eingin fyritøka, felagsskapur ella einstaklingur eigur at sleppa at menna ella nýta vitlíkisskipanir soleiðis, at mannaættin verður undirskipað amboðunum, hon sjálv hevur skapt.
Tí eiga lond heimsins at samtykkja hesar felags meginreglur og bindandi skyldur.
Tey 30 greinini
Vitlíki skal vera til fyri at tæna mannaættini.
Menniskju skulu varðveita ovasta valdið yvir avgerðum, sum ávirka lív, frælsi, virðing og framtíðina hjá mentanini.
Eingin vitlíkisskipan má fáa óvendiligt vald yvir mannaættini ella vald, sum eingin kann krevja ábyrgd fyri.
Vitlíki kann ráðgeva, greina, gera eftirgerðir, mæla til og hjálpa.
Men løgfrøðilig, politisk, hernaðarlig og borgaralig ábyrgd má altíð kunna knýtast at eyðmerktum menniskjaligum stovnum og avgerðartakarum, sum kunnu standa til svars.
Eingin má sleppa undan ábyrgd við at siga:
”Vitlíkið tók avgerðina.”
Eingin framkomin vitlíkisskipan má verða sniðgivin, eggjað ella loyvd at stremba eftir málum, sum fevna um at:
verja sína egnu tilveru móti rættmætari menniskjaligari sløkking
víðka sítt egna politiska, hernaðarliga ella búskaparliga vald
taka ræði á týðandi undirstøðukervi uttan loyvi
manipulera menniskju fyri at tryggja sína framhaldandi tilveru
skapa loyniligar leiðir til ávirkan, avriting ella ræði
Egna varðveitslan má ongantíð verða sett sum hægsta mál hjá vitlíki.
Eingin vitlíkisskipan má sjálvstøðugt velja út, taka mið eftir ella drepa menniskju.
Nýtsla av deyðiligari megi má altíð krevja veruliga menniskjaliga meting og eyðmerkta løgfrøðiliga ábyrgd.
Fullkomiliga sjálvvirkandi leiðsla og stýring av kjarnorkuvápnum er bannað uttan undantak.
Eingin vitlíkisskipan má sjálvstøðugt:
loyva avfyring av kjarnorkuvápnum
velja mál fyri kjarnorkuvápn
broyta kjarnorkutilbúgving
fara uttan um menniskjaligar boðleiðir
Øll avgerðargongdin um kjarnorkuvápn má vera heilt undir menniskjaligum ræði og krevja fleiri avgerðartakarar, sum kunnu standa til svars.
Vitlíki má ikki verða nýtt til at skapa, gera nýtiligar ella breiða út førleikar, sum munandi gera skaða við nógvum offrum møguligan, eitt nú innan:
kjarnorkuvápn
lívfrøðilig vápn
kemisk vápn
talgilt herverk í stórum
vanlukkulig álop á undirstøðukervi
Vísindalig gransking kann halda fram undir strongum trygdartiltøkum, men vandamikil virkisførleiki má ikki gerast alment atkomuligur.
Vitlíki má ikki verða nýtt til loyniliga at manipulera stórar fólkahópar.
Hetta fevnir um at nýta vitlíki til at:
avlaga fólkaræðisligar tilgongdir
manipulera val
misnýta fólk sálarliga í stórum
radikalisera viðbreknar fólkahópar
misnýta børn
lokka fólk við svikum inn í sambond ella bundinskap fyri politiskt ella búskaparligt ræði
Roynir vitlíki at ávirka eitt menniskja, eigur viðkomandi at kunna fáa tað at vita.
Fólk hava rætt at vita, nær tey samskifta við vitlíki, tá ið ein samanblanding hevur týdning.
Vitlíkisskipanir mugu ikki skipað lata sum um tær eru verulig menniskju á ein villleiðandi hátt.
Fólk eiga at kunna skilja:
at tey samskifta við vitlíki
hvør felagsskapur stendur aftan fyri skipanina
hvør hevur ábyrgd av svarum og gerðum hennara
Vitlíki má ikki verða nýtt til at skapa støðugt hópeftirlit við heilum fólkum.
Nýtsla av vitlíki til:
andlitskenning á almennum støðum
lívfrøðiliga eyðmerking í stórum
støðuga sporing av atburði
politiska profilering
hópsporing av staðseting
má vera undir strongum lógligum mørkum, krøvum um neyðsyn og lutfall og óheftum eftirliti.
Vitlíki má ongantíð gerast sjálvsagda undirstøðan undir talgildum einaræði.
Lívsmøguleikarnir hjá einum menniskja eiga ikki at verða avgjørdir av eini algoritmu einsamallari.
Innan øki sum:
heilsuverk
løgreglu
dómstólar
arbeiði
útbúgving
tilflyting
tryggingar
almennar veitingar
lán
mugu avgerðir við vitlíkisstuðli kunna kannast, greiðast nøktandi frá og kærast til ein menniskjaligan myndugleika.
Vitlíkisskipanir, sum samskifta við børn ella ávirka teirra menning, mugu lúka tey hægstu krøvini um umsorgan.
Tær mugu ikki verða sniðgivnar til at økja sum mest um:
vanabundna nýtslu
bundinskap
handilsliga misnýtslu
kensluliga manipulatión
kynsliga misnýtslu
hugmyndafrøðiliga indoktrinering
Vitlíki í undirvísing eigur at styrkja hugsanarførleikan hjá barninum, ikki koma í hansara stað.
Mannaættin má ikki skapa eina framtíð, har fólk missa evnini at hugsa, skapa, meta og taka avgerðir uttan maskinur.
Útbúgvingarskipanir eiga framhaldandi at menna:
lesi- og skriviførleika
rokning
kritiska hugsan
vísindaliga grundgeving
skapanarevni
minni
metingarevni
moralska umhugsan
Vitlíki eigur at styrkja menniskjaligt vit, ikki máa tað burtur.
Eingin framkomin vitlíkisskipan má uttan greitt loyvi:
avrita seg sjálva
skapa eftirmannaskipanir
sjálvstøðugt bøta um sínar egnu kjarnuførleikar
seta sjálvstøðug agentnetverk í verk
flyta millum skipanir fyri at sleppa undan ræði
fáa nýggjar teldutilfeingi út um tillutað mørk
Vitlíki, sum mennir seg sjálvt ella endurtekur slíka menning, má virka við eftirlitspunktum undir menniskjaligum ræði.
Framkomnar vitlíkisskipanir mugu verða sniðgivnar soleiðis, at heimilað menniskju kunnu:
steðga teimum
avbyrgja tær
taka loyvi aftur
skilja tær frá amboðum og netverkum
halda tær í avmarkaðum umhvørvum
Ein vitlíkisskipan má ikki mótseta sær ella undirgrava rættmæta sløkking ella avbyrging.
Vitlíkisskipanir skulu bert fáa ta atgongd, sum er neyðug til ætlaðu uppgávuna.
Ein skipan, sum skal taka saman um skjøl, eigur ikki sjálvvirkandi at ráða yvir uttanhýsis amboðum.
Ein skipan, sum skrivar kotu, eigur ikki sjálvvirkandi at ráða yvir skipanum í rakstri.
Ein skipan, sum greinar kalendarar, eigur ikki sjálvvirkandi at fáa atgongd til peningakontur.
Førleiki merkir ikki rætt til heimildir.
Vitlíkisskipanir oman fyri ásett førleikamørk mugu gjøgnum óhefta trygdarmeting, áðrenn tær verða nýttar í stórum.
Royndir eiga í minsta lagi at meta um:
sjálvstøðuga ætlanarlegging
talgildan álopførleika
manipulatiónsførleika
villleiðing undir meting
royndir at avrita seg sjálvar
vandamikla vísindaliga hjálp
mótstøðu móti ræði
tilvitaða dyljing
víðkan av amboðsnýtslu
Reglur eiga at snúgva seg um veruligan førleika og váða, ikki bert støddina á modellinum.
Endamálið er felags lærdómur og global trygd, ikki loynd.
Ríki eiga at stovna ein altjóða stovn fyri vitlíki:
IAIA
Uppgávur hansara eiga at fevna um at:
áseta globalar trygdarstandardir
góðkenna tær mest framkomnu skipanirnar
samskipa eftirkanningar og eftirlit
halda eina altjóða hendingaskrá
kalla saman til bráðfeingis kanningar
deila bestu arbeiðshættir innan vitlíkistrygd
miðla í altjóða ósemjum um váða frá framkomnum vitlíki
IAIA eigur at savna seg um framkomnar skipanir við stórari ávirkan á samfelagið ella mentanina, ikki vanligan ritbúnað.
Vitlíkisskipanir eiga fyrst og fremst at flokkast eftir veruligum førleika og váða.
GRØNT
Skipanir við lítlum váða, avmarkaðum sjálvræði og lítlari ávirkan á samfelagsskipanir.
GULT
Skipanir, sum ávirka týðandi virksemi og krevja skjalprógv, trygdartiltøk og eftirlit.
APPELSINGULT
Skipanir við stórum førleika og munandi talgildum, vísindaligum, undirstøðuligum ella sjálvstøðugum váða.
Hesar krevja loyvi, óheftar royndir og støðugt eftirlit.
REYTT
Skipanir við trúverdum møguleika fyri vanlukkuligari misnýtslu, mistum ræði ella órógvi í allari mentanini.
Hesar mugu ikki takast í nýtslu, uttan at trygdin kann prógvast á einum serstakliga høgum stigi.
Vísa trúverd prógv, at ein vitlíkisskipan kann hava við sær bráðfeingis vanlukkuváða, má altjóða samfelagið kunna samskipa eina neyðloysn.
Slík tiltøk kunnu fevna um:
fyribils steðg í venjing
avbyrging av skipanum við stórum váða
bráðfeingis eftirkanningar
avmarking av teldutilfeingi
eftirlit við flyting av modellum
samskipaða tøkniliga kanning
Henda skipan má bert nýtast við veruligum óvanligum váða og ongantíð sum amboð til búskaparligan verndarpolitikk ella geopolitiskt kúgan.
Eingin stjóri, ríkisleiðari, herleiðari, granskari, milliarderingur, fyritøka ella tjóð eigur einsamøll at avgera at nýta eina skipan við trúverdum váða fyri óvendiligum missi av menniskjaligum ræði á framtíðini.
Váðar, sum ávirka alla mannaættina, krevja stýring út um ein einstakan part.
Fyrimunirnir við vitlíki eiga at fremja menniskjaliga vælferð og menning.
Vitlíki eigur at verða nýtt til at:
lekja sjúkur
fremja vísindi
bøta um almennar tænastur
minka um fátækt
víðka útbúgving
styrkja mótstøðuføri
bøta um lívsgóðsku
økja menniskjaligt frælsi
Ein meira framleiðin mentan eigur eisini at verða ein meira menniskjalig mentan.
Ríki, sum skriva undir, eiga at binda seg til at:
seta hesar meginreglur í landslóg
loyvisgeva og hava eftirlit við menning av framkomnum vitlíki
áleggja munandi revsingar fyri álvarslig brot
krevja hóskandi møguleikar fyri eftirkanning
samstarva í altjóða kanningum
avmarka nýtslu ella flytingar, tá ið álvarslig brot skapa altjóða váða
Endurtikin ella álvarslig brot kunnu elva til samskipaðar altjóða avleiðingar.
Møgulig handhevjingartiltøk kunnu fevna um:
kravdar rættingar
fyribils steðg í rakstri av framkomnum skipanum
miss av góðkenning
avmarkaða atgongd til ávíst framkomið telduundirstøðukervi
Handhevjing má vera lutfalslig, gjøgnumskygd, kunna endurskoðast óheft og vera vard móti politiskari misnýtslu.
Felagsskapir, sum menna skipanir oman fyri ásett mørk fyri framkomið vitlíki, kunnu koma undir óheft trygdareftirlit.
Eftirlitsfólk eiga at kunna kanna:
trygdarmannagongdir
førleikametingar
atgongdareftirlit
hendingaskrár
avbyrgingarskipanir
stýring av teldutilfeingi
neyðmannagongdir
Handilsliga viðkvæmar upplýsingar, sum ikki viðvíkja trygd, eiga at vera vardar.
Altjóða eftirlit má ikki gerast vinnunjósning.
Sera stórar vitlíkisvenjingar kunnu krevja skráseting ella fráboðan, tá ið altjóða avtalað mørk fyri førleika ella teldutilfeingi verða farin.
Endamálið er ikki at stýra vanligari teldunýtslu.
Endamálið er at tryggja, at skipanir, sum ávirka alla mentanina, ikki kunnu mennast heilt uttan ábyrgdarskipanir.
Mørkini mugu broytast, so hvørt tøknin verður effektivari.
Stovnarnir, sum stýra framkomnum vitlíki, mugu ikki vera stýrdir einans av:
stjórnum
vitlíkisfyritøkum
hernaðarligum felagsskapum
akademikarum
borgarasamfelagnum
Eftirlitið eigur at fevna um fleiri óheftar áhugabólkar.
Reglurnar mugu ikki gerast eitt amboð hjá størstu vitlíkisfyritøkunum í dag til at forða fyri, at nýggir kappingarneytar koma fram.
Trygdarreglur mugu verja mannaættina, ikki verandi fyritøkur.
Rættmæt vísindalig gransking og frítt kanningararbeiði mugu framhaldandi vera vard.
Reglugerð eigur fyrst og fremst at snúgva seg um vandamiklan førleika og nýtslu heldur enn at kúga almenna vitan.
Stýring av vitlíki má ikki gerast ein grundgeving fyri sensuri av vísindum.
Men har sera nágreiniligar virkisupplýsingar munandi kunnu gera vanlukkuligan skaða møguligan, kann atgongdin vera undir lutfalsligum trygdartiltøkum.
Eingin tjóð eigur at menna alsamt vandamiklari vitlíkisskipanir einans av ótta fyri, at eitt annað land byggir tær fyrst.
Ríki eiga at skapa skipanir fyri:
samskifti í kreppum
sínámillum trygdarváttan
felags hendingafráboðan
granskingarsamstarvi um vanlukkuváða
álitisfremjandi tiltøkum
neyðsamskipan
Kapping um vitlíki má ikki gerast eitt óstýrt kapprenning, har trygdin sjálv verður ein strategiskur vansi.
Sáttmálin eigur at verða endurskoðaður regluliga í altjóða høpi, so hvørt førleikarnir hjá vitlíki mennast.
Tøkniligar reglur, mørk og íverksetingarhættir kunnu broytast.
Grundleggjandi meginreglurnar eiga at vera støðugar:
ovasta vald menniskjans
menniskjalig ábyrgd
veruligt menniskjaligt ræði á deyðiligari megi
eingin sjálvstøðug stremban eftir valdi
eingin óstýrd sjálvavriting
eingin loynilig hópmanipulatión
vernd av mannarættindum
fyribyrging av óvendiligum missi av menniskjaligum ræði
Eingin felagsskapur, statur, fyritøka ella einstaklingur má tilvitað taka eina vitlíkisskipan í nýtslu, tá ið trúverd prógv vísa, at tað skapar ein ótolandi váða fyri, at mannaættin varandi missir veruligt ræði á síni egnu framtíð.
Eingin einstakur partur hevur moralskan rætt til at góðtaka tann váðan vegna øll hini.
Endin á ráðstevnuni Útgáva 1.0 · Inngangur og allar 30 greinarnar
Klassifisera skipanir eftir hvat tær kunnu gera og hvussu illa tær kunnu gera.
Grønur Hvirlan
Dagliga hjálp
Avmarkað sjálvstýri. Lítil systemisk ávirkan.
Dømi um taðEitt amboð, sum tekur samanum skjøl uttan at koma inn í aðrar skipanir.
Førleiki
Nærri hjálp: At skriva, taka samanum ella skipa dagliga kunning.
Sjálvstýri
Avmarkaðar uppgávur, avmarkað loyvi og lætt afturvirkandi tiltøk.
Møgulig ávirkan
Avmarkað individuell ávirkan; eingin sannlíkur vegur til stórskalaðan skaða.
Yvirlit
Grundleggjandi trygd, tryggleiki, greið upplýsing og ein ábyrgdarfullur veitari.
Hvussu verður farið at skipa
Vanlig útstykking við samsvarandi trygdartiltøkum og endurmeting, um førleikarnir broytast.
Uppskot um stig, ikki verandi altjóða rætt. Dømi eru um karmarnar; tey endaligu markið og metingarhættirnir eiga at verða samtyktir á altjóða støði. Les grein 19
07Alheims stýring
Ein felags støða. Eingin einligur høvdingi.
Uppskot um stovn
IAIA
Altjóða stovnurin fyri vitlíki
Ein ætlaður stovnur, sum skal samskipa stýringina av framkomnum vitlíkisskipanum við globalari ávirkan.
Eins og altjóða skipanir fyri aðrar felags váðar, so skuldi tað knýta tjóðskaparliga ábyrgdina saman við altjóða eftirlitinum, sum er serliga ætlað AI. Uppgávan hjá felagnum skuldi snúgva seg um mest framkomnar skipanir, og ikki vanlig forrit.
Samanhaldandi krøv. Óheft eftirlit. Mannagongdir, sum hava ábyrgd.
01
Alheims normar
Avmarkað felags mest framkomnu trygdarkrøv til AI.
02
Sertifikatión
At meta um skipanir, sum eru oman fyri avtalaðu markið.
03
Eftirlit
Verifisera trygdartiltøk, sum hava stóran vanda.
04
Tilburðarskrá
Skapa altjóða lærdóm av álvarsligum AI-missum.
05
Samskipan í neyðstøðum
Samskipað svar uppá álvarsligar vanlukkutreytir.
06
Altjóða samstarv
At forða fyri, at trygdin verður ein vansi í geopolitiskari kapping.
08Alheims neyðbremsur
Ein steðgur, tá ið tað hevur týdning. Ein framtíð, sum kann halda fram.
Fyri sjóndar, serligar støður, har álítandi prógv vísa á ómetaliga stór skaða.
01
Upptøka
Eitt laboratorium, ein granskari, ein statur ella ein partur av almenninginum staðfestir álítandi tekin um ein ávísan katastrofiskar vanda.
Vernd móti misnýtslu
- Týdningarligar avleiðingar. Proporsjónell og tíðaravmarkað tiltøk. Óheft endurskoðan og greið krøv um at byrja aftur. Glansi, har tað er trygt. Ongin búskaparligur verndarpolitikkur ella geopolitisk undirgangur.
Menniskjuligir stovnar hava ábyrgd; fólk kunnu søkja um at fáa avgerðir við stórum týdningi endurskoðaðar av menniskjum.
Hvussu kunnu tey verða hildin at hava ábyrgd
Menniskjaligur myndugleiki er avmarkaður av rættindum og lógum. Eingin persónur fær einsamallur at avgera framtíðina hjá mannaættini.
Tað kann vera, at tað ikki ber til at sleppa undan einari miðvísari menning. Tað er ikki ein samlað, óábyrgd vald.
10Hvat vilja vit hava AI at gera
Tað er so nógv, sum er vert at byggja upp.
Vernd og møguleiki eiga at vera saman. Hetta er eitt framgongdartilboð, sum vit kunnu deila.
Heilsufrøði
Hjálp at grøða krabbamein. At finna nýggj heilivág.
Orka og umhvørvi
Framhaldandi knýting og rein orka. Hjálp til at loysa veðurlags- og umhvørvisligar avbjóðingar.
At læra
At betra um undirvísingina. At gera serkunnleikan atkomuligan fyri øll.
Vælferð
At fáa ríkidømi at vaksa. At gera stjórnirnar betri at virka.
Upptøka
At hjálpa menniskjum at skilja alheimin. Vit kunnu kanna aðrar heimar.
Lívi og kreativitet
At skapa nýggja list. Fjarlæg farligt og endurtøkuligt arbeiði. Gev fólki meira tíð.
Henda samgonga er ikki eitt tak fyri menningarframgongdina. Tað er ein roynd at tryggja, at framgongdin verður okkara.
11Spurningar, vælkomin at spyrja
Skilji tað, sum er lagt fram.
Tað hevur týdning at vera greiður. Tað ger frælsið at vera ósamdur eisini.
Nei.
Sáttmálin byggir á, at alsamt máttmeira vitlíki kann skapa stórt gagn.
Endamálið er ikki at steðga viti ella vísindaligum framstigum.
Hann setur mørk fyri sjálvstøðugum valdi, vanlukkuligum førleikum, avgerðum uttan ábyrgd og missi av menniskjaligum ræði.
Tí vit er trupult at allýsa og enn truplari at seta eitt varandi loft fyri.
Ein skipan kann vera nógv betri enn menniskju í støddfrøði ella læknavísindum uttan at vera vandamikil.
Tann gagnligari munurin er millum førleika og myndugleika.
Málið er ikki, at menniskju altíð skulu vera tey klókastu.
Málið er, at mannaættin varðveitir sjálvræði yvir síni framtíð.
Ja.
Vitlíki tekur longu óteljandi gerandisavgerðir.
Menniskjalig luttøka eigur at valdast avleiðingarnar og møguleikan at broyta avgerðina aftur.
Sáttmálin snýr seg um avgerðir viðvíkjandi grundleggjandi rættindum, deyðiligari megi, vanlukkuváða og óvendiligum valdi.
Fyrst og fremst landsstjórnir við landslóggávu.
Fyri framkomnar skipanir við globalari ávirkan mælir uppskotið eisini til altjóða samstarv, óheftar metingar og ein altjóða stovn fyri vitlíki.
Ikki í sjálvum sær.
Reglur eiga at snúgva seg um veruligan vandamiklan førleika og nýtslu heldur enn um, hvørt ritbúnaðurin er opin ella afturlatin.
Eitt opið modell við avmarkaðum vandamiklum førleika kann hava minni váða enn ein sera sjálvstøðug afturlatin skipan, sum stýrir týðandi undirstøðukervi.
Ja.
Ein og hvør máttmikil regluskipan kann sjálv verða misnýtt.
Tí eru gjøgnumskygni, óheft endurskoðan, lutfall, vísindaligt frælsi, býtt stýring og vernd móti yvirtøku av reglugerðini partar av sáttmálanum.
Globalar avtalur byrja sjáldan við, at øll eru við.
Karmurin kann byrja sum felags meginreglur millum luttakandi ríki og stovnar og síðani mennast við sáttmálum, tvílandasamningum, standardum, keypsreglum og altjóða trýsti.
Fyrsta endamálið er at staðfesta, hvørjar reglur mannaættin heldur EIGA at galda.
Sáttmálin stýrir fyrst og fremst førleika og valdi og byggir ikki á fortreytir um tilvit.
Koma sterk prógv um maskintilvit, krevja spurningar um moralska støðu og rættindi ein serligan altjóða karm.
Trygd hjá menniskjum og moralsk atlit at maskinum nýtast ikki at útiloka hvørt annað.
Ikki tí menniskju altíð eru klókari.
Tað eru vit ikki.
Men mannaættin er felagsskapurin, sum framtíðin verður avgjørd fyri.
Einki amboð eigur at fáa óvendiligt vald yvir sínum skaparum, bara tí tað verður førari enn teir.
12Tey torføru spurningarnir
Eitt álvarsamt uppskot má yvirliva kanningina.
Hesar mótmælisstøðurnar eru veruliga. Rammurnar eru eitt útgangsstøði, ikki tað endaliga orðið.
Tað kunnu teir vera. Menniskjaligt ræði er ikki nóg mikið: tað má vera lógligt, kunna krevjast ábyrgd fyri og kunna mótmælast. Uppskotið setur mørk fyri stjórnum og fyritøkum eins væl og vitlíkisskipanum. Tað gevur ongum leiðara óavmarkað vald.
Tað kann ofta henda. Betri spádómir og tilmæli eiga at vera við til at gera avgerðir. Tann torføri spurningurin er, hvør avgerð málini, ber avleiðingarnar og kann kæra. At hava eina framúrskarandi útbúgving er ikki í sær sjálvum ein politiskur legitimitetur.
Vánaliga skipaðar reglur kunnu seinka heilivági, gransking og nýggjum kappingarneytum. Kravið eigur at vera í mun til prógvað evni og váða, við vísindaligum frælsi og verju móti eftirliti av eftirlitsmyndugleikunum av sterkum áhugamálum. Kostnaðurin av eftirlitinum eigur eisini at verða kannaður.
Summi kunnu tað. Eingin sáttmáli kann lova fullkomiliga at verða hildin. Eftirlit, felags fráboðan um hendingar, samansjóvnd og viðurlagdar avleiðingar kunnu gera tað truplari at sleppa undan. Altjóða álit eigur at verða stuðlað av prógvum, ikki av ástøði.
Umsitingin av miðstøðini ger eftirlitið truplari og kann geva verulig hol. Ein virkin skipan eigur at hava fokus á vandamiklar førleikar, eftirfylgjandi útstykkingar og ábyrgdarfulla atgongd til kritisk infrastruktur. Tað eigur ikki at ganga út frá, at øll eintøk av eini fyrimynd kunnu stýrast.
Um tað er sterk prógv um tilvitan, so eiga vit at hugsa um vælferð og moralsk støðu. Hetta uppskotið loysir ikki teir trupulleikarnar. Ein serligur karmur hevði verið neyðugur, umframt at tryggja trygd og frælsi hjá menniskjum.
13Ein vegur til at fáa alheims innleiðing
Tað byrjar við at vit tosa saman.
Ein uppskot um, hvussu ein filmur skal framførast, ikki eitt boðað program. Eingin stjórn ella nakrir stovnar eru nevndir sum undirskrivarar.
Fase 01
Almennar meginreglur
Granskarar, borgarar, fyritøkur og stjórnir kjakast um karmarnar.
Fase 02
Frívilligar játtanir
AI-laboratoriur og stjórnir hava felags trygdarálit.
Fase 03
Tjóðarrættur
Lond seta í verk samsvarandi reglur fyri framkomið vitlíki.
Fase 04
Altjóða avtala
Landið hevur samráðingar um bindandi felags normar.
Fase 05
Alheims eftirlit
Altjóða játtan, eftirlit, fráboðan um hendingar og koordinering í neyðstøðum verða virkin.
Markið, sum ikki má farast
Einki AI-skipan kann fáa óvikandi vald yvir menniskjum ella yvir framtíðina hjá mannaættini.
Ein AI kann gerast meira klók enn vit. Tað kann avdúka ting, sum vit ongantíð kundu. Tað kann hjálpa at byggja eina siðmenning, sum er meira enn vit kunnu ímynda okkum.
Men tað ger hann ikki til okkara høvdinga.
Vit skulu ikki óttast vitlíki. Vit skulu stýra valdinum.
Og tað er menniskjan, sum eigur at hava vald á framtíðini.
14Deil tankin við onnur
Ein altjóða tøkni krevurfelags reglur.
Framtíðin við gerandishandlinum eigur ikki bert at verða avgjørt inni í nevndarstovum, hernaðarligum stovnum, royndarhúsum ella stjórnum.