„Við höfum ekki lengur efni á að bíða eða treysta á velvilja,“ segir Türk.

Heimurinn hefur sífellt minni tíma til að setja gervigreind skorður, varaði Volker Türk, mannréttindafulltrúi Sameinuðu þjóðanna, við á mánudag. Hann segir að  „miskunnarlaust kapphlaup“ ríki á milli fyrirtækja og ríkja vekji áhyggjur af öryggi fólks og jafnvel afkomu mannkynsins.

Í ræðu á leiðtogafundi um gervigreind og mannréttindi í Oxford í Bretlandi á mánudag sagði Türk að tæknin gæti skilað stórkostlegum framförum í vísindum, heilbrigðismálum, menntun – og jafnvel í mannréttindastarfi.

Tæknimaður að störfum í gagnaveri. Mynd: © Adobe Stock/Pinkeyes

En verkfæri hennar eru þróuð og þeim stjórnað af fámennum hópi, án opinbers eftirlits, og þau gera nú þegar hluti sem skaparar þeirra geta hvorki fyllilega séð fyrir né haft stjórn á.

Hann varaði við því að gervigreind gæti grafið undan jafnrétti, frelsi, friðhelgi einkalífs og opinberri umræðu á lúmskan hátt og „leyft dystópíu að læðast inn óséð“. Heilu samfélögin gætu verið svipt fjarskiptum, hreinu vatni, húshitun og fjármálaþjónustu „með einum músarsmelli“.

Vettvangur árásar Rússa á Kyiv. Türk segist uggandi yfir því að í framtíðinni verði sjálfvirk vopn í notkun. Mynd: © UNOCHA/Viktoriia Andriievska

Hann hvatti til tafarlausra aðgerða til að banna að vélar ákveði hver lifir og hver deyr og benti á að gervigreind væri þegar að breyta ásýnd hernaðar.

Hann vísaði einnig til rannsókna sem sýna að nemendur sem reiða sig á gervigreind muna minna og hugsa síður sjálfstætt, og spurði hvort heimurinn stefndi í framtíð þar sem enginn gæti skilið, dregið í efa eða jafnvel stýrt tækninni.

Á sama tíma og mannréttindafulltrúi Sameinuðu þjóðanna ávarpaði fundinn í Bretlandi hélt borgarstjórn New York-borgar – þar sem fjármálahjarta bandaríska hagkerfisins slær – sjaldgæfan fund allrar borgarstjórnarinnar til að kanna þá áhættu sem gervigreind skapar íbúum New York.

Borgarstjórnin hefur til skoðunar tíu frumvörp um að setja reglur um gervigreind í stærstu borg landsins og hlýddi á vitnisburð frá Anthropic, OpenAI, Google og Meta.

Türk kallaði eftir lögbundnum mannréttindavörnum og áreiðanleikakönnun við þróun og notkun gervigreindar, sem yrðu aðlagaðar eftir því sem tæknin þróast. Ríki sem hýsa gervigreindarfyrirtæki, eða hafa áhrif á aðfangakeðjur þeirra, verða að krefjast þess að þau hagi sér á ábyrgan hátt og draga þau til ábyrgðar þegar þau gera það ekki, sagði hann.

Ekki er öll svörin að finna í gildandi lögum og á sumum sviðum verður þörf á nýjum lagalegum nálgunum, bætti hann við. En uppfærðar reglur um bótaábyrgð, netöryggi og persónuvernd gætu veitt vernd í millitíðinni.

Hann hvatti einnig til öflugra samstarfs um öryggi og óháð eftirlit innan greinarinnar – „ekki í orði, heldur á borði“ – og að borgaralegt samfélag og fólk sem verður fyrir áhrifum á réttindi sín fengi meira að segja.

„Við höfum ekki lengur efni á að bíða eða treysta á velvilja,“ sagði hann.