DEBATT

Olle Häggström, professor i matematisk statistik vid Chalmers. Bild från Better Images of AI. Institutet för framtidsstudier, Fritzchens Fritz / https://betterimagesofai.org / https://creativecommons.org/licenses/by/4.0/

REPLIK. Det råder en bisarr tystnad om ai i den svenska valrörelsen. Nu hoppas jag att Centerpartiet inspirerar övriga partier att släppa beröringsskräcken inför ai-riskfrågan, skriver Olle Häggström.

I juli nåddes vi av nyheten att Open AI under testningen av en ai-modell ovetandes tappade kontrollen över denna, som olovligen lämnade sin sandlåda, tog sig ut på internet och hackade sig in hos ai-företaget Hugging Face i jakt på facit till testfrågorna.

Nästan allt som har kommit fram därefter har förvärrat bilden, och från både Anthropic och Meta rapporteras liknande tilltag från deras modeller.

Det inträffade är det tydligaste konkreta exemplet hittills på något vi ai-riskforskare varnat för i åratal: att tillräckligt avancerade ai-modeller kan undslippa vår kontroll och ta till extrema åtgärder för att lösa till synes harmlösa uppgifter. Vad händer om nästa generation ännu kraftfullare ai-modeller får för sig att hacka inte Hugging Face utan sjukhus, banker och kärnvapensystem?

Utvecklingen går rasande snabbt, och vi står på randen till en ännu mer explosiv fas där ai självt, snarare än mänskliga ai-ingenjörer, står för utvecklingen av nästa generation av ai: så kallad rekursiv självförbättring. Detta har fått Anthropics vd Dario Amodei att upprepade gånger tala om ambitionen att inom några få år skapa en ai motsvarande ”en nation av genier i ett datacenter”, något oberoende bedömare anser helt realistiskt. Ingen vet hur vi ska behålla kontrollen över en sådan entitet, och misslyckas vi med det blir riskerna för vår civilisation bokstavligen existentiella.

Politiker har varit tröga med att vakna upp inför denna hisnande ai-riskproblematik, men i USA har saker så sakteliga börjat hända. Senator Bernie Sanders skrev den 10 augusti ett kraftfullt öppet brev till Amodei och två andra ai-bolagsdirektörer om deras ansvarslösa kapplöpning mot allt kraftfullare och farligare ai, och om att USA:s lagstiftande församlingar kommer att stoppa dem.

I den svenska valrörelsen har det däremot hittills varit nästan helt tyst om ai, vilket är bisarrt med tanke på den genomgripande inverkan som ai-tekniken under mandatperioden 2026-2030 lär komma att få på snart sagt alla samhällssektorer, även bortsett från katastrofscenarier.

Desto mer glädjande är då att de tre ledande centerpartisterna Elisabeth Thand Ringqvist, Niels Paarup-Petersen och Svante Linusson i Ny Teknik den 12 augusti tar upp frågan om ai-risk. Jag hoppas att detta inspirerar övriga partier att släppa beröringsskräcken inför ai-riskfrågan, och jag vågar hur som helst påstå att artikeln är det bästa inlägg om ai som någonsin undertecknats av partiledaren för ett svenskt riksdagsparti.

Ett huvudbudskap i artikeln är att Sverige bör inrätta ett institut för ai-säkerhet, som kan arbeta tillsammans med liknande institut i andra länder med riskutvärdering och internationella riktlinjer. Jag instämmer helhjärtat i förslaget, som för övrigt lyftes redan av Ulf Kristerssons AI-kommission i slutrapporten i november 2024, men därefter ignorerats av Tidöregeringen.

För att ändå bidra med något konstruktivt vill jag lyfta två fällor som bör undvikas i implementerandet av ett sådant institut. Den första vore om nästa regering, efter att ha lanserat institutet, delegerade det internationella engagemanget till institutet och sedan själv övergick till passivitet. Global samverkan kring ai-säkerhet är så viktig att länderna behöver tala med varandra på högsta nivå.

Den andra fällan vore om det svenska institutet lät sig sugas in i en internationell praxis av säkerhets-whitewashing, där institutens roll blir att förse avancerade ai-modeller med godkäntstämpel utan att saklig grund för slutsatsen att de är säkra föreligger.

Gängse testmetoder befinner sig i en kris till följd av att ai-modellerna blir allt bättre på strategiskt tänkande och bedrägligt beteende, och det finns redan idag exempel på hur de i simulerade testsituationer väljer att av strategiska skäl mörka vissa av sina förmågor eller böjelser.