Igår förmiddag var jag med i inspelningen av Ekots Lördagsintervju som sändes idag, med ett valspecial om AI och demorkratin. Jag satt med hörlurar i studio 44 hos Sveriges Radio på Lindholmen i Göteborg tillsammans med Olle Häggström och Marie Eneman. Från en studio i Stockholm hördes Sylvia Schwaag Serger och programledaren Erika Mårtensson. När signaturen tonade ut och jag promenerade från studion mot min arbetsplats, så reflekterade jag över hur fyra olika perspektiv i programmet försökte fånga frågorna om demokrati och AI. Hastighet, makt, rättigheter och det samtal som bär en demokrati. Samtalet väckte många tankar, och jag tänkte skriva vidare något här för att samla dem. Lyssna gärna på programmet innan du läser, om du inte har det, så blir texten satt i sin rätta kontext.
Sylvia inled samtalet och beskrev AI som en generell teknik av samma slag som ångkraften och elektriciteten, men med två skillnader som gör vanliga jämförelser med tidigare teknologier haltande. För det första att den sprids mycket snabbare. Elektrifieringen av de amerikanska hushållen tog ett halvt sekel; medan språkmodellerna nådde miljarder användare på bara några år. För det andra att detta är första gången vi har att göra med en teknik som kan förbättra sig själv. När jag tänker tillbaka på Sylvias samtal hamnar jag i att en av hennes centrala insikter handlar om uppgivenhet. Om att det finns en risk i rädslan för teknikutvecklingen. Risken att om vi blir tillräckligt rädda, att vi slutar göra det som måste göras.
Vid en punkt i Sylvias resonemang beskrev hon hur vi, som i vi i Europa, aldrig kommer att kunna konkurrera med USA:s och Kinas investeringar och datatillgång. Här vill jag tro att detta just handlar om den där frågan om risken att sluta agera, på grund av en slags inlärd defaitism. Ser vi till ett nuläge stämmer det att Europa ligger långt efter i utvecklingen. Stanfords AI Index räknade förra året fyrtio betydande modeller från amerikanska institutioner, femton från kinesiska och tre från europeiska, alla tre franska. Det är lätt att tänka om siffror och rapporter av det slaget som en naturlag. Jag läser denna situation mera som ett politiskt val. Mistral i Paris värderades förra hösten till knappt tolv miljarder euro, en bråkdel av de amerikanska bolagen men ett bevis på att andra berättelser och annan utveckling är möjlig. I Linköping står Arrhenius, en superdator finansierad av Vetenskapsrådet och EuroHPC, och Sverige är värd för en av unionens AI-fabriker. Ska Sverige och EU säkra egen förmåga inom AI, såväl när det gäller kompetens, som i teknik, kapital och infrastruktur, så är det politiska frågor och politiska beslut som formar de förutsättningarna. Att vi ligger efter är inte ett svar på vart Europa är på väg, utan ett svar på hur Europa hittills har valt att gå.
Olle Häggström bar i programmet med sig en annan oro av mera existentiell karaktär. Jag delar hans oro, kanske mer idag än vad jag gjort tidigare. Hans bild är att vi kan vara nära den punkt där maskinerna överträffar oss i de flesta kognitiva förmågor. Han menar att forskning om alignment, eller det som ska få språkmodeller att vilja det vi vill, ligger långt efter. Hans bedömning om sannolikheten för att det går riktigt illa är, med hans egna ord, en tvåsiffrig procentsiffra. Jag har ingen bättre siffra. Min reflektion av att höra Olle reflektera här, är att jag varje gång jag de senaste tre åren gissat hur långt tekniken skulle nå till nästa år har jag gissat för lågt. Jag har över tid kommit att närma mig frågorna av mer existentiell karaktär och AI, samtidigt som jag också ser risken med den AI-utveckling som sker redan nu. Vi som samhälle behöver förhålla oss till samtliga dessa risker.
Och när det kommer till hur vi ska tänka om risk och vad vi ska göra, så skiljer jag mig något från Olle i svaret. Han vill se en nödbroms för de mest kapabla systemen och stora internationella överenskommelser, i första hand mellan Washington och Beijing. Jag ser tyvärr inte den vägen öppen på kort eller medellång sikt. De två länder som leder utvecklingen har inga geopolitiska skäl att bromsa sig själva, och de gemensamma institutioner som skulle kunna bära ett sådant avtal monteras just nu ner snarare än byggs upp. Att inte tro på dessa lösningar, är dock inte detsamma som att helt strunta i det. Det är värt att arbeta hårt för överenskommelser om AI på global nivå, trots att utmaningarna i området är stora.
Jag tror vi behöver se på risker med AI på snarliga sätt som vi ser andra komplexa samhällsrisker där förmågan att avskaffa fenomenet självt är begränsad. Det gäller exempelvis hur vi ser på och hanterar pandemier, klimatförändringar och finansiella kriser. Ingen av dem löser vi i samhället genom att stoppa det som drev dem. De hanterades genom att samhällen byggde förmåga att upptäcka, begränsa, isolera och återhämta sig. Insyn i vad systemen faktiskt kan, krav på att den som släpper ut dem kan stänga av dem, redundans i det samhället inte klarar sig utan, egen förmåga att förstå tekniken i stället för att läsa om den i andras pressmeddelanden. Det är mindre storslaget än ett globalt fördrag, och något vi kan börja med här och nu.
Marie Eneman förde in den tredje rörelsen, där AI direkt berör förhållandet mellan medborgare och stat. Sedan den första juli får polisen och Säkerhetspolisen använda ansiktsigenkänning i realtid i det offentliga rummet, ett undantag i EU:s AI-förordning som Sverige valt att utnyttja. Marie beskriver det i programmet som att vi går omkring som id-handlingar på distans, utan att veta när kontrollen sker. Ett resonemang hon för och som fastnar hos mig handlar att frågorna om polisens användning av AI i detta fall inte bara är en fråga om vad som är bra eller dåligt för polisen, utan också om vad tekniken gör med staten och under vilka villkor. De frågorna bär långt bortom frågan om polisens nyttjande av tekniken och är frågor som vi kommer att få förhålla oss till i allt fler områden framöver.
Maries beskrivningar av AI och polisen fick mig att tänka tillbaka till Minority Report, Spielbergs film från 2002 efter Philip K. Dicks novell. I Washington år 2054 griper enheten Precrime mördare innan de mördat, på grundval av tre synska människors förutsägelser. Det som bär filmen är inte tekniken utan titeln. Ibland är de tre oeniga, och den avvikande förutsägelsen, minoritetsrapporten, arkiveras bort för att systemet ska se ofelbart ut. Det är en berättelse om vad som händer när misstanke flyttar från handling till sannolikhet. Prediktiva polissystem bygger på historisk data, alltså på var polisen redan har varit, och den mest grundliga oberoende granskning som gjorts av ett sådant system fann en träffsäkerhet under en halv procent. Ett samhälle där staten misstänker sina medborgare som utgångspunkt har bytt grundregel. Regeringsformen skyddar var och en mot betydande intrång i den personliga integriteten genom övervakning eller kartläggning, och varje begränsning måste vara godtagbar i ett demokratiskt samhälle och får aldrig bli ett hot mot den fria åsiktsbildningen. Europakonventionen säger detsamma med andra ord. Det är den ordning som gör att man kan gå till en demonstration på torget utan att fundera på vilken kamera man passerar.
Samtidigt är det lätt att skriva sig fram till en position som i praktiken lämnar polisen utan verktyg, och det vore lika fel. Den brottslighet som polisen möter är redan byggd på och utvecklad med AI. Röster klonas på några sekunder för inga pengar alls, och används för bedrägerier. Övergreppsmaterial genereras med generativ bild- och videobaserad AI i en hissnande fart och utveckling. En myndighet som inte förstår tekniken kan varken skydda samhället eller bedöma vad den själv borde avstå från. Maries svar på regeringens ambition att Sverige ska bli bäst i världen på AI i förvaltningen var därför i min mening något av det mest centrala i hela samtalet. Ska vi vara bäst i världen, så måste vi också vara det när det gäller demokratisk kontroll av AI. Avvägningarna är svåra på riktigt.
Mitt eget bidrag till samtalet handlade om det demokratiska samtalet i sig självt, och dess spelregler. Föreningar och organisationer har röstlängder, kontrapropositionsvoteringar och talarordningar på sina möten. En slags spelregler som vi har byggt för att oenighet ska kunna hanteras utan att gemenskapen går sönder. Jag har tidigare ofta beskrivit detta som en slags demokratiska algoritmer. Men idag är våra möten inte bara fysiska, utan den största delen av vår opinionsbildning sker digitalt, på plattformar som byggts för något annat, för att hålla kvar uppmärksamhet och sälja den, och där spelreglerna skrivs av ägaren. När den ägaren har en egen politisk agenda följer plattformen med. Språkmodellerna förstärker detta genom att förklara världen för var och en på ett sätt ingen annan ser. Ska vi kunna vara oense om hur skön stolen är att sitta på måste vi först vara överens om att det är en stol. Det är den överenskommelsen som nu bryts sönder, bit för bit.
Radion gav en gång Goebbels ett propagandaverktyg; svaret blev public service, ett institutionellt svar på en teknik som förändrade samhället. Vilket är vår tids motsvarande samhällsprojekt? Det kommer inte att byggas av någon som tjänar pengar på vår uppmärksamhet, av det enkla skälet att det inte lönar sig. Det kommer att behöva byggas av samhället självt, med offentliga medel, öppen kod och med språkmodeller som vi förstår och råder över. Demokratin är ett verb. Den är något vi gör om igen, i varje teknikskifte, och det här skiftet är inte undantaget.
Det för mig tillbaka till rösterna i hörlurarna. Ingen av oss pratade egentligen om teknik. Vi pratade om konkurrenskraft, om existentiell risk, om rättsstat och om det offentliga samtalet. Det är ekonomisk politik, säkerhetspolitik, rättspolitik och demokratipolitik, och det är ingen tillfällighet att AI löper genom alla fyra. Digitaliseringen har slutat vara ett politikområde och blivit en dimension av varje politikområde. Det gör frågan större, och svårare att hantera i ett land där den ännu saknar en självklar plats vid regeringsbordet. I en tid där geopolitiken är instabil, klimatet förändras och befolkningen åldras är förmågan att förstå och forma den teknik som bär allt detta ingen nischkompetens. Den är en förutsättning för att klara både delarna och helheten.
Om två veckor sitter partierna i samma studio. Sylvia ville höra hur de tänker att nyttja AI och digitaliseringen för att utveckla och förbättra statens egna maskineri, dess arbetssätt och metoder. Olle ville höra att de tar riskerna på allvar. Marie ville veta hur insynen och ansvarsutkrävandet ska utvecklas i takt med statens nya kapacitet att se och sortera människor. Min fråga handlade om vem som har makten över det demokratiska samtalet i en digital tid, och hur våra partier förhåller sig till den utvecklingen. Jag ser fram emot att lyssna vidare på Ekots lördagsintervju och dess valspecial. Det är ett fint och viktigt initiativ, och jag hoppas det bidrar till att sätta frågorna om AI och demokratin mer centralt i det politiska samtalet under den kommande mandatperioden.
Referenser
AI-kommissionen. (2024). AI-kommissionens Färdplan för Sverige. Regeringskansliet.
Eneman, M., & Ljungberg, J. (2026). Att övervaka framtiden. I A. Carlander m.fl. (Red.), Mot en tid som flytt (s. 93–106). SOM-institutet, Göteborgs universitet.
EuroHPC Joint Undertaking. (2025, 10 juli). EuroHPC JU signs procurement contract for Arrhenius supercomputer.
Europaparlamentet och rådet. (2024). Förordning (EU) 2024/1689 om harmoniserade regler för artificiell intelligens.
Europarådet. (1950). Europeiska konventionen om skydd för de mänskliga rättigheterna och de grundläggande friheterna, artikel 8.
Future of Life Institute. (2023, 22 mars). Pause giant AI experiments: An open letter.
Mistral AI. (2025, 9 september). Mistral AI raises 1.7B€ to accelerate technological progress with AI.
Regeringsformen (SFS 1974:152), 2 kap. 6 och 20–21 §§.
Spielberg, S. (Regissör). (2002). Minority Report [Film]. 20th Century Fox; DreamWorks Pictures. Baserad på Dick, P. K. (1956). The minority report. Fantastic Universe, 4(6).
Stanford Institute for Human-Centered Artificial Intelligence. (2025). The 2025 AI Index Report.
Sveriges Radio. (2026, 22 augusti). Valspecial: AI och demokratin [Radioprogram]. Ekots lördagsintervju.
The Markup. (2023, 2 oktober). Predictive policing software terrible at predicting crimes.
Lämna ett svar