Nedan är en inspelad föreläsning jag gav för Kungliga Biblioteket den 5 december 2024, på temat demokratin och biblioteken i en tid av AI. Föreläsningen ges i text nedan, men upplevs bättre i video, med tillhörande bilder.
Jag tänkte prata lite på temat demokratin i en digital tid. Men för att göra det, tänkte jag backa bandet en smula. Vi lever i en demokrati satt i ständig förändring. Under samhällets famlande första steg utvecklade vi grunderna till lagstiftning, där gränser i vår geografi kännetecknar vilka regler som gäller. På ena sidan en gräns finns en lag, och på andra sidan gränsen en annan. Här spelar geografin och det fysiska rummet stor roll. Under den tidiga demokratin var informationshastigheten i samhället den av en häst. Information gick inte att skicka snabbare än en häst kunde ta sig från en punkt till en annan. Under denna tid formades demokratin lokalt, genom byalag, socknar och kommuner.
Men över tid kom teknikutvecklingen att förändra förutsättningarna för samhället och demokratin. Tåget och telegrafen var först med att öka informationshastigheten. Under 1900-talet ökar hastigheten ännu mera, med radions och sedan TVns inträde. De här förändringarna påverkade mer än bara informationshastigheten. Teknikutvecklingen påverkade och fortsätter att påverka, frågorna om makt, om vems ord som kan och får höras. Spolar vi fram bandet ännu mera, så ser vi framväxten av ett än mer kraftfullt informationssamhälle, först med datorns införande under 1970- och 80-talen, och därefter med internet, mobiltelefoner, moln och dagens AI-revolution, som återigen ändrar på spelplanen för information i samhället. När förutsättningarna förändras för vem som kan skapa, distribuera och dela information, så påverkas samhället och även vår demokrati.
Den digitala revolutionen har fört med sig en radikal förändring av hur vi kommunicerar, hur vi sprider och samlar information, och hur organiserar oss. På bara ett par decennier har vi gått från att förlita oss på medier som tidningar, radio och TV, till en verklighet där digitala plattformar dominerar informationsflödet. Plattformar som Facebook, YouTube, Twitter, Instagram, TikTok, X och Threads har på olika sätt kommit att bli arenor för samtal i samhället. Här formas opinioner, här byggs gemenskaper och här växer rörelser som kan förändra samhällen. Det finns mycket gott i att förbättra förutsättningarna för alla att delta i opinionsbildningen och våra demokratiska samtal. Men det förutsätter att det finns en funktionell digital demokratisk infrastruktur på vilken dessa samtal kan äga rum. Tyvärr fungerar inte merparten av plattformarna som de öppna torg vi kanske en gång föreställde oss och även önskade. De är inte styrda av demokratiska ideal, utan av algoritmer som i de allra flesta fall är designade för att maximera engagemang och i förlängningen intäkter. Plattformarnas algoritmer prioriterar det som väcker känslor, det som polariserar, det som får oss att reagera. Och konsekvensen är att de samtal som når oss ofta är de mest extrema, de mest sensationella och inte sällan ibland de minst sanningsenliga.
I plattformarnas tid har vi kommit att förändra hur vi delar, och hur vi lagrar information i samhället. Förändringen skapar flera problem för vår demokrati och för samhället. När viktig samhällsinformation delas på privata plattformar som drivs av vinstdrivande företag, utan krav på långsiktig arkivering eller allmän tillgänglighet, undermineras grundläggande demokratiska principer om transparens och offentlighet. De globala plattformarna på internet var aldrig designade för att fungera som digitala allmänningar och är inte tillgängliga för alla medborgare på lika villkor. Det finns också en problematik i att plattformarna styrs av företag vars affärsmodeller och datainsamling inte primärt syftar till att främja demokratiskt deltagande eller sätta samhällets främsta först. När politiker och myndigheter kommunicerar via dessa kanaler riskerar vissa grupper att utestängas från viktig samhällsinformation, samtidigt som historiska källor och offentliga arkiv blir alltmer fragmenterade. Samhället går miste om sina pågående offentliga samtal, och skapar en ökad risk för en tilltagande historielöshet. När samhällsviktig kommunikation sker i slutna system som kontrolleras av privata aktörer, utan garantier för långsiktig bevaring eller allmän tillgänglighet, undergrävs både dagens demokratiska processer och framtida generationers möjlighet att förstå vår tids beslutsfattande.
Idag står biblioteken inför stora, omvälvande processer, inte minst som en konsekvens av AI, som skapar både problem som möjligheter. När det kommer till möjligheter ser vi hur AI-baserade tjänster kan underlätta digitaliseringen av gamla handskrifter, transkribera ljud i arkiv och bistå i att skapa texter med bättre klarspråk, bara för att nämna några områden. Det är verkligen en teknologi som kan erbjuda biblioteken mycket. Därför blir kunskap om AI och om utveckling inom AI av största vikt för våra bibliotek, och inte minst för KB. I detta sammanhang är det viktigtt att se att makten över tekniken är central. Vi ser hur det finns en enastående stor makt i händerna på den som skapar och distribuerar generativa AI-tjänster. En tjänst som ChatGPT, Claude, Gemini eller Llama blir bara så bra som den data den tränas på, och den teknik som används. Idag är merparten av de språkmodeller vi använder i Sverige utvecklade i USA eller i Kina. De har samtliga kraftiga bias inbyggda, som försvårar användning på svenska, och i en svensk kulturell kontext.
Om jag ska ge ett exempel på komplexiteten i detta, så görs det lättast genom att försöka få ChatGPT att skapa en bild, där den i sin data inte riktigt har sannolikheten med sig. Om jag till exempel ber ChatGPT att skapa en bild på “en afrikansk kvinnlig läkare som ger vård till vita fattiga barn”, så kommer den inte klara av att göra det. Språkmodellen drivs på sannolikhet, och denna bild är uppenbarligen så osannolik att modellen inte förmår skapa den.
Härom året fick alla som använder Snapchat en egen AI-kompis i fickan, med en amerikansk värdegrund. Hur blir samtalet för flickan som överväger en abort, när hon pratar med sin amerikanska AI-kompis?
I Sverige har många skolor rullat ut AI-tjänster från OpenAI, Google eller Microsoft. På vissa sätt är det bra. Min uppfattning är att det kan finnas stora värden i att nyttja AI för lärande i skolan, på jobbet och hemma. Men beroende på vilken kunskap man har i användningen av dem, kan AI-tjänsterna antingen hjälpa en i lärandet, eller stjälpa en. Eftersom AI idag är tillgängligt för vem som helst online, så finns AI idag i princip i alla skolor i Sverige. De föreslår, hjälper, stöttar och skapar i klassrum och hemma, oavsett lärare och skolan vill det eller inte. Här har tåget redan gått. Men vilken värdegrund vilar dessa språkmodeller på? Hur förklarar och beskriver de världen för oss? Hur ska vi förhålla oss till generativ av i våra skolor, bibliotek och arkiv? Vad behöver vi lära oss, och vad behöver finnas på plats, för att ta kunna tillvara på teknikens möjligheter utan att falla offer för den?
I detta förändrade digitala landskap är kunskap avgörande. Det finns flera risker i den pågående teknikutvecklingen, och där biblioteket, bibliotekarien, och vår medie- och informationskunnighet blir alldeles avgörande.
Ett konkret exempel är hur artificiell intelligens idag används för att skapa syntetiskt innehåll. Med hjälp av AI kan man idag producera texter, bilder, ljud och video som är så övertygande att de är omöjliga att skilja från verkligheten. Ni kan till exempel fundera över om det verkligen var så att jag dansade på en scen med Taylor Swift tidigare i höst eller inte.
Vi befinner oss nu i en genuin brytningstid, där AI-skapat material kommer att uppta allt mer plats i vår informationsmiljö. Det är närmast omöjligt att undvika AI-genererat material idag. För egen del känner jag ett tilltagande motstånd i att öppna upp sociala medier och scrolla, just på grund av detta. Trots att jag tillhör den där lilla skaran som valt bort allt vad Meta, X, Snap och TikTok erbjuder, kan jag inte undkomma all den AI-sörja vi alla numera tvingas att vada igenom online. På engelska har fenomenet döpts till AI-slop, och jag tänker att AI-sörja blir ett hyfsat svenskt begrepp för företeelsen. AI-sörja är alltså ett fenomen som redan börjat sätta djupa spår i våra digitala liv och som skapar problem på flera olika sätt. AI-sörjan är överallt. Den infiltrerar och förvrider hur vi uppfattar både verklighet och information.
En allvarlig utveckling vi ser växa fram på grund av all AI-sörja, är att den information vi söker och delar förvrids. När man söker på information före AI-sörjans tid, ser den annorlunda ut än idag. Låt mig ge ett exempel. Lättast syns AI-sörjan vid bildsökningar. En bildsökning på Google på sökbegreppet Baby Peacock, där sökningen endast letar efter bilder före 31 december 2022, ser mycket annorlunda ut, än en sökning där också nyare material på internet finns med.
En annan problematik är Deepfakes, som idag används för att manipulera politiska val, sprida desinformation och skada individers rykte. AI används också för att förstärka och accelerera spridningen av desinformation. Algoritmer i våra sociala medier är designade för att maximera vår tid på plattformen. Det innebär att de lyfter fram innehåll som är optimerat för engagemang – och engagemang är ofta kopplat till starka känslor som ilska, rädsla och indignation. Vi ser hur statliga antagonistiska aktörer idag använder dessa teknologier för att manipulera opinioner, skapa splittring och underminera tilliten i våra samhällen. Den är ett vapen i kognitiv krigföring.
Så, vad leder detta till? Den digitala tekniken, och inte minst utvecklingen inom artificiell intelligens, väcker för mig tankar om tillit. Tillit är en förutsättning för demokratiska samtal. Den bidrar till att hålla ihop våra samhällen. Den är grunden för att vi ska kunna samarbeta, fatta gemensamma beslut och lösa gemensamma problem. Utan tillit kan vi inte ha en fungerande demokrati. Och det är precis det som vissa aktörer försöker undergräva. När desinformation sprids medvetet är målet inte bara att manipulera opinionen i en viss fråga. Målet är att ofta att skapa kaos, så misstro och göra det omöjligt för oss att veta vad vi ska tro på.
Ett annat perspektiv är den om inkludering. Vårt allt mer digitala samhälle har som vi vet skapat enorma möjligheter. Men dessa möjligheter är inte jämlikt fördelade. Många grupper i samhället så som äldre, socioekonomiskt utsatta, personer med funktionsvariationer, saknar tillgång till den teknik och de kunskaper som krävs för att delta i det digitala samhället. När dessa grupper lämnas utanför riskerar vi att förstärka existerande ojämlikheter och tysta röster som redan är marginaliserade. Det är en stor demokratisk utmaning, och frågor som biblioteket har kommit att stå nära under lång tid. Biblioteket är ofta dit man kommer när andra vägar inte finns. Oräkneliga är de tillfällen där människor sökt sig till biblioteket med hjälp för att navigera ett allt mer digitalt samhälle.
Så. Vad kan vi göra i dessa turbulenta tider, där digitaliseringen förändrar förutsättningarna inte bara för människan, utan också för samhället i stort och för vår demokrati? Jag ser flera behov.
För det första måste vi fortsätta att stärka medie- och informationskunnigheten i hela befolkningen. Nu står vi återigen inför en transformation med AI, samtidigt som vi är i det svåraste geopolistiska läge vi sett sedan andra världskriget, och där flera antagonistiska stater uttryckligen vill skada vårt samhälle och vår demokrati. Vi måste ge människor de verktyg de behöver för att förstå, analysera och kritiskt granska den information de möter. Bibliotek spelar en central roll i detta arbete. De är inte bara platser för böcker utan också för lärande, dialog och demokratisk delaktighet. Bibliotekariens förmåga att hantera, organisera, beskriva och förklara är en viktig tillgång. Men också bibliotekarierna behöver kunskap för att kunna dela den vidare.
För det andra behöver vi se över lagar och regler för att stärka samhällets förmåga att organisera, bevara och dela information i en digital tid där AI-utvecklingen går fort. Det ligger flera goda förslag och väntar på regeringens bord. Det vore smakfullt att ta tag i dem. Men det behövs göras än mer. Vi har allt för länge brustit i vår förmåga att skapa bättre förutsättningar för vår digitala demokratiska infrastruktur och för de demokratiska samtalen i en digital tid. Det är inte rimligt att några få kommersiella aktörer ska ha så stor makt över det offentliga samtalet. Vi behöver transparens i hur algoritmer fungerar och varför vi ser det vi ser i våra flöden. Men vi behöver också skapa nya digitala mötesplatser där samtalen vilar på demokratiska värderingar.
För det tredje behöver vi tänka på hur vi bevarar vår samtid för framtiden. Mycket av den information som skapas idag – från sociala medier till poddar – riskerar att gå förlorat, inlåst i privata digitala miljöer. Här har Kungliga Biblioteket en viktig roll att spela, inte minst i frågan om att bidra till utveckling, kunskap och förnyelse.
Vi befinner oss alltså i en brytningstid, där digitaliseringen erbjuder både möjligheter och vållar stora problem. Vår tid väcker många frågor. Om makten och inflytandet över data, över språkmodeller, om utvecklingen av det digitala informationslandskapet i en tid av AI. Om information och om kunskapsbildning. Hur ska vi navigera för att skapa ett samhälle där alla röster kan höras, där samtalet präglas av respekt och där fakta är grunden för våra beslut? Hur kan vi skapa en digital samtid som inte bara reflekterar våra demokratiska ideal utan också förstärker dem? Och vad är ditt och mitt ansvar i detta arbete?
Tack.