Jag öppnar appen och scrollar och känner ett tlltagande motstånd. Trots att jag tillhör den där lilla skaran som valt bort allt vad Meta, X, Snap och TikTok erbjuder, kan jag inte undkomma all den AI-sörja vi alla numera tvingas att vada igenom online. Medan generativ AI på många sätt har potential att förbättra våra liv, ser vi samtidigt hur en annan, mindre välkommen sida av teknologin sprider sig över internet i hög fart. På engelska har fenomenet döpts till AI-slop, och jag tänker att AI-sörja blir ett hyfsat svenskt begrepp för företeelsen. AI-sörja är ett fenomen som redan börjat sätta djupa spår i våra digitala liv och som skapar problem på flera olika sätt. AI-sörjan är överallt. Den infiltrerar och förvrider hur vi uppfattar både verklighet och information.
Men vad är då AI-sörja egentligen och varför finns den helt plötsligt överallt?
Begreppet används för att beskriva den växande mängd av lågkvalitativt, ofta nonsensartade innehåll som genereras med hjälp av generativ AI. Det handlar inte om välgjorda AI-modeller som hjälper oss att lösa komplexa problem eller skapa nya innovationer. AI-sörjan är i stället resultatet av människor eller automatiserade digitala system som genererar innehåll på löpande band, utan större tanke på kvalitet, sanning eller sammanhang. Jag är helt säker på att du sett dem. Det är den där stereotypa bilden som inte riktigt känns riktig, eller texten som har stora bokstäver på fel ställen, börjar meningar med “detta”, har likvärdigt långa stycken, och vars sista stycke börjar med “sammanfattningsvis”. Jag har inte tidigare haft ett begrepp för AI-sörjan som fyller internet, men började ändå utveckla någon slags allergisk reaktion. Nu skulle jag säga att jag är kroniskt sjuk istället.
Ett tydligt exempel på AI-sörja är den störtflod av AI-genererade artiklar som dykt upp på internet under det senaste året. Texterna är ofta fulla av språkliga fel, vaga formuleringar och en ofta ytlig förståelse av det ämne det försöker behandla. Att läsa AI-sörja är som att vada i ord som har syntax utan mening. Språkmodellens strävan efter att skriva den mest sannolika meningen, skapar en sammanhängande syntax utan att förmå förstå den djupare meningen. Och just detta, att förstå syntax utan mening, skapar också problem. Som när meningen har förväxlats men syntaxen är korrekt. Ta till exempel händelsen när en AI-genererad researtikel föreslog Ottawa Food Bank som en turistattraktion i Kanadas huvudstad. Förslaget, som är både absurt och osmakligt, är på många sätt ett symptomatiskt exempel på AI-sörjans oönskade uttryck.
Men det är inte bara texter som utgör problemet. AI-sörjan visar sig också i form av bilder och videor, ofta lika märkliga och ologiska som de texter vi läser. Ett exempel som fått stor spridning online är bilder av Jesus, men med en kropp utformad som en kräfta eller räka. Bilder på räkjesus är bisarra, märkliga och stundtals läskiga och har blivit en internetmeme i sig självt, ett slags digitalt underhållningsfenomen. Ett annat exempel är den överväldigande mängden bilder på kända och framförallt välfotograferade som Donald Trump eller Joe Biden som kommit att återges i den ena AI-sörja efter den andra.
Även ljud har kommit att urvattnas när AI-sörjan sipprar in i våra musiktjänster, på Youtube och många andra platser. En slags vulgärstandardiserad muzak i många olika genrer, ofta skapade med tjänster som Suno och Udio.
AI-sörjans sannolikhetssökande standardisering smetar ut sig över internet med hög fart, och ersätter gradvis annat innehåll. Det finns i varje vrå av internet och syns tydligt om man bildgooglar. En sökning på bilder på “baby peacock” ger naturliga bilder, om filtret ställs in på att bara söka före 2022. Har man inte ett tidsfilter, ja då fylls resultatet på en gång av AI-sörja.
Sörjan har blivit en del av den digitala vardagen. På plattformar som Facebook och TikTok har AI-genererat innehåll blivit så vanligt att vi knappt märker det längre. Vi matas numera hela tiden med märkliga bilder och meningslösa texter som skapats för att dra till sig klick och generera intäkter, snarare än att förmedla något av värde. Den uppmärksamhetsekonomiska affärslogiken skapar incitament för att billigare, snabbare och enklare skapa det vi kommit att prata om som “content”. Innehållet som går att kapitalisera på. Ai-sörjan växer som en cancer på internet, och gör informationslandskapet sjukt. Och det är detta som är det egentliga problemet. Det är inte den enskilda gulliga AI-genererade katten som är problemet. Det är att samhällets information vattnas ur, och vår möjlighet att finna som undergrävs. AI-sörjan handlar inte bara om underhållning eller förvirring, den undergräver vår förmåga att hitta, förstå och värdera det som är verkligt och meningsfullt. När våra flöden fylls av nonsens förlorar vi till slut förmågan att skilja det substantiella från det triviala. Vår informationsmiljö, och därigenom vårt kunskapssamhälle, vittrar sönder.
Men problemen med AI-sörja slutar inte här. Det finns ytterligare en subtil och minst lika allvarlig effekt. Risken för en förtroendekris. För vad riskerar att hända när människor börjar ifrågasätta vad som är verkligt och vad som är fejk eller när vi inte längre kan lita på vad vi ser eller läser? Utan en gemensam bild av världen som omger oss, går det inte att vara överens om fakta, såa tt vi med olika åsikter kan debattera. Saknar vi gemensam verklighet, hotas våra demokratiska samtal och vår förmåga att fatta informerade beslut. Vi ser detta redan idag, inte minst den politiska debatten och i opinionsbildningen. Under det senaste året har vi sett hur AI-genererade bilder och videor använts för att sprida falska nyheter och manipulera opinioner. I USA syns AI-sörja i samband med allt från naturkatastrofer till politiken. Ett särskilt tydligt exempel i närtid var den bild som cirkulerade , där en liten flicka syns sitta i en båt med en hund, medan bakgrunden utgörs av ett översvämmat landskap. Bilden var rörande och delades flitigt på sociala medier, särskilt av politiska grupper som använde den för att kritisera regeringen för dess påstådda ineffektiva katastrofhantering. Problemet? Bilden var helt och hållet genererad av AI och hade ingen verklighetsgrund överhuvudtaget.
Denna typ av AI-sörja är inte bara irriterande – den är farlig. När vi formar våra åsikter och beslut på fabricerade verkligheter, undermineras inte bara vår förmåga att förstå världen, utan också vår förmåga att agera ansvarsfullt som medborgare.
Så vad kan vi göra för att motverka detta? Ett bland många steg är att utkräva ansvar från de plattformar och företag som tillåter och ibland till och med uppmuntrar spridningen av AI-sörja. När Google introducerar AI-genererade svar i sina sökresultat, eller när Facebook, X eller TikTok låter AI-innehåll spridas på sina plattformar för att maximera engagemang, behöver vi som användare stå på oss och kräva bättre standarder. Företag har ett ansvar att säkerställa att det innehåll som sprids är både korrekt och av god kvalitet. Men ansvaret ligger inte bara hos teknikföretagen – vi behöver överväga andra sätt att på systemnivå motverka det som nu syns. Liknande problem, så som spam i eposten, har våra epostleverantörer över tid kommit att bli skickliga på att hantera. MIn förhoppning är att förmåga utveckas också om AI-sörja.
Vi alla behöver också utveckla vår medie- och informationskunnighet. När du stöter på en märklig bild eller en nonsensartikel, fråga dig själv: vem har skapat detta? Är det en människa eller en maskin? Och vad är syftet med att jag ska se det här? Vad är syftet med att jag ska känna som jag gör? Många gånger, särskilt på sociala medier, handlar AI-sörjan bara om att fånga din uppmärksamhet, hålla dig kvar på sidan och locka dig till att klicka på fler länkar. Genom att vara medveten om detta kan vi börja navigera det digitala landskapet med större precision och medvetenhet.
AI-sörjan är ett symptom på ett större problem – en teknisk utveckling som går snabbare än vår förmåga att anpassa oss till den. Men det är också en påminnelse om att vi måste vara vaksamma och inte bara blint acceptera allt som serveras oss i våra digitala tjänster. Vi måste vara kritiska, inte bara till vad vi ser, utan också till hur teknologin formar våra tankar, våra uppfattningar och, i förlängningen, vår verklighet. AI har enorm potential att förbättra våra liv, men om vi låter den skapa och sprida sörja riskerar vi att drunkna i en flod av meningslöshet – en flod som inte bara fördunklar vår syn på världen, utan också hotar vår förmåga att förstå den.
Läs mer:
Plot twist: hela inlägget skrivet av Perplexity.
@blog Ser också en variant av ”AI-sörja” komma i form av generativ AI som tränats på AI genererat material. Detta risker att resultera i en artificiell intellektuell inavel vars output kan bli mycket bisarr.