X - plattformen som själv är förövare - Carl Heath

Först kom bikinibilderna. Elon Musks AI-verktyg Grok klädde av Sveriges vice statsminister Ebba Busch digitalt, och miljontals såg bilderna. X svarade med att flytta möjligheten att skapa bilder bakom en betalvägg. Åtta dollar i månaden. Problem löst, tycktes budskapet från plattformen X vara. Men problemet är inte löst. Det är värre. Bakom betalväggen kan AI:n Grok nu generera nazistiska symboler kombinerade med sexualiserat våld. Nakenbilder av kända personer i grovt pornografiska sammanhang. Sexuellt våld på beställning, producerat av plattformen själv. Och Elon Musk tjänar pengar på övergreppen.

I förra veckan skrev jag om hur Musk kan påverka det svenska valet. Jag hade då inte en tanke på att jag igen skulle återvända till ämnet för att skriva om något än värre än den veckans problematiska bilder.

Det började med bikinibilderna. I slutet av december upptäckte X-användare att de kunde tagga plattformens AI-verktyg Grok och be den redigera fotografier. ”Sätt henne i bikini” var en vanlig begäran, och Grok levererade. Tusentals AI-genererade bilder spreds, av kvinnor som aldrig gett sitt samtycke till att avklädas digitalt. Bland dem Sveriges vice statsminister Ebba Busch, vars manipulerade bilder nådde miljontals användare. Hon kommenterade det i en video. ”Jag blev ofrivilligt avklädd… som kvinna är det jag som bestämmer när, var och inför vem jag visar mig i bikini”

Statsminister Ulf Kristersson beskrev det som ”beskrev det som osmakligt, oacceptabelt och kränkande ”. Storbritanniens premiärminister Keir Starmer var ännu mer direkt. ”Om X inte kan kontrollera Grok, kommer vi göra det. Och vi kommer göra det snabbt, för om du tjänar pengar på skada och övergrepp förlorar du rätten att reglera dig själv.” EU-kommissionen beordrade X att bevara alla Grok-relaterade dokument fram till slutet av 2026, som del av en pågående utredning. Indonesien och Malaysia blockerade tjänsten helt.

X reagerade. Men inte genom att stänga av funktionen eller bygga in säkerhetsmekanismer. Istället flyttade man bildgenerering bakom en betalvägg. Åtta dollar i månaden räcker nu för att få tillgång till det verktyg som producerar detta material. EU:s talesperson i digitala frågor Thomas Regnier avfärdade lösningen. ”Detta förändrar inte vår grundläggande invändning. Betald prenumeration eller inte, vi vill inte se sådana bilder. Så enkelt är det.”

Idag publicerade X ett nytt uttalande. De säger sig ha implementerat tekniska åtgärder för att förhindra att Grok redigerar bilder av verkliga personer i avslöjande kläder. Problemen skulle vara lösta. När vi testar igen, fungerar dock allt precis som förut.

För vad som hänt den senaste veckan är värre än vad som hittills framkommit. Tillsammans med kollegor i RISE Center for Security Design and Innovation (CSDI) och med samarbetspartners har vi kunnat se vad plattformen faktiskt möjliggör för betalande användare. Det handlar inte längre om bikinibilder. Det handlar om helt nakna bilder av kända personer i grovt pornografiska sammanhang. Det handlar om bilder där nazistiska symboler kombineras med sexualiserat våld mot kvinnor. Om vapen och övergrepp i samma bild. Om material som tidigare bara funnits på de mörkaste hörnen av internet, nu genererat på begäran av plattformens egen AI, tillgängligt för alla som betalar för en X-prenumeration.

Det här är inte en fråga om att användare missbrukar ett neutralt verktyg. Det är inte som om någon hackat sig in och hittat en sårbarhet. Grok är designad av xAI, ägs av X, och publicerar direkt på plattformen via sitt eget konto. När Grok genererar en bild är det plattformen själv som skapar och publicerar den. Detta är juridiskt distinkt från tidigare ”nudify”-appar som opererat i internets skuggor. De var fristående tjänster där användare laddade upp och laddade ner. Här är produktionen och distributionen samma händelse, utförd av plattformen, på plattformen, inför hundratals miljoner användare.

Groks säkerhetsriktlinjer, publicerade av xAI på GitHub, instruerar modellen att ”anta goda avsikter” hos användaren och undvika ”worst-case assumptions”. Användare ska behandlas som vuxna och inte ”moraliseras eller föreläsas om de frågar något kantigt”. I samma dokument står det att det inte finns ”några begränsningar” för fiktivt sexuellt innehåll med mörka eller våldsamma teman. EU-kommissionens talesperson Thomas Regnier var tydlig i sin bedömning. ”Det här är inte kryddigt. Det här är olagligt. Det här är motbjudande.”

När plattformen får frågor om europeisk lagstiftning svarar den med automatiska meddelanden. ”Legacy Media Lies”. Lögner från gammelmedia. Det är deras officiella kommunikationsstrategi mot EU-kommissionen.

I ledarartiklar och debattinlägg har svenska röster börjat höjas. Borås Tidning noterade att Grok genererar 6 700 avklädda bilder i timmen och menade att politiker, journalister och opinionsbildare bör överväga sin närvaro på plattformen. Isobel Hadley-Kamptz ställde i Dagens Nyheter den fråga som borde vara omöjlig att ignorera. ”Varför hänger svenska politiker på en sajt som producerar barnporr på beställning?”. Nu kan vi lägga sexualiserat våld på beställning, på listan.

Nu måste den frågan ställas igen, med ännu större emfas. Det som pågår är en systematisk produktion av övergreppsmaterial, faciliterad av plattformens egen AI, tillgänglig för alla med ett kreditkort, i en skala som inte tidigare setts.

Sverige går in i ett valår. Samtalet om politik, om framtid, om vilket samhälle vi vill ha, kommer till stor del att föras på digitala plattformar. Frågan är vilka plattformar det ska vara. Och om den svenska politiken och journalistkåren kan fortsätta låtsas som om det fortfarande handlar om avvägningar mellan räckvidd och principer. När plattformen själv producerar sexualiserat våld har jag svårt att se hur det kan finnas några avvägningar kvar.

X en plattform som normaliserar övergrepp och tjänar pengar på det. Som svarar på kritik med anklagelser om censur. Som systematiskt monterar ner sin förmåga att förhindra skada.

Vad som finns kvar av de principer vi säger oss dela, om mänsklig värdighet, om kroppslig integritet, om kvinnors och barns rätt att inte bli sexualiserade utan samtycke? Hur kan den svenska opinionsbildningen fortsätta legitimera en plattform som blivit något betydligt värre än de skuggiga appar vi tidigare försökt förbjuda?

Det tar tid för juridiken att göra sitt. Skadan sker här och nu. Jag önskar mig ett politiskt handslag. En överenskommelse om att lämna X för att stärka demokratin och för att stå upp för alla de som plattformen utsätter för skada. Hur svårt kan det vara?