Genrebild som illustrerar desinformation i sociala medier
Foto: Karolina Grabowska/Kaboompics.


När falska uppgifter paketeras på ett trovärdigt sätt är det lätt att tro att de är fakta. I sociala medier avlöser desinformationskampanjerna varandra, och de kan innebära ett hot mot demokratin.

I ett treårigt EU-projekt har nio parter från sju länder tagit upp kampen, under ledning av eGovlab som är ett excellenscentrum inom e-förvaltning. Centrumet är kopplat till Institutionen för data- och systemvetenskap (DSV) på Stockholms universitet.
 

Porträttbild på Mattias Svahn, DSV vid Stockholms universitet
Mattias Svahn. Foto: Juliana Wiklund.

Mattias Svahn är forskningschef på eGovlab och ansvarig för att koordinera hela projektet.

– Vi har tagit fram två antidesinformationsverktyg som kan användas i sociala medier. Idén är att kombinera mänskligt arbete och maskininlärning för att identifiera falsk information, säger Mattias Svahn.

Hybridlösningen är en förutsättning, förklarar han. Den artificiella intelligensen behövs för att hantera de enorma mängderna data, men den är inte smart nog att avgöra alla nyanser i vad som är sanning eller lögn. För att bedöma det behövs mänsklig intelligens.

Prototyp med hög precision

Projektet Co-inform har löpt från april 2018 till juli 2021, med Stockholms universitet och eGovlab som svensk representant och projektägare mot EU-kommissionen. Övriga parter är europeiska universitet, forskningsinstitut, företag och faktagranskare.

– Co-inform är en väl utvecklad prototyp som har närmare 75 procents precision i laboratoriemiljö. Vi har utvecklat helt nya algoritmer och gjort viktiga forskningsframsteg. Innan projektet drog igång visste vi inte om det var möjligt att bygga en hybridmodell där mänskliga bedömningar samarbetar med maskininlärning för att granska sociala medier, konstaterar Mattias Svahn.

Samskapande och transparens har varit ledorden i arbetet. För att ta fram verklighetsnära och användbara verktyg har journalister, beslutsfattare och andra medborgare involverats i utvecklingen. En rad workshops har arrangerats, bland annat i Sverige, Österrike och Grekland. De handlade om desinformation i samband med flyktingströmmarna till Europa 2015. När coronapandemin slog till genomförde man ytterligare workshops, kopplade till den desinformation som florerade.

Verktygen visas på konferens

Nu kulminerar projektet i två konferensdagar, 29–30 september 2021, som genomförs digitalt och är öppna för allmänheten. Då kommer Co-inform att demonstreras och bredare frågor som rör desinformation i samhället att diskuteras. Hur ska vi navigera i en delvis ny, digital tillvaro?

– Vi kommer att visa verktygens olika delar och berätta hur samhället kan dra nytta av dem. En viktig målgrupp är förstås beslutsfattare inom offentlig sektor.

– En av funktionerna är en plug-in till Twitter som man installerar i sin webbläsare. Den visar vad som är känd desinformation och vad som är gränsfall. Bedömningen görs av AI i samarbete med mänskliga faktagranskare världen över. Som enskild Twitteranvändare kan du också bidra med input, som granskas av det mänskliga teamet. Den loopen ökar systemets precision och är relativt unik, säger Mattias Svahn.

Funktionen bygger på så kallad nudging. Om du vill sprida en post som identifierats som desinformation skickar systemet en kontrollfråga: ”Vill du verkligen retweeta detta?” Systemet förbjuder dig inte att göra det, men ger dig möjlighet att tänka efter en extra gång.

– Systemet visar också hur bedömningen är gjord – det gör att trovärdigheten ökar.

Exponerar trollens aktiviteter

Genrebild som visar antidesinformationsverktyget Co-informs gränssnitt
The Co-inform dashboard shows the flows of (mis)information.

Genom att aggregera information från Twitter kan Co-inform också fungera som en slags väderrapport för desinformation, förklarar Svahn. Funktionen är främst till för journalister och beslutsfattare och visar inom vilka ämnen desinformationen ökar eller minskar.

– Verktyget ger utslag för trollfabrikernas ökade aktivitet och signalerar var det är på väg att blåsa upp till storm. Det är värdefullt att veta när myndigheter ska gå ut med information eller viktiga beslut ska fattas.

Co-inform är en teknologiskt öppen plattform som hugade utvecklare och entreprenörer nu kan arbeta vidare med.

– Forskningsaspekten är över. Materialet ligger publicerat som öppen källkod i Github, en plattform där mjukvaruutvecklare och företag kan ta det vidare, säger Mattias Svahn.

Kontakta svahn@dsv.su.se

 

Mer om forskningen

Co-inform demonstreras under 55th ICA Conference, 29–30 september 2021. Konferensen är digital, kostnadsfri och öppen för allmänheten. När du har anmält dig skickas en Zoomlänk ut

Co-inform är ett EU-finansierat projekt inom Horizon 2020 som genomfördes 2018–2021

I projektet deltog 9 parter från 7 länder:
eGovlab vid Stockholms universitet, Sverige
Cyprus University of Technology, Cypern
Open University, Storbritannien
University of Stuttgart, Tyskland
FactCheckNI, Storbritannien
Expert System Iberia, Spanien
International Hellenic University, Grekland
International Institute för Applied Systems Analysis, Österrike
Scytl, Spanien