Den 5 september stod Pilot4DEV värd för ett flerpartsmöte på pressklubben i Bryssel, där ledande experter, forskare och praktiker samlades för att utbyta kunskap, diskutera strategier för att bekämpa falska nyheter och undersöka hur AI-verktyg kan utformas för att effektivt ta itu med dessa utmaningar.
Vid evenemanget, AI4Debunk-projektet tillsammans med de första resultaten av vår pågående online-undersökning (🇬🇧engelska, 🇫🇷franska, 🇩🇪tyska, 🇳🇴norska, 🇬🇷grekiska, 🇱🇻lettiska, 🇺🇦ukrainska) presenterades. Detta lade grunden för en livlig rundabordsdiskussion, vars viktigaste höjdpunkter beskrivs nedan.
1. Utformning av projektverktyg
Diskussionen betonade inte bara de samhälleliga aspekterna av desinformation utan undersökte också de individuella psykologiska faktorer som gör någon sårbar för manipulerad information online. Det föreslogs att dessa psykologiska faktorer skulle beaktas vid utformningen av projektets AI-verktyg som syftar till att bekämpa desinformation.
Deltagarna uttryckte intresse för verktygens utformning och ifrågasatte valet av de fyra specifika gränssnitten – webbplugin, Disinfopedia, App och AR/VR – och hur de överensstämmer med projektets mål. Farhågor väcktes om att se till att verktygen är tillgängliga för allmänheten, särskilt för dem som kan dra störst nytta av dem, såsom äldre eller mindre tekniskt kunniga personer. Även om det fanns en viss skepsis om huruvida dessa grupper lätt skulle anta appar eller AR / VR-system, var den allmänna konsensusen att verktygen, särskilt appen, måste vara användarvänliga.
Diskussionen inriktades främst på att bygga upp förtroende som en trovärdig källa, vilket deltagarna ansåg vara avgörande för att uppmuntra en utbredd användning av verktygen. Flera berörda parter erkände utmaningen att skapa förtroende, även för erkända faktagranskare. Särskilt utsatta personer sågs som mindre benägna att lita på AI-drivna faktagranskningsverktyg, medan mer informerade användare kan vara villiga att experimentera med dem.
2. Desinformation vs. felaktig information
Deltagarna frågade också om våra definitioner av ”desinformation” och ”misinformation”. Detta ledde till en bredare diskussion om begreppet falska nyheter och dess olika nyanser: Det finns falsk information på ett spektrum som sträcker sig från oavsiktlig felaktig information till avsiktlig desinformation.
Det sätt på vilket information inramas, särskilt genom användning av emotionellt språk, sågs som en faktor som påverkar hur läsarna tolkar innehåll. Vissa noterade att det redan finns AI-system som kan bedöma den känslomässiga tonen i artiklar, men försiktighet uttrycktes om risken för att övergeneralisera olika typer av falsk information.
Med tanke på komplexiteten i att fastställa sanningen fortsätter faktagranskare att förlita sig på mänsklig analys – ett tillvägagångssätt som också är centralt för vår Disinfopedia. Det diskuterades om etablerade medier bör meddelas när de publicerar felaktig information, och vissa förespråkade ett ökat samarbete mellan journalister och faktagranskare för att säkerställa att nyheterna är korrekta. Transparens från journalister när de gör misstag sågs som nyckeln till att upprätthålla allmänhetens förtroende.
3. Skadliga aktörer och utländsk inblandning
Diskussionen gick sedan över till illvilliga aktörers roll när det gäller att sprida desinformation. Att identifiera dessa aktörer och spåra ursprunget till sådana hot är ofta otroligt svårt. DisinfoLab-teamet delade insikter från sin omfattande forskning om detta ämne och pekade på sina publicerade resultat som finns tillgängliga i denna rapport.
Deltagarna var nyfikna på våra egna erfarenheter av att spåra skadliga aktörer. Utifrån vår fallstudie lyfte vi fram hur rysk desinformationstaktik har visat sig vara särskilt anpassningsbar. Till exempel fokuserar deras strategi på plattformar som TikTok på att locka yngre, liberala publiker med engagerande innehåll, gradvis införa propaganda efter att först bygga förtroende. Denna strategi för att integrera desinformation i narrativ som resonerar med specifik demografi utgör ett växande hot, särskilt på plattformar med svagare desinformationskontroller, som TikTok, jämfört med andra plattformar, såsom Meta eller X (tidigare Twitter).
4. AI och kritiskt tänkande
En annan viktig punkt som togs upp var behovet av att undvika att blint förlita sig på AI när man motverkar falska nyheter och istället uppmuntra nyfikenhet och förståelse för hur AI-system fungerar.
Vissa deltagare efterlyste initiativ för att ”avmystifiera AI” och stora språkmodeller, med argumentet att människor ofta engagerar sig passivt med AI utan att förstå dess underliggande processer. De föreslog att främjande av nyfikenhet om maskininlärning från en tidig ålder skulle kunna bidra till att göra dessa verktyg mer tillgängliga för allmänheten.
Detta är faktiskt en del av logiken bakom införandet av en serietidning som ett utbildningsverktyg i vårt projekt, vilket utlöste en diskussion om huruvida utbildning av människor om AI:s roll i kampen mot desinformation skulle kunna leda till ett bredare antagande av dessa verktyg utöver bara yrkesverksamma.
Insikterna från denna session kommer att bidra till att forma våra nästa steg. I takt med att AI4Debunk-projektet fortskrider ser vi fram emot att fortsätta detta samarbete med intressenter och förfina våra verktyg.
Vi är fast beslutna att främja ytterligare dialog och innovation i kampen mot desinformation och arbetar tillsammans för att bygga ett mer informerat och motståndskraftigt samhälle.
