Internationella organisationer klassificerar desinformation som ett av de största hoten mot demokratin i mer än ett decennium nu. Digital teknik förnyar obevekligt och omformar i grunden moderna livsstilar, medborgar- och företagsmiljöer. AI skapar en ny störning i hur vi får tillgång till kunskap och skapar, sprider och förstår information genom att sudda ut gränserna mellan verklig information och manipulerad information.
Den digitala revolutionens inverkan på samhället
Den digitala revolutionen når sin guldålder, i kontinuitet med tidigare omvandlingar som inträffade inom mindre än ett decennium. År 2024 beräknas antalet mobiltelefonägare i världen uppgå till 7,21 miljarder. Omkring 67% av världens befolkning har för närvarande tillgång till Internet – det var bara 1% 1995. Förändringar har anlänt snabbt som en tsunami, utan möjlighet för människor att gå bakåt eller tänka över dem, varken för alla berörda parter att anpassa kompetens, utbildningar eller att omvandla många ekonomiska sektorer. Dessa trender skapade en otrolig optimism bland de europeiska beslutsfattarna (digitalisera EU, den inre digitala marknaden, snabbföretagare osv.). Detta upprepades dock av latent pessimism bland situationens förlorare som inte kunde komma ikapp (traditionella investerare, äldre, uppsagda anställda i automatiserade sektorer och personer med låg IT-kompetens).
Fördelarna för konsumenter och företagsinvesterare med den digitala omvälvningen är kolossala: direkt tillgång till information, kunskap och data från hela världen möjliggörs. Lätt att smälta kunskap är tillgänglig nästan var som helst via sociala medier, sökmotorer på internet, selektiva applikationer men också online-utbildning. Anslutningen är gränslös: Delningsplattformar, inklusive sociala medier, har möjliggjort en direkt koppling mellan människor, men också mellan potentiella företagare och konsumenter. Logistik underlättas avsevärt av möjligheten att beställa varor, flytta snabbare eller billigare, använda GPS, geolokalisering och omedelbara anslutningar. Sist men inte minst erbjuder digital teknik med egenmakt för AI en enorm potential att hitta forskningslösningar för hälso-, klimat- och infrastrukturutveckling, även för mindre avancerade länder att anta dem.
Detta leder oss till nackdelarna och stötestenarna, om inte hoten från denna digitala AI-revolution. De system som utvecklats av AI ”ökar möjligheterna att skapa realistiskt AI-genererat falskt innehåll, men också (…) underlättar spridningen av desinformation till en (mikro)målgrupp och i stor skala av illasinnade intressenter” (Bontridder och Poullet 2021). Farhågor har väckts om upphovsrätt, partiska algoritmer, affärsmodeller som använder massiva data för att lura individer och ersättning av arbetstillfällen/sysselsättning med teknik inom många AI-sektorer. AI-teknik kommer också att underlätta användningen av video, text och bild, generera innehåll baserat på falsk information och skapa svårigheter för enskilda personer och för medierna att lita på informationen (Newman 2024).
EU:s svar: regleringar, cybersäkerhet och faktagranskning
I motsats till det tomrum som skapats av bristen på bestämmelser i andra demokratiska länder har Europeiska unionen (EU), följt av EU:s medlemsstater, aktivt utvecklat politik och initiativ för att bekämpa desinformation, särskilt när det gäller att skydda demokratiska processer, skydda medborgarna och främja mediekompetens. Dessa strategier och initiativ återspeglar EU:s åtagande att ta itu med den mångfasetterade utmaningen med desinformation och skydda demokratiska värden i den digitala tidsåldern. Dessa initiativ stärks genom godkännandet av förordningen om desinformation i de flesta av EU:s medlemsstater och genom ett närmare samarbete mellan EU:s medlemsstater inom it-säkerhet och gemensamt samarbete för att motverka desinformation.
Slutligen ser vi pågående förhandlingar mellan EU-institutionerna och de viktigaste internetplattformarna för att hitta det bästa sättet att bekämpa desinformation. Frågan om reglering kontra självreglering är ännu inte över och kommer att behöva utvecklas ytterligare under de kommande åren.
Men detta återspeglar bara en del av insatserna för att skydda medborgarna mot desinformation. EU och medlemsländerna har också satsat på att skapa cybersäkerhetsbyråer för att avslöja massiva desinformationskampanjer och faktagranskare för medierna (t.ex. EDMO, det europeiska observatoriet för digitala medier). Trots denna arsenal av verktyg är desinformation fortfarande ett verkligt hot.
Det finns otydliga gränser mellan privata aktörers och nationella säkerhetsmyndigheters ”avslöjande” av desinformation. Medborgarna uppmuntras att titta på videor om hur man känner igen felaktig information och använder sig av faktagranskare, men manipulativa desinformationskampanjer avslöjas fortfarande ganska mycket av nationella säkerhetsmyndigheter och medier. Frankrikes Viginum-byrå inrättades till exempel 2021 för att upptäcka digital inblandning från utländska enheter. Byrån avslöjade i februari 2024 mer än 193 webbplatser som sprider desinformation riktad via sociala medier och meddelandeappar. Det verkar som om det inte alltid är lätt att karakterisera kampanjens ursprung, inte ens för säkerhetsorgan, särskilt när desinformationen eller desinformationen måste spåras tillbaka till utländska regeringar, illvilliga aktörer eller enkla individer som agerar som störande.
Utöver detta kombinerar hybridkrigföring, där desinformation bara är ett verktyg, cyberattacker med massiv desinformation, vilket skapar risker för illvilligt inflytande mot medierna, regeringarna, den offentliga infrastrukturen, men även det civila samhället och den akademiska sektorn. Och det är här det verkliga hotet ligger.
Framtida hot och utmaningar
Hotet och faran med desinformation är att den utnyttjar polarisering, känslor och stereotyper. Elementen för att en ”falsk nyhet” ska bli viral beror på hur den interagerar med ett antal splittrande frågor som tilltalar nyfikenhet eller specifika känslor i ett samhälle. Personlig inriktning, baserad på personliga eller psykologiska egenskaper, kan kombineras med Natural Language Generation-verktyg för att skapa innehåll för unika användare, vilket kan leda till aktiv manipulation.
Dessutom kan den aggressiva automatiska spridningen av desinformation strax innan en politisk kampanj inleds påverka valresultatet negativt (Wade 2018). ”Att förlita sig på insamling och manipulering av användaruppgifter för att förutse och påverka väljarnas politiska åsikter och valresultat kan användarprofilering och mikroinriktning utgöra ett hot mot demokratin, den offentliga debatten och väljarnas val” (Kertysova 2018, Mont’Alverne m.fl. 2024). Denna punkt är oerhört viktig eftersom detta år 2024 kommer att vara ett valår för hälften av världens befolkning, och inblandningen är för närvarande misstänkt men inte synlig, eftersom bevis är svåra att hitta.
Den digitala revolutionen, inklusive AI, formar en framtid fylld av osäkerheter som kräver nya kompetenser som e-förvaltning och IT-färdigheter. Samtidigt som tekniken öppnar nya möjligheter och kan leda till positiva omvandlingar inom olika sektorer, såsom hälsa, ekonomi eller det civila samhällets egenmakt, bidrar den också till urholkningen av auktoritet och värden, som ersätts av oändlig tillgång till information och konnektivitet, inbegripet falskt och manipulerat innehåll.
Gränser kan också vara nödvändiga för att förhindra algoritmer eller robotar som dikterar vår livsstil och skapar utrymme för manipulering av val. En ”stor brandvägg” bör skydda Europa mot cyberstörningar och manipulerat innehåll. Att upprätthålla stabilitet och förtroende för institutioner, demokratiska system, medier och ekonomiska strukturer kommer att bli en utmaning i detta snabbt föränderliga landskap. Cybersäkerhet och kampen mot desinformation bör vara bland de högsta prioriteringarna.
Referenser
- Noémi Bontridder och Yves Poullet Y, 2021, The role of artificial intelligence in disinformation. Data & - policy, 3: e32. doi:10.1017/dap.2021.20
- Katarina Kertysova, 2018, Artificiell intelligens och desinformation Hur AI förändrar hur desinformation produceras, sprids och kan motverkas, säkerhet och mänskliga rättigheter 29 (2018) 55-81
- Camila Mont’Alverne, Sumitra Badrinathan, Amy, Ross Arguedas, Benjamin Toff, Richard Fletcher och Rasmus Kleis Nielsen, 2024 The Trust Gap: Hur och varför nyheter på digitala plattformar ses mer skeptiskt mot nyheter i allmänhet, Reuters Institute https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2022-09/MontAlverne_et_al_The_Trust_Gap.pdf
- Nic Newman, 2024, Digital News Project: Journalistik, medier och teknik: Trends and Prediction”, Oxford University, Reuters Institute, https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2024-01/Newman%20-%20Trends%20and%20Predictions%202024%20FINAL.pdf
- Michael Wade, ”Psykografi: The Behavioural Analysis That Helped Cambridge Analytica Know Voters’ Minds, The Conversation, 21 mars 2018, https://theconversation .com/psychographics-the-behavioural-analys-that-helped-cambridge-analytica-know -voters-minds-93675 (inte översatt till svenska).
Ladda ner hela artikeln i pdf här.
Om PASCALINE GABORIT
Pascaline Gaborit är forskare, konsult, expert och tränare. Hon har en doktorsexamen i statsvetenskap i ämnet ”Tillit och konflikter”. Hon är grundare av tankesmedjan/NGO Pilot4DEV och arbetar som konsult med utvärdering/kvalitetsbedömning av olika internationella program och projekt.
Hon publicerade böcker och artiklar om internationellt samarbete, resiliens, kultur, utveckling, jämställdhet och klimatanpassning. Hon var chef för Pilot Cities internationella nätverk i mer än 12 år och arbetade som rådgivare för andra tankesmedjor.
Hon arbetar för närvarande med projekt som rör forskning och åtgärder för resiliens, hållbarhet, klimatanpassning, dialog, falska nyheter, artificiell intelligens, mänskliga rättigheter och demokrati.
