Internationale organisaties classificeren desinformatie al meer dan tien jaar als een van de grootste bedreigingen voor de democratie. Digitale technologieën vinden de moderne levensstijl, het leven van burgers en het ondernemingsklimaat voortdurend opnieuw uit en hervormen deze grondig. AI brengt een nieuwe verstoring in de manier waarop we toegang krijgen tot kennis en informatie creëren, verspreiden en begrijpen, door de grenzen tussen echte informatie en gemanipuleerde informatie te vervagen.
De impact van de digitale revolutie op de samenleving
De digitale revolutie bereikt haar gouden eeuw, in continuïteit met eerdere transformaties die zich binnen minder dan een decennium hebben voorgedaan. Tegen 2024 zal het aantal eigenaren van mobiele telefoons wereldwijd naar verwachting 7,21 miljard bedragen. Ongeveer 67% van de wereldbevolking heeft momenteel toegang tot internet – het was slechts 1% in 1995. Veranderingen hebben zich snel voorgedaan als een tsunami, zonder de mogelijkheid voor mensen om een stap terug te doen of erover na te denken, noch voor alle belanghebbenden om vaardigheden, onderwijscursussen aan te passen, noch om veelvoudige economische sectoren om te zetten. Deze trends leidden tot ongelooflijk optimisme bij de Europese besluitvormers (digitiseren de EU, de eengemaakte digitale markt, snelle ondernemers, enz.). Dit werd echter herhaald door latent pessimisme onder de verliezers van de situatie die hun achterstand niet konden inhalen (traditionele investeerders, ouderen, ontslagen werknemers in geautomatiseerde sectoren en mensen met lage IT-vaardigheden).
De voordelen voor consumenten en zakelijke investeerders van de digitale omwenteling zijn kolossaal: directe toegang tot wereldwijde informatie, kennis en gegevens wordt mogelijk gemaakt. Gemakkelijk te verteren kennis is bijna overal toegankelijk via sociale media, internetzoekmachines, selectieve toepassingen maar ook online onderwijs. Connectiviteit is grenzeloos: samenwerkingsplatforms, waaronder sociale media, hebben een directe link mogelijk gemaakt tussen mensen, maar ook tussen potentiële ondernemers en consumenten. Logistiek wordt aanzienlijk vergemakkelijkt door de mogelijkheid om leveringen te bestellen, sneller of goedkoper te bewegen, GPS, geolokalisatie en directe verbindingen te gebruiken. Tot slot bieden digitale technologieën met de empowerment van AI een enorm potentieel om onderzoeksoplossingen te vinden voor ontwikkelingen op het gebied van gezondheid, klimaat en infrastructuur, ook voor minder geavanceerde landen om deze toe te passen.
Dit brengt ons bij de nadelen en struikelblokken, zo niet bedreigingen van deze digitale AI-revolutie. De door AI ontwikkelde systemen bieden immers “meer mogelijkheden om realistische door AI gegenereerde nepinhoud te creëren, maar ook om de verspreiding van desinformatie onder een (micro)gericht publiek en op grote schaal door kwaadwillende belanghebbenden te vergemakkelijken” (Bontridder en Poullet 2021). Er is bezorgdheid geuit over auteursrechten, bevooroordeelde algoritmen, bedrijfsmodellen die massale gegevens gebruiken om personen te misleiden en vervanging van banen/werkgelegenheid door technologie in tal van AI-sectoren. AI-technologieën zullen ook het gebruik van video, tekst en beeld vergemakkelijken, inhoud genereren op basis van valse informatie en problemen creëren voor personen en voor de media om de informatie te vertrouwen (Newman 2024).
Reactie van de EU: regelgeving, cyberbeveiliging en factchecking
In tegenstelling tot het vacuüm dat is ontstaan door het gebrek aan regelgeving in andere democratische landen, heeft de Europese Unie (EU), gevolgd door de EU-lidstaten, actief beleid en initiatieven ontwikkeld om desinformatie aan te pakken, met name in de context van het waarborgen van democratische processen, het beschermen van burgers en het bevorderen van mediageletterdheid. Deze beleidsmaatregelen en initiatieven weerspiegelen de inzet van de EU om de veelzijdige uitdaging van desinformatie aan te pakken en de democratische waarden in het digitale tijdperk te beschermen. Deze initiatieven worden versterkt door de goedkeuring van de verordening betreffende desinformatie in de meeste EU-lidstaten, en door nauwere samenwerking tussen de EU-lidstaten op het gebied van cyberbeveiliging en gezamenlijke samenwerking om desinformatie tegen te gaan.
Tot slot zien we de lopende onderhandelingen tussen de EU-instellingen en de belangrijkste internetplatforms om de beste manier te vinden om desinformatie aan te pakken. De kwestie van regulering versus autoregulering is nog niet voorbij en zal de komende jaren extra ontwikkelingen vergen.
Maar dit weerspiegelt slechts een deel van de inspanningen om burgers tegen desinformatie te beschermen. De EU en de lidstaten hebben ook inspanningen geleverd om cyberbeveiligingsagentschappen op te richten om massale desinformatiecampagnes en factcheckers voor de media te ontkrachten (zoals EDMO, het Europees Waarnemingscentrum voor digitale media). Ondanks dit arsenaal aan instrumenten blijft desinformatie een reële bedreiging.
Er zijn vage lijnen tussen het “ontmaskeren” van desinformatie door particuliere actoren en de nationale veiligheidsdiensten. Terwijl burgers worden aangemoedigd om video’s te bekijken over het herkennen van desinformatie en om gebruik te maken van factcheckers, worden manipulatieve desinformatiecampagnes nog steeds eerder onthuld door nationale veiligheidsagentschappen en de media. Zo werd in 2021 het Franse agentschap Viginum opgericht om digitale inmenging van buitenlandse entiteiten op te sporen. Het agentschap ontdekte in februari 2024 meer dan 193 websites die desinformatie verspreidden via socialemediasites en berichtenapps. Het lijkt erop dat zelfs voor veiligheidsagentschappen de oorsprong van de campagne niet altijd gemakkelijk te karakteriseren is, met name wanneer de desinformatie of desinformatie moet worden herleid tot buitenlandse regeringen, kwaadwillende actoren of eenvoudige personen die als ontwrichters optreden.
Daarnaast combineert hybride oorlogvoering, waarvoor desinformatie slechts een instrument is, cyberaanvallen met massale desinformatie, waardoor risico’s ontstaan voor kwaadwillige invloed op de media, de regeringen, de openbare infrastructuur, maar ook het maatschappelijk middenveld en de academische sector. En dit is waar de echte dreiging ligt.
Toekomstige bedreigingen en uitdagingen
De dreiging en het gevaar van desinformatie is dat er gebruik wordt gemaakt van polarisatie, emoties en stereotypen. De elementen voor een “nepnieuws” om viraal te worden, hangen af van hun interactie met een aantal verdeeldheid zaaiende zaken die een beroep doen op nieuwsgierigheid of specifieke emoties in een samenleving. Gepersonaliseerde targeting, gebaseerd op persoonlijke of psychologische kenmerken, kan worden gecombineerd met Natural Language Generation-tools om inhoud te creëren voor unieke gebruikers, wat mogelijk leidt tot actieve manipulatie.
Bovendien kan de agressieve geautomatiseerde verspreiding van desinformatie vlak voor het begin van een politieke campagne negatieve gevolgen hebben voor de verkiezingsresultaten (Wade 2018). “Gebaseerd op het verzamelen en manipuleren van gebruikersgegevens om te anticiperen op en invloed uit te oefenen op de politieke meningen en verkiezingsresultaten van kiezers, kunnen gebruikersprofilering en microtargeting een bedreiging vormen voor de democratie, het publieke debat en de keuzes van kiezers” (Kertysova 2018, Mont’Alverne et al. 2024). Dit punt is uiterst belangrijk, aangezien dit jaar 2024 een verkiezingsjaar zal zijn voor de helft van de wereldbevolking, en de inmengingen momenteel worden vermoed, maar niet zichtbaar zijn, aangezien bewijsmateriaal moeilijk te vinden is.
De digitale revolutie, met inbegrip van AI, geeft vorm aan een toekomst vol onzekerheden, waarvoor nieuwe competenties zoals e-management en IT-vaardigheden nodig zijn. Hoewel technologie nieuwe kansen biedt en kan leiden tot positieve transformaties in verschillende sectoren zoals gezondheid, de economie of empowerment van het maatschappelijk middenveld, draagt zij ook bij tot de uitholling van gezag en waarden, die worden vervangen door eindeloze toegang tot informatie en connectiviteit, met inbegrip van nep- en gemanipuleerde inhoud.
Grenzen kunnen ook nodig zijn om te voorkomen dat algoritmen of bots onze levensstijl dicteren en ruimte creëren voor de manipulatie van verkiezingen. Een “grote firewall” moet Europa beschermen tegen cyberstoringen en gemanipuleerde inhoud. Het handhaven van stabiliteit en vertrouwen in instellingen, democratische systemen, de media en economische structuren zal een uitdaging worden in dit snel veranderende landschap. Cyberbeveiliging en de bestrijding van desinformatie moeten tot de hoogste prioriteiten behoren.
Referenties
- Noémi Bontridder en Yves Poullet Y, 2021, De rol van artificiële intelligentie bij desinformatie. Gegevens & -beleid, 3: e32. doi:10.1017/dap.2021.20
- Katarina Kertysova, 2018, Kunstmatige intelligentie en desinformatie Hoe AI de manier verandert waarop desinformatie wordt geproduceerd, verspreid en kan worden bestreden, veiligheid en mensenrechten 29 (2018) 55-81
- Camila Mont’Alverne, Sumitra Badrinathan, Amy, Ross Arguedas, Benjamin Toff, Richard Fletcher en Rasmus Kleis Nielsen, 2024 The Trust Gap: Hoe en waarom nieuws op digitale platforms sceptischer wordt bekeken versus nieuws in het algemeen, Reuters Institute https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2022-09/MontAlverne_et_al_The_Trust_Gap.pdf
- Nic Newman, 2024 “Digital News Project: Journalistiek, media en technologie: Trends and Prediction”, Universiteit van Oxford, Reuters Institute, https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2024-01/Newman%20-%20Trends%20and%20Predictions%202024%20FINAL.pdf
- Michael Wade, “Psychographics: The Behavioural Analysis That Helped Cambridge Analytica Know Voters’ Minds,” The Conversation, 21 maart 2018, https://theconversation .com/psychographics-the-behavioural-analysis-that-helped-cambridge-analytica-know -voters-minds-93675
Download het volledige artikel in pdf hier.
OVER PASCALINE GABORIT
Pascaline Gaborit is onderzoeker, consultant, expert en trainer. Ze is gepromoveerd in de politieke wetenschappen op het onderwerp “Vertrouwen en conflicten”. Zij is de oprichter van de denktank/NGO Pilot4DEV en werkt als consultant aan de evaluatie/kwaliteitsbeoordeling van verschillende internationale programma's en projecten.
Ze publiceerde boeken en artikelen over internationale samenwerking, veerkracht, cultuur, ontwikkeling, gendergelijkheid en klimaatadaptatie. Ze was meer dan 12 jaar directeur van het internationale netwerk Pilot Cities en werkte als adviseur voor andere denktanks.
Momenteel werkt ze aan projecten in verband met onderzoek en actie op het gebied van veerkracht, duurzaamheid, klimaatadaptatie, dialoog, nepnieuws, kunstmatige intelligentie, mensenrechten en democratie.
