Mednarodne organizacije dezinformacije že več kot desetletje uvrščajo med glavne grožnje demokraciji. Digitalne tehnologije neusmiljeno prenavljajo in temeljito preoblikujejo sodoben življenjski slog, državljansko in poslovno okolje. Umetna inteligenca prinaša nove motnje v način, kako dostopamo do znanja ter ustvarjamo, širimo in razumemo informacije, saj zabriše meje med resničnimi informacijami in manipuliranimi informacijami.
Vpliv digitalne revolucije na družbo
Digitalna revolucija dosega svojo zlato dobo, v kontinuiteti s prejšnjimi preobrazbami, ki so se zgodile v manj kot desetletju. Do leta 2024 naj bi število svetovnih lastnikov mobilnih telefonov doseglo 7,21 milijarde. Približno 67% od svetovnega prebivalstva ima trenutno dostop do interneta – bilo jih je le 1% leta 1995. Spremembe so se zgodile hitro kot cunami, brez možnosti, da bi ljudje nazadovali ali premislili, niti da bi vsi deležniki prilagodili znanja in spretnosti, izobraževalne tečaje ali preoblikovali številne gospodarske sektorje. Ti trendi so ustvarili neverjeten optimizem med evropskimi nosilci odločanja (digitalizacija EU, enotni digitalni trg, hitri podjetniki itd.). Vendar se je to odražalo v latentnem pesimizmu med poraženci, ki niso mogli nadoknaditi zaostanka (tradicionalni vlagatelji, starejši, presežni delavci v avtomatiziranih sektorjih in ljudje z nizko stopnjo pismenosti na področju informacijske tehnologije).
Prednosti digitalnega preobrata za potrošnike in poslovne vlagatelje so ogromne: omogočen je neposreden dostop do informacij, znanja in podatkov po vsem svetu. Preprosto prebavljivo znanje je dostopno skoraj povsod prek družbenih medijev, internetnih iskalnikov, selektivnih aplikacij, pa tudi spletnega izobraževanja. Povezljivost je brezmejna: platforme za sodelovanje, vključno z družbenimi mediji, so omogočile neposredno povezavo med ljudmi, pa tudi med potencialnimi podjetniki in potrošniki. Logistiko bistveno olajšuje možnost naročanja zalog, hitrejšega ali cenejšega gibanja, uporabe GPS, geolokalizacije in takojšnjih povezav. Nenazadnje digitalne tehnologije z opolnomočenjem umetne inteligence ponujajo ogromen potencial za iskanje raziskovalnih rešitev za razvoj zdravja, podnebja in infrastrukture, tudi za manj razvite države, da jih sprejmejo.
To nas pripelje do slabosti in ovir, če ne celo groženj te digitalne revolucije umetne inteligence. Sistemi, ki jih razvija umetna inteligenca, dejansko povečujejo priložnosti za ustvarjanje realističnih lažnih vsebin, ustvarjenih z umetno inteligenco, pa tudi (…) olajšujejo razširjanje dezinformacij (mikro)ciljnemu občinstvu in v velikem obsegu zlonamernim deležnikom (Bontridder in Poullet 2021). Izraženi so bili pomisleki glede avtorskih pravic, pristranskih algoritmov, poslovnih modelov, ki uporabljajo množične podatke za zavajanje posameznikov, in nadomeščanja delovnih mest/zaposlitve s tehnologijo v številnih sektorjih umetne inteligence. Tehnologije umetne inteligence bodo olajšale tudi uporabo videoposnetkov, besedil in slik, ustvarjale vsebine na podlagi lažnih informacij ter posameznikom in medijem povzročale težave pri zaupanju informacijam (Newman 2024).
Odziv EU: predpisi, kibernetska varnost in preverjanje dejstev
V nasprotju s praznino, ki je nastala zaradi pomanjkanja predpisov v drugih demokratičnih državah, Evropska unija (EU), ki ji sledijo države članice EU, dejavno razvija politike in pobude za boj proti dezinformacijam, zlasti v okviru varovanja demokratičnih procesov, zaščite državljanov in spodbujanja medijske pismenosti. Te politike in pobude odražajo zavezanost EU obravnavanju večplastnega izziva dezinformacij in zaščiti demokratičnih vrednot v digitalni dobi. Te pobude so okrepljene z odobritvijo uredbe o dezinformacijah v večini držav članic EU ter s tesnejšim sodelovanjem med državami članicami EU na področju kibernetske varnosti in skupnim sodelovanjem v boju proti dezinformacijam.
Opazujemo tudi tekoča pogajanja med institucijami EU in glavnimi spletnimi platformami, da bi našli najboljši način za boj proti dezinformacijam. Vprašanje regulacije v primerjavi s samoregulacijo še ni končano in bo v naslednjih letih potrebovalo dodaten razvoj.
Vendar to odraža le del prizadevanj za zaščito državljanov pred dezinformacijami. EU in države članice so si prizadevale tudi za ustanovitev agencij za kibernetsko varnost, da bi razkrile množične dezinformacijske kampanje in preverjevalce dejstev za medije (kot je evropska opazovalnica digitalnih medijev). Kljub temu naboru orodij so dezinformacije še vedno resnična grožnja.
Med „razkrivanjem“ dezinformacij, ki ga izvajajo zasebni akterji in agencije za nacionalno varnost, so zabrisane meje. Medtem ko se državljane spodbuja, naj si ogledajo videoposnetke o tem, kako prepoznati napačne informacije, in uporabijo preverjevalce dejstev, agencije za nacionalno varnost in mediji še vedno precej razkrivajo manipulativne dezinformacijske kampanje. Francoska agencija Viginum je bila na primer ustanovljena leta 2021 za odkrivanje digitalnega vmešavanja tujih subjektov. Februarja 2024 je odkrila več kot 193 spletnih mest, ki širijo dezinformacije, usmerjene prek spletnih mest družbenih medijev in aplikacij za sporočanje. Zdi se, da tudi za varnostne agencije opredelitev izvora kampanje ni vedno enostavna, zlasti kadar je treba dezinformacije ali napačne informacije izslediti do tujih vlad, zlonamernih akterjev ali preprostih posameznikov, ki delujejo kot motilci.
Poleg tega hibridno vojskovanje, pri katerem so dezinformacije le orodje, združuje kibernetske napade z množičnimi dezinformacijami, kar ustvarja tveganja za zlonamerni vpliv na medije, vlade, javno infrastrukturo, pa tudi civilno družbo in akademski sektor. In tukaj je resnična grožnja.
Prihodnje grožnje in izzivi
Grožnja in nevarnost dezinformacij je, da uporabljajo polarizacijo, čustva in stereotipe. Elementi, da „lažne novice“ postanejo virusne, so odvisni od njihove interakcije s številnimi razdiralnimi zadevami, ki privlačijo radovednost ali posebna čustva v družbi. Prilagojeno ciljanje, ki temelji na osebnih ali psiholoških značilnostih, je mogoče kombinirati z orodji za ustvarjanje naravnega jezika, da ustvarite vsebino za edinstvene uporabnike, kar lahko privede do aktivne manipulacije.
Poleg tega lahko agresivno avtomatizirano razširjanje dezinformacij tik pred začetkom politične kampanje negativno vpliva na rezultate volitev (Wade 2018). „Zanašanje na zbiranje in prirejanje podatkov uporabnikov z namenom predvidevanja in vplivanja na politična mnenja in rezultate volitev volivcev, profiliranje uporabnikov in mikrociljanje lahko ogrozijo demokracijo, javno razpravo in izbire volivcev“ (Kertysova 2018, Mont’Alverne et al. 2024). Ta točka je izjemno pomembna, saj bo leto 2024 volilno leto za polovico svetovnega prebivalstva, vmešavanja pa so trenutno domnevna, vendar niso vidna, saj je dokaze težko najti.
Digitalna revolucija, vključno z umetno inteligenco, oblikuje prihodnost, polno negotovosti, ki zahteva nove kompetence, kot so e-upravljanje in spretnosti na področju informacijske tehnologije. Čeprav tehnologija odpira nove priložnosti in lahko privede do pozitivnih sprememb v različnih sektorjih, kot so zdravje, gospodarstvo ali krepitev vloge civilne družbe, prispeva tudi k spodkopavanju avtoritete in vrednot, ki jih nadomešča neskončen dostop do informacij in povezljivosti, vključno z lažnimi in manipuliranimi vsebinami.
Omejitve so lahko potrebne tudi za preprečevanje algoritmov ali botov, ki narekujejo naš življenjski slog in ustvarjajo prostor za manipulacijo volitev. „Velik požarni zid“ bi moral Evropo zaščititi pred kibernetskimi motnjami in manipuliranimi vsebinami. Ohranjanje stabilnosti in zaupanja v institucije, demokratične sisteme, medije in gospodarske strukture bo v tem hitro spreminjajočem se okolju postalo izziv. Kibernetska varnost in boj proti dezinformacijam bi morala biti med najpomembnejšimi prednostnimi nalogami.
Sklici
- Noémi Bontridder in Yves Poullet Y, 2021, The role of artificial intelligence in disinformation (Vloga umetne inteligence pri dezinformacijah). Data & Policy, št. 3: e32. doi:10.1017/dap.2021.20
- Katarina Kertysova, 2018, Artificial Intelligence and Disinformation How AI Changes the Way Disinformation is Produced, Disseminated, and Can Be Countered, Security and Human Rights (Umetna inteligenca in dezinformacije Kako umetna inteligenca spreminja način, kako se dezinformacije proizvajajo, širijo in se je mogoče zoperstaviti, varnost in človekove pravice) 29 (2018) 55-81.
- Camila Mont’Alverne, Sumitra Badrinathan, Amy, Ross Arguedas, Benjamin Toff, Richard Fletcher in Rasmus Kleis Nielsen, 2024 The Trust Gap: Kako in zakaj so novice na digitalnih platformah na splošno gledane bolj skeptično v primerjavi z novicami, Reuters Institute https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2022-09/MontAlverne_et_al_The_Trust_Gap.pdf
- Nic Newman, 2024 „Digital News Project: Novinarstvo, mediji in tehnologija: Trendi in napovedi“, Univerza v Oxfordu, Reutersov inštitut, https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2024-01/Newman%20-%20Trends%20and%20Predictions%202024%20FINAL.pdf
- Michael Wade, Psychographics: The Behavioural Analysis That Helped Cambridge Analytica Know Voters’ Minds,“ The Conversation, 21. marec 2018, https://theconversation .com/psychographics-the-behavioural-analysis-that-helped-cambridge-analytica-know-voters-minds-93675.
Prenesi celoten članek v pdf tukaj.
O podjetju PASCALINE GABORIT
Pascaline Gaborit je raziskovalka, svetovalka, strokovnjakinja in trenerka. Doktorirala je iz politologije na temo „Zaupanje in konflikti“. Je ustanoviteljica možganskega trusta/nevladne organizacije. Pilot4DEV ter deluje kot svetovalec pri vrednotenju/ocenjevanju kakovosti različnih mednarodnih programov in projektov.
Objavila je knjige in članke o mednarodnem sodelovanju, odpornosti, kulturi, razvoju, enakosti spolov in prilagajanju podnebnim spremembam. Več kot 12 let je bila direktorica mednarodne mreže Pilot Cities in je delala kot svetovalka za druge možganske truste.
Trenutno dela na projektih, povezanih z raziskavami in ukrepi na področju odpornosti, trajnostnosti, prilagajanja podnebnim spremembam, dialoga, lažnih novic, umetne inteligence, človekovih pravic in demokracije.
