Medzinárodné organizácie klasifikujú dezinformácie ako jednu z hlavných hrozieb pre demokraciu už viac ako desať rokov. Digitálne technológie neúnavne pretvárajú a zásadne pretvárajú moderný životný štýl, občianske a podnikateľské prostredie. Umelá inteligencia prináša nové narušenie spôsobu, akým pristupujeme k poznatkom a vytvárame, šírime a chápeme informácie, a to stieraním hraníc medzi skutočnými informáciami a zmanipulovanými informáciami.
Vplyv digitálnej revolúcie na spoločnosť
Digitálna revolúcia dosahuje svoj zlatý vek v nadväznosti na predchádzajúce transformácie, ku ktorým došlo za menej ako desať rokov. Do roku 2024 sa predpokladá, že počet majiteľov mobilných telefónov na svete dosiahne 7,21 miliardy. približne 67% z svetovej populácie má v súčasnosti prístup k internetu – bolo to len 1% 1995. Zmeny sa rýchlo prejavili ako cunami, bez možnosti, aby ľudia ustúpili alebo si ich premysleli, ani pre všetky zainteresované strany, aby prispôsobili zručnosti, vzdelávacie kurzy alebo premenili rozmanité hospodárske odvetvia. Tieto trendy viedli k neuveriteľnému optimizmu medzi európskymi rozhodovacími orgánmi (digitalizácia EÚ, jednotný digitálny trh, podnikatelia v rýchlom podnikaní atď.). Zopakoval to však latentný pesimizmus medzi porazenými, ktorí to nedokázali dobehnúť (tradiční investori, starší ľudia, prepustení zamestnanci v automatizovaných odvetviach a ľudia s nízkou gramotnosťou v oblasti IT).
Výhody digitálneho prevratu pre spotrebiteľov a obchodných investorov sú obrovské: je umožnený priamy prístup k informáciám, poznatkom a údajom z celého sveta. Ľahko stráviteľné vedomosti sú dostupné takmer kdekoľvek prostredníctvom sociálnych médií, internetových vyhľadávačov, selektívnych aplikácií, ale aj online vzdelávania. Konektivita je bezhraničná: kolaboratívne platformy vrátane sociálnych médií umožnili priame prepojenie medzi ľuďmi, ale aj medzi potenciálnymi podnikateľmi a spotrebiteľmi. Logistiku výrazne uľahčuje možnosť objednávať dodávky, pohybovať sa rýchlejšie alebo lacnejšie, využívať GPS, geolokalizáciu a okamžité pripojenie. V neposlednom rade digitálne technológie s posilnením postavenia umelej inteligencie ponúkajú obrovský potenciál nájsť výskumné riešenia pre vývoj v oblasti zdravia, klímy a infraštruktúry, a to aj pre menej rozvinuté krajiny, aby ich prijali.
To nás privádza k nevýhodám a prekážkam, ak nie k hrozbám tejto digitálnej revolúcie v oblasti umelej inteligencie. Systémy vyvinuté umelou inteligenciou skutočne „zvyšujú príležitosti na vytváranie realistického falošného obsahu vytvoreného umelou inteligenciou, ale aj (…) uľahčujú šírenie dezinformácií (mikro)cielenému publiku a vo veľkom rozsahu škodlivými zainteresovanými stranami“ (Bontridder and Poullet 2021). Objavili sa obavy v súvislosti s autorskými právami, neobjektívnymi algoritmami, obchodnými modelmi využívajúcimi obrovské množstvo údajov na oklamanie jednotlivcov a nahradením pracovných miest/zamestnania technológiami v mnohých odvetviach umelej inteligencie. Technológie umelej inteligencie takisto uľahčia používanie videa, textu a obrazu, vytvoria obsah založený na nepravdivých informáciách a spôsobia jednotlivcom a médiám ťažkosti s dôverou v informácie (Newman 2024).
Reakcia EÚ: predpisy, kybernetická bezpečnosť a overovanie faktov
Naopak, na rozdiel od vákua spôsobeného nedostatkom právnych predpisov v iných demokratických krajinách Európska únia (EÚ), po ktorej nasledujú členské štáty EÚ, aktívne rozvíja politiky a iniciatívy na boj proti dezinformáciám, najmä v kontexte ochrany demokratických procesov, ochrany občanov a podpory mediálnej gramotnosti. Tieto politiky a iniciatívy odrážajú záväzok EÚ riešiť mnohostrannú výzvu dezinformácií a chrániť demokratické hodnoty v digitálnom veku. Tieto iniciatívy sú posilnené schválením nariadenia o dezinformáciách vo väčšine členských štátov EÚ a užšou spoluprácou medzi členskými štátmi EÚ v oblasti kybernetickej bezpečnosti a spoločnou spoluprácou v boji proti dezinformáciám.
Napokon pozorujeme prebiehajúce rokovania medzi inštitúciami EÚ a hlavnými internetovými platformami s cieľom nájsť najlepší spôsob boja proti dezinformáciám. Otázka regulácie verzus autoregulácie sa ešte neskončila a v nasledujúcich rokoch si bude vyžadovať ďalší vývoj.
Odráža to však len časť úsilia o ochranu občanov pred dezinformáciami. EÚ a členské štáty takisto investovali úsilie do vytvárania agentúr pre kybernetickú bezpečnosť s cieľom odhaľovať masívne dezinformačné kampane a overovateľov faktov pre médiá (ako je EDMO, Európske stredisko pre monitorovanie digitálnych médií). Napriek tomuto arzenálu nástrojov zostávajú dezinformácie skutočnou hrozbou.
Medzi „odhaľovaním“ dezinformácií súkromnými subjektmi a národnými bezpečnostnými agentúrami sú nejasné hranice. Zatiaľ čo občania sa vyzývajú, aby si pozreli videá o tom, ako rozpoznať dezinformácie a využívať overovateľov faktov, národné bezpečnostné agentúry a médiá stále skôr odhaľujú manipulatívne dezinformačné kampane. Napríklad francúzska agentúra Viginum bola zriadená v roku 2021 s cieľom odhaľovať digitálne zasahovanie zahraničných subjektov. Agentúra vo februári 2024 odhalila viac ako 193 webových sídel šíriacich dezinformácie prostredníctvom stránok sociálnych médií a aplikácií na zasielanie správ. Zdá sa, že ani v prípade bezpečnostných agentúr nie je charakterizácia pôvodu kampane vždy jednoduchá, najmä ak je potrebné vysledovať dezinformácie alebo dezinformácie späť k zahraničným vládam, zlomyseľným aktérom alebo jednoduchým jednotlivcom, ktorí pôsobia ako disruptory.
Okrem toho hybridná vojna, pre ktorú sú dezinformácie len nástrojom, kombinuje kybernetické útoky s masívnymi dezinformáciami, čím vytvára riziko škodlivého vplyvu na médiá, vlády, verejnú infraštruktúru, ale aj občiansku spoločnosť a akademický sektor. A práve v tom spočíva skutočná hrozba.
Budúce hrozby a výzvy
Hrozbou a nebezpečenstvom dezinformácií je, že využívajú polarizáciu, emócie a stereotypy. Prvky na to, aby sa „falošné správy“ stali vírusovými, závisia od ich interakcie s viacerými rozdeľujúcimi záležitosťami, ktoré sú príťažlivé pre zvedavosť alebo konkrétne emócie v spoločnosti. Personalizované zacielenie založené na osobných alebo psychologických charakteristikách možno kombinovať s nástrojmi na generovanie prirodzeného jazyka, aby sa vytvoril obsah pre jedinečných používateľov, čo môže viesť k aktívnej manipulácii.
Okrem toho agresívne automatizované šírenie dezinformácií tesne pred začiatkom politickej kampane môže mať negatívny vplyv na výsledky volieb (Wade 2018). „Opierajúc sa o zhromažďovanie údajov používateľov a manipuláciu s nimi s cieľom predvídať a ovplyvňovať politické názory a výsledky volieb voličov môže profilovanie používateľov a mikrozacielenie predstavovať hrozbu pre demokraciu, verejnú diskusiu a voľby voličov“ (Kertysova 2018, Mont’Alverne a kol. 2024). Tento bod je mimoriadne dôležitý, keďže tento rok 2024 bude volebným rokom pre polovicu svetovej populácie a zásahy sú v súčasnosti podozrivé, ale nie viditeľné, keďže je ťažké nájsť dôkazy.
Digitálna revolúcia vrátane umelej inteligencie formuje budúcnosť plnú neistôt, ktoré si vyžadujú nové kompetencie, ako je elektronické riadenie a zručnosti v oblasti IT. Hoci technológie otvárajú nové príležitosti a môžu viesť k pozitívnym transformáciám v rôznych odvetviach, ako je zdravotníctvo, hospodárstvo alebo posilnenie postavenia občianskej spoločnosti, prispievajú aj k narušeniu autority a hodnôt, ktoré sa nahrádzajú nekonečným prístupom k informáciám a pripojiteľnosti vrátane falošného a zmanipulovaného obsahu.
Limity môžu byť potrebné aj na zabránenie tomu, aby algoritmy alebo boty diktovali náš životný štýl a vytvárali priestor na manipuláciu volieb. „Veľký firewall“ by mal chrániť Európu pred kybernetickými zásahmi a manipulovaným obsahom. Zachovanie stability a dôvery v inštitúcie, demokratické systémy, médiá a hospodárske štruktúry sa v tomto rýchlo sa meniacom prostredí stane výzvou. Kybernetická bezpečnosť a boj proti dezinformáciám by mali patriť medzi najvyššie priority.
Referencie
- Noémi Bontridder a Yves Poullet Y, 2021, The role of artificial intelligence in disinformation (Úloha umelej inteligencie v dezinformáciách). Údaje a amp; politika, 3: e32. doi:10.1017/dap.2021.20
- Katarina Kertysová, 2018, Artificial Intelligence and Disinformation How AI Changes the Way Disinformation is Produced, Disseminated, and Can Be Countered, security and human rights (Umelá inteligencia a dezinformácie: Ako umelá inteligencia mení spôsob, akým sa dezinformácie produkujú, šíria a možno proti nim bojovať, bezpečnosť a ľudské práva) 29 (2018) 55 – 81.
- Camila Mont’Alverne, Sumitra Badrinathan, Amy, Ross Arguedas, Benjamin Toff, Richard Fletcher a Rasmus Kleis Nielsen, 2024 The Trust Gap: How and Why News on Digital Platforms Is Viewed More Sceptically Versus News in General (Ako a prečo sa správy na digitálnych platformách vnímajú skeptickejšie verzus správy vo všeobecnosti), Reuters Institute https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2022-09/MontAlverne_et_al_The_Trust_Gap.pdf
- Nic Newman, 2024 Digital News Project: Žurnalistika, médiá a technológie: Trendy a predpovede, Oxfordská univerzita, Reuters Institute, https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2024-01/Newman%20-%20Trends%20and%20Predictions%202024%20FINAL.pdf
- Michael Wade, Psychographics: The Behavioural Analysis That Helped Cambridge Analytica Know Voters’ Minds, The Conversation, 21. marca 2018, https://theconversation .com/psychographics-the-behavioural-analysis-that-helped-cambridge-analytica-know -voters-minds-93675.
Stiahnuť celý článok v pdf tu.
O spoločnosti PASCALINE GABORIT
Pascaline Gaborit je výskumníčka, konzultantka, expertka a školiteľka. Má doktorát z politických vied na tému Dôvera a konflikty. Je zakladateľkou think-tanku/MVO. Pilot4DEV a pracuje ako konzultant pri hodnotení/posudzovaní kvality rôznych medzinárodných programov a projektov.
Publikovala knihy a články o medzinárodnej spolupráci, odolnosti, kultúre, rozvoji, rodovej rovnosti a adaptácii na zmenu klímy. Viac ako 12 rokov bola riaditeľkou medzinárodnej siete Pilot Cities a pracovala ako poradkyňa pre iné think-tanky.
V súčasnosti pracuje na projektoch týkajúcich sa výskumu a opatrení v oblasti odolnosti, udržateľnosti, adaptácie na zmenu klímy, dialógu, falošných správ, umelej inteligencie, ľudských práv a demokracie.
