Mezinárodní organizace klasifikují dezinformace jako jednu z hlavních hrozeb pro demokracii již více než deset let. Digitální technologie neúnavně přetvářejí a zásadně přetvářejí moderní životní styl, občanské a podnikatelské prostředí. Umělá inteligence přináší nové narušení způsobu, jakým přistupujeme ke znalostem a vytváříme, šíříme a chápeme informace, a to stíráním hranic mezi skutečnými informacemi a zmanipulovanými informacemi.
Dopad digitální revoluce na společnost
Digitální revoluce dosahuje svého zlatého věku v návaznosti na předchozí transformace, k nimž došlo během méně než deseti let. Odhaduje se, že do roku 2024 dosáhne počet majitelů mobilních telefonů na světě 7,21 miliardy. Přibližně 67% světové populace má v současné době přístup k internetu – bylo to pouze 1% v roce 1995. Změny se objevily rychle jako tsunami, aniž by lidé měli možnost ustoupit nebo o nich přemýšlet, a to ani pro všechny zúčastněné strany, aby přizpůsobily dovednosti, vzdělávací kurzy nebo přeměnily různá hospodářská odvětví. Tyto trendy vyvolaly mezi evropskými činiteli s rozhodovací pravomocí neuvěřitelný optimismus (digitalizace EU, jednotný digitální trh, rychlí podnikatelé atd.). Ozval se však latentní pesimismus mezi poraženými, kteří nedokázali situaci dohnat (tradiční investoři, starší lidé, propuštění zaměstnanci v automatizovaných odvětvích a lidé s nízkou gramotností v oblasti IT).
Výhody digitálního převratu pro spotřebitele a obchodní investory jsou obrovské: je umožněn přímý přístup k celosvětovým informacím, znalostem a údajům. Snadno stravitelné znalosti jsou přístupné téměř kdekoli prostřednictvím sociálních médií, internetových vyhledávačů, selektivních aplikací, ale také online vzdělávání. Konektivita je bezmezná: platformy pro spolupráci, včetně sociálních médií, umožnily přímé propojení mezi lidmi, ale také mezi potenciálními podnikateli a spotřebiteli. Logistika je podstatně usnadněna možností objednávat dodávky, pohybovat se rychleji nebo levněji, používat GPS, geolokalizaci a okamžité připojení. V neposlední řadě nabízejí digitální technologie s posílením umělé inteligence obrovský potenciál k nalezení výzkumných řešení pro rozvoj v oblasti zdraví, klimatu a infrastruktury, a to i pro méně rozvinuté země, aby je přijaly.
To nás přivádí k nevýhodám a klopýtavým blokům, ne-li k hrozbám této digitální revoluce v oblasti umělé inteligence. Systémy vyvinuté umělou inteligencí totiž „rozšiřují příležitosti k vytváření realistického falešného obsahu vytvořeného umělou inteligencí, ale také (…) usnadňují šíření dezinformací (mikro)cílenému publiku a ve velkém měřítku nepřátelskými zúčastněnými stranami“ (Bontridder a Poullet 2021). Byly vyjádřeny obavy ohledně autorských práv, neobjektivních algoritmů, obchodních modelů využívajících masivní data k oklamání jednotlivců a nahrazení pracovních míst/zaměstnanosti technologiemi v řadě odvětví umělé inteligence. Technologie umělé inteligence rovněž usnadní používání videa, textu a obrazu, vytvoří obsah založený na nepravdivých informacích a jednotlivcům a sdělovacím prostředkům ztíží důvěru v tyto informace (Newman 2024).
Reakce EU: předpisy, kybernetická bezpečnost a ověřování faktů
Na rozdíl od vakua způsobeného nedostatkem právních předpisů v jiných demokratických zemích Evropská unie (EU), následovaná členskými státy EU, aktivně rozvíjí politiky a iniciativy zaměřené na boj proti dezinformacím, zejména v souvislosti s ochranou demokratických procesů, ochranou občanů a podporou mediální gramotnosti. Tyto politiky a iniciativy odrážejí závazek EU řešit mnohostrannou výzvu dezinformací a chránit demokratické hodnoty v digitálním věku. Tyto iniciativy jsou posíleny schválením nařízení o dezinformacích ve většině členských států EU a užší spoluprací mezi členskými státy EU v oblasti kybernetické bezpečnosti a společnou spoluprací v boji proti dezinformacím.
V neposlední řadě sledujeme probíhající jednání mezi orgány EU a hlavními internetovými platformami s cílem nalézt nejlepší způsob, jak bojovat proti dezinformacím. Otázka regulace versus samoregulace ještě neskončila a bude vyžadovat další vývoj v příštích letech.
To však odráží pouze část úsilí o ochranu občanů před dezinformacemi. EU a členské státy rovněž investovaly úsilí do vytvoření agentur pro kybernetickou bezpečnost s cílem odhalit rozsáhlé dezinformační kampaně a ověřovatele faktů pro sdělovací prostředky (jako je EDMO, Evropské středisko pro sledování digitálních médií). Navzdory tomuto arzenálu nástrojů zůstávají dezinformace skutečnou hrozbou.
Mezi „odhalováním“ dezinformací soukromými subjekty a národními bezpečnostními agenturami existují nejasné hranice. Zatímco občané jsou vybízeni k tomu, aby sledovali videa o tom, jak rozpoznávat dezinformace a využívat ověřovatele faktů, manipulativní dezinformační kampaně stále spíše odhalují národní bezpečnostní agentury a sdělovací prostředky. Například francouzská agentura Viginum byla zřízena v roce 2021 s cílem odhalovat digitální vměšování zahraničních subjektů. Agentura v únoru 2024 odhalila více než 193 internetových stránek šířících dezinformace prostřednictvím stránek sociálních médií a aplikací pro zasílání zpráv. Zdá se, že ani pro bezpečnostní agentury není charakterizace původu kampaně vždy snadná, zejména pokud je třeba dezinformace nebo zavádějící informace vysledovat zpět k zahraničním vládám, zlovolným aktérům nebo k prostým jednotlivcům, kteří působí jako narušitelé.
Kromě toho hybridní válka, pro niž jsou dezinformace pouze nástrojem, kombinuje kybernetické útoky s masivními dezinformacemi a vytváří rizika pro zlovolný vliv na sdělovací prostředky, vlády, veřejnou infrastrukturu, ale také na občanskou společnost a akademický sektor. A právě v tom tkví skutečná hrozba.
Budoucí hrozby a výzvy
Hrozbou a nebezpečím dezinformací je, že využívají polarizaci, emoce a stereotypy. Prvky pro to, aby se „falešné zprávy“ staly virálními, závisí na jejich interakci s řadou rozdělujících záležitostí, které přitahují zvědavost nebo konkrétní emoce ve společnosti. Personalizované cílení, založené na osobních nebo psychologických charakteristikách, může být kombinováno s nástroji pro vytváření přirozeného jazyka a vytvářet obsah pro jedinečné uživatele, což může vést k aktivní manipulaci.
Kromě toho může mít agresivní automatizované šíření dezinformací těsně před zahájením politické kampaně negativní dopad na výsledky voleb (Wade 2018). „Spoléhat se na shromažďování údajů uživatelů a manipulaci s nimi s cílem předvídat a ovlivňovat politické názory a výsledky voleb voličů, profilování uživatelů a mikrocílení může představovat hrozbu pro demokracii, veřejnou diskusi a volbu voličů“ (Kertysova 2018, Mont’Alverne et al. 2024). Tento bod je mimořádně důležitý, neboť letošní rok 2024 bude rokem voleb pro polovinu světové populace a zásahy jsou v současné době podezřelé, ale nejsou viditelné, protože důkazy je obtížné najít.
Digitální revoluce, včetně umělé inteligence, utváří budoucnost plnou nejistot, což vyžaduje nové kompetence, jako je elektronické řízení a dovednosti v oblasti IT. Technologie sice otevírají nové příležitosti a mohou vést k pozitivním transformacím v různých odvětvích, jako je zdravotnictví, hospodářství nebo posílení postavení občanské společnosti, zároveň však přispívají k oslabování autority a hodnot, které jsou nahrazeny nekonečným přístupem k informacím a konektivitě, včetně falešného a zmanipulovaného obsahu.
Limity mohou být také nezbytné, aby se zabránilo algoritmům nebo robotům diktujícím náš životní styl a vytvářejícím prostor pro manipulaci s volbami. „Velký firewall“ by měl Evropu chránit před kybernetickými zásahy a manipulovaným obsahem. Zachování stability a důvěry v instituce, demokratické systémy, sdělovací prostředky a hospodářské struktury se v tomto rychle se měnícím prostředí stane výzvou. Kybernetická bezpečnost a boj proti dezinformacím by měly být jednou z nejvyšších priorit.
Odkazy
- Noémi Bontridder a Yves Poullet Y, 2021, The role of artificial intelligence in disinformation (Úloha umělé inteligence v dezinformacích). Data & Politika, 3: e32. doi:10.1017/dap.2021.20
- Katarina Kertysová, 2018, Umělá inteligence a dezinformace Jak umělá inteligence mění způsob, jakým jsou dezinformace produkovány, diseminovány a lze proti nim bojovat, bezpečnost a lidská práva 29 (2018) 55-81
- Camila Mont’Alverne, Sumitra Badrinathan, Amy, Ross Arguedas, Benjamin Toff, Richard Fletcher a Rasmus Kleis Nielsen, 2024 The Trust Gap: Jak a proč jsou zprávy na digitálních platformách vnímány skeptičtěji než zprávy obecně, Reuters Institute https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2022-09/MontAlverne_et_al_The_Trust_Gap.pdf
- Nic Newman, 2024 „Digital News Project: Žurnalistika, média a technologie: Trends and Prediction“, Oxfordská univerzita, Reuters Institute, https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2024-01/Newman%20-%20Trends%20and%20Predictions%202024%20FINAL.pdf
- Michael Wade, „Psychographics: The Behavioural Analysis That Helped Cambridge Analytica Know Voters’ Minds, The Conversation, 21. března 2018, https://theconversation .com/psychographics-the-behavioural-analysis-that-helped-cambridge-analytica-know -voters-minds-93675.
Stáhnout celý článek v pdf zde.
O společnosti PASCALINE GABORIT
Pascaline Gaborit je výzkumná pracovnice, konzultantka, odbornice a školitelka. Je držitelkou doktorského titulu v oboru politologie na téma „Důvěra a konflikty“. Je zakladatelkou think tanku/NGO. Pilot4DEV a pracuje jako konzultant pro hodnocení / hodnocení kvality různých mezinárodních programů a projektů.
Publikovala knihy a články o mezinárodní spolupráci, odolnosti, kultuře, rozvoji, rovnosti žen a mužů a přizpůsobení se změně klimatu. Více než 12 let byla ředitelkou mezinárodní sítě Pilot Cities a pracovala jako poradkyně pro další think tanky.
V současné době pracuje na projektech souvisejících s výzkumem a opatřeními v oblasti odolnosti, udržitelnosti, přizpůsobení se změně klimatu, dialogu, falešných zpráv, umělé inteligence, lidských práv a demokracie.
