Международните организации класифицират дезинформацията като една от основните заплахи за демокрацията вече повече от десетилетие. Цифровите технологии непрекъснато преоткриват и променят из основи съвременния начин на живот, средата на гражданите и стопанската среда. Изкуственият интелект внася нов разрив в начина, по който получаваме достъп до знания и създаваме, разпространяваме и разбираме информация, като размива границите между реална информация и манипулирана информация.
Въздействие на цифровата революция върху обществото
Цифровата революция достига златната си ера в приемственост с предишните трансформации, които се случиха за по-малко от десетилетие. До 2024 г. броят на световните собственици на мобилни телефони се очаква да достигне 7,21 милиарда. Около 67% от световното население понастоящем има достъп до интернет — това е само 1% през 1995 г. Промените бързо настъпват като цунами, без възможност хората да отстъпят назад или да ги обмислят, нито всички заинтересовани страни да адаптират уменията, образователните курсове, нито да преобразуват множество икономически сектори. Тези тенденции породиха невероятен оптимизъм сред лицата, отговорни за вземането на решения в Европа (цифровизация на ЕС, единен цифров пазар, бързи бизнес предприемачи и др.). И все пак това беше повторено от латентния песимизъм сред губещите от ситуацията, които не можаха да наваксат (традиционни инвеститори, възрастни хора, съкратени служители в автоматизирани сектори и хора с ниска грамотност в областта на информационните технологии).
Предимствата на цифровите катаклизми за потребителите и бизнес инвеститорите са колосални: е възможен пряк достъп до информация, знания и данни в световен мащаб. Лесно смилаемите знания са достъпни почти навсякъде чрез социални медии, интернет търсачки, селективни приложения, но и онлайн образование. Свързаността е безгранична: платформите за сътрудничество, включително социалните медии, дадоха възможност за пряка връзка между хората, но също така и между потенциалните бизнес предприемачи и потребителите. Логистиката е значително улеснена от възможността да поръчвате доставки, да се движите по-бързо или по-евтино, да използвате GPS, геолокализация и незабавни връзки. Не на последно място, цифровите технологии с овластяване на ИИ предлагат огромен потенциал за намиране на научноизследователски решения за развитието на здравеопазването, климата и инфраструктурата, включително за по-слабо развитите държави да ги възприемат.
Това ни води до недостатъците и препятствията, ако не и заплахите от тази революция на цифровия ИИ. Всъщност системите, разработени от ИИ, „увеличават възможностите за създаване на реалистично фалшиво съдържание, генерирано от ИИ, но също така (...) улесняват разпространението на дезинформация до (микро) таргетирана аудитория и в голям мащаб от злонамерени заинтересовани страни“ (Bontridder и Poullet 2021). Бяха изразени опасения относно авторските права, пристрастните алгоритми, бизнес моделите, използващи масивни данни, за да заблудят физическите лица, и замяната на работните места/заетостта с технологии в множество сектори на ИИ. Технологиите с ИИ също така ще улеснят използването на видео, текст и изображение, като генерират съдържание въз основа на невярна информация и създават трудности за отделните лица и за медиите да се доверят на информацията (Newman 2024).
Отговорът на ЕС: разпоредби, киберсигурност и проверка на фактите
Обратно на вакуума, създаден от липсата на разпоредби в други демократични държави, Европейският съюз (ЕС), следван от държавите — членки на ЕС, активно разработва политики и инициативи за борба с дезинформацията, особено в контекста на защитата на демократичните процеси, защитата на гражданите и насърчаването на медийната грамотност. Тези политики и инициативи отразяват ангажимента на ЕС за справяне с многостранното предизвикателство на дезинформацията и за защита на демократичните ценности в цифровата ера. Тези инициативи се подсилват от одобряването на регламент относно дезинформацията в повечето държави — членки на ЕС, и от по-тясното сътрудничество между държавите — членки на ЕС, в областта на киберсигурността и съвместното сътрудничество за борба с дезинформацията.
И накрая, наблюдаваме текущите преговори между институциите на ЕС и основните интернет платформи за намиране на най-добрия начин за справяне с дезинформацията. Въпросът за регулирането спрямо саморегулирането все още не е приключил и ще се нуждае от допълнително развитие през следващите години.
Това обаче отразява само част от усилията за защита на гражданите от дезинформация. ЕС и държавите членки също така инвестираха усилия в създаването на агенции за киберсигурност, които да развенчават масови кампании за дезинформация и проверители на факти за медиите (като EDMO, Европейската обсерватория за цифрови медии). Въпреки този арсенал от инструменти дезинформацията продължава да бъде реална заплаха.
Съществуват размити линии между „развенчаването“ на дезинформация, извършвано от частни субекти, и националните агенции за сигурност. Докато гражданите се насърчават да гледат видеоклипове за това как да разпознават невярната информация и да използват проверители на факти, манипулативните кампании за дезинформация все още се разкриват по-скоро от агенциите за национална сигурност и медиите. Например през 2021 г. беше създадена френската агенция Viginum с цел откриване на цифрова намеса от чуждестранни субекти. През февруари 2024 г. Агенцията разкри повече от 193 уебсайта, разпространяващи дезинформация, насочена чрез сайтове на социални медии и приложения за съобщения. Изглежда, че дори за агенциите за сигурност характеризирането на произхода на кампанията невинаги е лесно, по-специално когато дезинформацията или невярната информация трябва да бъде проследена до чуждестранни правителства, злонамерени участници или обикновени лица, действащи като нарушители.
Освен това хибридната война, за която дезинформацията е само инструмент, съчетава кибератаки с масова дезинформация, създавайки рискове за злонамерено влияние върху медиите, правителствата, публичната инфраструктура, но също така и гражданското общество и академичните сектори. И това е мястото, където се крие истинската заплаха.
Бъдещи заплахи и предизвикателства
Заплахата и опасността от дезинформацията е, че тя използва поляризация, емоции и стереотипи. Елементите, които позволяват „фалшивите новини“ да станат вирусни, зависят от взаимодействието им с редица въпроси, предизвикващи разделение, които привличат любопитство или специфични емоции в дадено общество. Персонализираното насочване, основано на лични или психологически характеристики, може да се комбинира с инструменти за генериране на естествен език, за да се създаде съдържание за уникални потребители, което потенциално води до активна манипулация.
Освен това агресивното автоматизирано разпространение на дезинформация непосредствено преди началото на политическа кампания може да окаже отрицателно въздействие върху изборните резултати (Wade 2018). „Разчитането на събирането и манипулирането на данни на потребителите с цел предвиждане и оказване на влияние върху политическите мнения и изборните резултати на гласоподавателите, профилирането на потребителите и микротаргетирането могат да представляват заплаха за демокрацията, обществения дебат и избора на гласоподавателите“ (Kertysova 2018, Mont’Alverne et al. 2024). Този въпрос е изключително важен, тъй като тази година 2024 г. ще бъде година на избори за половината от световното население, а намесата понастоящем се подозира, но не е видима, тъй като е трудно да се намерят доказателства.
Цифровата революция, включително ИИ, оформя бъдеще, изпълнено с несигурност, изискващо нови компетенции като електронно управление и ИТ умения. Въпреки че технологиите откриват нови възможности и могат да доведат до положителни трансформации в различни сектори като здравеопазването, икономиката или овластяването на гражданското общество, те също така допринасят за подкопаването на авторитета и ценностите, които се заменят с безкраен достъп до информация и свързаност, включително фалшиво и манипулирано съдържание.
Ограничения могат да бъдат необходими и за предотвратяване на алгоритми или ботове, които диктуват нашия начин на живот и създават пространство за манипулиране на изборите. „Голямата защитна стена“ следва да защитава Европа от кибернамеса и манипулирано съдържание. Поддържането на стабилност и доверие в институциите, демократичните системи, медиите и икономическите структури ще се превърне в предизвикателство в този бързо променящ се пейзаж. Киберсигурността и борбата с дезинформацията следва да бъдат сред най-важните приоритети.
Препратки
- Noémi Bontridder и Yves Poullet Y, 2021 г., The role of artificial intelligence in disinformation (Ролята на изкуствения интелект в дезинформацията). Данни & Политика, 3: e32. doi:10.1017/dap.2021.20
- Катарина Кертисова, 2018, Изкуствен интелект и дезинформация Как ИИ променя начина, по който дезинформацията се произвежда, разпространява и може да бъде противодействана, сигурност и права на човека 29 (2018) 55-81
- Camila Mont’Alverne, Sumitra Badrinathan, Amy, Ross Arguedas, Benjamin Toff, Richard Fletcher и Rasmus Kleis Nielsen, 2024 г. The Trust Gap: Как и защо новините на цифровите платформи се разглеждат по-скептично спрямо новините като цяло, Институт Ройтерс https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2022-09/MontAlverne_et_al_The_Trust_Gap.pdf
- Nic Newman, 2024 г. „Digital News Project: Журналистика, медии и технологии: Trends and Prediction“, Оксфордски университет, Институт „Ройтерс“, https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2024-01/Newman%20-%20Trends%20and%20Predictions%202024%20FINAL.pdf
- Michael Wade, „Psychographics: The Behavioural Analysis That Helped Cambridge Analytica Know Voters’ Minds“, Разговорът, 21 март 2018 г., https://theconversation .com/psychographics-the-behavioural-analysis-that-helped-cambridge-analytica-know-voters-minds-93675
Изтеглете пълната статия в pdf тук.
За ПАСКАЛИН ГАБОРИТ
Паскалин Габорит е изследовател, консултант, експерт и треньор. Има докторска степен по политически науки на тема „Доверие и конфликти“. Тя е основател на мозъчния тръст/НПО Pilot4DEV и работи като консултант по оценка/оценка на качеството на различни международни програми и проекти.
Тя публикува книги и статии за международното сътрудничество, устойчивостта, културата, развитието, равенството между половете и адаптирането към изменението на климата. Тя е била директор на международната мрежа Pilot Cities повече от 12 години и е работила като съветник на други мозъчни тръстове.
Понастоящем работи по проекти, свързани с научни изследвания и действия в областта на издръжливостта, устойчивостта, адаптирането към изменението на климата, диалога, фалшивите новини, изкуствения интелект, правата на човека и демокрацията.
