Міжнародні організації вже більше десяти років класифікують дезінформацію як одну з головних загроз демократії. Цифрові технології невпинно винаходять і глибоко змінюють сучасний спосіб життя, громадян та бізнес-середовища. ШІ вносить новий збій у те, як ми отримуємо доступ до знань і створюємо, поширюємо та розуміємо інформацію, розмиваючи межі між реальною інформацією та маніпульованою інформацією.
Вплив цифрової революції на суспільство
Цифрова революція досягає свого золотого віку, безперервно з попередніми трансформаціями, які відбулися менш ніж за десять років. До 2024 року кількість власників мобільних телефонів у світі досягне 7,21 мільярда. Близько 67% населення світу в даний час має доступ до Інтернету ⁇ це було тільки 1% 1995 року. Зміни швидко намітилися, як цунамі, без можливості для людей відступити назад або подумати над ними, ні для всіх зацікавлених сторін, щоб адаптувати навички, освітні курси, ні для перетворення різноманітних секторів економіки. Ці тенденції викликали неймовірний оптимізм серед європейських осіб, які приймають рішення (оцифрувати ЄС, єдиний цифровий ринок, швидких підприємців тощо). Але серед невдах ситуації, які не змогли наздогнати, це перегукується з прихованим песимізмом (традиційні інвестори, люди похилого віку, надлишкові працівники в автоматизованих секторах та люди з низькою грамотністю в ІТ).
Переваги для споживачів та бізнес-інвесторів цифрового потрясіння колосальні: Стає можливим прямий доступ до інформації, знань і даних по всьому світу. Легко засвоювані знання доступні практично в будь-якому місці через соціальні мережі, пошукові системи в Інтернеті, вибіркові програми, а також онлайн-освіту. Зв'язок безмежний: платформи співпраці, включаючи соціальні медіа, дозволили встановити прямий зв'язок між людьми, а також між потенційними підприємцями та споживачами. Логістиці істотно сприяє можливість замовляти поставки, рухатися швидше або дешевше, використовувати GPS, геолокацію і миттєві з'єднання. І останнє, але не менш важливе: цифрові технології з розширенням можливостей ШІ пропонують величезний потенціал для пошуку дослідницьких рішень для розвитку охорони здоров'я, клімату та інфраструктури, в тому числі для менш розвинених країн, щоб прийняти їх.
Це підводить нас до недоліків і каменів спотикання, якщо не до загроз цієї цифрової революції ШІ. Дійсно, системи, розроблені штучним інтелектом, збільшують можливості для створення реалістичного підробленого контенту, створеного штучним інтелектом, а також (...) сприяють поширенню дезінформації серед цільової аудиторії (мікро) та в масштабі зловмисних зацікавлених сторін (Bontridder and Poullet 2021). Були висловлені занепокоєння щодо авторських прав, упереджених алгоритмів, бізнес-моделей, що використовують масивні дані для обману окремих осіб та заміни робочих місць / зайнятості технологіями в численних секторах штучного інтелекту. Технології штучного інтелекту також полегшать використання відео, тексту та зображень, створюючи контент на основі неправдивої інформації та створюючи труднощі для людей та ЗМІ довіряти інформації (Newman 2024).
Відповідь ЄС: регулювання, кібербезпека та фактчекінг
На відміну від вакууму, створеного відсутністю регулювання в інших демократичних країнах, Європейський Союз (ЄС), за яким слідують держави-члени ЄС, активно розробляє політику та ініціативи для боротьби з дезінформацією, особливо в контексті захисту демократичних процесів, захисту громадян та сприяння медіаграмотності. Ці політики та ініціативи відображають прихильність ЄС до вирішення багатогранної проблеми дезінформації та захисту демократичних цінностей у цифрову епоху. Ці ініціативи посилюються схваленням регламенту щодо дезінформації в більшості країн-членів ЄС, а також тіснішою співпрацею між державами-членами ЄС у сфері кібербезпеки та спільною співпрацею з протидії дезінформації.
Нарешті, ми спостерігаємо за триваючими переговорами між інституціями ЄС та основними інтернет-платформами, щоб знайти найкращий спосіб боротьби з дезінформацією. Питання регулювання проти авторегулювання ще не завершене і потребуватиме додаткових змін протягом наступних років.
Але це лише частина зусиль із захисту громадян від дезінформації. ЄС та держави-члени також вклали зусилля у створення агентств з кібербезпеки для розвінчання масових кампаній з дезінформації та перевірки фактів для ЗМІ (наприклад, EDMO, Європейська обсерваторія цифрових медіа). Незважаючи на цей арсенал інструментів, дезінформація залишається реальною загрозою.
Існують розмиті лінії між розвінчанням дезінформації приватними суб'єктами та органами національної безпеки. У той час як громадянам пропонується переглядати відео про те, як розпізнати дезінформацію та використовувати перевірки фактів, маніпулятивні кампанії з дезінформації все ще досить відкрито органами національної безпеки та засобами масової інформації. Наприклад, агентство France ⁇ s Viginum було створено в 2021 році для виявлення цифрових перешкод від іноземних організацій. Агентство виявило в лютому 2024 року понад 193 веб-сайти, що поширюють дезінформацію, спрямовану через сайти соціальних мереж та додатки для обміну повідомленнями. Схоже, що навіть для органів безпеки характеристика походження кампанії не завжди проста, зокрема, коли дезінформацію або дезінформацію потрібно простежити до іноземних урядів, зловмисних суб'єктів або простих осіб, які діють як руйнівники.
На додаток до цього, гібридна війна, для якої дезінформація є лише інструментом, поєднує кібератаки з масовою дезінформацією, створюючи ризики для зловмисного впливу на ЗМІ, уряди, громадську інфраструктуру, а також громадянське суспільство та академічний сектор. І саме в цьому полягає реальна загроза.
Майбутні загрози та виклики
Загроза та небезпека дезінформації полягає в тому, що вона використовує поляризацію, емоції та стереотипи. Елементи для того, щоб фейкові новини стали вірусними, залежать від їх взаємодії з низкою спірних питань, що апелюють до цікавості або до конкретних емоцій у суспільстві. Персоналізований таргетинг, заснований на особистих або психологічних характеристиках, можна комбінувати з інструментами генерації природної мови для створення контенту для унікальних користувачів, що потенційно призводить до активних маніпуляцій.
Крім того, агресивне автоматизоване поширення дезінформації безпосередньо перед початком політичної кампанії може негативно вплинути на результати виборів (Wade 2018). Спираючись на збір та маніпулювання даними користувачів з метою передбачення та впливу на політичні думки виборців та результати виборів, профілювання користувачів та мікротаргетинг можуть становити загрозу для демократії, громадських дебатів та вибору виборців (Kertysova 2018, Mont ⁇ Alverne et al. 2024). Цей момент надзвичайно важливий, оскільки цей рік 2024 стане роком виборів для половини населення світу, і втручання в даний час підозрюється, але не видно, оскільки докази важко знайти.
Цифрова революція, включаючи штучний інтелект, формує майбутнє, наповнене невизначеністю, що вимагає нових компетенцій, таких як електронне управління та ІТ-навички. Хоча технологія відкриває нові можливості і може призвести до позитивних трансформацій у різних секторах, таких як охорона здоров'я, економіка чи розширення прав і можливостей громадянського суспільства, вона також сприяє ерозії влади та цінностей, які замінюються нескінченним доступом до інформації та зв'язку, включаючи підроблений та маніпульований контент.
Обмеження також можуть бути необхідними для запобігання алгоритмам або ботам, які диктують наш спосіб життя та створюють простір для маніпулювання виборами. Великий брандмауер повинен захистити Європу від кібер-втручання та маніпулювання контентом. Підтримка стабільності та довіри до інститутів, демократичних систем, засобів масової інформації та економічних структур стане викликом у цьому швидко мінливому ландшафті. Кібербезпека та боротьба з дезінформацією мають бути одними з найвищих пріоритетів.
Список використаних джерел
- Noémi Bontridder та Yves Poullet Y, 2021, Роль штучного інтелекту в дезінформації. Політика & даних, 3: e32. doi:10.1017/dap.2021.20
- Катаріна Кертисова, 2018, Штучний інтелект та дезінформація Як ШІ змінює спосіб виробництва, поширення та протидії дезінформації, безпека та права людини 29 (2018) 55-81
- Каміла Монт'Альверн, Сумітра Бадрінатан, Емі, Росс Аргедас, Бенджамін Тофф, Річард Флетчер і Расмус Клейс Нільсен, 2024 The Trust Gap: Як і чому новини на цифрових платформах переглядаються більш скептично порівняно з новинами загалом, Інститут Ройтерз https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2022-09/MontAlverne_et_al_The_Trust_Gap.pdf
- Нік Ньюман, 2024 рік ⁇ Проект цифрових новин: Журналістика, медіа та технології: Trends and Prediction ⁇ , Оксфордський університет, Інститут Рейтер, https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2024-01/Newman%20-%20Trends%20and%20Predictions%202024%20FINAL.pdf
- Майкл Уейд, ⁇ Психографія: The Behavioural Analysis That Helped Cambridge Ana ⁇ lytica Know Voters ⁇ Minds, ⁇ The Conversation, March 21, 2018, https://theconversation .com/psychographics-the-behavioural-analysis-that-helped-cambridge-analytica-know -voters-minds-93675
Завантажити повну статтю в pdf тут.
Про PASCALINE GABORIT
Паскалін Габоріт - дослідник, консультант, експерт і тренер. Має ступінь кандидата політичних наук за темою «Довіра та конфлікти». Вона є засновницею аналітичного центру/НУО Pilot4DEV і працює консультантом з оцінки/оцінки якості різних міжнародних програм та проектів.
Вона опублікувала книги та статті про міжнародне співробітництво, стійкість, культуру, розвиток, гендерну рівність та кліматичну адаптацію. Вона була директором міжнародної мережі Pilot Cities більше 12 років і працювала радником інших аналітичних центрів.
В даний час вона працює над проектами, пов'язаними з дослідженнями та діями щодо стійкості, стійкості, адаптації до клімату, діалогу, фейкових новин, штучного інтелекту, прав людини та демократії.
