Международные организации уже более десяти лет классифицируют дезинформацию как одну из главных угроз демократии. Цифровые технологии неустанно изобретают и глубоко меняют современный образ жизни, граждан и бизнес-среду. ИИ привносит новые изменения в то, как мы получаем доступ к знаниям и создаем, распространяем и понимаем информацию, размывая границы между реальной информацией и манипулируемой информацией.
Цифровая революция влияет на общество
Цифровая революция достигает своего золотого века, в преемственности с предыдущими преобразованиями, которые произошли менее чем за десятилетие. К 2024 году число владельцев мобильных телефонов в мире, по прогнозам, достигнет 7,21 миллиарда. около 67% населения мира в настоящее время имеет доступ к Интернету ⁇ его было всего 1% в 1995 году. Изменения надвигаются быстро, как цунами, без возможности для людей сделать шаг назад или обдумать их, ни для всех заинтересованных сторон адаптировать навыки, учебные курсы или преобразовать многообразные экономические сектора. Эти тенденции породили невероятный оптимизм среди европейских лиц, принимающих решения (цифровизация ЕС, единый цифровой рынок, быстрые бизнес-предприниматели и т. Тем не менее, это было отражено скрытым пессимизмом среди проигравших, которые не могли догнать (традиционные инвесторы, пожилые люди, увольняемые сотрудники в автоматизированных секторах и люди с низкой грамотностью в области ИТ).
Преимущества цифрового переворота для потребителей и бизнес-инвесторов колоссальны: Возможен прямой доступ к всемирной информации, знаниям и данным. Легко усваиваемые знания доступны практически в любом месте через социальные сети, поисковые системы в Интернете, выборочные приложения, а также онлайн-образование. Связь безгранична: Совместные платформы, включая социальные сети, обеспечили прямую связь между людьми, а также между потенциальными бизнес-предпринимателями и потребителями. Логистике существенно способствует возможность заказывать поставки, двигаться быстрее или дешевле, использовать GPS, геолокацию и мгновенные соединения. И последнее, но не менее важное: цифровые технологии с расширением возможностей ИИ предлагают огромный потенциал для поиска исследовательских решений для развития здравоохранения, климата и инфраструктуры, в том числе для менее развитых стран.
Это подводит нас к недостаткам и препятствиям, если не к угрозам этой цифровой революции ИИ. Действительно, системы, разработанные ИИ, расширяют возможности для создания реалистичного поддельного контента, созданного ИИ, но также (...) облегчают распространение дезинформации (микро) целевой аудитории и в масштабе злоумышленниками (Bontridder and Poullet 2021). Были высказаны опасения по поводу авторских прав, предвзятых алгоритмов, бизнес-моделей, использующих массивные данные для обмана людей и замены рабочих мест / занятости технологиями во многих секторах ИИ. Технологии искусственного интеллекта также облегчат использование видео, текста и изображений, генерируя контент на основе ложной информации и создавая трудности для отдельных лиц и для средств массовой информации, чтобы доверять информации (Newman 2024).
Ответ ЕС: правила, кибербезопасность и проверка фактов
В отличие от вакуума, созданного отсутствием правил в других демократических странах, Европейский союз (ЕС), за которым следуют государства-члены ЕС, активно разрабатывает политику и инициативы по борьбе с дезинформацией, особенно в контексте защиты демократических процессов, защиты граждан и поощрения медиаграмотности. Эта политика и инициативы отражают приверженность ЕС решению многогранной проблемы дезинформации и защиты демократических ценностей в эпоху цифровых технологий. Эти инициативы подкрепляются одобрением регулирования дезинформации в большинстве государств-членов ЕС, а также более тесным сотрудничеством между государствами-членами ЕС в области кибербезопасности и совместным сотрудничеством по борьбе с дезинформацией.
Наконец, мы наблюдаем за продолжающимися переговорами между институтами ЕС и основными интернет-платформами, чтобы найти лучший способ борьбы с дезинформацией. Вопрос о регулировании по сравнению с авторегулированием еще не решен и потребует дополнительных изменений в течение следующих лет.
Но это лишь часть усилий по защите граждан от дезинформации. ЕС и государства-члены также вложили усилия в создание агентств кибербезопасности для развенчания массовых кампаний дезинформации и проверки фактов для средств массовой информации (таких как EDMO, Европейская обсерватория цифровых медиа). Несмотря на этот арсенал инструментов, дезинформация остается реальной угрозой.
Существуют размытые границы между «разоблачением» дезинформации, осуществляемой частными субъектами и агентствами национальной безопасности. В то время как гражданам рекомендуется смотреть видео о том, как распознать дезинформацию и использовать проверки фактов, манипулятивные кампании по дезинформации по-прежнему довольно широко освещаются органами национальной безопасности и средствами массовой информации. Агентство France ⁇ s Viginum, например, было создано в 2021 году для обнаружения цифровых помех со стороны иностранных организаций. В феврале 2024 года агентство обнаружило более 193 веб-сайтов, распространяющих дезинформацию, направленную через сайты социальных сетей и приложения для обмена сообщениями. Похоже, что даже для органов безопасности характеристика происхождения кампании не всегда проста, особенно когда дезинформация или дезинформация должны быть прослежены до иностранных правительств, злонамеренных субъектов или простых людей, выступающих в качестве разрушителей.
В дополнение к этому, гибридная война, для которой дезинформация является лишь инструментом, сочетает кибератаки с массовой дезинформацией, создавая риски для злонамеренного влияния на средства массовой информации, правительства, общественную инфраструктуру, а также гражданское общество и академический сектор. Именно в этом и заключается реальная угроза.
Будущие угрозы и вызовы
Угроза и опасность дезинформации заключается в том, что она использует поляризацию, эмоции и стереотипы. Элементы для того, чтобы «фейковые новости» стали вирусными, зависят от их взаимодействия с рядом спорных вопросов, апеллирующих к любопытству или конкретным эмоциям в обществе. Персонализированный таргетинг, основанный на личных или психологических характеристиках, может быть объединен с инструментами генерации естественного языка для создания контента для уникальных пользователей, что может привести к активным манипуляциям.
Кроме того, агрессивное автоматическое распространение дезинформации непосредственно перед началом политической кампании может негативно повлиять на результаты выборов (Wade 2018). Опираясь на сбор и манипулирование данными пользователей, чтобы предвидеть и влиять на избирателей, политические мнения и результаты выборов, профилирование пользователей и микротаргетинг могут представлять угрозу демократии, общественным дебатам и выбору избирателей (Kertysova 2018, Mont ⁇ Alverne et al. 2024). Этот момент чрезвычайно важен, поскольку в этом году 2024 год будет годом выборов для половины населения мира, и вмешательства в настоящее время подозреваются, но не видны, поскольку доказательства трудно найти.
Цифровая революция, включая ИИ, формирует будущее, наполненное неопределенностью, требующее новых компетенций, таких как электронное управление и ИТ-навыки. Хотя технология открывает новые возможности и может привести к позитивным преобразованиям в различных секторах, таких как здравоохранение, экономика или расширение прав и возможностей гражданского общества, она также способствует эрозии авторитета и ценностей, которые заменяются бесконечным доступом к информации и подключению, включая поддельный и манипулируемый контент.
Ограничения также могут быть необходимы для предотвращения алгоритмов или ботов, диктующих наш образ жизни и создающих пространство для манипулирования выборами. Большой брандмауэр должен защитить Европу от кибер-вмешательств и манипулируемого контента. Поддержание стабильности и доверия к институтам, демократическим системам, средствам массовой информации и экономическим структурам станет проблемой в этом быстро меняющемся ландшафте. Кибербезопасность и борьба с дезинформацией должны быть одними из самых высоких приоритетов.
Категория: Ссылки
- Noémi Bontridder и Yves Poullet Y, 2021, Роль искусственного интеллекта в дезинформации. Политика в отношении данных &, 3: e32. doi:10.1017/dap.2021.20
- Катарина Кертысова, 2018, Искусственный интеллект и дезинформация Как ИИ меняет способ производства, распространения и противодействия дезинформации, безопасность и права человека 29 (2018) 55-81
- Камила Монтхалверн, Сумитра Бадринатан, Эми, Росс Аргедас, Бенджамин Тофф, Ричард Флетчер и Расмус Клейс Нильсен, 2024 The Trust Gap: Как и почему новости на цифровых платформах воспринимаются более скептически по сравнению с новостями в целом https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2022-09/MontAlverne_et_al_The_Trust_Gap.pdf
- Ник Ньюман, 2024 ⁇ Digital News Project: Журналистика, СМИ и технологии: Тенденции и прогнозы, Оксфордский университет, Институт Рейтер, https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2024-01/Newman%20-%20Trends%20and%20Predictions%202024%20FINAL.pdf
- Майкл Уэйд, Психографика: The Behavioural Analysis That Helped Cambridge Ana ⁇ lytica Know Voters ⁇ Minds, ⁇ The Conversation, March 21, 2018, https://theconversation .com/psychographics-the-behavioural-analytica-that-helped-cambridge-analytica-know-voters-minds-93675 (недоступная ссылка - история).
Скачать полную статью в pdf Сюда можно зайти.
О ПАСКАЛИН ГАБОРИТ
Паскалин Габорит - исследователь, консультант, эксперт и тренер. Имеет степень доктора политических наук по теме «Доверие и конфликты». Является основателем аналитического центра/НПО. Pilot4DEV и работает консультантом по оценке/оценке качества различных международных программ и проектов.
Она опубликовала книги и статьи по международному сотрудничеству, устойчивости, культуре, развитию, гендерному равенству и адаптации к изменению климата. Она была директором международной сети Pilot Cities более 12 лет и работала советником в других аналитических центрах.
В настоящее время она работает над проектами, связанными с исследованиями и действиями по устойчивости, устойчивости, адаптации к климату, диалогу, фейковым новостям, искусственному интеллекту, правам человека и демократии.
