Las organizaciones internacionales clasifican la desinformación como una de las principales amenazas a la democracia desde hace más de una década. Las tecnologías digitales reinventan y remodelan de forma incesante los estilos de vida modernos y los entornos de los ciudadanos y las empresas. La IA está trayendo una nueva interrupción en la forma en que accedemos al conocimiento y creamos, difundimos y entendemos la información, al difuminar las líneas entre la información real y la información manipulada.
Impacto de la revolución digital en la sociedad
La revolución digital está llegando a su edad de oro, en continuidad con las transformaciones anteriores que se produjeron en menos de una década. Para 2024, el número de propietarios mundiales de teléfonos móviles pronostica alcanzar los 7,21 mil millones. Alrededor de 67% de la población mundial tiene actualmente acceso a Internet: solo 1% en 1995. Los cambios se han avecinado rápidamente como un tsunami, sin la posibilidad de que las personas retrocedan o piensen en ellos, ni de que todas las partes interesadas adapten las habilidades, los cursos de educación ni conviertan múltiples sectores económicos. Estas tendencias generaron un optimismo increíble entre los responsables políticos europeos (digitalizar la UE, mercado único digital, emprendedores de negocios rápidos, etc.). Sin embargo, esto se hizo eco del pesimismo latente entre los perdedores de la situación que no pudieron ponerse al día (inversores tradicionales, personas mayores, empleados despedidos en sectores automatizados y personas con baja alfabetización en habilidades de TI).
Las ventajas para los consumidores y los inversores empresariales de la agitación digital son colosales: se hace posible el acceso directo a la información, los conocimientos y los datos en todo el mundo. El conocimiento fácil de digerir es accesible en casi cualquier lugar a través de las redes sociales, los motores de búsqueda en Internet, las aplicaciones selectivas, pero también la educación en línea. La conectividad es ilimitada: las plataformas colaborativas, incluidas las redes sociales, han permitido establecer un vínculo directo entre las personas, pero también entre los empresarios potenciales y los consumidores. La logística se ve facilitada sustancialmente por la posibilidad de pedir suministros, moverse más rápido o más barato, usar GPS, geolocalización y conexiones instantáneas. Por último, pero no por ello menos importante, las tecnologías digitales con el empoderamiento de la IA ofrecen un enorme potencial para encontrar soluciones de investigación para el desarrollo de la salud, el clima y las infraestructuras, también para que los países menos avanzados las adopten.
Esto nos lleva a las desventajas y los obstáculos, si no a las amenazas, de esta revolución digital de la IA. De hecho, los sistemas desarrollados por la IA están «aumentando las oportunidades para crear contenidos falsos realistas generados por la IA, pero también (...) facilitando la difusión de desinformación a un público (micro) específico y a escala de partes interesadas malintencionadas» (Bontridder y Poullet 2021). Se han planteado preocupaciones sobre los derechos de autor, los algoritmos sesgados, los modelos de negocio que utilizan datos masivos para engañar a las personas y la sustitución de puestos de trabajo / empleo por tecnología en numerosos sectores de IA. Las tecnologías de IA también facilitarán el uso de vídeo, texto e imagen, generando contenido basado en información falsa y creando dificultades para que las personas y los medios de comunicación confíen en la información (Newman 2024).
Respuesta de la UE: normativa, ciberseguridad y verificación de datos
Al contrario del vacío creado por la falta de regulaciones en otros países democráticos, la Unión Europea (UE), seguida por los Estados miembros de la UE, ha estado desarrollando activamente políticas e iniciativas para combatir la desinformación, particularmente en el contexto de salvaguardar los procesos democráticos, proteger a los ciudadanos y promover la alfabetización mediática. Estas políticas e iniciativas reflejan el compromiso de la UE de abordar el reto polifacético de la desinformación y proteger los valores democráticos en la era digital. Estas iniciativas se ven reforzadas por la aprobación del Reglamento sobre la desinformación en la mayoría de los Estados miembros de la UE, y por una cooperación más estrecha entre los Estados miembros de la UE en materia de ciberseguridad y cooperación conjunta para contrarrestar la desinformación.
Por último, observamos las negociaciones en curso entre las instituciones de la UE y las principales plataformas de internet para encontrar la mejor manera de abordar la desinformación. La cuestión de la regulación frente a la autorregulación aún no ha terminado y necesitará desarrollos adicionales en los próximos años.
Pero esto solo refleja parte de los esfuerzos para proteger a los ciudadanos contra la desinformación. La UE y los Estados miembros también han invertido esfuerzos en la creación de agencias de ciberseguridad para desacreditar campañas masivas de desinformación y verificadores de datos para los medios de comunicación (como EDMO, el Observatorio Europeo de Medios Digitales). A pesar de este arsenal de herramientas, la desinformación sigue siendo una amenaza real.
Hay líneas borrosas entre el «desacreditamiento» de la desinformación realizado por agentes privados y las agencias nacionales de seguridad. Mientras que se anima a los ciudadanos a ver vídeos sobre cómo reconocer la desinformación y hacer uso de verificadores de hechos, las agencias de seguridad nacional y los medios de comunicación siguen dando a conocer campañas manipuladoras de desinformación. La agencia francesa Viginum, por ejemplo, se creó en 2021 para detectar interferencias digitales de entidades extranjeras. La agencia descubrió en febrero de 2024 más de 193 sitios web que difundían desinformación dirigida a través de sitios de redes sociales y aplicaciones de mensajería. Parece que incluso para las agencias de seguridad, la caracterización del origen de la campaña no siempre es fácil, en particular cuando la desinformación o la desinformación deben remontarse a gobiernos extranjeros, agentes malévolos o simples personas que actúan como disruptores.
Además de esto, la guerra híbrida, para la que la desinformación es solo una herramienta, está combinando ciberataques con desinformación masiva, creando riesgos de influencia malévola hacia los medios de comunicación, los gobiernos, la infraestructura pública, pero también la sociedad civil y los sectores académicos. Y aquí es donde radica la verdadera amenaza.
Amenazas y retos futuros
La amenaza y el peligro de la desinformación es que hace uso de la polarización, las emociones y los estereotipos. Los elementos para que una «noticia falsa» se vuelva viral dependen de su interacción con una serie de asuntos divisivos que apelan a la curiosidad o a emociones específicas en una sociedad. La segmentación personalizada, basada en características personales o psicológicas, se puede combinar con herramientas de generación de lenguaje natural para crear contenido para usuarios únicos, lo que podría conducir a una manipulación activa.
Además, la agresiva difusión automatizada de desinformación justo antes del inicio de una campaña política puede afectar negativamente a los resultados electorales (Wade 2018). «Sobre la base de la recopilación y manipulación de los datos de los usuarios con el fin de anticipar e influir en las opiniones políticas y los resultados electorales de los votantes, la elaboración de perfiles de usuarios y la microorientación pueden suponer una amenaza para la democracia, el debate público y las elecciones de los votantes» (Kertysova 2018, Mont’Alverne et al. 2024). Este punto es extremadamente importante, ya que este año 2024 será un año electoral para la mitad de la población mundial, y las interferencias se sospechan actualmente, pero no son visibles, ya que es difícil encontrar pruebas.
La revolución digital, incluida la IA, está configurando un futuro lleno de incertidumbres, que requiere nuevas competencias como la gestión electrónica y las habilidades de TI. Si bien la tecnología abre nuevas oportunidades y puede conducir a transformaciones positivas en diversos sectores, como la salud, la economía o el empoderamiento de la sociedad civil, también contribuye a la erosión de la autoridad y los valores, que se sustituyen por un acceso sin fin a la información y la conectividad, incluidos los contenidos falsos y manipulados.
Los límites también pueden ser necesarios para evitar que los algoritmos o bots dicten nuestros estilos de vida y creen espacio para la manipulación de las elecciones. Un «gran cortafuegos» debería proteger a Europa contra las ciberinterferencias y los contenidos manipulados. Mantener la estabilidad y la confianza en las instituciones, los sistemas democráticos, los medios de comunicación y las estructuras económicas se convertirá en un desafío en este panorama que cambia rápidamente. La ciberseguridad y la lucha contra la desinformación deben figurar entre las máximas prioridades.
Referencias
- Noémi Bontridder e Yves Poullet Y, 2021, The role of artificial intelligence in disinformation [«El papel de la inteligencia artificial en la desinformación», documento en inglés]. Política de Data &, 3: e32. doi:10.1017/dap.2021.20
- Katarina Kertysova, 2018, Inteligencia Artificial y Desinformación Cómo la IA cambia la forma en que se produce, difunde y puede contrarrestarse la desinformación, la seguridad y los derechos humanos 29 (2018) 55-81
- Camila Mont’Alverne, Sumitra Badrinathan, Amy, Ross Arguedas, Benjamin Toff, Richard Fletcher y Rasmus Kleis Nielsen, 2024 The Trust Gap: Cómo y por qué las noticias en las plataformas digitales se ven más escépticamente que las noticias en general, Reuters Institute https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2022-09/MontAlverne_et_al_The_Trust_Gap.pdf
- Nic Newman, 2024 «Digital News Project: Periodismo, medios de comunicación y tecnología: Trends and Prediction», Universidad de Oxford, Instituto Reuters, https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2024-01/Newman%20-%20Trends%20and%20Predictions%202024%20FINAL.pdf
- Michael Wade, «Psychographics: The Behavioural Analysis That Helped Cambridge Analytica Know Voters’ Minds», The Conversation, 21 de marzo de 2018, https://theconversation .com/psychographics-the-behavioural-analysis-that-helped-cambridge-analytica-know -voters-minds-93675
Descargar artículo completo en pdf aquí.
ACERCA DE PASCALINE GABORIT
Pascaline Gaborit es investigadora, consultora, experta y formadora. Tiene un doctorado en ciencias políticas sobre el tema «Confianza y conflictos». Es la fundadora del think tank/ONG Pilot4DEV y trabaja como consultora en la evaluación/evaluación de calidad de diferentes programas y proyectos internacionales.
Publicó libros y artículos sobre cooperación internacional, resiliencia, cultura, desarrollo, igualdad de género y adaptación al clima. Fue directora de la red internacional Pilot Cities durante más de 12 años y trabajó como asesora para otros think tanks.
Actualmente trabaja en proyectos relacionados con la investigación y la acción sobre resiliencia, sostenibilidad, adaptación al cambio climático, diálogo, noticias falsas, inteligencia artificial, derechos humanos y democracia.
