As organizações internacionais classificam a desinformação como uma das principais ameaças à democracia há mais de uma década. As tecnologias digitais reinventam incansavelmente e reformulam profundamente os estilos de vida modernos, os ambientes empresariais e dos cidadãos. A IA está a provocar uma nova perturbação na forma como acedemos ao conhecimento e criamos, divulgamos e compreendemos a informação, ao esbater as linhas entre a informação real e a informação manipulada.
Impacto da revolução digital na sociedade
A revolução digital está a atingir a sua idade de ouro, em continuidade com as transformações anteriores que ocorreram em menos de uma década. Até 2024, prevê-se que o número de proprietários de telemóveis a nível mundial atinja 7,21 mil milhões. Cerca de 67% da população mundial tem atualmente acesso à Internet – era apenas 1% em 1995. As mudanças surgiram rapidamente como um tsunami, sem a possibilidade de as pessoas retrocederem ou pensarem nelas, nem de todas as partes interessadas adaptarem competências, cursos de educação ou converterem múltiplos setores económicos. Estas tendências geraram um otimismo incrível entre os decisores europeus (digitalização da UE, mercado único digital, empresários rápidos, etc.). No entanto, tal foi ecoado pelo pessimismo latente entre os perdedores da situação que não conseguiram recuperar o atraso (investidores tradicionais, idosos, trabalhadores despedidos em setores automatizados e pessoas com baixa literacia informática).
As vantagens da transformação digital para os consumidores e os investidores empresariais são colossais: é possível o acesso direto a informações, conhecimentos e dados a nível mundial. O conhecimento fácil de digerir é acessível em quase todo o lado através das redes sociais, dos motores de pesquisa na Internet, de aplicações seletivas, mas também da educação em linha. A conectividade é ilimitada: as plataformas colaborativas, incluindo as redes sociais, permitiram uma ligação direta entre as pessoas, mas também entre potenciais empresários e consumidores. A logística é substancialmente facilitada pela possibilidade de encomendar fornecimentos, mover-se mais rápido ou mais barato, utilizar GPS, geolocalização e ligações instantâneas. Por último, mas não menos importante, as tecnologias digitais com a capacitação da IA oferecem um enorme potencial para encontrar soluções de investigação para o desenvolvimento da saúde, do clima e das infraestruturas, nomeadamente para que os países menos avançados as adotem.
Isto leva-nos às desvantagens e obstáculos, se não às ameaças desta revolução da IA digital. Com efeito, os sistemas desenvolvidos pela IA «aumentam as oportunidades de criação de conteúdos falsos realistas gerados pela IA, mas também (...) facilitam a divulgação de desinformação a um público (micro)alvo e em grande escala por partes interessadas mal-intencionadas» (Bontridder e Poullet 2021). Foram manifestadas preocupações quanto aos direitos de autor, aos algoritmos tendenciosos, aos modelos empresariais que utilizam dados maciços para enganar as pessoas e à substituição de postos de trabalho/emprego por tecnologia em numerosos setores da IA. As tecnologias de IA facilitarão igualmente a utilização de vídeo, texto e imagem, gerando conteúdos baseados em informações falsas e criando dificuldades para as pessoas e os meios de comunicação social confiarem nas informações (Newman 2024).
Resposta da UE: regulamentação, cibersegurança e verificação de factos
Ao contrário do vazio criado pela falta de regulamentação noutros países democráticos, a União Europeia (UE), seguida pelos Estados-Membros da UE, tem vindo a desenvolver ativamente políticas e iniciativas para combater a desinformação, em especial no contexto da salvaguarda dos processos democráticos, da proteção dos cidadãos e da promoção da literacia mediática. Estas políticas e iniciativas refletem o compromisso da UE de enfrentar o desafio multifacetado da desinformação e de proteger os valores democráticos na era digital. Estas iniciativas são reforçadas pela aprovação do regulamento relativo à desinformação na maioria dos Estados-Membros da UE e por uma cooperação mais estreita entre os Estados-Membros da UE em matéria de cibersegurança e cooperação conjunta para combater a desinformação.
Por último, observamos as negociações em curso entre as instituições da UE e as principais plataformas da Internet para encontrar a melhor forma de combater a desinformação. A questão da regulação versus auto-regulação ainda não terminou e necessitará de desenvolvimentos adicionais ao longo dos próximos anos.
No entanto, tal reflete apenas parte dos esforços para proteger os cidadãos contra a desinformação. A UE e os Estados-Membros também investiram esforços na criação de agências de cibersegurança para desmascarar campanhas maciças de desinformação e verificadores de factos para os meios de comunicação social (como o EDMO, o Observatório Europeu dos Meios de Comunicação Digitais). Apesar deste arsenal de instrumentos, a desinformação continua a ser uma ameaça real.
Existem linhas difusas entre a «desmistificação» da desinformação feita por intervenientes privados e as agências de segurança nacionais. Enquanto os cidadãos são incentivados a assistir a vídeos sobre como reconhecer a desinformação e a utilizar verificadores de factos, as campanhas de desinformação manipuladoras ainda são bastante divulgadas pelas agências de segurança nacional e pelos meios de comunicação social. A agência francesa Viginum, por exemplo, foi criada em 2021 para detetar interferências digitais de entidades estrangeiras. Em fevereiro de 2024, a agência descobriu mais de 193 sítios Web que propagam desinformação dirigida através de sítios de redes sociais e aplicações de mensagens. Parece que, mesmo para as agências de segurança, a caracterização da origem da campanha nem sempre é fácil, em especial quando a desinformação ou a desinformação têm de ser rastreadas até governos estrangeiros, intervenientes malévolos ou pessoas simples que atuam como perturbadores.
Além disso, a guerra híbrida, para a qual a desinformação é apenas um instrumento, está a combinar ciberataques com desinformação maciça, criando riscos de influência malévola para os meios de comunicação social, os governos, as infraestruturas públicas, mas também para a sociedade civil e os setores académicos. E é aqui que reside a verdadeira ameaça.
Ameaças e desafios futuros
A ameaça e o perigo da desinformação residem no recurso à polarização, às emoções e aos estereótipos. Os elementos para que uma «notícia falsa» se torne viral dependem da sua interação com uma série de questões divisivas que apelam à curiosidade ou a emoções específicas numa sociedade. A segmentação personalizada, baseada em características pessoais ou psicológicas, pode ser combinada com ferramentas de Geração de Linguagem Natural para criar conteúdo para utilizadores únicos, conduzindo potencialmente a uma manipulação ativa.
Além disso, a difusão automatizada agressiva de desinformação imediatamente antes do início de uma campanha política pode ter um impacto negativo nos resultados eleitorais (Wade 2018). «Com base na recolha e manipulação de dados dos utilizadores para antecipar e influenciar as opiniões políticas e os resultados eleitorais dos eleitores, a definição de perfis dos utilizadores e o microdirecionamento podem constituir uma ameaça para a democracia, o debate público e as escolhas dos eleitores» (Kertysova 2018, Mont’Alverne et al. 2024). Este ponto é extremamente importante, uma vez que este ano de 2024 será um ano eleitoral para metade da população mundial e as interferências são atualmente suspeitas, mas não visíveis, uma vez que é difícil encontrar provas.
A revolução digital, incluindo a IA, está a moldar um futuro cheio de incertezas, exigindo novas competências, como a gestão eletrónica e as competências informáticas. Embora a tecnologia abra novas oportunidades e possa conduzir a transformações positivas em vários setores, como a saúde, a economia ou a capacitação da sociedade civil, também contribui para a erosão da autoridade e dos valores, que são substituídos por um acesso sem fim à informação e à conectividade, incluindo conteúdos falsos e manipulados.
Os limites também podem ser necessários para evitar que algoritmos ou bots ditem nossos estilos de vida e criem espaço para a manipulação de eleições. Uma «grande barreira de segurança» deve proteger a Europa contra ciberinterferências e conteúdos manipulados. Manter a estabilidade e a confiança nas instituições, nos sistemas democráticos, nos meios de comunicação social e nas estruturas económicas tornar-se-á um desafio neste cenário em rápida mutação. A cibersegurança e a luta contra a desinformação devem figurar entre as principais prioridades.
Referências
- Noémi Bontridder e Yves Poullet Y, 2021, The role of artificial intelligence in disinformation (O papel da inteligência artificial na desinformação). Política do & de dados, 3: e32. doi:10.1017/dap.2021.20
- Katarina Kertysova, 2018, Artificial Intelligence and Disinformation How AI Changes the Way Disinformation is Produced, Disseminated, and Can Be Countered, security and human rights [A inteligência artificial e a desinformação: como a IA altera a forma como a desinformação é produzida, disseminada e pode ser combatida, a segurança e os direitos humanos] 29 (2018) 55-81
- Camila Mont’Alverne, Sumitra Badrinathan, Amy, Ross Arguedas, Benjamin Toff, Richard Fletcher e Rasmus Kleis Nielsen, 2024 The Trust Gap: Como e por que as notícias nas plataformas digitais são vistas de forma mais cética em relação às notícias em geral https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2022-09/MontAlverne_et_al_The_Trust_Gap.pdf
- Nic Newman, 2024 «Digital News Project: Jornalismo, meios de comunicação social e tecnologia: Trends and Prediction», Universidade de Oxford, Reuters Institute, https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2024-01/Newman%20-%20Trends%20and%20Predictions%202024%20FINAL.pdf
- Michael Wade, «Psychographics: The Behavioural Analysis That Helped Cambridge Analytica Know Voters’ Minds», The Conversation, 21 de março de 2018, https://theconversation .com/psychographics-the-behavioural-analysis-that-helped-cambridge-analytica-know-voters-minds-93675.
Transferir o artigo completo em pdf aqui.
SOBRE O GABÓRITO PASCALINO
Pascaline Gaborit é investigadora, consultora, especialista e formadora. É doutorada em ciências políticas sobre o tema «Confiança e Conflitos». É a fundadora do think tank/ONG Pilot4DEV e trabalha como consultor na avaliação/avaliação da qualidade de diferentes programas e projetos internacionais.
Publicou livros e artigos sobre cooperação internacional, resiliência, cultura, desenvolvimento, igualdade de género e adaptação às alterações climáticas. Foi diretora da rede internacional de cidades-piloto durante mais de 12 anos e trabalhou como conselheira para outros grupos de reflexão.
Atualmente, trabalha em projetos relacionados com a investigação e a ação em matéria de resiliência, sustentabilidade, adaptação às alterações climáticas, diálogo, notícias falsas, inteligência artificial, direitos humanos e democracia.
