Acerca de AI4Debunk
Metodologia e resultados
As nossas tecnologias
Dada a natureza multimodal das notícias nos dias de hoje e a importância do contexto para compreender o significado, a AI4Debunk aproveita o poder das tecnologias de aprendizagem automática monomodais e multimodais de ponta, bem como dos gráficos de conhecimento, para extrair informações pertinentes dos dados e detetar padrões e tendências de desinformação. Propomos também um mecanismo "human-in-the-loop" (HITL) para melhorar a qualidade dos dados e promover uma maior confiança no processo.
Modelos Linguísticos e Grandes Modelos Linguísticos
Modelos de visão e grandes modelos de visão
Processamento da fala
Aprendizagem de Máquinas Multimodais
Mecanismos humanos em circuito
Gráficos de conhecimento
A nossa metodologia
Gráfico de conhecimentos multimodais: integrar diversos tipos de dados, como texto, imagens, vídeos e áudio, a fim de proporcionar uma visão abrangente de um tema e revelar incoerências entre as fontes.
Gráfico de conhecimento monomodal: servir de solução de salvaguarda que transforma dados multimodais em texto (utilizando a deteção de objetos, a descrição de imagens, a deteção de ações em vídeo ou áudio, etc.).
Módulos monomodais de deteção de notícias falsas: distinção entre conteúdos autênticos e manipulados (alterados artificialmente ou criados sinteticamente) para dados de texto, imagem, vídeo e áudio.
Módulos multimodais de deteção de notícias falsas: integrar os resultados dos detetores monomodais de notícias falsas e as informações contextuais do gráfico de conhecimentos para classificar as notícias como reais ou falsas com base em padrões de dados em texto, imagens, vídeos e áudio.
A AI4Debunk dedica-se a melhorar os modelos baseados em IA para fornecer explicações e confiança na sua deteção de notícias falsas. Isto destacará:
- Que aspetos da notícia são mais relevantes para a deteção de notícias falsas;
- as modalidades (texto, imagem, áudio ou vídeo) que têm um maior impacto na decisão final.
A AI4Debunk realizará dois estudos de caso para validar a sua abordagem holística da luta contra a desinformação:
- Propaganda russa relacionada com a guerra na Ucrânia
- Conteúdo manipulado sobre as alterações climáticas
Estes estudos de caso abrangerão a identificação de grupos-alvo, fontes de desinformação e métodos de propagação e conduzirão à formulação de requisitos técnicos e necessidades funcionais para as interfaces da AI4Debunk.
O principal objetivo é compreender os processos de desinformação, enquadrá-los e modelá-los e, subsequentemente, desenvolver instrumentos de análise e de luta.
Ambos os estudos de caso serão mapeados em gráficos de conhecimento. Esses gráficos proporcionarão informações contextuais para uma maior deteção de notícias falsas. As atualizações regulares serão facilitadas através das reações dos cidadãos com curadoria e da integração de novos dados com curadoria.
No âmbito da sua metodologia, a AI4Debunk realizará uma avaliação sociológica global das ferramentas desenvolvidas e do seu impacto para os dois estudos de caso:
- Relatórios e análise aprofundada dos mecanismos de resiliência;
- Colaboração com as partes interessadas através de inquéritos, reuniões de grupos locais e debates de grupos de reflexão;
- Igualdade entre homens e mulheres e processos de participação para operacionalizar políticas, programas e intervenções em mecanismos de desinformação.
A AI4Debunk está empenhada em promover a literacia mediática e criará recursos didáticos para apoiar a formação em sala de aula na deteção de notícias falsas, dotando as gerações mais jovens das competências necessárias para avaliar criticamente e filtrar informações sem serem enganadas. Estes recursos são:
- Banda desenhada
Desenvolvidas com base na investigação do projeto sobre notícias falsas, as bandas desenhadas funcionam como uma ferramenta envolvente para aumentar a sensibilização e fornecer orientações sobre a forma de detetar desinformação em linha. Serão acompanhados de questionários para avaliar os resultados da aprendizagem. - Jogos
Concebidos e testados em colaboração com professores, os jogos oferecem aos alunos uma experiência interativa, ilustrando as consequências das notícias falsas e fornecendo informações práticas.
Ambos os materiais serão inicialmente distribuídos às escolas secundárias nos Países Baixos e na Bélgica, com planos para uma maior disponibilidade nas escolas secundárias em toda a Europa.
NOSSA INTERFACES
API
Código aberto. Integra algoritmos de IA e ML para calcular uma pontuação de probabilidade de desinformação (disinfoscore) e sinalizar conteúdos suspeitos.
Ao receber o conteúdo como entrada, a API devolverá imediatamente seu disinfoscore. No caso de conteúdo manipulado, também identificará as regiões onde o sinal do conteúdo original poderia ter sido adulterado. Além disso, fornecerá informações factuais/contextuais que corroboram a pontuação do conteúdo.
Web
plug-in
Disinfopedia
Aplicação
Desenvolvido para smartphones e tablets. Verificará a exatidão dos conteúdos em linha, incluindo artigos noticiosos, publicações nas redes sociais, análises de produtos e imagens. Os utilizadores poderão introduzir informações (URLs, texto ou imagens) e a aplicação identificará o seu nível de risco de falsidade.
AR/VR
interface
Vamos recapitular
