Acerca de AI4Debunk
Metodología y resultados
Nuestras tecnologías
Dada la naturaleza multimodal de las noticias hoy en día, y la importancia del contexto para comprender el significado, AI4Debunk aprovecha el poder de las tecnologías de aprendizaje automático monomodal y multimodal de vanguardia, así como los gráficos de conocimiento para extraer información relevante de los datos y detectar patrones y tendencias de desinformación. También proponemos un mecanismo de "human-in-the-loop" (HITL) para mejorar la calidad de los datos y fomentar una mayor confianza en el proceso.
Modelos de Lenguaje y Modelos de Lenguaje Grandes
Modelos de Visión y Modelos de Visión Grande
Procesamiento del habla
Aprendizaje automático multimodal
Mecanismos humanos en el bucle
Gráficos de conocimiento
Nuestra metodología
Gráfico de conocimiento multimodal: integrar diversos tipos de datos, como texto, imágenes, vídeos y audio, para proporcionar una visión completa de un tema y revelar incoherencias entre las fuentes.
Gráfico de conocimiento monomodal: servir como una solución de respaldo que transforma datos multimodales en texto (utilizando detección de objetos, descripción de imágenes, detección de acciones en video o audio, etc.).
Módulos monomodales de detección de noticias falsas: distinguir entre contenido auténtico y manipulado (modificado artificialmente o creado sintéticamente) para datos de texto, imagen, vídeo y audio.
Módulos multimodales de detección de noticias falsas: integrar los resultados de los detectores monomodales de noticias falsas y la información contextual del gráfico de conocimientos para clasificar las noticias como reales o falsas sobre la base de patrones de datos en texto, imágenes, vídeos y audio.
AI4Debunk se dedica a mejorar los modelos basados en IA para ofrecer explicaciones y confianza en su detección de noticias falsas. Esto pondrá de relieve:
- qué aspectos de la noticia son más relevantes en la detección de noticias falsas;
- qué modalidades (texto, imagen, audio o vídeo) tienen un mayor impacto en la decisión final.
AI4Debunk llevará a cabo dos estudios de caso para validar su enfoque holístico para combatir la desinformación:
- Propaganda rusa relacionada con la guerra en Ucrania
- Contenido manipulado sobre el cambio climático
Estos estudios de casos abarcarán la identificación de grupos destinatarios, fuentes de desinformación y métodos de propagación, y darán lugar a la formulación de requisitos técnicos y necesidades funcionales para las interfaces de AI4Debunk.
El objetivo principal es comprender los procesos de desinformación, enmarcarlos y modelarlos, y posteriormente desarrollar herramientas para el análisis y la contraacción.
Ambos casos de estudio serán mapeados en gráficos de conocimiento. Tales gráficos ofrecerán información contextual para una mayor detección de noticias falsas. Se facilitarán actualizaciones periódicas a través de los comentarios de los ciudadanos seleccionados y la integración de nuevos datos seleccionados.
Como parte de su metodología, AI4Debunk realizará una evaluación sociológica general de las herramientas desarrolladas y su impacto para los dos estudios de caso:
- Informes y análisis en profundidad de los mecanismos de resiliencia;
- Compromiso con las partes interesadas a través de encuestas, reuniones de grupos locales y discusiones de grupos focales;
- Igualdad de género y procesos de participación para poner en práctica políticas, programas e intervenciones en mecanismos de desinformación.
AI4Debunk se compromete a promover la alfabetización mediática y creará recursos didácticos para apoyar la capacitación en el aula en la detección de noticias falsas, equipando a las generaciones más jóvenes con las habilidades para evaluar críticamente y filtrar información sin ser engañadas. Estos recursos son:
- Categoría: Cómics
Desarrollados sobre la base de la investigación del proyecto sobre noticias falsas, los cómics sirven como una herramienta atractiva para crear conciencia y proporcionar directrices sobre cómo detectar la desinformación en línea. Irán acompañados de cuestionarios para evaluar los resultados del aprendizaje. - Juegos
Diseñados y probados en colaboración con los profesores, los juegos ofrecen a los estudiantes una experiencia interactiva, que ilustra las consecuencias de las noticias falsas y ofrece información práctica.
Ambos materiales se distribuirán inicialmente a escuelas secundarias en los Países Bajos y Bélgica, con planes para una mayor disponibilidad en las escuelas secundarias de toda Europa.
NUESTRAS INTERFACES
API
De código abierto. Integra algoritmos de IA y ML para calcular una puntuación de probabilidad de desinformación (disinfoscore) y marcar contenido sospechoso.
Al recibir el contenido como entrada, la API devolverá rápidamente su disinfoscore. En el caso de contenido manipulado, también identificará las regiones donde la señal del contenido original podría haber sido manipulada. Además, proporcionará información factual/contextual que corrobore la puntuación del contenido.
Web
plug-in
Disinfopedia
Aplicación
Desarrollado para smartphones y tablets. Verificará la precisión del contenido en línea, incluidos artículos de noticias, publicaciones en redes sociales, reseñas de productos e imágenes. Los usuarios podrán ingresar información (URL, texto o imágenes) y la aplicación identificará su nivel de riesgo de falsedad.
AR/VR
interfaz
Vamos a recapitular
