Despre noi AI4Debunk
Metodologie și rezultate
Tehnologiile noastre
Având în vedere natura multimodală a știrilor din zilele noastre și importanța contextului pentru înțelegerea semnificației, AI4Debunk valorifică puterea tehnologiilor de vârf monomodale și multimodale de învățare automată, precum și a graficelor de cunoștințe pentru a extrage informații relevante din date și pentru a detecta modelele și tendințele de dezinformare. Propunem, de asemenea, un mecanism de tip human-in-the-loop (HITL) pentru a îmbunătăți calitatea datelor și pentru a promova o mai mare încredere în acest proces.
Modele lingvistice și modele lingvistice mari
Modele de viziune și modele de viziune mari
Procesarea vorbirii
Învățarea automată multimodală
Mecanisme „umane în buclă”
Grafice de cunoștințe
Metodologia noastră
Graficul cunoștințelor multimodale: integrarea diferitelor tipuri de date, cum ar fi text, imagini, materiale video și audio, pentru a oferi o imagine cuprinzătoare a unui subiect și pentru a dezvălui neconcordanțe între surse.
Graficul cunoștințelor monomodale: servind drept soluție de rezervă care transformă datele multimodale în text (folosind detectarea obiectelor, descrierea imaginilor, detectarea acțiunilor în format video sau audio etc.).
Module monomodale de detectare a știrilor false: distincția între conținutul autentic și cel manipulat (modificat artificial sau creat sintetic) pentru text, imagine, date video și audio.
Module multimodale de detectare a știrilor false: integrarea rezultatelor detectoarelor de știri false monomodale și a informațiilor contextuale din graficul de cunoștințe pentru a clasifica știrile ca fiind reale sau false pe baza modelelor de date din text, imagini, materiale video și audio.
AI4Debunk este dedicat îmbunătățirii modelelor bazate pe IA pentru a oferi explicații și încredere în detectarea știrilor false. Acest lucru va evidenția:
- ce aspecte ale știrii sunt cele mai relevante pentru detectarea știrilor false;
- ce modalități (text, imagine, audio sau video) au un impact mai puternic asupra deciziei finale.
AI4Debunk va efectua două studii de caz pentru a-și valida abordarea holistică de combatere a dezinformării:
- Propaganda rusă legată de războiul din Ucraina
- Conținut manipulat privind schimbările climatice
Aceste studii de caz vor cuprinde identificarea grupurilor-țintă, a surselor de dezinformare și a metodelor de propagare și vor conduce la formularea cerințelor tehnice și a nevoilor funcționale pentru interfețele AI4Debunk.
Scopul principal este de a înțelege procesele de dezinformare, de a le încadra și modela și, ulterior, de a dezvolta instrumente de analiză și contracarare.
Ambele studii de caz vor fi cartografiate în grafice de cunoștințe. Astfel de grafice vor oferi informații contextuale pentru detectarea în continuare a știrilor false. Actualizările periodice vor fi facilitate prin feedbackul cules al cetățenilor și prin integrarea de noi date culese.
Ca parte a metodologiei sale, AI4Debunk va efectua o evaluare sociologică generală a instrumentelor dezvoltate și a impactului acestora pentru cele două studii de caz:
- Rapoarte și analize aprofundate mecanismelor de reziliență;
- Colaborarea cu părțile interesate prin sondaje, reuniuni ale grupurilor locale și discuții în cadrul grupurilor tematice;
- Egalitatea de gen și procese de implicare pentru operaționalizarea politicilor, a programelor și a intervențiilor în mecanismele de dezinformare.
AI4Debunk se angajează să promoveze educația în domeniul mass-media și va crea resurse didactice pentru a sprijini formarea în clasă în detectarea știrilor false, dotând generațiile mai tinere cu abilitățile de a evalua critic și de a filtra informațiile fără a fi înșelate. Aceste resurse sunt:
- Cărți de benzi desenate
Dezvoltate pe baza cercetării proiectului privind știrile false, benzile desenate servesc drept instrument de sensibilizare și oferă orientări cu privire la modul de detectare a dezinformării online. Acestea vor fi însoțite de chestionare pentru evaluarea rezultatelor învățării. - Jocuri
Concepute și testate în colaborare cu profesorii, jocurile oferă elevilor o experiență interactivă, ilustrând consecințele știrilor false și oferind perspective practice.
Ambele materiale vor fi distribuite inițial școlilor secundare din Țările de Jos și Belgia, cu planuri pentru o disponibilitate mai largă în școlile secundare din întreaga Europă.
Interfețele noastre
API
Sursă deschisă. Integrează algoritmi de IA și ML pentru a calcula un scor de probabilitate a dezinformării (disinfoscore) și pentru a semnala conținutul suspect.
La primirea conținutului ca intrare, API-ul va returna prompt disinfoscore-ul. În cazul conținutului manipulat, acesta va identifica, de asemenea, regiunile în care semnalul conținutului original ar fi putut fi modificat. În plus, acesta va furniza informații factuale/contextuale care confirmă punctajul conținutului.
Web
plug-in
Proiectat pentru browsere web și platforme de social media. Acesta va oferi notificări rapide utilizatorilor, oferind informații cu privire la fiabilitatea și credibilitatea conținutului pe care îl vizualizează în prezent.
Disinfopedia
Aplicație
Dezvoltat pentru smartphone-uri și tablete. Acesta va verifica acuratețea conținutului online, inclusiv a articolelor de știri, a postărilor pe platformele de comunicare socială, a recenziilor produselor și a imaginilor. Utilizatorii vor putea introduce informații (URL-uri, texte sau imagini), iar aplicația va identifica nivelul de risc pentru falsitate.
AR/VR
interfață
Să recapitulăm
