Informatie over AI4Debunk
Methodologie en resultaten
Onze technologieën
Gezien het multimodale karakter van nieuws tegenwoordig en het belang van de context om de betekenis te begrijpen, maakt AI4Debunk gebruik van de kracht van geavanceerde monomodale en multimodale machine learning-technologieën en kennisgrafieken om relevante informatie uit gegevens te extraheren en desinformatiepatronen en trends op te sporen. We stellen ook een human-in-the-loop-mechanisme (HITL) voor om de gegevenskwaliteit te verbeteren en het vertrouwen in het proces te vergroten.
Taalmodellen en grote taalmodellen
Visiemodellen en Grote Visiemodellen
Spraakverwerking
Multimodaal machinaal leren
Mens-in-de-loop Mechanismen
Kennisgrafieken
Onze methodologie
Multimodale kennisgrafiek: het integreren van verschillende gegevenstypen, zoals tekst, afbeeldingen, video's en audio, om een uitgebreid overzicht van een onderwerp te bieden en inconsistenties tussen bronnen aan het licht te brengen.
Monomodale kennisgrafiek: als back-upoplossing die multimodale gegevens omzet in tekst (met behulp van objectdetectie, beeldbeschrijving, actiedetectie in video of audio, enz.).
Monomodale nepnieuwsdetectiemodules: onderscheid te maken tussen authentieke en gemanipuleerde inhoud (kunstmatig gewijzigd of synthetisch gemaakt) voor tekst-, beeld-, video- en audiogegevens.
Multimodale nepnieuwsdetectiemodules: het integreren van resultaten van monomodale nepnieuwsdetectoren en contextuele informatie uit de kennisgrafiek om nieuws als echt of nep te classificeren op basis van gegevenspatronen in tekst, afbeeldingen, video's en audio.
AI4Debunk is toegewijd aan het verbeteren van AI-gebaseerde modellen om uitleg en vertrouwen te geven over hun detectie van nepnieuws. Dit zal de aandacht vestigen op:
- welke aspecten van het nieuwsstuk het meest relevant zijn bij het opsporen van nepnieuws;
- welke modaliteiten (tekst, beeld, audio of video) een grotere impact hebben op de uiteindelijke beslissing.
AI4Debunk zal twee casestudy’s uitvoeren om zijn holistische aanpak van de bestrijding van desinformatie te valideren:
- Russische propaganda in verband met de oorlog in Oekraïne
- Gemanipuleerde inhoud over klimaatverandering
Deze casestudy’s zullen de identificatie van doelgroepen, desinformatiebronnen en verspreidingsmethoden omvatten en zullen leiden tot de formulering van technische vereisten en functionele behoeften voor de interfaces van AI4Debunk.
Het primaire doel is om desinformatieprocessen te begrijpen, te kaderen en te modelleren, en vervolgens instrumenten te ontwikkelen voor analyse en tegenactie.
Beide casestudy's zullen in kennisgrafieken in kaart worden gebracht. Dergelijke grafieken bieden contextuele inzichten voor verdere detectie van nepnieuws. Regelmatige updates zullen worden vergemakkelijkt door samengestelde feedback van burgers en de integratie van nieuwe samengestelde gegevens.
Als onderdeel van zijn methodologie zal AI4Debunk een algemene sociologische beoordeling uitvoeren van de ontwikkelde instrumenten en de impact ervan voor de twee casestudies:
- Verslagen en diepgaande analyse van veerkrachtmechanismen;
- Betrokkenheid bij belanghebbenden door middel van enquêtes, lokale groepsvergaderingen en focusgroepdiscussies;
- Gendergelijkheid en betrokkenheidsprocessen om beleid, programma’s en interventies in desinformatiemechanismen operationeel te maken.
AI4Debunk zet zich in voor het bevorderen van mediageletterdheid en zal didactische middelen creëren om klassikale training in nepnieuwsdetectie te ondersteunen, waarbij de jongere generaties worden uitgerust met de vaardigheden om informatie kritisch te beoordelen en te filteren zonder te worden misleid. Deze middelen zijn:
- Stripboeken
De stripboeken, die zijn ontwikkeld op basis van het projectonderzoek naar nepnieuws, dienen als een aantrekkelijk instrument om het bewustzijn te vergroten en richtsnoeren te verstrekken over hoe online desinformatie kan worden opgespoord. Zij zullen vergezeld gaan van vragenlijsten om de leerresultaten te beoordelen. - Spellen
Ontworpen en getest in samenwerking met docenten, bieden de games studenten een interactieve ervaring, illustreren de gevolgen van nepnieuws en leveren praktische inzichten.
Beide materialen zullen in eerste instantie worden gedistribueerd naar middelbare scholen in Nederland en België, met plannen voor een bredere beschikbaarheid in middelbare scholen in heel Europa.
ONZE INTERFACES
API
Een open source. Integreert AI- en ML-algoritmen om een kansscore voor desinformatie (disinfoscore) te berekenen en verdachte inhoud te markeren.
Na ontvangst van inhoud als invoer, zal de API onmiddellijk zijn disinfoscore retourneren. In het geval van gemanipuleerde inhoud worden ook de regio's geïdentificeerd waar met het signaal van de oorspronkelijke inhoud had kunnen worden geknoeid. Daarnaast zal het feitelijke/contextuele informatie verstrekken die de score van de inhoud bevestigt.
Web
plug-in
Disinfopedia
App
Ontwikkeld voor smartphones en tablets. Het controleert de nauwkeurigheid van online inhoud, waaronder nieuwsartikelen, berichten op sociale media, productrecensies en afbeeldingen. Gebruikers kunnen informatie invoeren (URL's, tekst of afbeeldingen) en de app zal het risiconiveau voor valsheid identificeren.
AR/VR
interface
Laten we samenvatten
