Om oss AI4Debunk
Metod och resultat
Våra teknologier
Med tanke på nyheternas multimodala karaktär i dag, och sammanhangets betydelse för att förstå innebörden, utnyttjar AI4Debunk kraften i banbrytande monomodal och multimodal maskininlärningsteknik samt kunskapsdiagram för att extrahera relevant information från data och upptäcka desinformationsmönster och trender. Vi föreslår också en human-in-the-loop-mekanism (HITL) för att förbättra datakvaliteten och främja större förtroende för processen.
Språkmodeller och stora språkmodeller
Visionsmodeller och stora visionsmodeller
Talbehandling
Multimodal maskininlärning
Human-in-the-loop-mekanismer
Kunskapsdiagram
Vår metodik
Multimodalt kunskapsdiagram: integrera olika datatyper, såsom text, bilder, videor och ljud, för att ge en heltäckande bild av ett ämne och avslöja inkonsekvenser mellan källor.
Enmodalt kunskapsdiagram: fungerar som en backuplösning som omvandlar multimodala data till text (med hjälp av objektdetektering, bildbeskrivning, åtgärdsdetektering i video eller ljud etc.).
Monomodala moduler för upptäckt av falska nyheter: skilja mellan autentiskt och manipulerat innehåll (artificiellt modifierat eller syntetiskt skapat) för text-, bild-, video- och ljuddata.
Multimodala moduler för upptäckt av falska nyheter: integrera resultat från monomodala falska nyhetsdetektorer och kontextuell information från kunskapsdiagrammet för att klassificera nyheter som verkliga eller falska baserat på datamönster i text, bilder, videor och ljud.
AI4Debunk är dedikerade till att förbättra AI-baserade modeller för att ge förklaringar och förtroende för deras upptäckt av falska nyheter. Detta kommer att framhäva följande:
- vilka aspekter av nyhetsartikeln som är mest relevanta för att upptäcka falska nyheter,
- Vilka modaliteter (text, bild, ljud eller video) som har störst inverkan på det slutliga beslutet.
AI4Debunk kommer att genomföra två fallstudier för att validera sin helhetsstrategi för att bekämpa desinformation:
- Rysk propaganda relaterad till kriget i Ukraina
- Manipulerat innehåll om klimatförändringar
Dessa fallstudier kommer att omfatta identifiering av målgrupper, desinformationskällor och spridningsmetoder, och kommer att leda till formulering av tekniska krav och funktionella behov för AI4Debunks gränssnitt.
Det primära målet är att förstå desinformationsprocesser, utforma och modellera dem och därefter utveckla verktyg för analys och motåtgärder.
Båda fallstudierna kommer att kartläggas i kunskapsdiagram. Sådana grafer kommer att erbjuda kontextuella insikter för ytterligare upptäckt av falska nyheter. Regelbundna uppdateringar kommer att underlättas genom sammanställd återkoppling från medborgarna och integrering av nya sammanställda uppgifter.
Som en del av sin metodik kommer AI4Debunk att göra en övergripande sociologisk bedömning av de verktyg som utvecklats och deras inverkan på de två fallstudierna:
- Rapporter och fördjupad analys Mekanismer för motståndskraft.
- Samarbete med berörda parter genom enkäter, lokala gruppmöten och fokusgruppsdiskussioner,
- Jämställdhet och engagemangsprocesser för att operationalisera politik, program och insatser i desinformationsmekanismer.
AI4Debunk har åtagit sig att främja mediekompetens och kommer att skapa didaktiska resurser för att stödja klassrumsutbildning i detektering av falska nyheter, utrusta de yngre generationerna med färdigheter för att kritiskt bedöma och filtrera information utan att bli lurade. Dessa resurser är:
- Serietidningar
Serietidningarna har utvecklats på grundval av projektforskningen om falska nyheter och fungerar som ett engagerande verktyg för att öka medvetenheten och ge riktlinjer för hur man upptäcker desinformation på nätet. De kommer att åtföljas av frågeformulär för att bedöma läranderesultaten. - Spel
Spelen är utformade och testade i samarbete med lärare och erbjuder eleverna en interaktiv upplevelse som illustrerar konsekvenserna av falska nyheter och ger praktiska insikter.
Båda materialen kommer inledningsvis att distribueras till högstadie- och gymnasieskolor i Nederländerna och Belgien, med planer på bredare tillgänglighet i högstadie- och gymnasieskolor i hela Europa.
VÅRA INTERFACES
API
Öppen källkod. Integrerar AI- och ML-algoritmer för att beräkna en sannolikhetspoäng för desinformation (disinfoscore) och flagga misstänkt innehåll.
Vid mottagande av innehåll som inmatning kommer API:et omedelbart att returnera sin disinfoscore. När det gäller manipulerat innehåll kommer det också att identifiera de områden där signalen från det ursprungliga innehållet kunde ha manipulerats. Dessutom kommer den att tillhandahålla fakta/kontextinformation som bekräftar innehållets poäng.
Webben
plug-in
Designad för webbläsare och sociala medieplattformar. Det kommer att ge snabba meddelanden till användare, vilket ger insikter i tillförlitligheten och trovärdigheten hos det innehåll som de för närvarande tittar på.
Disinfopedia
App
Utvecklad för smartphones och surfplattor. Det kommer att kontrollera riktigheten i online-innehåll, inklusive nyhetsartiklar, inlägg på sociala medier, produktrecensioner och bilder. Användare kommer att kunna mata in information (URL, text eller bilder) och appen kommer att identifiera dess risknivå för falskhet.
AR/VR
gränssnitt
Låt oss sammanfatta
