Om AI4Debunk

Metode og resultater

Vores teknologier

I betragtning af nyhedernes multimodale karakter i dag og kontekstens betydning for forståelsen af betydningen udnytter AI4Debunk styrken ved banebrydende monomodale og multimodale maskinlæringsteknologier samt videngrafer til at udtrække relevante oplysninger fra data og opdage desinformationsmønstre og -tendenser. Vi foreslår også en "human-in-the-loop"-mekanisme (HITL) for at forbedre datakvaliteten og skabe større tillid til processen.

Sprogmodeller og store sprogmodeller

Visionsmodeller og store visionsmodeller

Behandling af tale

Multimodal maskinlæring

Mekanismer, der er menneske-i-sløjfen

Videndiagrammer

Vores metode

AI4Debunks metode udnytter samarbejdet mellem mennesker og kunstig intelligens til effektivt at bekæmpe desinformation — gennem indholdsanalyse, faktatjek og netværksanalyse — og katalysere tilliden mellem brugere og onlineinformationskilder. Denne holistiske tilgang omfatter:

Multimodal videngraf: integration af forskellige datatyper, f.eks. tekst, billeder, videoer og lyd, for at give et samlet overblik over et emne og afsløre uoverensstemmelser på tværs af kilder.

Monomodal videngraf: fungerer som en backupløsning, der omdanner multimodale data til tekst (ved hjælp af objektdetektion, billedbeskrivelse, handlingsdetektion i video eller lyd osv.).

Monomodale moduler til afsløring af falske nyheder: skelne mellem autentisk og manipuleret indhold (kunstigt modificeret eller syntetisk skabt) til tekst-, billed-, video- og lyddata.

Multimodale moduler til afsløring af falske nyheder: integrere resultater fra monomodale falske nyhedsdetektorer og kontekstuelle oplysninger fra videngrafen for at klassificere nyheder som reelle eller falske baseret på datamønstre i tekst, billeder, videoer og lyd.

AI4Debunk er dedikeret til at forbedre AI-baserede modeller til at levere forklaringer og tillid til deres afsløring af falske nyheder. Dette vil fremhæve:

  • hvilke aspekter af nyhedsindlægget der er mest relevante i forbindelse med afsløring af falske nyheder

  • hvilke modaliteter (tekst, billede, lyd eller video) der har størst indflydelse på den endelige beslutning.

AI4Debunk vil gennemføre to casestudier for at validere sin holistiske tilgang til bekæmpelse af desinformation:

  1. Russisk propaganda i forbindelse med krigen i Ukraine
  2. Manipuleret indhold om klimaændringer

Disse casestudier vil omfatte identifikation af målgrupper, desinformationskilder og udbredelsesmetoder og vil føre til formulering af tekniske krav og funktionelle behov for AI4Debunks grænseflader.

Det primære mål er at forstå desinformationsprocesser, udforme og modellere dem og efterfølgende udvikle værktøjer til analyse og modvirkning.

Begge casestudier vil blive kortlagt i vidensgrafer. Sådanne grafer vil give kontekstuel indsigt til yderligere afsløring af falske nyheder. Regelmæssige opdateringer vil blive lettet gennem kurateret feedback fra borgerne og integration af nye kuraterede data.

Som led i sin metode vil AI4Debunk foretage en overordnet sociologisk vurdering af de udviklede værktøjer og deres indvirkning på de to casestudier:

  • Rapporter og tilbundsgående analyser af modstandsdygtighedsmekanismer
  • Inddragelse af interessenter gennem undersøgelser, lokale gruppemøder og fokusgruppediskussioner
  • Ligestilling mellem kønnene og inddragelsesprocesser med henblik på at operationalisere politikker, programmer og interventioner i desinformationsmekanismer.

AI4Debunk er forpligtet til at fremme mediekendskab og vil skabe didaktiske ressourcer til støtte for klasseundervisning i afsløring af falske nyheder, der udstyrer de yngre generationer med færdigheder til kritisk at vurdere og filtrere information uden at blive bedraget. Der er tale om følgende ressourcer:

  • Tegneserier
    Tegneserierne, der er udviklet på grundlag af projektforskningen i falske nyheder, fungerer som et engagerende redskab til at øge bevidstheden og udstikke retningslinjer for, hvordan desinformation kan opdages online. De vil blive ledsaget af spørgeskemaer for at vurdere læringsresultaterne.
  • Spil
    Spillene er designet og testet i samarbejde med lærere og giver eleverne en interaktiv oplevelse, der illustrerer konsekvenserne af falske nyheder og giver praktisk indsigt.

Begge materialer vil i første omgang blive distribueret til gymnasier i Nederlandene og Belgien med planer om bredere tilgængelighed i gymnasier i hele Europa.

Vores kontakter

Med udgangspunkt i den metode, der er skitseret ovenfor, vil AI4Debunk udvikle en API til debunking og en række grænseflader for at hjælpe brugerne med at vurdere nøjagtigheden af onlineindhold.

API

Det er open source. Integrerer AI- og ML-algoritmer til at beregne en sandsynlighedsscore for desinformation (desinfoscore) og markere mistænkeligt indhold.

Ved modtagelse af indhold som input returnerer API'en straks sin disinfoscore. I tilfælde af manipuleret indhold vil det også identificere de regioner, hvor signalet fra det oprindelige indhold kunne være blevet manipuleret. Desuden vil den give faktuelle/kontekstuelle oplysninger, der underbygger indholdets score.

Web

plug-in

Designet til webbrowsere og sociale medieplatforme. Det vil give brugerne hurtige meddelelser og give indsigt i pålideligheden og troværdigheden af det indhold, de ser i øjeblikket.

Disinfopedia

Samarbejdsplatform bygget i et Wikipedia-format. Brugerne vil direkte kunne indberette mistænkeligt indhold, som derefter vil blive kontrolleret af menneskelige eksperter (senioranalytikere, der arbejder for mediepartnerne) og potentielt fjernet fra cirkulationen. 

App

Udviklet til smartphones og tablets. Den vil kontrollere nøjagtigheden af onlineindhold, herunder nyhedsartikler, indlæg på sociale medier, produktanmeldelser og billeder. Brugerne vil kunne indtaste oplysninger (URL'er, tekst eller billeder), og appen vil identificere sit risikoniveau for falskhed.

AR/VR

grænseflade

Integreret i mobilappen og kompatibel med AR-briller/headsets, smartphones, tablets eller bærbar teknologi. Det vil give brugerne en mere fordybende og engagerende oplevelse og opdage, om datainput fra både den virtuelle og den fysiske verden (f.eks.: skriftlig tekst, talt sprog, billeder/videoer og realtidsoplysninger) er sande eller falske. 

Lad os opsummere

Sådan samler alle brikkerne…