Informácie AI4Debunk
Metodika a výsledky
Naše technológie
Vzhľadom na multimodálnu povahu správ v súčasnosti a význam kontextu pre pochopenie významu AI4Debunk využíva silu špičkových monomodálnych a multimodálnych technológií strojového učenia, ako aj vedomostné grafy na extrakciu relevantných informácií z údajov a odhaľovanie dezinformačných vzorcov a trendov. Navrhujeme aj mechanizmus „human-in-the-loop“ (HITL) s cieľom zvýšiť kvalitu údajov a podporiť väčšiu dôveru v tento proces.
Jazykové modely a veľké jazykové modely
Modely videnia a veľké modely videnia
Spracovanie reči
Multimodálne strojové učenie
Mechanizmy „ľudia v slučke“
Znalostné grafy
Naša metodika
Multimodálny vedomostný graf: integrácia rôznych typov údajov, ako je text, obrázky, videá a zvuk, s cieľom poskytnúť komplexný pohľad na tému a odhaliť nezrovnalosti medzi zdrojmi.
Monomodálny vedomostný graf: slúži ako záložné riešenie, ktoré transformuje multimodálne dáta na text (pomocou detekcie objektov, popisu obrázkov, detekcie akcií vo videu alebo zvuku atď.).
Moduly na detekciu monomodálnych falošných správ: rozlišovanie medzi autentickým a zmanipulovaným obsahom (umelo upraveným alebo synteticky vytvoreným) pre textové, obrazové, obrazové a zvukové údaje.
Multimodálne moduly na detekciu falošných správ: integrácia výsledkov z monomodálnych detektorov falošných správ a kontextových informácií z vedomostného grafu s cieľom klasifikovať správy ako skutočné alebo falošné na základe dátových vzorcov v texte, obrázkoch, videách a zvuku.
AI4Debunk sa venuje zlepšovaniu modelov založených na umelej inteligencii s cieľom poskytnúť vysvetlenia a dôveru v ich odhaľovanie falošných správ. Tým sa zdôraznia:
- ktoré aspekty spravodajstva sú najrelevantnejšie pri odhaľovaní falošných správ;
- ktoré spôsoby (text, obraz, zvuk alebo video) majú väčší vplyv na konečné rozhodnutie.
AI4Debunk uskutoční dve prípadové štúdie na potvrdenie svojho holistického prístupu k boju proti dezinformáciám:
- Ruská propaganda súvisiaca s vojnou na Ukrajine
- Manipulovaný obsah o zmene klímy
Tieto prípadové štúdie budú zahŕňať identifikáciu cieľových skupín, zdrojov dezinformácií a metód šírenia a povedú k formulácii technických požiadaviek a funkčných potrieb rozhraní AI4Debunk.
Primárnym cieľom je pochopiť dezinformačné procesy, vytvoriť ich rámec a model a následne vyvinúť nástroje na analýzu a boj proti nim.
Obidve prípadové štúdie budú zmapované v znalostných grafoch. Takéto grafy ponúknu kontextové poznatky na ďalšie odhaľovanie falošných správ. Pravidelné aktualizácie sa uľahčia prostredníctvom spätnej väzby od spravovaných občanov a integrácie nových spravovaných údajov.
V rámci svojej metodiky AI4Debunk vykoná celkové sociologické posúdenie vyvinutých nástrojov a ich vplyvu na dve prípadové štúdie:
- Správy a hĺbková analýza mechanizmov odolnosti;
- Spolupráca so zainteresovanými stranami prostredníctvom prieskumov, stretnutí miestnych skupín a diskusií špecializovaných skupín;
- Rodová rovnosť a procesy zapojenia s cieľom sfunkčniť politiky, programy a zásahy do dezinformačných mechanizmov.
AI4Debunk sa zaviazala podporovať mediálnu gramotnosť a vytvorí didaktické zdroje na podporu odbornej prípravy v triede v oblasti odhaľovania falošných správ, čím vybaví mladšie generácie zručnosťami kriticky posudzovať a filtrovať informácie bez toho, aby boli oklamané. Týmito zdrojmi sú:
- Komiksové knihy
Komiksy, ktoré boli vypracované na základe projektového výskumu falošných správ, slúžia ako pútavý nástroj na zvýšenie informovanosti a poskytujú usmernenia o tom, ako odhaľovať dezinformácie na internete. K nim budú priložené dotazníky na posúdenie vzdelávacích výstupov. - Hry
Navrhnuté a testované v spolupráci s učiteľmi, hry ponúkajú študentom interaktívny zážitok, ktorý ilustruje dôsledky falošných správ a poskytuje praktické poznatky.
Oba materiály budú spočiatku distribuované na stredné školy v Holandsku a Belgicku, pričom sa plánuje širšia dostupnosť na stredných školách v celej Európe.
NÁŠ INTERFACES
API
Otvorený zdroj. Integruje algoritmy umelej inteligencie a prania špinavých peňazí na výpočet skóre pravdepodobnosti dezinformácií (disinfoscore) a označenie podozrivého obsahu.
Po prijatí obsahu ako vstupu API okamžite vráti svoje disinfoscore. V prípade zmanipulovaného obsahu sa identifikujú aj oblasti, v ktorých mohlo dôjsť k neoprávnenej manipulácii so signálom pôvodného obsahu. Okrem toho poskytne faktické/kontextové informácie, ktoré potvrdzujú skóre obsahu.
Webová stránka
plug-in
Určené pre webové prehliadače a platformy sociálnych médií. Poskytne používateľom rýchle upozornenia, ktoré im poskytnú prehľad o spoľahlivosti a dôveryhodnosti obsahu, ktorý v súčasnosti prezerajú.
Disinfopedia
App
Vyvinuté pre smartfóny a tablety. Overí presnosť online obsahu vrátane spravodajských článkov, príspevkov na sociálnych médiách, recenzií produktov a obrázkov. Používatelia budú môcť zadávať informácie (URL, text alebo obrázky) a aplikácia identifikuje svoju úroveň rizika falošnosti.
AR/VR
rozhranie
Poďme si to zhrnúť
