O společnosti AI4Debunk
Metodika a výsledky
Naše technologie
Vzhledem k multimodální povaze zpráv v dnešní době a významu kontextu pro pochopení významu využívá AI4Debunk sílu špičkových monomodálních a multimodálních technologií strojového učení, jakož i znalostních grafů k získávání relevantních informací z dat a odhalování dezinformačních vzorců a trendů. Navrhujeme také mechanismus „human-in-the-loop“ (HITL) s cílem zvýšit kvalitu údajů a podpořit větší důvěru v tento proces.
Jazykové modely a velké jazykové modely
Modely vidění a velké modely vidění
Zpracování řeči
Multimodální strojové učení
Mechanismy „člověk ve smyčce“
Grafy znalostí
Naše metodika
Multimodální znalostní graf: integrace různých datových typů, jako je text, obrázky, videa a zvuk, s cílem poskytnout komplexní pohled na téma a odhalit nesrovnalosti mezi zdroji.
Monomodální znalostní graf: slouží jako zálohovací řešení, které transformuje multimodální data do textu (použití detekce objektů, popisu obrazu, detekce akcí ve videu nebo audiu apod.).
Monomodální moduly detekce falešných zpráv: rozlišování mezi autentickým a manipulovaným obsahem (uměle modifikovaným nebo synteticky vytvořeným) pro textová, obrazová, video a zvuková data.
Multimodální moduly detekce falešných zpráv: začlenění výsledků z monomodálních detektorů falešných zpráv a kontextových informací ze znalostního grafu s cílem klasifikovat zprávy jako skutečné nebo falešné na základě datových vzorců v textu, obrázcích, videích a audiu.
AI4Debunk se zaměřuje na vylepšování modelů založených na umělé inteligenci s cílem poskytnout vysvětlení a důvěru v jejich odhalování falešných zpráv. Tím se zdůrazní:
- které aspekty zpravodajství jsou při odhalování falešných zpráv nejrelevantnější;
- jaké modality (text, obraz, zvuk nebo video) mají větší dopad na konečné rozhodnutí.
AI4Debunk provede dvě případové studie s cílem potvrdit svůj holistický přístup k boji proti dezinformacím:
- Ruská propaganda související s válkou na Ukrajině
- Manipulovaný obsah týkající se změny klimatu
Tyto případové studie budou zahrnovat identifikaci cílových skupin, zdrojů dezinformací a metod šíření a povedou k formulaci technických požadavků a funkčních potřeb pro rozhraní AI4Debunk.
Primárním cílem je porozumět dezinformačním procesům, formulovat je a modelovat a následně vyvinout nástroje pro analýzu a protiopatření.
Obě případové studie budou zmapovány ve znalostních grafech. Tyto grafy nabídnou kontextové vhledy pro další odhalování falešných zpráv. Pravidelné aktualizace budou usnadněny kurátorskou zpětnou vazbou občanů a integrací nových kurátorských údajů.
V rámci své metodiky provede AI4Debunk celkové sociologické posouzení vyvinutých nástrojů a jejich dopadu na dvě případové studie:
- Zprávy a hloubková analýza mechanismů odolnosti;
- Spolupráce se zúčastněnými stranami prostřednictvím průzkumů, schůzek místních skupin a diskusí pracovních skupin;
- Rovnost žen a mužů a procesy zapojení s cílem uvést politiky, programy a zásahy do dezinformačních mechanismů do praxe.
AI4Debunk se zavázala podporovat mediální gramotnost a vytvoří didaktické zdroje na podporu výuky v oblasti odhalování falešných zpráv, které vybaví mladší generace dovednostmi kriticky vyhodnocovat a filtrovat informace, aniž by byly klamány. Těmito zdroji jsou:
- Komiksové knihy
Komiksy, které byly vyvinuty na základě výzkumu falešných zpráv, slouží jako poutavý nástroj ke zvýšení povědomí a poskytují pokyny, jak dezinformace na internetu odhalovat. Budou doplněny dotazníky pro posouzení výsledků učení. - Hry
Navrženy a testovány ve spolupráci s učiteli, hry nabízejí studentům interaktivní zážitek, ilustrují důsledky falešných zpráv a poskytují praktické poznatky.
Oba materiály budou zpočátku distribuovány na střední školy v Nizozemsku a Belgii s plány na širší dostupnost na středních školách v celé Evropě.
Naše rozhovory
API
Otevřený zdroj. Integruje algoritmy AI a ML pro výpočet skóre pravděpodobnosti dezinformací (disinfoscore) a označení podezřelého obsahu.
Po obdržení obsahu jako vstupu API okamžitě vrátí své disinfoskóre. V případě zmanipulovaného obsahu identifikuje také regiony, kde mohl být signál původního obsahu manipulován. Kromě toho poskytne věcné/kontextové informace, které potvrdí skóre obsahu.
Webové stránky
plug-in
Určeno pro webové prohlížeče a platformy sociálních médií. Poskytne uživatelům rychlá oznámení a nabídne přehled o spolehlivosti a důvěryhodnosti obsahu, který si v současné době prohlížejí.
Disinfopedie
Aplikace
Vyvinuto pro smartphony a tablety. Ověří přesnost online obsahu, včetně zpravodajských článků, příspěvků na sociálních médiích, recenzí produktů a obrázků. Uživatelé budou moci zadávat informace (URL, text nebo obrázky) a aplikace identifikuje svou míru rizika nepravdivosti.
AR/VR
rozhraní
Pojďme si to zrekapitulovat
