Rólunk AI4Debunk
Módszertan és eredmények
Technológiáink
Tekintettel a hírek multimodális jellegére és a kontextus jelentőségére a jelentés megértéséhez, az AI4Debunk kihasználja az élvonalbeli monomodális és multimodális gépi tanulási technológiák, valamint a tudásgráfok erejét, hogy releváns információkat nyerjen ki az adatokból, és észlelje a dezinformációs mintákat és tendenciákat. Emellett javaslatot teszünk egy „human-in-the-loop” (HITL) mechanizmusra is az adatminőség javítása és a folyamatba vetett nagyobb bizalom előmozdítása érdekében.
Nyelvi modellek és nagy nyelvi modellek
Nagylátószögű modellek és nagylátószögű modellek
Beszédfeldolgozás
Multimodális gépi tanulás
Human-in-the-loop mechanizmusok
Tudásgráfok
Módszertanunk
Multimodális tudásdiagram: különböző adattípusok, például szövegek, képek, videók és hanganyagok integrálása annak érdekében, hogy átfogó képet nyújtsanak egy adott témáról, és feltárják a források közötti következetlenségeket.
Monomodális tudásgráf: biztonsági mentési megoldásként szolgál, amely a multimodális adatokat szöveggé alakítja (objektumfelismerés, képleírás, műveletfelismerés videóban vagy hangban stb.).
Monomodális álhírérzékelő modulok: a hiteles és a manipulált (mesterségesen módosított vagy szintetikusan létrehozott) tartalom megkülönböztetése szöveg-, kép-, video- és audioadatok esetében.
Multimodális álhírészlelő modulok: a monomodális álhírdetektorok és a tudásgráfból származó kontextuális információk eredményeinek integrálása annak érdekében, hogy a híreket a szövegben, képekben, videókban és hangokban szereplő adatminták alapján valósnak vagy hamisnak lehessen minősíteni.
Az AI4Debunk elkötelezett az AI-alapú modellek fejlesztése iránt, hogy magyarázatot és bizalmat nyújtson az álhírek észlelésével kapcsolatban. Ez a következőket emeli ki:
- a hírcikk mely aspektusai a legrelevánsabbak az álhírek észlelése szempontjából;
- mely módozatok (szöveg, kép, hang vagy videó) gyakorolnak erősebb hatást a végső döntésre.
Az AI4Debunk két esettanulmányt fog végezni a dezinformáció elleni küzdelem holisztikus megközelítésének validálása érdekében:
- Az ukrajnai háborúval kapcsolatos orosz propaganda
- Manipulált tartalom az éghajlatváltozásról
Ezek az esettanulmányok magukban foglalják a célcsoportok, a dezinformációs források és a terjesztési módszerek azonosítását, és az AI4Debunk interfészeire vonatkozó műszaki követelmények és funkcionális igények kidolgozásához vezetnek.
Az elsődleges cél a dezinformációs folyamatok megértése, keretbe foglalása és modellezése, majd ezt követően elemzési és ellenintézkedési eszközök kidolgozása.
Mindkét esettanulmányt tudásgráfokban térképezzük fel. Az ilyen grafikonok kontextuális betekintést nyújtanak a további álhírek észleléséhez. A rendszeres frissítéseket a polgárok válogatott visszajelzései és az új válogatott adatok integrálása fogja elősegíteni.
Módszertanának részeként az AI4Debunk átfogó szociológiai értékelést fog végezni a kifejlesztett eszközökről és azok hatásáról a két esettanulmány esetében:
- Jelentések és részletes elemzések rezilienciamechanizmusok;
- Együttműködés az érdekelt felekkel felmérések, helyi csoportülések és fókuszcsoportos megbeszélések révén;
- Nemek közötti egyenlőség valamint szerepvállalási folyamatok a dezinformációs mechanizmusokra vonatkozó szakpolitikák, programok és beavatkozások működőképessé tétele érdekében.
Az AI4Debunk elkötelezett a médiaműveltség előmozdítása mellett, és didaktikai forrásokat fog létrehozni az álhírek észlelésével kapcsolatos osztálytermi képzés támogatására, felvértezve a fiatalabb generációkat azokkal a készségekkel, hogy kritikusan értékeljék és szűrjék az információkat anélkül, hogy megtévesztenék őket. Ezek a források a következők:
- Képregények
Az álhírekkel kapcsolatos projektkutatás alapján kidolgozott képregények figyelemfelkeltő eszközként szolgálnak, és iránymutatást nyújtanak az online félretájékoztatás felderítéséhez. A tanulmányokat a tanulási eredmények értékelésére szolgáló kérdőívek kísérik majd. - Játékok
A tanárokkal együttműködve tervezett és tesztelt játékok interaktív élményt nyújtanak a diákoknak, bemutatva az álhírek következményeit és gyakorlati betekintést nyújtva.
Kezdetben mindkét anyagot eljuttatják a hollandiai és belgiumi középiskolákhoz, és a tervek szerint Európa-szerte szélesebb körben elérhetővé teszik őket a középiskolákban.
Interfészeink
API
Nyílt forráskódú. Integrálja a mesterségesintelligencia- és pénzmosási algoritmusokat a dezinformáció valószínűségi pontszámának (disinfoscore) kiszámításához és a gyanús tartalmak megjelöléséhez.
A tartalom bevitele után az API azonnal visszaadja disinfoscore-ját. Manipulált tartalom esetén azonosítja azokat a régiókat is, ahol az eredeti tartalom jelét meg lehetett volna változtatni. Emellett tényszerű/kontextuális információkat nyújt, amelyek megerősítik a tartalom pontszámát.
Web
beépülő modul
Böngészőkhöz és közösségi média platformokhoz tervezve. Gyors értesítéseket biztosít a felhasználók számára, betekintést nyújtva a jelenleg megtekintett tartalom megbízhatóságába és hitelességébe.
Disinfopedia
Alkalmazás
Okostelefonokhoz és táblagépekhez fejlesztve. Ellenőrizni fogja az online tartalmak pontosságát, beleértve a híreket, a közösségimédia-bejegyzéseket, a termékismertetőket és a képeket. A felhasználók képesek lesznek információkat (URL-eket, szöveget vagy képeket) bevinni, és az alkalmazás azonosítja a hamisítás kockázati szintjét.
AR/VR
interfész
Összefoglaló
