Informacje o AI4Debunk
Metodologia i wyniki
Nasze technologie
Biorąc pod uwagę multimodalny charakter wiadomości w dzisiejszych czasach oraz znaczenie kontekstu dla zrozumienia ich znaczenia, AI4Debunk wykorzystuje siłę najnowocześniejszych monomodalnych i multimodalnych technologii uczenia maszynowego, a także wykresów wiedzy do pozyskiwania istotnych informacji z danych oraz wykrywania wzorców i tendencji dezinformacyjnych. Proponujemy również mechanizm „human-in-the-loop” (HITL), aby poprawić jakość danych i zwiększyć zaufanie do tego procesu.
Modele językowe i duże modele językowe
Modele wizyjne i modele wielkoformatowe
Przetwarzanie mowy
Multimodalne uczenie maszynowe
Mechanizmy „Human-in-the-loop”
Wykresy wiedzy
Nasza metodologia
Wykres wiedzy multimodalnej: integracja różnych typów danych, takich jak tekst, obrazy, filmy i dźwięk, w celu zapewnienia kompleksowego obrazu tematu i ujawnienia niespójności między źródłami.
Wykres wiedzy monomodalnej: Służy jako rozwiązanie do tworzenia kopii zapasowych, które przekształca dane multimodalne w tekst (za pomocą wykrywania obiektów, opisu obrazu, wykrywania akcji w wideo lub audio itp.).
Monomodalne moduły wykrywania fałszywych wiadomości: rozróżnienie między autentycznymi i zmanipulowanymi treściami (sztucznie zmodyfikowanymi lub stworzonymi syntetycznie) w odniesieniu do danych tekstowych, graficznych, wideo i audio.
Multimodalne moduły wykrywania fałszywych informacji: integracja wyników z jednomodalnych detektorów fałszywych informacji i informacji kontekstowych z wykresu wiedzy w celu sklasyfikowania wiadomości jako prawdziwych lub fałszywych na podstawie wzorców danych w tekście, obrazach, filmach i dźwięku.
AI4Debunk ma na celu udoskonalenie modeli opartych na sztucznej inteligencji, aby zapewnić wyjaśnienia i pewność w zakresie wykrywania fałszywych wiadomości. Podkreśli to:
- które aspekty aktualności są najistotniejsze w wykrywaniu fałszywych informacji;
- które tryby (tekst, obraz, dźwięk lub wideo) mają większy wpływ na ostateczną decyzję.
AI4Debunk przeprowadzi dwa studia przypadków, aby potwierdzić swoje całościowe podejście do zwalczania dezinformacji:
- Rosyjska propaganda związana z wojną w Ukrainie
- Zmanipulowane treści dotyczące zmiany klimatu
Te studia przypadków obejmą identyfikację grup docelowych, źródeł dezinformacji i metod propagacji oraz doprowadzą do sformułowania wymogów technicznych i potrzeb funkcjonalnych dotyczących interfejsów AI4Debunk.
Głównym celem jest zrozumienie procesów dezinformacji, ich kształtowanie i modelowanie, a następnie opracowanie narzędzi do analizy i przeciwdziałania.
Oba studia przypadków zostaną zmapowane na wykresach wiedzy. Takie wykresy zapewnią kontekstowy wgląd w dalsze wykrywanie fałszywych informacji. Regularne aktualizacje będą ułatwiane dzięki opracowywanym informacjom zwrotnym od obywateli i integracji nowych opracowywanych danych.
W ramach swojej metodyki AI4Debunk przeprowadzi ogólną ocenę socjologiczną opracowanych narzędzi i ich wpływu na dwa studia przypadków:
- Raporty i dogłębna analiza mechanizmów odporności;
- Współpraca z zainteresowanymi stronami poprzez ankiety, spotkania grup lokalnych i dyskusje grup fokusowych;
- Równość płci oraz procesy zaangażowania w celu operacjonalizacji polityk, programów i interwencji w mechanizmy dezinformacji.
AI4Debunk jest zaangażowana w promowanie umiejętności korzystania z mediów i stworzy zasoby dydaktyczne, aby wspierać szkolenia w klasie w zakresie wykrywania fałszywych informacji, wyposażając młodsze pokolenia w umiejętności krytycznej oceny i filtrowania informacji bez bycia oszukanym. Zasoby te to:
- Kategoria: Książki komiksowe
Opracowane w oparciu o badania projektu nad fałszywymi informacjami komiksy służą jako angażujące narzędzie do podnoszenia świadomości i dostarczania wytycznych dotyczących wykrywania dezinformacji w internecie. Towarzyszyć im będą kwestionariusze służące ocenie efektów uczenia się. - Gry
Zaprojektowane i przetestowane we współpracy z nauczycielami gry oferują uczniom interaktywne wrażenia, ilustrując konsekwencje fałszywych wiadomości i dostarczając praktycznych spostrzeżeń.
Oba materiały będą początkowo dystrybuowane do szkół średnich w Holandii i Belgii, z planami szerszej dostępności w szkołach średnich w całej Europie.
NASZE INTERFEJSY
API
Otwarte źródło. Integruje algorytmy AI i ML w celu obliczenia wyniku prawdopodobieństwa dezinformacji (disinfoscore) i oznaczania podejrzanych treści.
Po otrzymaniu treści jako danych wejściowych API natychmiast zwróci swój disinfoscore. W przypadku zmanipulowanych treści będzie również identyfikować regiony, w których sygnał oryginalnej treści mógł zostać naruszony. Ponadto dostarczy informacji faktycznych/kontekstowych, które potwierdzą punktację treści.
Strona internetowa
wtyczka
Przeznaczony dla przeglądarek internetowych i platform mediów społecznościowych. Dostarczy użytkownikom szybkich powiadomień, oferując wgląd w niezawodność i wiarygodność treści, które obecnie przeglądają.
Disinfopedia
Aplikacja
Opracowany dla smartfonów i tabletów. Zweryfikuje dokładność treści online, w tym artykułów prasowych, postów w mediach społecznościowych, recenzji produktów i obrazów. Użytkownicy będą mogli wprowadzać informacje (URL, tekst lub obrazy), a aplikacja zidentyfikuje poziom ryzyka fałszu.
AR/VR
interfejs
Podsumujmy
