Относно AI4Дебънк
Методология и резултати
Нашите технологии
Като се има предвид мултимодалният характер на новините в днешно време и значението на контекста за разбирането на значението, AI4Debunk използва силата на авангардните мономодални и мултимодални технологии за машинно самообучение, както и графики на знанията, за да извлича съответната информация от данни и да открива модели и тенденции на дезинформация. Предлагаме също така механизъм „човек в контура“ (HITL), за да се подобри качеството на данните и да се насърчи по-голямо доверие в процеса.
Езикови модели и големи езикови модели
Модели на зрението и големи модели на зрението
Обработка на речта
Мултимодално машинно обучение
Механизми „човек в контура“
Графики на знанието
Нашата методология
Графика на мултимодалните знания: интегриране на различни видове данни, като текст, изображения, видео и аудио, за да се осигури цялостен поглед върху дадена тема и да се разкрият несъответствия между източниците.
Графика на мономодалните знания: служи като резервно решение, което превръща мултимодалните данни в текст (като се използва откриване на обекти, описание на изображения, откриване на действия във видео или аудио и т.н.).
Мономодални модули за откриване на фалшиви новини: разграничаване между автентично и манипулирано съдържание (изкуствено модифицирано или синтетично създадено) за текст, изображение, видео и аудио данни.
Мултимодални модули за откриване на фалшиви новини: интегриране на резултатите от мономодалните детектори за фалшиви новини и контекстуалната информация от графиката на знанието, за да се класифицират новините като реални или фалшиви въз основа на модели на данни в текст, изображения, видео и аудио.
AI4Debunk е посветена на подобряването на моделите, базирани на ИИ, за да се предоставят обяснения и увереност относно тяхното откриване на фалшиви новини. Това ще подчертае:
- кои аспекти на новинарската статия са от най-голямо значение за откриването на фалшиви новини;
- кои условия (текст, изображение, аудио или видео) оказват по-силно въздействие върху окончателното решение.
AI4Debunk ще проведе две проучвания на конкретни случаи, за да валидира цялостния си подход за борба с дезинформацията:
- Руска пропаганда, свързана с войната в Украйна
- Манипулирано съдържание относно изменението на климата
Тези казуси ще обхващат идентифицирането на целеви групи, източници на дезинформация и методи за разпространение и ще доведат до формулирането на технически изисквания и функционални нужди за интерфейсите на AI4Debunk.
Основната цел е да се разберат процесите на дезинформация, да се оформят и моделират и впоследствие да се разработят инструменти за анализ и противодействие.
И двата казуса ще бъдат картографирани в графики на знанията. Тези графики ще предложат контекстуални прозрения за по-нататъшно откриване на фалшиви новини. Редовното актуализиране ще бъде улеснено чрез курирана обратна информация от гражданите и интегриране на нови курирани данни.
Като част от своята методология AI4Debunk ще извърши цялостна социологическа оценка на разработените инструменти и тяхното въздействие за двата казуса:
- Доклади и задълбочен анализ на механизмите за устойчивост;
- Ангажиране със заинтересованите страни чрез проучвания, срещи на местни групи и дискусии във фокусни групи;
- Равенство между половете и процеси на ангажираност за привеждане в действие на политиките, програмите и интервенциите в механизмите за дезинформация.
AI4Debunk се ангажира да насърчава медийната грамотност и ще създаде дидактически ресурси в подкрепа на обучението в класната стая за откриване на фалшиви новини, като предостави на по-младите поколения умения за критична оценка и филтриране на информацията, без да бъдат измамени. Тези ресурси са:
- Комикси
Разработени въз основа на проучването на проекта за фалшивите новини, комиксите служат като ангажиращ инструмент за повишаване на осведомеността и предоставяне на насоки за това как да се открива дезинформация онлайн. Те ще бъдат придружени от въпросници за оценка на резултатите от обучението. - Игри
Проектирани и тествани в сътрудничество с учители, игрите предлагат на учениците интерактивно преживяване, илюстриращо последиците от фалшивите новини и предоставящо практически прозрения.
И двата материала първоначално ще бъдат разпространени в средните училища в Нидерландия и Белгия, с планове за по-широка достъпност в средните училища в цяла Европа.
НАШИТЕ ИНТЕРФАКЦИИ
API
С отворен код. Интегрира алгоритми за ИИ и ИП, за да изчисли оценка на вероятността от дезинформация (disinfoscore) и да сигнализира за подозрително съдържание.
При получаване на съдържание като вход, API незабавно ще върне своя disinfoscore. В случай на манипулирано съдържание, той също така ще идентифицира регионите, в които сигналът на оригиналното съдържание може да е бил подправен. Освен това тя ще предостави фактическа/контекстуална информация, която потвърждава оценката на съдържанието.
Уеб
плъгин
Дезинфопедия
Приложение
Разработен за смартфони и таблети. Тя ще проверява точността на онлайн съдържанието, включително новинарски статии, публикации в социалните медии, отзиви за продукти и изображения. Потребителите ще могат да въвеждат информация (URL, текст или изображения) и приложението ще идентифицира нивото на риска от невярна информация.
AR/VR
интерфейс
Да обобщим
