О компании AI4Debunk
Методология и результаты
Наши технологии
Учитывая мультимодальный характер новостей в настоящее время и важность контекста для понимания смысла, AI4Debunk использует возможности передовых технологий мономодального и мультимодального машинного обучения, а также графики знаний для извлечения соответствующей информации из данных и обнаружения моделей и тенденций дезинформации. Мы также предлагаем механизм «человек в петле» (HITL) для повышения качества данных и укрепления доверия к процессу.
Языковые модели и большие языковые модели
Модели видения и большие модели видения
Обработка речи
Мультимодальное машинное обучение
Механизмы «человек в петле»
Графики знаний
Наша методология
Мультимодальный график знаний: интеграция различных типов данных, таких как текст, изображения, видео и аудио, чтобы обеспечить всестороннее представление темы и выявить несоответствия между источниками.
Граф мономодальных знаний: служит решением для резервного копирования, которое преобразует мультимодальные данные в текст (с помощью обнаружения объектов, описания изображений, обнаружения действий в видео или аудио и т.д.).
Мономодальные модули обнаружения фейковых новостей: различение аутентичного и манипулируемого контента (искусственно модифицированного или синтетически созданного) для текстовых, графических, видео- и аудиоданных.
Мультимодальные модули обнаружения фейковых новостей: Интеграция результатов мономодальных детекторов поддельных новостей и контекстной информации из графика знаний для классификации новостей как реальных или поддельных на основе шаблонов данных в тексте, изображениях, видео и аудио.
AI4Debunk занимается улучшением моделей на основе ИИ для предоставления объяснений и уверенности в обнаружении поддельных новостей. Это будет подчеркивать:
- какие аспекты новостной статьи наиболее актуальны при обнаружении фейковых новостей;
- какие модальности (текст, изображение, аудио или видео) оказывают более сильное влияние на окончательное решение.
AI4Debunk проведет два тематических исследования для подтверждения своего целостного подхода к борьбе с дезинформацией:
- Российская пропаганда, связанная с войной на Украине
- Манипулируемый контент об изменении климата
Эти тематические исследования будут охватывать выявление целевых групп, источников дезинформации и методов распространения и приведут к разработке технических требований и функциональных потребностей для интерфейсов AI4Debunk ⁇ s.
Основная цель состоит в том, чтобы понять процессы дезинформации, сформировать и смоделировать их, а затем разработать инструменты для анализа и противодействия.
Оба тематических исследования будут отображены в графах знаний. Такие графики предоставят контекстную информацию для дальнейшего обнаружения поддельных новостей. Регулярные обновления будут облегчены благодаря курируемой обратной связи граждан и интеграции новых курируемых данных.
В рамках своей методологии AI4Debunk проведет общую социологическую оценку разработанных инструментов и их влияния на два тематических исследования:
- Доклады и углубленный анализ механизмы устойчивости;
- Взаимодействие с заинтересованными сторонами посредством обследований, совещаний местных групп и обсуждений в фокус-группах;
- b) Гендерное равенство и процессы взаимодействия для практической реализации политики, программ и вмешательств в механизмы дезинформации.
AI4Debunk стремится продвигать медиаграмотность и будет создавать дидактические ресурсы для поддержки обучения в классе по обнаружению фейковых новостей, предоставляя молодому поколению навыки критической оценки и фильтрации информации без обмана. Этими ресурсами являются:
- Категория: Книги комиксов
Разработанные на основе исследования проекта в области фейковых новостей, комиксы служат привлекательным инструментом для повышения осведомленности и предоставления рекомендаций о том, как обнаруживать дезинформацию в Интернете. Они будут сопровождаться вопросниками для оценки результатов обучения. - Категория: Игры
Разработанные и протестированные в сотрудничестве с преподавателями, игры предлагают студентам интерактивный опыт, иллюстрируя последствия фейковых новостей и предоставляя практические идеи.
Оба материала будут первоначально распространены среди средних школ в Нидерландах и Бельгии, с планами более широкого распространения в средних школах по всей Европе.
НАШИ ИНТЕРФЕЙСЫ
API
С открытым исходным кодом. Интегрирует алгоритмы AI и ML для расчета оценки вероятности дезинформации (disinfoscore) и выявления подозрительного контента.
После получения контента в качестве ввода API быстро вернет свой дезинфосчет. В случае манипулируемого контента он также определит регионы, где сигнал исходного контента мог быть подделан. Кроме того, он будет предоставлять фактическую / контекстную информацию, которая подтверждает оценку контента.
Веб - сайт
Шаблон: Plug-in
Категория: ФК «Дисинфопедия»
Приложение для мобильных устройств
Разработан для смартфонов и планшетов. Он будет проверять точность онлайн-контента, включая новостные статьи, сообщения в социальных сетях, обзоры продуктов и изображения. Пользователи смогут вводить информацию (URL, текст или изображения), и приложение определит уровень риска для ложности.
АР/ВР
Интерфейс для
Let ⁇ s Резюме
