Научные исследования в области Категория: Публикации
Для авторов:
Аксель Брандо, Лукас Берри, Дэвид Меге
Аннотация к книге:
Генеративные диффузионные модели, отличающиеся большим числом параметров (более 100 миллионов) и работой в многомерных пространствах изображений, создают значительные проблемы для традиционных методов оценки неопределенности из-за вычислительных требований. В этой работе мы представляем инновационную структуру Diffusion Ensembles for Capturing Uncertainty (DECU), предназначенную для оценки эпистемической неопределенности для диффузионных моделей. Структура DECU вводит новый метод, который эффективно обучает ансамбли моделей условной диффузии путем включения статического набора предварительно обученных параметров, резко снижая вычислительную нагрузку и количество параметров, требующих обучения. Кроме того, DECU использует Pairwise-Distance Estimators (PaiDEs) для точного измерения эпистемологической неопределенности путем оценки взаимной информации между выходами модели и весами в многомерных пространствах. Эффективность этой структуры демонстрируется с помощью экспериментов на наборе данных ImageNet, подчеркивая его способность улавливать эпистемическую неопределенность, особенно в недостаточно отобранных классах изображений.
Тип публикации:
Документ конференции
Издательство:
40-я конференция по неопределенности в искусственном интеллекте
Для авторов:
Коккомини Д.А., Калделли Р., Дженнаро С., Фиамени Г., Амато Г., Фальчи Ф.
Аннотация к книге:
В последнее время растущее распространение синтетических медиа, известных как deepfakes, стало возможным благодаря быстрому прогрессу в технологиях искусственного интеллекта, особенно алгоритмах глубокого обучения. Растущие опасения по поводу растущей доступности и правдоподобности дипфейков побудили исследователей сосредоточиться на разработке методов их обнаружения. В этой области исследователи из ISTI CNR ⁇ s AIMH Lab в сотрудничестве с исследователями из других организаций провели исследования, исследования и проекты, чтобы внести свой вклад в борьбу с этой тенденцией, изучая новые решения и угрозы. В этой статье обобщены последние усилия, предпринятые в этой области нашими исследователями и в сотрудничестве с другими учреждениями и экспертами.
Тип публикации:
Документ конференции
Издательство:
Материалы семинара CEUR
Для авторов:
Станчу, Кристиан и Ионеску, Богдан и Кукковильо, Лука и Пападопулос, Симеон и Кордопатис-Зилос, Георгос и Попеску, Адриан и Калделли, Роберто
Аннотация к книге:
В последние годы генерация и манипуляция синтетическими медиа быстро меняются, что делает все более легким создание мультимедийного контента, неотличимого от человеческого наблюдателя. Кроме того, генерируемый контент может злонамеренно использоваться отдельными лицами и организациями для распространения дезинформации, представляющей значительную угрозу для общества и демократии. Следовательно, существует настоятельная необходимость в инструментах ИИ, направленных на содействие своевременному и фективному процессу проверки СМИ. Семинар MAD ⁇ 24 направлен на то, чтобы объединить людей с различным опытом, которые занимаются борьбой с дезинформацией в мультимедиа с помощью ИИ, создавая среду для изучения инновационных идей и обмена опытом. Области исследований, представляющие интерес, включают выявление манипулируемого или генерируемого контента, а также расследование распространения дезинформации и ее социальных последствий. Признавая важность мультимедиа, участники практикума уделяют особое внимание совместному анализу различных форм содержания, поскольку проверка может быть улучшена путем агрегирования различных форм содержания.
Тип публикации:
Документ конференции
Издательство:
Материалы 3-го Международного семинара ACM по мультимедийному ИИ против дезинформации
Для авторов:
Андреа Чьямарра, Роберто Калделли, Альберто дель Бимбо
Аннотация к книге:
Глядя на последовательность видео, где представлен человек на переднем плане, уже не так давно. Deepfakes революционизировали наш способ смотреть на такое содержимое, и в настоящее время мы чаще всего задаемся вопросом, является ли то, что мы видим, реальным или это просто мистификация. В этом контексте обобщенной дезинформации настоятельно возникает необходимость в надежных решениях, чтобы помочь обычным пользователям, и не только, сделать оценку такого рода видео последовательностей. В этой статье представлен новый подход, который использует временные поверхностные аномалии кадра, чтобы выявить глубокофальшивые видео. Метод ищет возможные несоответствия, вызванные глубокой фейковой манипуляцией, в поверхностях, принадлежащих захваченной сцене, и в их эволюции вдоль временной оси. Эти функции используются в качестве входа в конвейер на основе глубоких нейронных сетей для выполнения двоичной оценки самого видео. Экспериментальные результаты свидетельствуют о том, что такая методология может достичь значительных результатов с точки зрения точности обнаружения.
Тип публикации:
Документ конференции
Издательство:
2024 Конференция IEEE/CVF по компьютерному зрению и распознаванию образов (CVPRW)
Для авторов:
г Паскалин Габорит
Аннотация к книге:
Международные организации уже более десяти лет классифицируют дезинформацию как одну из главных угроз демократии и институтам. Цифровые технологии изобретают и глубоко трансформируют современный образ жизни, граждан и бизнес-среду. ИИ приносит новые изменения в том, как мы получаем доступ к знаниям и создаем, распространяем и понимаем информацию. Он также может размыть границы между реальной информацией и манипулируемой информацией с появлением ⁇ Fake News ⁇ , автоматических сетей ⁇ перекрестных ссылок и ⁇ Deep Fakes ⁇ . Системы искусственного интеллекта повышают потенциал для создания реалистичного поддельного контента и целенаправленных кампаний по дезинформации. Дезинформация выходит за рамки простых слухов, чтобы намеренно обмануть и исказить доказательную информацию с помощью сфабрикованных данных. Европейские институты также недавно сосредоточились на выявлении дезинформации, связанной с FIMI: Манипуляция иностранной информацией и вмешательство. В статье выявляются тенденции и проблемы, связанные с дезинформацией и ИИ. Он исследует восприятие дезинформации, ее воздействие и ответные меры, включая Закон об ИИ ЕС и политику онлайн-платформ. Это первый аналитический подход к теме, основанный на текущих дебатах исследователей, первых выводах наших опросов 2024 года, интервью и анализе сотен поддельных онлайн-новостей. Он пытается понять, как граждане и заинтересованные стороны воспринимают дезинформацию и определяют возможные последствия. В нем также анализируются текущие проблемы и ограничения, возможности и ограничения для борьбы с манипуляциями и вмешательством. В статье рассматриваются текущие процессы и последствия дезинформации (2), представлены основные выводы нашего онлайн-опроса о восприятии дезинформации (3), текущие нормативные ответы ЕС (4) и пункты обсуждения (5). Мы утверждаем в этой статье, что существует гигантское изменение в том, как мы получаем доступ к информации, но что ответы на дезинформацию все еще находятся на ранней стадии. В статье также показано, что в европейских странах растет осведомленность о последствиях дезинформации, а также разрыв между способностью идентифицировать фейковые новости и дезинформацию и ограниченным пониманием процессов, угроз и субъектов, участвующих в распространении дезинформации.
Тип публикации:
Статья в журнале
Издательство:
Журнал политических наук и международных отношений
Для авторов:
Томаш Гаррига, Жерар Санс, Эдуард Серрахима де Камбра, Аксель Брандо
Аннотация к книге:
В этой статье мы представляем новое применение структурных причинных моделей (СКМ) и процедуры похищения-действия-предсказания к временным рядам, установленным в контексте реальной проблемы в фармацевтической промышленности. Мы стремимся оценить контрфактические данные по объему продаж препарата, на который повлиял выход на рынок дженерика-конкурента. Мы используем архитектуры на основе кодера-декодера, применяя условный вариационный автокодер, а также вводя использование условных разреженных автокодеров, которые никогда не использовались в контрфактической литературе. Предлагаемая методология требует наличия исторических событий и временных рядов без событий и имеет то преимущество, что не полагается на контрольные ковариаты, которые могут быть недоступны, в то же время явно превосходя базовую контрфактическую оценку прогноза. Мы оцениваем наш подход, используя реальный набор данных о продажах нашей компании, а также синтетические и полусинтетические наборы данных, которые имитируют проблемный контекст, демонстрируя его эффективность. Мы успешно применили эту модель в нашей компании, предоставив полезную информацию для бизнес-планирования, распределения инвестиций и постановки целей.
Тип публикации:
Статья о семинаре
Издательство:
NeurIPS ⁇ 24 Семинар по обучению каузальной репрезентации
Для авторов:
Анастасий Манос, Деспина Элизабет Филиппиду, Николаос Павлидис, Георгиос Каранасиос, Георгиос Вахтанидис, Арианна Дюлиция
Аннотация к книге:
Рост цифровых платформ способствовал быстрому распространению дезинформации, которая создает значительные социальные, политические и экономические проблемы. Графики знаний (KG) становятся эффективными инструментами для повышения точности, интерпретируемости и масштабируемости систем обнаружения поддельных новостей, устраняя ограничения в традиционных подходах, основанных на машинном обучении, которые в первую очередь полагаются на лингвистический анализ. Эта работа содержит обзор литературы, в котором обобщены результаты недавних исследований по применению KG в обнаружении дезинформации. Мы определяем, как KG улучшают обнаружение, кодируя реальные отношения, анализируя контекст и повышая интерпретируемость модели, а также обсуждаем текущие ограничения в масштабируемости, полноте данных и контекстной адаптивности. Рассмотренные исследования подчеркивают необходимость будущих исследований, ориентированных на масштабируемые, в режиме реального времени и кросс-лингвистические модели KG, для укрепления возможностей обнаружения дезинформации во всем мире. Кроме того, мы представляем предварительные результаты двух вариантов использования, демонстрируя методологию построения КГ, которые могут служить полезными инструментами для борьбы с распространением дезинформации.
Тип публикации:
Документ конференции
Издательство:
2024 Международная конференция по инжинирингу и новым технологиям (ICEET)
Для авторов:
Alessia D ⁇ Andrea, Giorgia Fusacchia, Арианна D ⁇ Ulizia
Аннотация к книге:
В этой статье исследуется многогранный ответ Европейского Союза на распространенную проблему дезинформации, которая усилилась после аннексии Крыма в 2014 году. Дезинформация представляет значительную угрозу демократическим процессам и общественному благосостоянию. Подход Европейского Союза сочетает в себе меры регулирования, стратегические партнерства и инициативы в области медиаграмотности для борьбы с этим явлением, сохраняя при этом основные демократические принципы, такие как свобода выражения мнений. Ключевые меры включают Кодекс практики по дезинформации и Закон о цифровых услугах, которые направлены на то, чтобы привлечь цифровые платформы к ответственности и обеспечить прозрачность. Кроме того, такие инициативы, как Целевая группа East StratCom и Система быстрого оповещения, подчеркивают усилия Европейского союза по противодействию дезинформации как инструменту гибридной войны. В этом документе также подчеркивается критическая роль граждан, которых Европейский союз стремится расширить с помощью программ медиаграмотности, позволяя им распознавать и противостоять манипулятивному контенту. Изучая взаимодействие между действиями правительства, участием частного сектора и участием граждан, это исследование обеспечивает всеобъемлющий анализ стратегии Европейского союза по борьбе с дезинформацией и оценивает проблемы и будущие направления, необходимые для поддержания демократической устойчивости в развивающемся цифровом ландшафте.
Тип публикации:
Категория: Научная статья
Издательство:
Политика в области информации
Для авторов:
Alessia D ⁇ Andrea, Giorgia Fusacchia, Арианна D ⁇ Ulizia
Аннотация к книге:
Назначение (назначение)
Используя междисциплинарный подход, это исследование направлено на то, чтобы проследить путь кампаний дезинформации от их обнаружения лингвистическими подсказками доверия к продвижению через механизмы распространения и, наконец, оценить их влияние на социально-политический контекст.
Дизайн/методология/подход
В этом исследовании представлен подробный обзор четырех фундаментальных аспектов дезинформации: лингвистические особенности, которые отличают контент, предназначенный для обмана и манипулирования общественным мнением, механизмы СМИ, которые облегчают его распространение, используя когнитивные процессы своей аудитории, угрозы, связанные с растущим использованием генеративного искусственного интеллекта для распространения дезинформации, и более широкие последствия, которые эта динамика дезинформации оказывает на общественное мнение и, следовательно, на процессы принятия политических решений.
В. Выводы по итогам работы
В результате в документе содержится междисциплинарное и целостное исследование этого явления, в котором говорится о его множественных элементах, чтобы подчеркнуть важность ответственности платформы, кампаний по повышению медиаграмотности среди граждан и интерактивного сотрудничества между частным и государственным секторами в качестве мер по повышению устойчивости к угрозе дезинформации.
Оригинальность/ценность
В исследовании подчеркивается необходимость повышения подотчетности платформ, поощрения медийной грамотности среди отдельных лиц и развития сотрудничества между государственным и частным секторами. Укрепление устойчивости к дезинформации и обеспечение адаптивности ЕС перед лицом меняющихся цифровых угроз являются целями этой интегрированной стратегии. В конечном счете, документ выступает за справедливую и открытую стратегию, которая защищает свободу выражения мнений и укрепляет демократические институты в то время, когда цифровая дезинформация находится на подъеме.
Тип публикации:
Категория: Научная статья
Издательство:
Журнал информации, коммуникации и этики в обществе (2025)
Для авторов:
Эдди Конти, Алехандро Аструк, Альваро Парафита, Аксель Брандо
Аннотация к книге:
Понимание того, как информация распространяется через модели Трансформатора, является ключевой проблемой для интерпретируемости. В этой работе мы изучаем влияние минимальных возмущений токенов на пространство встраивания. В наших экспериментах мы анализируем частоту, с которой токены уступают минимальным сдвигам, подчеркивая, что редкие токены обычно приводят к большим сдвигам. Кроме того, мы изучаем, как возмущения распространяются по слоям, демонстрируя, что входная информация все чаще смешивается в более глубоких слоях. «Наши результаты подтверждают общее предположение о том, что первые слои модели могут быть использованы в качестве прокси-серверов для объяснения моделей. В целом, эта работа представляет собой комбинацию возмущений токенов и сдвигов в пространстве встраивания в качестве мощного инструмента для интерпретации моделей.
Тип публикации:
Статья о семинаре
Издательство:
Семинар IJCAI 2025 по объяснимому искусственному интеллекту
Для авторов:
Андреа Чьямарра, Роберто Калделли, Альберто дель Бимбо
Аннотация к книге:
Дезинформация всегда в большей степени вызвана использованием измененного или полного синтетически сгенерированного реалистичного контента, обычно известного как deepfakes. Это создает потребность в надежных инструментах, способных выявить такое фальшивое содержание, чтобы избежать поляризации мышления людей. Были представлены различные методы, общий знаменатель которых заключается в поиске некоторых несоответствий, вызванных процессом поддельной генерации и подтвержденных рассмотрением конкретных характеристик. Представляется, что возможное сочетание различных отличительных особенностей могло бы обеспечить более эффективные достижения. С этой точки зрения и следуя нашему предыдущему исследованию по этому вопросу, мы предлагаем исследовать новую особенность, которая в основном учитывает встроенные отношения, существующие во всей сцене приобретения во время захвата изображения (видео), а затем представленные значениями пикселей изображения. Идея заключается в том, что процесс генерации deepfake может разорвать такие внутренние зависимости между освещением (интенсивностью и направлением), поверхностями объекта (положением и отражательной способностью) и шумом поглощения, что свидетельствует о возможной манипуляции. Согласно этому, дескриптор функций, названный Local Surface Descriptor, был построен и использован для обучения моделей на основе CNN для обнаружения Deepfake. Экспериментальные результаты, проведенные в различных оперативных контекстах, демонстрируют значительную точность обнаружения до 90%.
Тип публикации:
Документ конференции
Издательство:
2024 IEEE International Conference on Image Processing Challenges and Workshops (ICIPCW), Абу-Даби, Объединенные Арабские Эмираты, 2024
Для авторов:
Андреа Чьямарра, Роберто Калделли, Альберто дель Бимбо
Аннотация к книге:
Фактическая способность ИИ генерировать реалистичные полностью синтетические изображения с каждым днем улучшается, и это особенно верно для изображений, представляющих человеческие лица, которые кажутся неотличимыми от реальных людей. Это создает острую необходимость в разработке инструментов, способных различать истинных и несуществующих людей, обнаруживая некоторые возможные несоответствия, встроенные в изображения в процессе генерации. Основное различие между нетронутой картинкой и сгенерированной глубокой подделкой заключается в том, что во втором случае не было эффективного захвата камеры; Таким образом, все различные взаимосвязи между элементами, принадлежащими сцене (свет, отражательная способность, соответствующие положения объекта в трехмерном пространстве), не принимаются реальным миром в этот конкретный момент времени, а просто искусственно воспроизводятся. Согласно такому рассмотрению, в этой работе мы вводим локальные поверхностные кадры камеры как возможное средство представления этих конкретных характеристик окружающей среды, чтобы выделить различия. Проведенный экспериментальный анализ показал, что эта особенность может обеспечить очень высокий уровень точности и значительную степень обобщения.
Тип публикации:
Документ конференции
Издательство:
2024 IEEE International Conference on Image Processing Challenges and Workshops (ICIPCW), Абу-Даби, Объединенные Арабские Эмираты, 2024
Для авторов:
Андреа Чьямарра, Роберто Калделли, Альберто дель Бимбо
Аннотация к книге:
Необычные нереальные изображения могут быть реализованы с помощью методов искусственного интеллекта. Различные инструменты, доступные каждому, способны воссоздать высококачественный контент, особенно создавая полностью синтетические изображения. Среди существующих архитектур модели на основе диффузии могут легко создавать любые виды изображений, включая изображения лица человека, предоставляя подсказку, такую как текст. Такое ложное содержание часто используется для распространения дезинформации, и это вызывает обеспокоенность по поводу безопасности людей. В настоящее время становится все труднее разрабатывать надежные инструменты для различения реальных и генерируемых (даже несуществующих) людей. Кроме того, большое количество диффузионных реализаций создает проблему для таких детекторов, чтобы обобщить новые генеративные методы. Для решения этих проблем мы предлагаем исследовать способность отличительной черты, основанной на среде получения изображений, отделять изображения лиц на основе диффузии от первозданных. Фактически, сгенерированные изображения не должны содержать характеристики, соответствующие фазе получения, выполняемой с помощью реальной камеры. Такие несоответствия могут быть выделены с помощью недавно введенных локальных поверхностных рамок. Эта функция учитывает объекты и поверхности, участвующие в сцене, которые влияют на процесс захвата камеры, а также дополнительную внутреннюю информацию, связанную с устройством, а также освещение и отражения, влияющие на весь сценарий. В статье исследуется способность этой функции обобщать различные наборы данных и новые генеративные методы, неизвестные во время обучения. Экспериментальные результаты подчеркивают, что такая особенность по-прежнему обеспечивает значительные уровни точности обнаружения и в этих случаях.
Тип публикации:
Документ конференции
Издательство:
2024 IEEE International Conference on Image Processing Challenges and Workshops (ICIPCW), Абу-Даби, Объединенные Арабские Эмираты, 2024
Для авторов:
Альваро Парафита, Томас Гаррига, Аксель Брандо, Франсиско Х. Касорла
Аннотация к книге:
Среди методов объяснимости SHAP выделяется как один из самых популярных, но часто упускает из виду причинно-следственную структуру проблемы. В ответ do-SHAP использует интервенционные запросы, но его зависимость от оценок препятствует его практическому применению. Для решения этой проблемы мы предлагаем использовать оценочно-агностические подходы, которые позволяют оценивать любой идентифицируемый запрос из одной модели, делая do-SHAP осуществимым на сложных графах. Мы также разрабатываем новый алгоритм, позволяющий значительно ускорить его вычисления при незначительных затратах, а также метод объяснения недоступных процессов генерации данных. Мы демонстрируем оценку и вычислительную производительность нашего подхода и проверяем его на двух реальных наборах данных, подчеркивая его потенциал в получении надежных объяснений.
Тип публикации:
Документ конференции
Издательство:
Тридцать девятая ежегодная конференция по нейронным системам обработки информации (NeurIPS 2025)
Для авторов:
Аламгир Мунир Кази, Джон Филип Маккрей, Джамаль Насир
Аннотация к книге:
Распространение дезинформации требует надежных, но вычислительно эффективных систем проверки фактов. В то время как современные подходы используют большие языковые модели (LLM) для создания объяснительных обоснований, эти методы сталкиваются со значительными вычислительными барьерами и рисками галлюцинаций в реальных развертываниях. Мы представляем DeReC (Dense Retrieval Classification), легкий фреймворк, который демонстрирует, как встраивание текста общего назначения может эффективно заменить авторегрессивные подходы на основе LLM в задачах проверки фактов. Комбинируя плотный поиск со специализированной классификацией, наша система достигает лучшей точности, будучи значительно более эффективной. DeReC превосходит LLM, генерирующие объяснения, по эффективности, сокращая время выполнения на 95% на RAWFC (23 минуты 36 секунд по сравнению с 454 минутами 12 секундами) и на 92% на LIAR-RAW (134 минуты 14 секунд по сравнению с 1692 минутами 23 секундами), демонстрируя свою эффективность в разных размерах набора данных. В наборе данных RAWFC DeReC набрал 65,58 балла в Формуле-1.%, превзойдя современный метод L-Defense (61.20%). «Наши результаты показывают, что тщательно спроектированные системы на основе поиска могут соответствовать или превышать производительность LLM в специализированных задачах, будучи значительно более практичными для развертывания в реальном мире».
Тип публикации:
Документ конференции
Издательство:
5-я конференция по языку, данным и знаниям
Для авторов:
Цюши Ли, Андреа Чиамарра, Роберто Калделли и Стефано Берретти
Аннотация к книге:
Для MediaEval 2025 SynthIm Challenge Task A (Synthetic Image Detection) мы определили критический сдвиг распределения между предоставленными обучающими и тестовыми данными, что делает первого плохим представителем для целевой области. Наш подход непосредственно решает эту проблему, включив более стилистически последовательный набор валидации в наши учебные данные и используя замороженный CLIP ViT-L/14 в качестве надежного экстрактора функций. Наше главное понимание заключается в том, что в таких условиях смещения домена обобщаемые представления из большой предварительно обученной модели значительно превосходят традиционную CNN, настроенную на несоответствующий набор данных, что оказывается более эффективной и надежной стратегией.
Тип публикации:
Документ конференции
Издательство:
MediaEval ⁇ 25 - это: Семинар по оценке мультимедиа, 25 ⁇ 26 октября 2025 года, Дублин, Ирландия и онлайн
Доступ по запросу
Для авторов:
Циуши Ли, Роберто Калделли и Стефано Берретти
Аннотация к книге:
Быстрое развитие моделей генерации изображений, таких как Stable Diffusion, вызывает обеспокоенность по поводу потенциального неправильного использования, что делает надежные методы водяных знаков необходимыми для аутентификации и атрибуции синтетического контента, особенно в борьбе с Deepfakes. Тем не менее, одновременное обеспечение высококачественной генерации изображений и точного извлечения водяных знаков остается сложной задачей. Анализируя существующие методы, мы выявляем критическое ограничение:
Их функции потери часто используют одну ссылку (либо входное изображение, либо чистое сгенерированное изображение) для оптимизации точности изображения, что приводит к неоптимальной производительности. В этой статье мы проводим углубленное исследование термина потери качества изображения при диффузионном водяном знаке. Анализируя различные воздействия использования входного изображения по сравнению с чистым сгенерированным изображением в качестве ссылок во время оптимизации, мы показываем, что совместное рассмотрение обеих ссылок значительно улучшает надежность и визуальное качество. Обширные эксперименты показывают, что наш подход с двумя ссылками обеспечивает превосходную производительность как по точности извлечения водяного знака, так и по точности генерации по сравнению с исходными линиями с одной ссылкой. Мы выступаем за эту парадигму для продвижения надежного водяного знака в генеративных моделях.
Тип публикации:
Документ конференции
Издательство:
DFF ⁇ 25: Материалы 1-го семинара по криминалистике Deepfake: Обнаружение, атрибуция, распознавание и состязательные вызовы в эпоху медиа, созданных ИИ
Для авторов:
Хосу Эгилус Кастаньейра, Аксель Брандо, Мигле Лауките, Марк Серра-Видаль
Аннотация к книге:
Искусственный интеллект (ИИ) теперь пронизывает критические инфраструктуры и системы принятия решений, где неудачи наносят социальный, экономический и демократический ущерб. Этот позиционный документ бросает вызов укоренившемуся убеждению, что регулирование и инновации являются противоположностями. Как свидетельствуют аналогии с авиацией, фармацевтическими препаратами и системами социального обеспечения, а также недавние случаи синтетической дезинформации, предвзятости и неподотчетного принятия решений, отсутствие хорошо продуманного регулирования уже создало неизмеримый ущерб. Регулирование, будучи вдумчивым и адаптивным, не является тормозом для инноваций - это его основа. В настоящем позиционном документе рассматривается Закон ЕС об искусственном интеллекте как модель регулирования, основанного на риске и ответственности, которая решает дилемму Коллингриджа: действовать достаточно рано, чтобы предотвратить вред, но достаточно гибко, чтобы поддерживать инновации. Его адаптивные механизмы ⁇ регулятивные песочницы, поддержка малых и средних предприятий (МСП), тестирование в реальном мире, оценка воздействия на основные права (ФРИА) ⁇ демонстрируют, как регулирование может ускорить ответственный, а не задержать технологический прогресс. В документе с изложением позиции кратко излагается, как инструменты управления превращают воспринимаемое бремя в ощутимые преимущества: юридическая определенность, доверие потребителей и этическая конкурентоспособность. В конечном счете, документ переосмысливает прогресс: Инновации и регулирование развиваются вместе. Внедряя прозрачность, оценку воздействия, подотчетность и грамотность ИИ в проектирование и развертывание, структура ЕС определяет, что на самом деле означает ответственная инновация - технологические амбиции, дисциплинированные демократическими ценностями и основными правами.
Тип публикации:
Документ конференции
Издательство:
Тридцать девятая ежегодная конференция по нейронным системам обработки информации (NeurIPS 2025)
Автор статьи: г Паскалин Габорит
Аннотация к книге:
В эпоху глобальной неопределенности доверие стало критическим фактором, определяющим отношения между нациями, институтами и отдельными лицами. Эта книга «Доверие, новые технологии и геополитика в неопределенном мире» предлагает своевременное и глубокое исследование того, как доверие проверяется и трансформируется перед лицом быстро меняющихся геополитических ландшафтов. От хрупкости демократических систем до проблем, связанных с новыми технологиями, ИИ, дезинформацией и изменением климата, эта книга вникает в самые насущные проблемы нашего времени. Изучая пересечение доверия с ключевыми областями, такими как демократии, торговые войны и новые технологии, эта работа предоставляет ценную информацию для политиков, ученых и всех, кто стремится понять сложности современного мира. Независимо от того, интересуетесь ли вы кибербезопасностью, дезинформацией, воздействием гибридных угроз или ролью доверия в международной дипломатии, эта книга предлагает всеобъемлющую, но доступную структуру для решения этих проблем. Это проливает свет на то, как понимание доверия является ключом к решению геополитических неопределенностей, которые определяют наш век.
Тип публикации:
Книга о книгах
Издательство:
Питер Лэнг издатель
Автор статьи:
Эдди Конти, Альваро Парафита, Аксель Брандо
Аннотация к книге:
Оценка важности отдельных функций в машинном обучении имеет решающее значение для понимания процесса принятия решений в модели. Хотя существует множество методов, отсутствие окончательной обоснованной истины для сравнения подчеркивает необходимость альтернативных, хорошо обоснованных мер. В этой статье представлен новый метод локальной важности функций, называемый распределением контрфактической важности (CID). Мы генерируем два набора положительных и отрицательных контрфактуалов, моделируем их распределения с использованием оценки плотности ядра и оцениваем признаки на основе меры дистрибутивной несходности. Эта мера, основанная на строгой математической структуре, удовлетворяет ключевым свойствам, необходимым для функционирования в качестве достоверной метрики. Мы демонстрируем эффективность нашего метода, сравнивая его с хорошо зарекомендовавшими себя местными объяснителями важности функций. Наш метод не только предлагает дополнительные перспективы к существующим подходам, но также улучшает производительность по показателям достоверности (как для полноты, так и для достаточности), что приводит к более верным объяснениям системы. Эти результаты подчеркивают его потенциал в качестве ценного инструмента для анализа моделей.
Тип публикации:
Документ конференции
Издательство:
Конференция по глубокому обучению «Северное сияние 2026»