Наукова діяльність Публікації на сайті
Автори статті:
Аксель Брандо, Лукас Беррі, Девід Меге
Тези доповідей:
Генеративні дифузійні моделі, що відрізняються великою кількістю параметрів (перевищують 100 мільйонів) та операцією у високовимірних просторах зображень, створюють значні проблеми для традиційних методів оцінки невизначеності через обчислювальні вимоги. У цій роботі ми представляємо інноваційну структуру Diffusion Ensembles for Capturing Uncertainty (DECU), призначену для оцінки епістемічної невизначеності для моделей дифузії. Структура DECU вводить новий метод, який ефективно тренує ансамблі моделей умовної дифузії шляхом включення статичного набору попередньо навчених параметрів, різко зменшуючи обчислювальне навантаження та кількість параметрів, які потребують навчання. Крім того, DECU використовує Pairwise-Distance Estimators (PaiDEs) для точного вимірювання епістемічної невизначеності шляхом оцінки взаємної інформації між виходами моделі та вагами у високовимірних просторах. Ефективність цього фреймворку продемонстрована експериментами на наборі даних ImageNet, підкреслюючи його здатність фіксувати епістемічну невизначеність, особливо в класах зображень з недостатньою вибіркою.
Тип публікації:
Матеріали конференції
Видавець журналу:
40-а конференція «Невизначеність у штучному інтелекті»
Автори статті:
Coccomini D.A., Caldelli R., Gennaro C., Fiameni G., Amato G., Falchi F.
Тези доповідей:
Останнім часом зростаюче поширення синтетичних засобів масової інформації, відомих як deepfakes, стало можливим завдяки швидкому прогресу в технологіях штучного інтелекту, особливо алгоритмів глибокого навчання. Зростаючі побоювання з приводу зростаючої доступності та правдоподібності глибоких підробок спонукали дослідників зосередитися на розробці методів їх виявлення. У цій галузі дослідники лабораторії ISTI CNR ⁇ s AIMH у співпраці з дослідниками з інших організацій провели дослідження, дослідження та проекти, щоб внести свій внесок у боротьбу з цією тенденцією, досліджуючи нові рішення та загрози. Ця стаття підсумовує останні зусилля, докладені в цій галузі нашими дослідниками та у співпраці з іншими установами та експертами.
Тип публікації:
Матеріали конференції
Видавець журналу:
CEUR Workshop Праці
Автори статті:
Станчу, Крістіан і Іонеску, Богдан і Кукковілло, Лука і Пападопулос, Симеон і Кордопатіс-Зілос, Георгос і Попеску, Адріан і Кальделлі, Роберто
Тези доповідей:
Генерація та маніпулювання синтетичними медіа останніми роками стали швидкими рекламними кампаніями, що робить створення мультимедійного контенту, який неможливо відрізнити від людського спостерігача, дедалі простішим. Крім того, згенерований контент може бути зловмисно використаний окремими особами та організаціями з метою поширення дезінформації, що становить значну загрозу для суспільства та демократії. Отже, існує нагальна потреба в інструментах штучного інтелекту, спрямованих на сприяння своєчасному та ефективному процесу перевірки ЗМІ. Семінар MAD ⁇ 24 прагне об'єднати людей з різноманітним досвідом, які займаються боротьбою з дезінформацією в мультимедіа за допомогою ШІ, створюючи середовище для вивчення інноваційних ідей та обміну досвідом. Сфера наукових інтересів охоплює ідентифікацію маніпульованого або згенерованого контенту, а також дослідження поширення дезінформації та її соціальних наслідків. Визнаючи значущість мультимедіа, майстерня підкреслює спільний аналіз різних модальностей у контенті, оскільки перевірку можна покращити шляхом агрегування кількох форм контенту.
Тип публікації:
Матеріали конференції
Видавець журналу:
Матеріали 3-го міжнародного семінару ACM з мультимедійного ШІ проти дезінформації
Автори статті:
Андреа Чіамарра, Роберто Кальделлі, Альберто дель Бімбо
Тези доповідей:
Дивлячись на відеоряд, де людина на передньому плані представлена вже не так давно. Глибокі підробки зробили революцію в нашому способі перегляду такого змісту, і в даний час ми все частіше звикли задаватися питанням, чи те, що ми бачимо, є реальним або просто містифікацією. У цьому контексті узагальненої дезінформації, потреба в надійних рішеннях, щоб допомогти звичайним користувачам, і не тільки, щоб зробити оцінку на такого роду відеопослідовності сильно майбутніх. У цій статті вводиться новий підхід, який використовує аномалії часової поверхні кадру для того, щоб виявити Deepfake відео. Метод шукає можливі розбіжності, викликані маніпуляціями deepfake, в поверхнях, що належать до захопленої сцени, і в їх еволюції вздовж часової осі. Ці функції використовуються як вхід конвеєра на основі глибоких нейронних мереж для виконання бінарної оцінки самого відео. Експериментальні результати свідчать про те, що така методологія може досягти значної продуктивності з точки зору точності виявлення.
Тип публікації:
Матеріали конференції
Видавець журналу:
2024 Конференція IEEE/CVF з комп'ютерного зору та розпізнавання образів (CVPRW)
Автори статті:
Паскалін Габоріт »
Тези доповідей:
Міжнародні організації вже більше десяти років класифікують дезінформацію як одну з головних загроз демократії та інститутам. Цифрові технології переосмислюють і глибоко трансформують сучасний спосіб життя, громадян та бізнес-середовища. ШІ приносить нові збої в тому, як ми отримуємо доступ до знань і створюємо, поширюємо і розуміємо інформацію. Він також може розмити межі між реальною інформацією та маніпульованою інформацією з появою ⁇ Fake News ⁇ , перехресних посилань автоматичних мереж ⁇ та ⁇ Deep Fakes ⁇ . Системи штучного інтелекту підвищують потенціал для створення реалістичного фейкового контенту та цільових дезінформаційних кампаній. Дезінформація виходить за рамки простих чуток, щоб навмисно обманювати та спотворювати інформацію, засновану на доказах, за допомогою сфабрикованих даних. Європейські інституції також нещодавно зосередилися на виявленні дезінформації, пов'язаної з FIMI: Іноземна інформаційна маніпуляція та втручання. У статті визначено тенденції та проблеми, пов'язані з дезінформацією та штучним інтелектом. Він досліджує сприйняття дезінформації, її наслідки та відповіді, включаючи Закон ЄС про штучний інтелект та політику онлайн-платформ. Він забезпечує перший аналітичний підхід до теми, заснований на поточних дебатах дослідників, перших висновках наших опитувань 2024 року, інтерв'ю та аналізі сотень онлайн-фейкових новин. Він намагається зрозуміти, як громадяни та зацікавлені сторони сприймають дезінформацію та виявляє можливі наслідки. Він також аналізує поточні виклики та обмеження, можливості та обмеження для боротьби з маніпуляціями та втручаннями. У статті розглядаються поточні процеси та наслідки дезінформації (2), презентація основних висновків нашого онлайн-опитування щодо сприйняття дезінформації (3), поточні регуляторні відповіді ЄС (4) та пункти обговорення (5). У цій статті ми стверджуємо, що існує гігантська зміна способу доступу до інформації, але відповіді на дезінформацію все ще знаходяться на ранній стадії. Стаття також демонструє, що в європейських країнах спостерігається підвищена обізнаність про наслідки дезінформації, а також розрив між здатністю виявляти фейкові новини та дезінформацію, а також обмежене розуміння процесів, загроз та суб'єктів, залучених до поширення дезінформації.
Тип публікації:
Журнальний папір
Видавець журналу:
Журнал політичних наук і міжнародних відносин
Автори статті:
Томаш Гарріга, Жерар Санц, Едуард Серрахіма де Камбра, Аксель Брандо
Тези доповідей:
У цій роботі ми представляємо нове застосування структурних причинно-наслідкових моделей (СКМ) та процедури викрадання-дія-передбачення до встановлення часових рядів у контексті реальної світової проблеми у фармацевтичній промисловості. Ми прагнемо оцінити контрафактність обсягу продажів препарату, на який вплинув вихід на ринок генеричного препарату-конкурента. Ми використовуємо архітектури на основі кодера-декодера, застосовуючи умовний варіаційний автокодувальник, а також вводимо використання умовних розріджених автокодувальників, які ніколи не використовувалися в контрфактичній літературі. Запропонована методологія вимагає наявності історичних подій та часових рядів без подій і має перевагу в тому, що не покладається на контрольні коваріати, які можуть бути недоступними, при цьому явно перевершує основну контрафактну оцінку прогнозу. Ми оцінюємо наш підхід, використовуючи реальний набір даних про продажі нашої компанії, а також синтетичні та напівсинтетичні набори даних, які імітують контекст проблеми, демонструючи її ефективність. Ми успішно застосували цю модель в нашій компанії, надавши корисну інформацію для бізнес-планування, розподілу інвестицій та постановки цілей.
Тип публікації:
Стаття воркшопу
Видавець журналу:
NeurIPS ⁇ 24 Семінар з вивчення причинно-наслідкового зв'язку
Автори статті:
Анастасіос Манос, Деспіна Елізабет Філіппіду, Ніколаос Павлідіс, Георгіос Каранасіос, Георгіос Вахтанідіс, Аріанна Д'Улізія
Тези доповідей:
Зростання цифрових платформ сприяло швидкому поширенню дезінформації, яка створює значні соціальні, політичні та економічні проблеми. Графіки знань (KG) стають ефективними інструментами для підвищення точності, інтерпретованості та масштабованості систем виявлення фейкових новин, усуваючи обмеження в традиційних підходах на основі машинного навчання, які в першу чергу покладаються на лінгвістичний аналіз. Ця робота містить огляд літератури, який синтезує результати останніх досліджень щодо застосування КГ у виявленні дезінформації. Ми визначаємо, як KG покращують виявлення, кодуючи реальні відносини, аналізуючи контекст та покращуючи інтерпретабельність моделі, а також обговорюємо поточні обмеження масштабованості, повноти даних та контекстної адаптивності. Переглянуті дослідження підкреслюють необхідність майбутніх досліджень, зосереджених на масштабованих, реальних і крос-лінгвістичних моделях KG для посилення можливостей виявлення дезінформації в усьому світі. Крім того, ми представляємо попередні результати двох випадків використання, демонструючи методологію побудови КГ, які можуть служити корисними інструментами для боротьби з поширенням дезінформації.
Тип публікації:
Матеріали конференції
Видавець журналу:
2024 Міжнародна конференція з інженерії та новітніх технологій (ICEET)
Автори статті:
Alessia D ⁇ Andrea, Giorgia Fusacchia, Arianna D ⁇ Ulizia
Тези доповідей:
Цей документ досліджує багатогранну відповідь Європейського Союзу на поширену проблему дезінформації, виклик, який посилився після анексії Криму в 2014 році. Дезінформація створює суттєві загрози для демократичних процесів та суспільного добробуту. Підхід Європейського Союзу поєднує регуляторні заходи, стратегічні партнерства та ініціативи з медіаграмотності для вирішення цього явища, одночасно захищаючи основні демократичні принципи, такі як свобода вираження поглядів. Ключові заходи включають Кодекс практики щодо дезінформації та Закон про цифрові послуги, які мають на меті притягнути цифрові платформи до відповідальності та забезпечити прозорість. Крім того, такі ініціативи, як оперативна група East StratCom та система швидкого оповіщення, підкреслюють зусилля Європейського Союзу щодо протидії дезінформації як інструменту гібридної війни. У цьому документі також підкреслюється критична роль громадян, яких Європейський Союз прагне розширити можливості за допомогою програм медіаграмотності, що дозволяє їм розпізнавати та протистояти маніпулятивному контенту. Вивчаючи взаємодію між діями уряду, залученням приватного сектору та залученням громадян, це дослідження надає всебічний аналіз стратегії Європейського Союзу проти дезінформації та оцінює виклики та майбутні напрямки, необхідні для підтримки демократичної стійкості в мінливому цифровому ландшафті.
Тип публікації:
Наукова стаття
Видавець журналу:
Інформаційна політика
Автори статті:
Alessia D ⁇ Andrea, Giorgia Fusacchia, Arianna D ⁇ Ulizia
Тези доповідей:
Призначення
Використовуючи мультидисциплінарний підхід, це дослідження має на меті простежити шлях дезінформаційних кампаній від їх виявлення лінгвістичними підказками достовірності до просування через механізми поширення та, нарешті, оцінити їх вплив на соціально-політичний контекст.
Дизайн/методологія/підхід
Це дослідження дає поглиблений огляд чотирьох фундаментальних аспектів дезінформації: лінгвістичні особливості, що відрізняють контент, призначений для обману та маніпулювання громадською думкою, медіа-механізми, що полегшують його поширення, використовуючи когнітивні процеси своєї аудиторії, загрози, пов'язані зі збільшенням використання генеративного штучного інтелекту для поширення дезінформації, та ширші наслідки, які ця динаміка дезінформації має для громадської думки, а отже, і для процесів прийняття політичних рішень.
Висновки та висновки
Як результат, документ передбачає міждисциплінарне та цілісне вивчення явища, посилаючись на його плюралізовані елементи, щоб підкреслити важливість відповідальності платформи, кампаній з медіаграмотності серед громадян та інтерактивної співпраці між приватним та державним секторами як заходів для підвищення стійкості проти загрози дезінформації.
Оригінальність/вартість
Дослідження підкреслює необхідність підвищення підзвітності платформи, сприяння медіаграмотності серед окремих осіб та розвитку співпраці між державним та приватним секторами. Посилення стійкості до дезінформації та забезпечення адаптивності ЄС в умовах зміни цифрових загроз є цілями цієї інтегрованої стратегії. Зрештою, документ виступає за справедливу та відкриту стратегію, яка захищає свободу вираження поглядів та зміцнює демократичні інститути в той час, коли цифрова дезінформація зростає.
Тип публікації:
Наукова стаття
Видавець журналу:
Журнал інформації, комунікації та етики в суспільстві (2025)
Автори статті:
Едді Конті, Алехандро Аструк, Альваро Парафіта, Аксель Брандо
Тези доповідей:
Розуміння того, як інформація поширюється через моделі трансформаторів, є ключовим завданням для інтерпретабельності. У цій роботі ми вивчаємо вплив мінімальних збурень токенів на простір вбудовування. У наших експериментах ми аналізуємо частоту, з якою токени поступаються мінімальним зрушенням, підкреслюючи, що рідкісні токени зазвичай призводять до більших зрушень. Крім того, ми вивчаємо, як збурення поширюються по шарах, демонструючи, що вхідна інформація все більше змішується в більш глибоких шарах. Наші висновки підтверджують загальне припущення, що перші шари моделі можуть бути використані як проксі для пояснення моделі. Загалом, ця робота вводить комбінацію збурень токенів та зрушень у просторі вбудовування як потужний інструмент інтерпретації моделей.
Тип публікації:
Стаття воркшопу
Видавець журналу:
Семінар IJCAI 2025 щодо зрозумілого штучного інтелекту
Автори статті:
Андреа Чіамарра, Роберто Кальделлі, Альберто дель Бімбо
Тези доповідей:
Дезінформація завжди більше спонукається, вдаючись до зміненого або повного синтетично генерованого реалістичного вмісту, загальновідомого як глибинні підробки. Це створює потребу в надійних інструментах, здатних виявити такий фальшивий вміст, щоб уникнути поляризації мислення людей. Були представлені різні методи, спільним знаменником яких є пошук деяких невідповідностей, викликаних процесом фальшивої генерації та засвідчених, дивлячись на конкретні характеристики. Здається, що можливе поєднання різних відмінних рис може забезпечити більш ефективні досягнення. У цьому погляді та після нашого попереднього дослідження з цього питання ми пропонуємо дослідити нову функцію, яка в основному враховує вбудовані зв'язки, що існують у всій сцені отримання під час захоплення зображення (відео), а потім представлені значеннями пікселів зображення. Ідея полягає в тому, що процес генерації deepfake може порушити такі внутрішні залежності між освітленням (інтенсивністю та напрямком), поверхнями об'єкта (положенням та відбиванням) та шумом поглинання, що свідчить про можливу маніпуляцію. Згідно з цим, дескриптор ознак, названий локальним поверхневим дескриптором, був побудований і використаний для навчання моделей на основі CNN для виявлення deepfake. Експериментальні результати, проведені в різних оперативних контекстах, демонструють значну точність виявлення до 90%.
Тип публікації:
Матеріали конференції
Видавець журналу:
2024 Міжнародна конференція IEEE з проблем обробки зображень та семінарів (ICIPCW), Абу-Дабі, Об'єднані Арабські Емірати, 2024
Автори статті:
Андреа Чіамарра, Роберто Кальделлі, Альберто дель Бімбо
Тези доповідей:
Фактична здатність штучного інтелекту генерувати реалістичні повністю синтетичні зображення з кожним днем покращується, і це особливо вірно для зображень, що представляють людські обличчя, які здаються не відрізнити від реальних людей. Це створює вирішальну потребу в розробці інструментів, здатних розрізняти справжніх і неіснуючих людей, виявляючи деякі можливі невідповідності, вбудовані в зображення під час процесу генерації. Основна відмінність первозданного зображення від створеного deepfake полягає в тому, що в другому випадку не відбулося ефективного придбання камери; Таким чином, всі різні взаємозв'язки між елементами, що належать до сцени (світло, відбиття, відповідні позиції об'єкта в 3D-просторі) не приймаються реальним світом в цей точний момент часу, а просто штучно відтворені. Відповідно до такого розгляду, у цій роботі ми вводимо локальні поверхневі кадри камер як можливий засіб для представлення цих конкретних екологічних характеристик, щоб виділити відмінності. Проведений експериментальний аналіз засвідчив, що ця особливість може надати дуже високий рівень точності та значний ступінь узагальнення.
Тип публікації:
Матеріали конференції
Видавець журналу:
2024 Міжнародна конференція IEEE з проблем обробки зображень та семінарів (ICIPCW), Абу-Дабі, Об'єднані Арабські Емірати, 2024
Автори статті:
Андреа Чіамарра, Роберто Кальделлі, Альберто дель Бімбо
Тези доповідей:
Надзвичайні нереальні зображення можуть бути реалізовані за допомогою методів штучного інтелекту. Різні інструменти, доступні кожному, здатні відтворити високоякісний вміст, особливо створюючи цілі повністю синтетичні зображення. Серед існуючих архітектур моделі на основі дифузії можуть легко створювати будь-які зображення, включаючи зображення обличчя людини, даючи підказку, як текст. Такий неправдивий вміст часто використовується для поширення дезінформації, і це викликає занепокоєння щодо безпеки людей. В даний час стає все важче розробити надійні інструменти, щоб розрізняти реальних і згенерованих (навіть неіснуючих) людей. Крім того, велика кількість реалізацій на основі дифузії створює проблему для таких детекторів для узагальнення на нових генеративних методах. Для вирішення цих проблем ми пропонуємо дослідити можливості відмінної риси, заснованої на середовищі отримання зображень, для відокремлення зображень обличчя на основі дифузії від первозданних. Насправді згенеровані зображення не повинні містити характеристик, які є належними для фази придбання, що виконується через реальну камеру. Такі невідповідності можна виділити за допомогою нещодавно введених локальних поверхневих кадрів. Ця функція враховує об'єкти та поверхні, задіяні в сцені, які впливають на процес отримання камери, а також додаткову внутрішню інформацію, пов'язану з пристроєм, а також освітлення та відображення, що впливають на весь сценарій. У статті досліджено здатність цієї функції узагальнюватись у бік різних наборів даних та нових генеративних методів, невідомих під час навчання. Експериментальні результати підкреслюють, що така функція все ще забезпечує значний рівень точності виявлення також у цих випадках.
Тип публікації:
Матеріали конференції
Видавець журналу:
2024 Міжнародна конференція IEEE з проблем обробки зображень та семінарів (ICIPCW), Абу-Дабі, Об'єднані Арабські Емірати, 2024
Автори статті:
Álvaro Parafita, Tomas Garriga, Аксель Брандо, Франциско J. Cazorla
Тези доповідей:
Серед методів пояснення SHAP виділяється як один з найпопулярніших, але часто не бере до уваги причинно-наслідкову структуру проблеми. У відповідь do-SHAP використовує інтервенційні запити, але його залежність від оцінок перешкоджає його практичному застосуванню. Для вирішення цієї проблеми запропоновано використовувати оціночно-агностичні підходи, які дозволяють оцінювати будь-який ідентифікований запит з однієї моделі, роблячи do-SHAP здійсненним на складних графах. Ми також розробляємо новий алгоритм для значного прискорення його обчислення з незначною вартістю, а також метод пояснення недоступних процесів генерації даних. Ми демонструємо оцінку та обчислювальну ефективність нашого підходу та перевіряємо його на двох реальних наборах даних, підкреслюючи його потенціал в отриманні достовірних пояснень.
Тип публікації:
Матеріали конференції
Видавець журналу:
Тридцять дев'ята щорічна конференція з нейронних систем обробки інформації (NeurIPS 2025)
Автори статті:
Аламгір Мунір Казі, Джон Філіп МакКрей, Джамаль Насір
Тези доповідей:
Поширення дезінформації вимагає надійних, але обчислювально ефективних систем перевірки фактів. У той час як сучасні підходи використовують великі мовні моделі (LLM) для створення пояснювальних обгрунтувань, ці методи стикаються зі значними обчислювальними бар'єрами та галюцинаційними ризиками в реальних розгортаннях. Ми представляємо DeReC (Dense Retrieval Classification), легкий фреймворк, який демонструє, як вбудовування тексту загального призначення може ефективно замінити авторегресійні підходи на основі LLM у завданнях перевірки фактів. Поєднуючи щільний пошук зі спеціалізованою класифікацією, наша система досягає кращої точності, будучи значно ефективнішою. DeReC перевершує LLM, що генерують пояснення, за ефективністю, скорочуючи час виконання на 95% на RAWFC (23 хвилини 36 секунд в порівнянні з 454 хвилинами 12 секунд) і на 92% на LIAR-RAW (134 хвилини 14 секунд у порівнянні з 1692 хвилинами 23 секундами), демонструючи свою ефективність у різних розмірах набору даних. На наборі даних RAWFC DeReC отримує оцінку F1 65,58%, перевершуючи сучасний метод L-Defense (61.20%). Наші результати показують, що ретельно спроектовані системи на основі пошуку можуть відповідати або перевищувати продуктивність LLM у спеціалізованих завданнях, будучи значно більш практичними для реального розгортання.
Тип публікації:
Матеріали конференції
Видавець журналу:
П'ята конференція з мови, даних та знань
Автори статті:
Кіуші Лі, Андреа Чіамарра, Роберто Кальделлі та Стефано Берретті
Тези доповідей:
Для завдання MediaEval 2025 SynthIm Challenge Task A (Synthetic Image Detection) ми визначили критичний зсув розподілу між наданими тренувальними та тестовими даними, що робить перший поганим представником для цільової області. Наш підхід безпосередньо вирішує цю проблему, включивши більш стилістично послідовний набір перевірок у наші навчальні дані та використовуючи заморожений CLIP ViT-L/14 як надійний екстрактор функцій. Наше головне розуміння полягає в тому, що за таких умов зсуву домену узагальнені уявлення з великої попередньо навченої моделі значно перевершують традиційну CNN, точно налаштовану на невідповідний набір даних, що виявляється більш ефективною та надійною стратегією.
Тип публікації:
Матеріали конференції
Видавець журналу:
MediaEval ⁇ 25: Семінар з оцінки мультимедіа, 25жовтень 26, 2025, Дублін, Ірландія та онлайн
Доступ за запитом
Автори статті:
Кіуші Лі, Роберто Кальделлі та Стефано Берретті
Тези доповідей:
Швидке просування моделей генерації зображень, таких як Stable Diffusion, викликає занепокоєння щодо потенційного зловживання, що робить надійні методи водяних знаків важливими для аутентифікації та атрибуції синтетичного вмісту, особливо в боротьбі з глибинними підробками. Однак одночасне забезпечення високоякісної генерації зображення та точного вилучення водяних знаків залишається складним завданням. Аналізуючи існуючі методи, ми виявляємо критичне обмеження:
їхні функції втрат часто приймають єдине посилання (або вхідне зображення, або чисте згенероване зображення) для оптимізації точності зображення, що призводить до неоптимальної продуктивності. Проведено поглиблене дослідження терміну втрати якості зображення у водяних знаках на основі дифузії. Аналізуючи різні наслідки використання вхідного зображення порівняно з чистим зображенням як посиланнями під час оптимізації, ми виявляємо, що спільний розгляд обох посилань значно покращує надійність та візуальну якість. Широкі експерименти показують, що наш підхід з двома посиланнями досягає чудової продуктивності як в точності вилучення водяних знаків, так і в точності генерації порівняно з базовими лініями з одним посиланням. Ми виступаємо за цю парадигму для просування надійного водяного знака в генеративних моделях.
Тип публікації:
Матеріали конференції
Видавець журналу:
DFF ⁇ 25: Матеріали 1-го семінару з криміналістики Deepfake: Виявлення, атрибуція, визнання та змагальні виклики в епоху медіа, що генеруються штучним інтелектом
Автори статті:
Josu Eguiluz Castañeira, Аксель Брандо, Migle Laukyte, Марк Серра-Відаль
Тези доповідей:
Штучний інтелект (ШІ) зараз пронизує критичні інфраструктури та системи прийняття рішень, де збої завдають соціальної, економічної та демократичної шкоди. Цей позиційний документ кидає виклик укоріненій вірі в те, що регулювання та інновації є протилежностями. Як свідчать аналогії з авіацією, фармацевтичними препаратами та системами соціального забезпечення, а також нещодавні випадки синтетичної дезінформації, упередженості та прийняття непідзвітних рішень, відсутність добре продуманого регулювання вже створило незмірну шкоду. Регулювання, коли воно продумане та адаптивне, не є гальмом для інновацій ⁇ воно є його основою. У цій статті розглядається Закон ЄС про штучний інтелект як модель регулювання, заснованого на ризиках, відповідальність, яка стосується дилеми Коллінгріджа: діяти досить рано, щоб запобігти шкоді, але досить гнучко, щоб підтримувати інновації. Його адаптивні механізми ⁇ регуляторні пісочниці, підтримка малих та середніх підприємств (МСП), тестування в реальному світі, оцінка впливу на фундаментальні права (FRIA) ⁇ демонструють, як регулювання може прискорювати відповідальний, а не затримувати технологічний прогрес. Позиційний документ узагальнює, як інструменти управління перетворюють сприйняті тягарі на відчутні переваги: правова визначеність, довіра споживачів та етична конкурентоспроможність. Зрештою, документ переформатовує прогрес: Інновації та регулювання розвиваються разом. Впроваджуючи прозорість, оцінку впливу, підзвітність та грамотність ШІ в розробку та впровадження, рамки ЄС визначають, що насправді означає відповідальна інновація - технологічні амбіції, дисципліновані демократичними цінностями та основними правами.
Тип публікації:
Матеріали конференції
Видавець журналу:
Тридцять дев'ята щорічна конференція з нейронних систем обробки інформації (NeurIPS 2025)
Автор статті: Паскалін Габоріт »
Тези доповідей:
В епоху глобальної невизначеності довіра стала критичним фактором, що формує відносини між націями, інституціями та окремими особами. Ця книга «Довіра, нові технології та геополітика в невизначеному світі» пропонує своєчасне та глибоке дослідження того, як перевіряється та трансформується довіра в умовах швидко мінливих геополітичних ландшафтів. Від крихкості демократичних систем до викликів, пов'язаних з новими технологіями, ШІ, дезінформацією та зміною клімату, ця книга заглиблюється в найактуальніші питання нашого часу. Вивчаючи перетин довіри з ключовими областями, такими як демократії, торгові війни та нові технології, ця робота надає цінну інформацію для політиків, вчених та всіх, хто прагне зрозуміти складності сучасного світу. Незалежно від того, чи стурбовані ви кібербезпекою, дезінформацією, впливом гібридних загроз або роллю довіри в міжнародній дипломатії, ця книга пропонує всеосяжну, але доступну основу для подолання цих викликів. Це проливає світло на те, як розуміння довіри є ключем до вирішення геополітичних невизначеностей, які визначають наш вік.
Тип публікації:
Книга »
Видавець журналу:
Пітер Ленг видавець
Автор статті:
Едді Конті, Альваро Парафіта, Аксель Брандо
Тези доповідей:
Оцінка важливості індивідуальних особливостей в машинному навчанні має вирішальне значення для розуміння процесу прийняття рішень моделі. Хоча існують численні методи, відсутність остаточної обґрунтованої істини для порівняння підкреслює необхідність альтернативних, обґрунтованих заходів. Ця стаття представляє новий пост-хок локальний метод важливості ознак під назвою Counterfactual Importance Distribution (CID). Ми генеруємо два набори позитивних і негативних контрфактів, моделюємо їх розподіли за допомогою оцінки щільності ядра та рангових ознак на основі міри несхожості розподілу. Ця міра, заснована на суворій математичній основі, задовольняє ключові властивості, необхідні для функціонування в якості дійсної метрики. Ми демонструємо ефективність нашого методу, порівнюючи його з добре відомими місцевими поясненнями важливості ознак. Наш метод не тільки пропонує додаткові перспективи до існуючих підходів, але й покращує показники вірності (як для комплексності, так і для достатності), що призводить до більш вірних пояснень системи. Ці результати підкреслюють його потенціал як цінного інструменту для аналізу моделі.
Тип публікації:
Матеріали конференції
Видавець журналу:
Конференція з глибокого навчання Північного сяйва 2026