Научно Публикации
Автори:
Аксел Брандо, Лукас Бери, Дейвид Меге
Абстракт:
Моделите за генеративна дифузия, които се отличават с големия си брой параметри (над 100 милиона) и работа във високоизмерни пространства за изображения, създават значителни предизвикателства за традиционните методи за оценка на неопределеността поради изчислителните изисквания. В тази работа въвеждаме иновативна рамка, Diffusion Ensembles for Capturing Uncertainty (DECU), предназначена за оценка на епистемична несигурност за дифузионни модели. Рамката на DECU въвежда нов метод, който ефективно обучава ансамбли от модели за условна дифузия чрез включване на статичен набор от предварително обучени параметри, драстично намалявайки изчислителната тежест и броя на параметрите, които изискват обучение. Освен това, DECU използва Pairwise-Distance Estimators (PaiDEs) за точно измерване на епистемичната неопределеност чрез оценка на взаимната информация между изходите на модела и теглата във високомерни пространства. Ефективността на тази рамка се демонстрира чрез експерименти върху набора от данни ImageNet, подчертавайки способността му да улавя епистемична несигурност, по-специално в класове с изображения с недостатъчно вземане на проби.
Вид на публикацията:
Конферентен документ
Издател:
40-та конференция за несигурността в изкуствения интелект
Автори:
Coccomini D.A., Caldelli R., Gennaro C., Fiameni G., Amato G., Falchi F.
Абстракт:
В последно време нарастващото разпространение на синтетични медии, известни като deepfakes, стана възможно благодарение на бързия напредък в технологиите за изкуствен интелект, особено алгоритмите за дълбоко обучение. Нарастващите притеснения за нарастващата достъпност и правдоподобност на дълбинните фалшификати подтикнаха изследователите да се съсредоточат върху разработването на методи за тяхното откриване. В тази област изследователи от AIMH Lab на ISTI CNR, в сътрудничество с изследователи от други организации, проведоха изследвания, разследвания и проекти, за да допринесат за борбата с тази тенденция, като проучиха нови решения и заплахи. Тази статия обобщава най-новите усилия, положени в тази област от нашите изследователи и в сътрудничество с други институции и експерти.
Вид на публикацията:
Конферентен документ
Издател:
Семинар на CEUR Производства
Автори:
Станчу, Кристиан и Йонеску, Богдан и Куковило, Лука и Пападопулос, Симеон и Кордопатис-Зилос, Йоргос и Попеску, Адриан и Калдели, Роберто
Абстракт:
Генерирането и манипулацията на синтетични медии са свидетели на бързи рекламни промени през последните години, което прави все по-лесно създаването на мултимедийно съдържание, което е неразличимо за човешкия наблюдател. Освен това генерираното съдържание може да се използва злонамерено от отделни лица и организации с цел разпространение на дезинформация, която представлява значителна заплаха за обществото и демокрацията. Следователно съществува спешна необходимост от инструменти с ИИ, насочени към улесняване на своевременен и ефективен процес на проверка на медиите. Семинарът MAD’24 има за цел да събере хора с различен произход, които са посветени на борбата с дезинформацията в мултимедиите чрез ИИ, като насърчава среда за проучване на иновативни идеи и споделяне на опит. Изследователските области от интерес обхващат идентифицирането на манипулирано или генерирано съдържание, както и разследването на разпространението на дезинформация и нейните обществени последици. Признавайки значението на мултимедията, семинарът набляга на съвместния анализ на различни модалности в съдържанието, тъй като проверката може да бъде подобрена чрез агрегиране на множество форми на съдържание.
Вид на публикацията:
Конферентен документ
Издател:
Резултати от третия международен семинар на ACM относно мултимедийния ИИ срещу дезинформацията
Автори:
Андреа Чиамара, Роберто Калдели, Алберто дел Бимбо
Абстракт:
Гледането на видео последователност, в която е представен човек на преден план, вече не е толкова отдавна. Дълбоките фалшификати са революционизирали нашия начин да гледаме такова съдържание и в днешно време по-често сме свикнали да се чудим дали това, което виждаме, е реално или е просто мистификация. В този контекст на обща дезинформация силно предстои необходимостта от надеждни решения, които да помогнат на обикновените потребители, а не само, да направят оценка на този вид видео последователности. В тази статия е представен нов подход, който използва аномалии на времевата повърхностна рамка, за да разкрие видеоклипове с дълбоки фалшификати. Методът търси възможни несъответствия, предизвикани от дълбоко фалшива манипулация, в повърхностите, принадлежащи към заснетата сцена, и в тяхната еволюция по времевата ос. Тези характеристики се използват като вход на тръбопровод, базиран на дълбоки невронни мрежи, за да се извърши двоична оценка на самия видеоклип. Експерименталните резултати свидетелстват, че такава методология може да постигне значителни резултати по отношение на точността на откриване.
Вид на публикацията:
Конферентен документ
Издател:
Конференция на IEEE/CVF през 2024 г. относно семинарите за компютърно зрение и разпознаване на модели (CVPRW)
Автори:
Паскалин Габорит
Абстракт:
Международните организации класифицират дезинформацията като една от основните заплахи за демокрацията и институциите в продължение на повече от десетилетие. Цифровите технологии преоткриват и преобразяват из основи съвременния начин на живот, средата на гражданите и стопанската среда. ИИ води до нови смущения в начина, по който получаваме достъп до знания и създаваме, разпространяваме и разбираме информация. Тя може също така да размие границите между действителната информация и манипулираната информация с появата на „фалшиви новини“, автоматично свързване на мрежи и „дълбоки фалшификати“. Системите с ИИ увеличават потенциала за създаване на реалистично фалшиво съдържание и целенасочени кампании за дезинформация. Дезинформацията надхвърля обикновените слухове за умишлено заблуждаване и изкривяване на основана на доказателства информация чрез изфабрикувани данни. Неотдавна европейските институции се съсредоточиха и върху идентифицирането на дезинформацията, свързана с чуждестранното манипулиране на информация и вмешателство: Чуждестранна информационна манипулация и намеса. В статията се посочват тенденциите и опасенията, свързани с дезинформацията и ИИ. В него се проучва възприемането на дезинформацията, нейното въздействие и ответните действия, включително Законодателния акт на ЕС за ИИ и политиките на онлайн платформите. Той предоставя първи аналитичен подход към темата въз основа на настоящите дебати на изследователите, първите констатации от нашите проучвания през 2024 г., интервюта и анализа на стотици фалшиви новини онлайн. В него се прави опит да се разбере как гражданите и заинтересованите страни възприемат дезинформацията и се установяват възможните въздействия. Той също така анализира настоящите предизвикателства и ограничения, възможности и ограничения за справяне с манипулациите и намесата. Статията разглежда настоящите процеси и въздействието на дезинформацията (2), представянето на основните констатации от нашето онлайн проучване относно възприятията за дезинформация (3), настоящите регулаторни отговори на ЕС (4) и точките за обсъждане (5). В тази статия твърдим, че има гигантска промяна в начина, по който получаваме достъп до информация, но отговорите на дезинформацията все още са на ранен етап. Статията показва също така, че в европейските държави е налице повишена осведоменост относно въздействието на дезинформацията, но също така и разлика между способността за идентифициране на „фалшиви новини“ и дезинформация и ограничено разбиране на процесите, заплахите и участниците, участващи в разпространението на дезинформация.
Вид на публикацията:
Хартия за вестник
Издател:
Списание за политически науки и международни отношения
Автори:
Томас Гарига, Жерар Санц, Едуард Серахима де Камбра, Аксел Брандо
Абстракт:
В тази статия представяме ново приложение на структурните причинно-следствени модели (SCMs) и процедурата за отвличане-действие-предсказване към настройка на динамични редове в контекста на реален световен проблем във фармацевтичната индустрия. Целта ни е да оценим съпоставителните сценарии за обема на продажбите на лекарство, което е било засегнато от навлизането на пазара на конкурентен генеричен лекарствен продукт. Използваме архитектури, базирани на енкодер-декодер, като прилагаме условен вариационен автоенкодер и също така въвеждаме използването на условни рядки автоенкодери, които никога не са били използвани в съпоставителната литература. Предложената методика изисква наличието на исторически събития и динамични редове без събития и има предимството, че не разчита на контролни ковариати, които може да не са налични, като същевременно ясно надминава основната съпоставителна оценка на прогнозата. Оценяваме подхода си, като използваме набора от данни за продажбите в реални условия на нашето дружество, както и синтетичните и полусинтетичните набори от данни, които имитират контекста на проблема, като демонстрират неговата ефективност. Успешно приложихме този модел в нашата компания, предоставяйки полезна информация за бизнес планиране, разпределение на инвестициите и определяне на целите.
Вид на публикацията:
Статия от семинара
Издател:
Семинар на NeurIPS’24 относно обучението по представителство на причинно-следствените връзки
Автори:
Анастасиос Манос, Деспина Елизабет Филипиду, Николаос Павлидис, Георгиос Каранасиос, Георгиос Вахтанидис, Ариана Д’Улиция
Абстракт:
Възходът на цифровите платформи улесни бързото разпространение на дезинформация, която поставя значителни социални, политически и икономически предизвикателства. Графиките на знанието (КГ) се очертават като ефективни инструменти за подобряване на точността, интерпретативността и мащабируемостта на системите за откриване на фалшиви новини, като се преодоляват ограниченията в традиционните подходи, основани на машинно обучение, които разчитат предимно на лингвистичен анализ. Тази работа съдържа преглед на литературата, който обобщава констатациите от последните проучвания относно прилагането на KGs при откриването на дезинформация. Идентифицираме как KGs подобряват откриването чрез кодиране на реални взаимоотношения, анализиране на контекста и подобряване на интерпретативността на модела, като същевременно обсъждат настоящите ограничения в мащабируемостта, пълнотата на данните и контекстуалната адаптивност. Прегледаните проучвания подчертават необходимостта от бъдещи изследвания, насочени към мащабируеми, в реално време и междуезикови KG модели за укрепване на способностите за откриване на дезинформация в световен мащаб. Освен това Сметната палата представя предварителни резултати от два случая на употреба, като представя методология за изграждане на основни насоки, които могат да послужат като полезни инструменти за борба с разпространението на дезинформация.
Вид на публикацията:
Конферентен документ
Издател:
Международна конференция по инженерни и нововъзникващи технологии (ICEET) през 2024 г.
Автори:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Абстракт:
В настоящия документ се разглежда многостранният отговор на Европейския съюз на широко разпространения проблем с дезинформацията — предизвикателство, което се засили след анексирането на Крим през 2014 г. Дезинформацията представлява значителна заплаха за демократичните процеси и общественото благосъстояние. Подходът на Европейския съюз съчетава регулаторни мерки, стратегически партньорства и инициативи за медийна грамотност за справяне с това явление, като същевременно се защитават основните демократични принципи, като например свободата на изразяване. Сред ключовите мерки са Кодексът за поведение във връзка с дезинформацията и Законодателният акт за цифровите услуги, които имат за цел да се търси отговорност от цифровите платформи и да се гарантира прозрачност. Освен това инициативи като Оперативната група за стратегическа комуникация с Източното съседство и Системата за бързо предупреждение подчертават усилията на Европейския съюз за борба с дезинформацията като инструмент за хибридна война. Този документ също така подчертава критичната роля на гражданите, които Европейският съюз се стреми да овласти чрез програми за медийна грамотност, които им позволяват да разпознават и да се противопоставят на манипулативното съдържание. Като разглежда взаимодействията между действията на правителствата, участието на частния сектор и ангажираността на гражданите, настоящото проучване предоставя цялостен анализ на стратегията на Европейския съюз срещу дезинформацията и оценява предизвикателствата и бъдещите насоки, необходими за поддържане на демократичната устойчивост в развиващата се цифрова среда.
Вид на публикацията:
Научна статия
Издател:
Информационна политика
Автори:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Абстракт:
Предназначение
Използвайки мултидисциплинарен подход, това проучване има за цел да проследи пътя на кампаниите за дезинформация от тяхното откриване чрез езикови знаци за достоверност до по-нататъшно развитие чрез механизмите за разпространение и накрая, оценка на тяхното въздействие върху социално-политическия контекст.
Проектиране/методология/подход
В настоящото проучване се прави задълбочен преглед на четири основни аспекта на дезинформацията: езиковите характеристики, които отличават съдържанието, предназначено да заблуждава и манипулира общественото мнение, медийните механизми, които улесняват разпространението му чрез използване на когнитивните процеси на неговата аудитория, заплахите, породени от нарастващото използване на генеративен изкуствен интелект за разпространение на дезинформация, и по-широките последици от тази динамика на дезинформация за общественото мнение и следователно за процесите на вземане на политически решения.
Констатации
В резултат на това документът предоставя интердисциплинарен и цялостен преглед на явлението, като се позовава на плурализираните му елементи, за да подчертае значението на отговорността на платформите, кампаниите за медийна грамотност сред гражданите и интерактивното сътрудничество между частния и публичния сектор като мерки за повишаване на устойчивостта срещу заплахата от дезинформация.
Оригиналност/стойност
В проучването се подчертава необходимостта от повишаване на отчетността на платформите, насърчаване на медийната грамотност сред физическите лица и развитие на сътрудничеството между публичния и частния сектор. Укрепването на устойчивостта на дезинформация и гарантирането на адаптивността на ЕС в контекста на променящите се цифрови заплахи са целите на тази интегрирана стратегия. В крайна сметка документът се застъпва за справедлива и отворена стратегия, която защитава свободата на изразяване и укрепва демократичните институции в момент, когато цифровата дезинформация се увеличава.
Вид на публикацията:
Научна статия
Издател:
Списание за информация, комуникация и етика в обществото (2025)
Автори:
Еди Конти, Алехандро Аструк, Алваро Парафита, Аксел Брандо
Абстракт:
Разбирането на начина, по който информацията се разпространява чрез трансформаторните модели, е ключово предизвикателство за интерпретативността. В тази работа изучаваме ефектите от минималните символични смущения върху пространството за вграждане. В нашите експерименти анализираме честотата, на която жетоните водят до минимални смени, подчертавайки, че редките жетони обикновено водят до по-големи смени. Освен това проучваме как смущенията се разпространяват между слоевете, което показва, че входната информация все повече се смесва в по-дълбоки слоеве. Нашите констатации потвърждават общото предположение, че първите слоеве на модела могат да се използват като заместители за обяснения на модела. Като цяло, тази работа въвежда комбинацията от символични смущения и смени на пространството за вграждане като мощен инструмент за интерпретация на модела.
Вид на публикацията:
Статия от семинара
Издател:
IJCAI 2025 Workshop on Explainable Artificial Intelligence
Автори:
Андреа Чиамара, Роберто Калдели, Алберто дел Бимбо
Абстракт:
Дезинформацията винаги е по-индуцирана чрез прибягване до променено или пълно синтетично генерирано реалистично съдържание, известно като дълбоки фалшификати. Това поставя необходимостта от надеждни инструменти, които могат да разкрият такова фалшиво съдържание, за да се избегне поляризацията на мисленето на хората. Представени са различни техники, чийто общ знаменател е да се търсят някои несъответствия, предизвикани от процеса на фалшиво генериране и доказани чрез разглеждане на специфични характеристики. Изглежда, че възможната комбинация от различни отличителни черти би могла да осигури по-ефективни постижения. С оглед на това и след предишното ни проучване по този въпрос предлагаме да проучим нова функция, която основно отчита вградените отношения, съществуващи в цялата сцена на придобиване по време на заснемането на изображението (видео) и след това представени от стойностите на пикселите на изображението. Идеята е, че процесът на генериране на дълбоки фалшификати може да прекъсне такива вътрешни зависимости между осветлението (интензитет и посока), повърхностите на обектите (положение и отразяване) и шума от поглъщането, като по този начин доказва възможна манипулация. Според това, дескриптор на функциите, наречен Локален дескриптор на повърхността, е конструиран и използван за обучение на модели, базирани на CNN, за откриване на дълбоки фалшификати. Експерименталните резултати, проведени в различни оперативни контексти, показват значителна точност на откриване до 90%.
Вид на публикацията:
Конферентен документ
Издател:
Международна конференция на IEEE за предизвикателствата и семинарите в областта на обработката на изображения през 2024 г. (ICIPCW), Абу Даби, Обединени арабски емирства, 2024 г.
Автори:
Андреа Чиамара, Роберто Калдели, Алберто дел Бимбо
Абстракт:
Действителният капацитет за генериране на реалистични напълно синтетични изображения се подобрява с всеки изминал ден и това е особено вярно за изображения, представляващи човешки лица, които изглеждат неразличими от реални хора. Това поставя решаващата необходимост от разработване на инструменти, способни да различават истински и несъществуващи хора, като откриват някои евентуални несъответствия, вградени в изображенията по време на процеса на генериране. Основната разлика между девствена и дълбоко фалшива снимка е, че във втория случай не е имало ефективно придобиване на камера; така че всички различни взаимовръзки между елементите, принадлежащи към сцената (светлини, отразяване, съответни позиции на обектите в 3D пространството), не са взети от реалния свят в този точен момент от времето, а просто изкуствено възпроизведени. Според това съображение в тази работа въвеждаме локални рамки на повърхността на камерата като възможно средство за представяне на тези специфични характеристики на околната среда, за да подчертаем разликите. Проведеният експериментален анализ показа, че тази характеристика може да осигури много висока степен на точност и значителна степен на обобщение.
Вид на публикацията:
Конферентен документ
Издател:
Международна конференция на IEEE за предизвикателствата и семинарите в областта на обработката на изображения през 2024 г. (ICIPCW), Абу Даби, Обединени арабски емирства, 2024 г.
Автори:
Андреа Чиамара, Роберто Калдели, Алберто дел Бимбо
Абстракт:
Необикновени нереални изображения могат да бъдат реализирани с помощта на сложни AI техники. Различни инструменти, достъпни за всеки, са в състояние да пресъздадат висококачествено съдържание, особено генериране на цели напълно синтетични изображения. Сред съществуващите архитектури моделите, базирани на дифузия, могат лесно да произвеждат всякакъв вид изображения, включително човешки лицеви изображения, като дават бърз като текст. Такова фалшиво съдържание често се използва за разпространение на дезинформация и това поражда опасения за сигурността на хората. В момента става все по-трудно да се разработят надеждни инструменти за разграничаване между реални и генерирани (дори несъществуващи) хора. Освен това големият брой приложения, основани на дифузия, създава проблем за тези детектори да обобщават нови генеративни техники. За да се справим с тези проблеми, предлагаме да проучим способността на отличителна черта, основана на средата за придобиване на изображения, да индивидуализира изображенията на лица, базирани на дифузия, от девствените. Всъщност генерираните изображения не трябва да съдържат характеристиките, които са подходящи за фазата на придобиване, извършена чрез истинска камера. Такива несъответствия могат да бъдат подчертани чрез наскоро въведени локални рамки за повърхности. Тази функция отчита обектите и повърхностите, участващи в сцената, които оказват влияние върху процеса на придобиване на камерата, заедно с допълнителна вътрешна информация, свързана с устройството, както и осветление и отражения, засягащи целия сценарий. В статията се изследва способността на тази функция да се генерализира към различни набори от данни и нови генеративни методи, неизвестни по време на обучението. Експерименталните резултати подчертават, че такава функция все още осигурява значителни нива на точност на откриване и в тези случаи.
Вид на публикацията:
Конферентен документ
Издател:
Международна конференция на IEEE за предизвикателствата и семинарите в областта на обработката на изображения през 2024 г. (ICIPCW), Абу Даби, Обединени арабски емирства, 2024 г.
Автори:
Алваро Парафита, Томас Гарига, Аксел Брандо, Франсиско Дж. Казорла
Абстракт:
Сред техниките за обяснимост SHAP се откроява като един от най-популярните, но често пренебрегва причинно-следствената структура на проблема. В отговор do-SHAP използва интервенционни заявки, но разчитането на оценки пречи на практическото му приложение. За да се справим с този проблем, предлагаме използването на подходи за оценка и агностика, които дават възможност за оценка на всяка идентифицируема заявка от един модел, правейки do-SHAP осъществим на сложни графики. Също така разработваме нов алгоритъм за значително ускоряване на изчисляването му с незначителна цена, както и метод за обяснение на недостъпните процеси за генериране на данни. Демонстрираме оценката и изчислителната ефективност на нашия подход и го валидираме върху два набора от данни в реални условия, като подчертаваме потенциала му за получаване на надеждни обяснения.
Вид на публикацията:
Конферентен документ
Издател:
Тридесет и деветата годишна конференция за невронни системи за обработка на информация (NeurIPS 2025)
Автори:
Аламгир Мунир Кази, Джон Филип Маккрей, Джамал Насир
Абстракт:
Разпространението на невярна информация изисква стабилни, но изчислително ефективни системи за проверка на фактите. Докато настоящите най-съвременни подходи използват големи езикови модели (LLM) за генериране на обяснителни обосновки, тези методи са изправени пред значителни изчислителни бариери и рискове от халюцинации в реалните внедрявания. Представяме DeReC (Класификация за извличане на плътност), лека рамка, която демонстрира как текстовите вграждания с общо предназначение могат ефективно да заменят автоматичните подходи, базирани на LLM, в задачите за проверка на фактите. Чрез комбиниране на плътно извличане със специализирана класификация, нашата система постига по-добра точност, като същевременно е значително по-ефективна. DeReC превъзхожда LLM, генериращи обяснения, по ефективност, намалявайки времето за изпълнение с 95% на RAWFC (23 минути и 36 секунди в сравнение с 454 минути и 12 секунди) и с 92% на LIAR-RAW (134 минути и 14 секунди в сравнение с 1692 минути и 23 секунди), което показва неговата ефективност при различните размери на наборите от данни. В набора от данни на RAWFC DeReC постига резултат F1 от 65,58.%, надминавайки най-съвременния метод L-Defense (61.20%). Нашите резултати показват, че внимателно проектираните системи, базирани на извличане, могат да съответстват или да надвишават производителността на LLM в специализирани задачи, като същевременно са значително по-практични за внедряване в реалния свят.
Вид на публикацията:
Конферентен документ
Издател:
Пета конференция "Език, данни и знания"
Автори:
Киши Ли, Андреа Чиамара, Роберто Калдели и Стефано Берети
Абстракт:
За задача А от предизвикателството SynthIm на MediaEval 2025 (Откриване на синтетични изображения) установихме критична промяна в разпределението между предоставените данни от обучението и тестовете, което прави първото слабо представително за целевата област. Нашият подход директно се справя с това предизвикателство, като включва по-стилистично последователната валидация в нашите данни за обучение и използва замразения CLIP ViT-L/14 като здрав екстрактор на функции. Основната ни представа е, че при такива условия на смяна на домейна обобщените представяния от голям предварително обучен модел значително превъзхождат традиционния CNN, прецизиран на несъответстващия набор от данни, което се оказва по-ефективна и надеждна стратегия.
Вид на публикацията:
Конферентен документ
Издател:
MediaEval’25: Семинар за мултимедийна оценка, 25—26 октомври 2025 г., Дъблин, Ирландия и онлайн
Достъп при поискване
Автори:
Киши Ли, Роберто Калдели и Стефано Берети
Абстракт:
Бързият напредък на моделите за генериране на изображения като Stable Diffusion поражда опасения за потенциална злоупотреба, което прави надеждните техники за воден знак от съществено значение за удостоверяването и приписването на синтетично съдържание, особено в борбата с дълбоките фалшификати. Същевременно обаче осигуряването на висококачествено генериране на изображения и точно извличане на водния знак продължава да бъде предизвикателство. Чрез анализ на съществуващите методи идентифицираме критично ограничение:
техните функции за загуба често приемат една единствена референция (входящото изображение или чисто генерираното изображение) за оптимизиране на точността на изображението, което води до неоптимална производителност. В тази статия провеждаме задълбочено проучване на термина загуба на качество на изображението в дифузионното водно маркиране. Чрез анализиране на различните въздействия от използването на входното изображение спрямо чисто генерираното изображение като референции по време на оптимизацията, ние разкриваме, че съвместното разглеждане на двете референции значително подобрява здравината и визуалното качество. Обширните експерименти показват, че нашият двуреферентен подход постига превъзходна производителност както при точността на извличане на водния знак, така и при точността на генерирането в сравнение с еднореферентните изходни линии. Ние се застъпваме за тази парадигма, за да се постигне надежден воден знак в генеративните модели.
Вид на публикацията:
Конферентен документ
Издател:
DFF ’25: Производства от първия семинар по дълбинна криминалистика: Откриване, приписване, признаване и противоположни предизвикателства в ерата на медиите, генерирани от ИИ
Автори:
Josu Eguiluz Castañeira, Axel Brando, Migle Laukyte, Marc Serra-Vidal
Абстракт:
Изкуственият интелект (ИИ) вече прониква в критични инфраструктури и системи за вземане на решения, където неуспехите причиняват социални, икономически и демократични вреди. Този документ за изразяване на позиция оспорва утвърденото убеждение, че регулирането и иновациите са противоположности. Както се вижда от аналогиите от авиацията, фармацевтичните продукти и социалните системи и неотдавнашните случаи на синтетична невярна информация, пристрастност и безотчетно вземане на решения, липсата на добре проектирана регулация вече е създала неизмерими щети. Регулирането, когато е обмислено и адаптивно, не е спирачка за иновациите — то е неговата основа. В настоящия документ за изразяване на позиция Законодателният акт на ЕС за ИИ се разглежда като модел на основано на риска, основано на отговорността регулиране, в което се разглежда дилемата на Collingridge: предприемане на действия достатъчно рано, за да се предотвратят вредите, но достатъчно гъвкаво, за да се поддържат иновациите. Неговите адаптивни механизми — регулаторни лаборатории, подкрепа за малките и средните предприятия (МСП), изпитване в реални условия, оценка на въздействието върху основните права (FRIA) — показват как регулирането може да ускори отговорно, а не да забави технологичния напредък. В документа за изразяване на позиция се обобщава как инструментите за управление превръщат възприеманите тежести в осезаеми предимства: правна сигурност, доверие на потребителите и етична конкурентоспособност. В крайна сметка документът преформулира напредъка: иновациите и регулирането напредват заедно. Чрез включването на прозрачността, оценките на въздействието, отчетността и грамотността в областта на ИИ в проектирането и внедряването рамката на ЕС определя какво всъщност означава отговорна иновация — технологична амбиция, дисциплинирана от демократичните ценности и основните права.
Вид на публикацията:
Конферентен документ
Издател:
Тридесет и деветата годишна конференция за невронни системи за обработка на информация (NeurIPS 2025)
Автор: Паскалин Габорит
Абстракт:
В ерата на глобална несигурност доверието се превърна в критичен фактор, оформящ отношенията между нациите, институциите и индивидите. Книгата "Доверие, нови технологии и геополитика в един несигурен свят" предлага навременно и задълбочено проучване на това как доверието се тества и трансформира в условията на бързо променящи се геополитически пейзажи. От крехкостта на демократичните системи до предизвикателствата, породени от новите технологии, изкуствения интелект, дезинформацията и изменението на климата, тази книга разглежда най-неотложните въпроси на нашето време. Разглеждайки пресечните точки на доверието с ключови области като демокрациите, търговските войни и новите технологии, тази работа предоставя ценна информация за създателите на политики, учените и всеки, който се стреми да разбере сложността на днешния свят. Независимо дали сте загрижени за киберсигурността, дезинформацията, въздействието на хибридните заплахи или ролята на доверието в международната дипломация, тази книга предлага всеобхватна, но достъпна рамка за справяне с тези предизвикателства. Той хвърля светлина върху това как разбирането на доверието е от ключово значение за справяне с геополитическата несигурност, която определя нашата епоха.
Вид на публикацията:
Книга
Издател:
Питър Ланг издателство
Автор:
Еди Конти, Алваро Парафита, Аксел Брандо
Абстракт:
Оценката на значението на отделните характеристики в машинното самообучение е от решаващо значение за разбирането на процеса на вземане на решения на модела. Въпреки че съществуват множество методи, липсата на окончателна основа за сравнение подчертава необходимостта от алтернативни, добре обосновани мерки. Тази статия въвежда нов пост-хок метод за местно значение на функциите, наречен съпоставително разпределение на значимостта (CID). Генерираме два набора от положителни и отрицателни съпоставителни сценарии, моделираме техните разпределения с помощта на оценка на плътността на ядрото и класираме характеристиките въз основа на мярка за несходство в разпределението. Тази мярка, основана на строга математическа рамка, удовлетворява ключови свойства, необходими за функциониране като валиден показател. Показваме ефективността на нашия метод, като сравняваме с утвърдени местни обяснители за важността на функциите. Нашият метод не само предлага допълнителни перспективи към съществуващите подходи, но и подобрява ефективността на показателите за вярност (както за изчерпателност, така и за достатъчност), което води до по-достоверни обяснения на системата. Тези резултати подчертават неговия потенциал като ценен инструмент за анализ на модели.
Вид на публикацията:
Конферентен документ
Издател:
Конференция за задълбочено обучение „Северно сияние“ 2026 г.