Vedecký Publikácie
Autori:
Axel Brando, Lucas Berry, David Mege
Abstrakt:
Generatívne difúzne modely, ktoré sa vyznačujú veľkým počtom parametrov (viac ako 100 miliónov) a prevádzkou vo vysokorozmerných obrazových priestoroch, predstavujú významné výzvy pre tradičné metódy odhadu neistoty v dôsledku výpočtových požiadaviek. V tejto práci predstavujeme inovatívny rámec, Diffusion Ensembles for Capturing Uncertainty (DECU), určený na odhad epistemickej neistoty pre difúzne modely. Rámec DECU zavádza novú metódu, ktorá efektívne trénuje súbory podmienených difúznych modelov začlenením statického súboru vopred trénovaných parametrov, čím sa výrazne znižuje výpočtová záťaž a počet parametrov, ktoré si vyžadujú školenie. Okrem toho DECU využíva Pairwise-Distance Estimators (PaiDEs) na presné meranie epistemickej neistoty vyhodnotením vzájomných informácií medzi modelovými výstupmi a váhami vo vysokorozmerných priestoroch. Účinnosť tohto rámca sa preukazuje prostredníctvom experimentov na dátovom súbore ImageNet, pričom sa zdôrazňuje jeho schopnosť zachytiť epistemickú neistotu, najmä v triedach obrázkov s nedostatočným odberom vzoriek.
Druh zverejnenia:
Konferenčný dokument
Vydavateľ:
40. konferencia o neistote v umelej inteligencii
Autori:
Coccomini D.A., Caldelli R., Gennaro C., Fiameni G., Amato G., Falchi F.
Abstrakt:
V poslednom čase sa čoraz väčšie šírenie syntetických médií, známych ako deepfakes, umožnilo rýchlym pokrokom v oblasti technológií umelej inteligencie, najmä algoritmov hĺbkového učenia. Rastúce obavy z rastúcej dostupnosti a uveriteľnosti deepfakeov podnietili výskumníkov, aby sa sústredili na vývoj metód na ich detekciu. V tejto oblasti výskumníci v laboratóriu ISTI CNR AIMH Lab v spolupráci s výskumníkmi z iných organizácií uskutočnili výskum, vyšetrovania a projekty s cieľom prispieť k boju proti tomuto trendu a preskúmať nové riešenia a hrozby. Tento článok sumarizuje najnovšie úsilie vynaložené v tejto oblasti našimi výskumníkmi a v spolupráci s inými inštitúciami a odborníkmi.
Druh zverejnenia:
Konferenčný dokument
Vydavateľ:
Zborník zo seminára CEUR
Autori:
Stanciu, Cristian a Ionescu, Bogdan a Cuccovillo, Luca a Papadopoulos, Symeon a Kordopatis-Zilos, Giorgos a Popescu, Adrian a Caldelli, Roberto
Abstrakt:
Generovanie syntetických médií a manipulácia zaznamenali v posledných rokoch rýchle reklamy, čo umožňuje čoraz ľahšie vytvárať multimediálny obsah, ktorý je pre ľudského pozorovateľa nerozoznateľný. Okrem toho môže byť vytvorený obsah zneužitý jednotlivými používateľmi a organizáciami na šírenie dezinformácií, ktoré predstavujú významnú hrozbu pre spoločnosť a demokraciu. Preto sú naliehavo potrebné nástroje umelej inteligencie zamerané na uľahčenie včasného a účinného procesu overovania médií. Cieľom seminára MAD24 je spojiť ľudí z rôznych prostredí, ktorí sa venujú boju proti dezinformáciám v multimédiách prostredníctvom umelej inteligencie, a to podporou prostredia na skúmanie inovačných nápadov a výmenu skúseností. Výskumné oblasti záujmu zahŕňajú identifikáciu zmanipulovaného alebo vytvoreného obsahu spolu s vyšetrovaním šírenia dezinformácií a ich spoločenských dôsledkov. Uznávajúc význam multimédií, workshop zdôrazňuje spoločnú analýzu rôznych modalít v rámci obsahu, pretože overovanie možno zlepšiť agregáciou viacerých foriem obsahu.
Druh zverejnenia:
Konferenčný dokument
Vydavateľ:
Zborník z 3. medzinárodného seminára ACM o multimediálnej umelej inteligencii proti dezinformáciám
Autori:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Abstrakt:
Pri pohľade na video sekvenciu, kde je zastúpená osoba v popredí, už nie je tak dávno. Deepfakes spôsobili revolúciu v našom spôsobe sledovania takéhoto obsahu a dnes sme častejšie zvyknutí premýšľať o tom, či to, čo vidíme, je skutočné alebo je len mystifikácia. V tejto súvislosti so zovšeobecnenými dezinformáciami sa výrazne blíži potreba spoľahlivých riešení, ktoré pomôžu bežným používateľom, a nielen posúdiť tento druh videosekvencií. V tomto článku je predstavený nový prístup, ktorý využíva časové anomálie povrchového rámca s cieľom odhaliť deepfake videá. Metóda hľadá možné nezrovnalosti vyvolané manipuláciou deepfake na povrchoch patriacich k zachytenej scéne a v ich vývoji pozdĺž časovej osi. Tieto funkcie sa používajú ako vstup potrubia založeného na hlbokých neurónových sieťach na vykonanie binárneho hodnotenia samotného videa. Experimentálne výsledky svedčia o tom, že takáto metodika môže dosiahnuť významný výkon z hľadiska presnosti detekcie.
Druh zverejnenia:
Konferenčný dokument
Vydavateľ:
Konferencia IEEE/CVF o počítačovom videní a seminároch o rozpoznávaní vzorov (CVPRW) v roku 2024
Autori:
Pascaline Gaborit
Abstrakt:
Medzinárodné organizácie klasifikujú dezinformácie ako jednu z hlavných hrozieb pre demokraciu a inštitúcie už viac ako desať rokov. Digitálne technológie pretvárajú a zásadne menia moderný životný štýl, občianske a podnikateľské prostredie. Umelá inteligencia prináša nové narušenie spôsobu, akým pristupujeme k poznatkom a vytvárame, šírime a chápeme informácie. Môže tiež stierať hranice medzi skutočnými informáciami a zmanipulovanými informáciami so vznikom krížových odkazov „Fake News“, automatických sietí a „Deep Fakes“. Systémy umelej inteligencie zvyšujú potenciál vytvárania realistického falošného obsahu a cielených dezinformačných kampaní. Dezinformácie idú nad rámec jednoduchých povestí s cieľom úmyselne klamať a skresľovať informácie založené na dôkazoch prostredníctvom vykonštruovaných údajov. Európske inštitúcie sa nedávno zamerali aj na identifikáciu dezinformácií spojených s manipuláciou s informáciami a zasahovaním zo zahraničia: Manipulácia a zasahovanie do zahraničných informácií. V článku sa identifikujú trendy a obavy súvisiace s dezinformáciami a umelou inteligenciou. Skúma vnímanie dezinformácií, ich vplyv a reakcie vrátane aktu EÚ o umelej inteligencii a politík online platforiem. Poskytuje prvý analytický prístup k tejto téme na základe súčasných diskusií výskumných pracovníkov, prvých zistení našich prieskumov z roku 2024, rozhovorov a analýzy stoviek falošných správ online. Snaží sa pochopiť, ako občania a zainteresované strany vnímajú dezinformácie, a identifikuje možné vplyvy. Analyzuje aj súčasné výzvy a obmedzenia, príležitosti a obmedzenia v boji proti manipulácii a zasahovaniu. Článok sa zaoberá súčasnými procesmi a vplyvmi dezinformácií (2), prezentáciou hlavných zistení nášho online prieskumu o vnímaní dezinformácií (3), súčasnými regulačnými reakciami EÚ (4) a diskusnými bodmi (5). V tomto článku tvrdíme, že dochádza k obrovskej zmene v spôsobe prístupu k informáciám, ale že reakcie na dezinformácie sú stále v počiatočnom štádiu. V článku sa takisto preukazuje, že v európskych krajinách existuje zvýšená informovanosť o vplyve dezinformácií, ale aj rozdiel medzi schopnosťou identifikovať „falošné správy“ a dezinformácie a obmedzeným chápaním procesov, hrozieb a aktérov zapojených do šírenia dezinformácií.
Druh zverejnenia:
Denník
Vydavateľ:
Časopis politických vied a medzinárodných vzťahov
Autori:
Tomas Garriga, Gerard Sanz, Eduard Serrahima de Cambra, Axel Brando
Abstrakt:
V tomto príspevku predstavujeme novú aplikáciu štrukturálnych kauzálnych modelov (SCM) a postupu abduction-action-prediction na nastavenie časových radov v kontexte reálneho problému vo farmaceutickom priemysle. Naším cieľom je odhadnúť kontrafaktuálne scenáre pre objem predaja lieku, ktorý bol ovplyvnený vstupom konkurenčného generického lieku na trh. Využívame architektúru založenú na dekodéri, aplikujeme podmienený variačný autokodér a tiež zavádzame použitie podmienených riedkych autokodérov, ktoré nikdy neboli použité v kontrafaktuálnej literatúre. Navrhovaná metodika si vyžaduje dostupnosť historických udalostí a časových radov bez udalostí a má tú výhodu, že sa nespolieha na kontrolné premenné, ktoré môžu byť nedostupné, pričom jasne prevyšuje základný kontrafaktuálny odhad prognózy. Náš prístup hodnotíme pomocou súboru údajov o predaji v reálnych podmienkach našej spoločnosti, ako aj syntetických a polosyntetických súborov údajov, ktoré napodobňujú kontext problému a preukazujú jeho účinnosť. Tento model sme úspešne uplatnili v našej spoločnosti a poskytli sme užitočné informácie pre obchodné plánovanie, alokáciu investícií a stanovenie cieľov.
Druh zverejnenia:
Článok zo seminára
Vydavateľ:
NeurIPS’24 Workshop on Causal Representation Learning
Autori:
Anastasios Manos, Despina Elisabeth Filippidou, Nikolaos Pavlidis, Georgios Karanasios, Georgios Vachtanidis, Arianna D’Ulizia
Abstrakt:
Vzostup digitálnych platforiem uľahčil rýchle šírenie dezinformácií, ktoré predstavujú významné sociálne, politické a hospodárske výzvy. Znalostné grafy (KG) sa objavujú ako účinné nástroje na zvýšenie presnosti, interpretovateľnosti a škálovateľnosti systémov detekcie falošných správ, ktoré riešia obmedzenia v tradičných prístupoch založených na strojovom učení, ktoré sa spoliehajú predovšetkým na jazykovú analýzu. Táto práca obsahuje prehľad literatúry, v ktorom sa syntetizujú zistenia z nedávnych štúdií o uplatňovaní kľúčových slov pri odhaľovaní dezinformácií. Identifikujeme, ako KG zlepšujú detekciu kódovaním reálnych vzťahov, analýzou kontextu a zlepšením interpretovateľnosti modelu, pričom diskutujeme aj o súčasných obmedzeniach škálovateľnosti, úplnosti údajov a kontextovej prispôsobivosti. V preskúmaných štúdiách sa zdôrazňuje potreba budúceho výskumu zameraného na škálovateľné modely KG v reálnom čase a medzijazykové modely KG s cieľom posilniť spôsobilosti na odhaľovanie dezinformácií na celom svete. Okrem toho uvádzame predbežné výsledky dvoch prípadov použitia, pričom predstavujeme metodiku vytvárania kľúčových skupín, ktorá môže slúžiť ako užitočný nástroj na boj proti šíreniu dezinformácií.
Druh zverejnenia:
Konferenčný dokument
Vydavateľ:
Medzinárodná konferencia o inžinierstve a vznikajúcich technológiách (ICEET) 2024
Autori:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Abstrakt:
V tomto dokumente sa skúma mnohostranná reakcia Európskej únie na všadeprítomnú otázku dezinformácií, čo je výzva, ktorá sa od anexie Krymu v roku 2014 zintenzívnila. Dezinformácie predstavujú významnú hrozbu pre demokratické procesy a verejné blaho. Prístup Európskej únie spája regulačné opatrenia, strategické partnerstvá a iniciatívy v oblasti mediálnej gramotnosti s cieľom riešiť tento jav a zároveň chrániť základné demokratické zásady, ako je sloboda prejavu. Medzi kľúčové opatrenia patrí Kódex postupov proti šíreniu dezinformácií a akt o digitálnych službách, ktorých cieľom je vyvodiť zodpovednosť voči digitálnym platformám a zabezpečiť transparentnosť. Okrem toho iniciatívy, ako je pracovná skupina East StratCom a systém včasného varovania, zdôrazňujú úsilie Európskej únie bojovať proti dezinformáciám ako nástroju hybridnej vojny. V tomto dokumente sa tiež zdôrazňuje kľúčová úloha občanov, ktorých sa Európska únia snaží posilniť prostredníctvom programov mediálnej gramotnosti, čo im umožňuje rozpoznať manipulatívny obsah a odolávať mu. Skúmaním interakcií medzi opatreniami vlády, zapojením súkromného sektora a zapojením občanov táto štúdia poskytuje komplexnú analýzu stratégie Európskej únie proti dezinformáciám a posudzuje výzvy a budúce smerovanie potrebné na udržanie demokratickej odolnosti vo vyvíjajúcom sa digitálnom prostredí.
Druh zverejnenia:
Vedecký článok
Vydavateľ:
Informačná politika
Autori:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Abstrakt:
Účel
Cieľom tejto štúdie je pomocou multidisciplinárneho prístupu vysledovať cestu dezinformačných kampaní od ich odhaľovania jazykovými podnetmi dôveryhodnosti až po podporu prostredníctvom mechanizmov šírenia informácií a napokon posúdenie ich vplyvu na sociálno-politický kontext.
Návrh/metodika/prístup
Táto štúdia poskytuje podrobný prehľad štyroch základných aspektov dezinformácií: jazykové prvky, ktoré rozlišujú obsah určený na oklamanie a manipuláciu verejnej mienky, mediálne mechanizmy, ktoré uľahčujú jeho šírenie využívaním kognitívnych procesov jeho publika, hrozby, ktoré predstavuje rastúce využívanie generatívnej umelej inteligencie na šírenie dezinformácií, a širšie dôsledky, ktoré má táto dezinformačná dynamika na verejnú mienku a následne na politické rozhodovacie procesy.
Zistenia
V dôsledku toho sa v dokumente uvádza interdisciplinárne a holistické preskúmanie tohto javu s odkazom na jeho pluralitné prvky s cieľom zdôrazniť význam zodpovednosti platforiem, kampaní mediálnej gramotnosti medzi občanmi a interaktívnej spolupráce medzi súkromným a verejným sektorom ako opatrení na zvýšenie odolnosti proti hrozbe dezinformácií.
Originálnosť/hodnota
V štúdii sa zdôrazňuje potreba zvýšiť zodpovednosť platforiem, podporovať mediálnu gramotnosť medzi jednotlivcami a rozvíjať spoluprácu medzi verejným a súkromným sektorom. Cieľom tejto integrovanej stratégie je posilniť odolnosť voči dezinformáciám a zabezpečiť adaptabilitu EÚ voči meniacim sa digitálnym hrozbám. V konečnom dôsledku sa v dokumente obhajuje spravodlivá a otvorená stratégia, ktorá chráni slobodu prejavu a posilňuje demokratické inštitúcie v čase, keď sú digitálne dezinformácie na vzostupe.
Druh zverejnenia:
Vedecký článok
Vydavateľ:
Časopis informácií, komunikácie a etiky v spoločnosti (2025)
Autori:
Eddie Conti, Alejandro Astruc, Álvaro Parafita, Axel Brando
Abstrakt:
Pochopenie toho, ako sa informácie šíria prostredníctvom transformátorových modelov, je kľúčovou výzvou pre interpretovateľnosť. V tejto práci študujeme účinky minimálnych porúch tokenu na vkladanie priestoru. V našich experimentoch analyzujeme frekvenciu, s akou tokeny dosahujú minimálne posuny, pričom zdôrazňujeme, že vzácne tokeny zvyčajne vedú k väčším posunom. Okrem toho skúmame, ako sa perturbácie šíria naprieč vrstvami, čo dokazuje, že vstupné informácie sa čoraz viac prelínajú v hlbších vrstvách. Naše zistenia potvrdzujú spoločný predpoklad, že prvé vrstvy modelu môžu byť použité ako zástupné údaje pre vysvetlenia modelu. Celkovo táto práca predstavuje kombináciu porúch tokenu a posunov v priestore vkladania ako silný nástroj pre interpretovateľnosť modelu.
Druh zverejnenia:
Článok zo seminára
Vydavateľ:
Seminár IJCAI 2025 o vysvetliteľnej umelej inteligencii
Autori:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Abstrakt:
Dezinformácie sú vždy viac vyvolané tým, že sa uchyľujú k zmenenému alebo úplnému synteticky generovanému realistickému obsahu všeobecne známemu ako deepfake. Z toho vyplýva potreba spoľahlivých nástrojov schopných odhaliť takýto falošný obsah, aby sa zabránilo polarizácii myslenia osôb. Boli prezentované rôzne techniky, ktorých spoločným menovateľom je hľadanie niektorých nezrovnalostí vyvolaných procesom falošnej generácie a preukázaných pri pohľade na špecifické charakteristiky. Zdá sa, že možná kombinácia rôznych charakteristických znakov by mohla priniesť účinnejšie výsledky. V tomto pohľade a v nadväznosti na našu predchádzajúcu štúdiu na túto tému navrhujeme preskúmať novú funkciu, ktorá v podstate zohľadňuje vstavané vzťahy existujúce v rámci celej akvizičnej scény v čase zachytenia obrazu (video) a potom reprezentované hodnotami obrazových pixelov. Myšlienkou je, že proces generovania deepfake môže prerušiť takéto vnútorné závislosti medzi osvetlením (intenzita a smer), povrchmi objektov (poloha a odrazivosť) a hlukom získavania, čo dokazuje možnú manipuláciu. Podľa toho bol vytvorený deskriptor s názvom Local Surface Descriptor, ktorý sa používa na trénovanie modelov založených na CNN na detekciu deepfake. Experimentálne výsledky vykonané na rôznych operačných kontextoch dokazujú významnú presnosť detekcie až do 90%.
Druh zverejnenia:
Konferenčný dokument
Vydavateľ:
Medzinárodná konferencia IEEE 2024 o výzvach a seminároch v oblasti spracovania obrazu (ICIPCW), Abú Zabí, Spojené arabské emiráty, 2024
Autori:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Abstrakt:
Skutočná schopnosť vytvárať realistické plne syntetické obrazy pomocou umelej inteligencie sa každým dňom zlepšuje, a to platí najmä pre obrázky reprezentujúce ľudské tváre, ktoré sa zdajú byť nerozoznateľné od skutočných ľudí. To predstavuje zásadnú potrebu vyvinúť nástroje, ktoré dokážu rozlíšiť medzi skutočnými a neexistujúcimi ľuďmi odhalením niektorých prípadných nezrovnalostí vložených do obrázkov počas procesu tvorby. Hlavný rozdiel medzi nedotknutým obrazom a deepfake vytvoreným obrazom spočíva v tom, že v druhom prípade nedošlo k účinnému získaniu kamery; Takže všetky rôzne vzájomné vzťahy medzi prvkami patriacimi do scény (svetlá, odrazivosť, príslušné pozície objektu v 3D priestore) nie sú zachytené skutočným svetom v tomto presnom časovom okamihu, ale len umelo reprodukované. Podľa tejto úvahy v tejto práci zavádzame lokálne povrchové rámy kamier ako možný prostriedok na reprezentáciu týchto špecifických environmentálnych charakteristík, aby sme zdôraznili rozdiely. Vykonaná experimentálna analýza preukázala, že táto vlastnosť môže poskytnúť veľmi vysokú úroveň presnosti a významný stupeň zovšeobecnenia.
Druh zverejnenia:
Konferenčný dokument
Vydavateľ:
Medzinárodná konferencia IEEE 2024 o výzvach a seminároch v oblasti spracovania obrazu (ICIPCW), Abú Zabí, Spojené arabské emiráty, 2024
Autori:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Abstrakt:
Mimoriadne nereálne obrazy sa dajú realizovať pomocou pow-erful AI techník. Rôzne nástroje, ktoré sú k dispozícii pre každého, sú schopné obnoviť vysoko kvalitný obsah, najmä generovanie celých plne syntetických obrázkov. Medzi existujúcimi architektúrami môžu modely založené na difúzii ľahko vytvárať akýkoľvek druh obrázkov vrátane ľudských podôb tváre tým, že poskytnú výzvu ako text. Takýto falošný obsah sa často používa na šírenie dezinformácií, čo vyvoláva obavy o bezpečnosť ľudí. V súčasnosti je čoraz ťažšie vyvinúť spoľahlivé nástroje na rozlíšenie medzi skutočnými a vytvorenými (dokonca neexistujúcimi) ľuďmi. Okrem toho veľké množstvo implementácií založených na difúzii predstavuje pre takéto detektory problém zovšeobecniť nové generatívne techniky. Na riešenie týchto problémov navrhujeme preskúmať schopnosť charakteristického prvku založeného na prostredí získavania obrazu odlíšiť snímky tváre založené na difúzii od nedotknutých. V skutočnosti by generované obrázky nemali obsahovať vlastnosti, ktoré sú správne pre akvizičnú fázu vykonanú prostredníctvom skutočnej kamery. Takéto nezrovnalosti možno zdôrazniť prostredníctvom nedávno zavedených miestnych povrchových rámov. Táto funkcia zohľadňuje objekty a povrchy zapojené do scény, ktoré všetky ovplyvňujú proces získavania kamery, spolu s ďalšími vnútornými informáciami viazanými na zariadenie, ako aj osvetlenie a odrazy ovplyvňujúce celý scenár. Príspevok skúma schopnosť tejto funkcie zovšeobecniť sa smerom k rôznym súborom údajov a novým generatívnym metódam neznámym počas tréningu. Experimentálne výsledky zdôrazňujú, že takáto funkcia stále poskytuje významné úrovne presnosti detekcie aj v týchto prípadoch.
Druh zverejnenia:
Konferenčný dokument
Vydavateľ:
Medzinárodná konferencia IEEE 2024 o výzvach a seminároch v oblasti spracovania obrazu (ICIPCW), Abú Zabí, Spojené arabské emiráty, 2024
Autori:
Álvaro Parafita, Tomas Garriga, Axel Brando, Francisco J. Cazorla
Abstrakt:
Medzi technikami vysvetliteľnosti SHAP vyniká ako jedna z najpopulárnejších, ale často prehliada príčinnú štruktúru problému. V reakcii na to do-SHAP využíva intervenčné otázky, ale jeho spoliehanie sa na odhady bráni jeho praktickému uplatňovaniu. Na riešenie tohto problému navrhujeme použiť prístupy odhadu a agnostiky, ktoré umožňujú odhad akéhokoľvek identifikovateľného dotazu z jedného modelu, čo umožňuje do-SHAP na komplexných grafoch. Vyvíjame tiež nový algoritmus na výrazné zrýchlenie jeho výpočtu pri zanedbateľných nákladoch, ako aj metódu na vysvetlenie neprístupných procesov generovania údajov. Preukazujeme odhad a výpočtovú výkonnosť nášho prístupu a validujeme ho na dvoch reálnych súboroch údajov, pričom zdôrazňujeme jeho potenciál pri získavaní spoľahlivých vysvetlení.
Druh zverejnenia:
Konferenčný dokument
Vydavateľ:
Deviata výročná konferencia o neurónových informačných systémoch (NeurIPS 2025)
Autori:
Alamgir Munir Qazi, John Philip McCrae, Jamal Nasir
Abstrakt:
Šírenie dezinformácií si vyžaduje spoľahlivé, ale výpočtovo efektívne systémy overovania faktov. Zatiaľ čo súčasné najmodernejšie prístupy využívajú veľké jazykové modely na vytváranie vysvetľujúcich odôvodnení, tieto metódy čelia značným výpočtovým prekážkam a halucinačným rizikám pri reálnych nasadeniach. Predstavujeme DeReC (Dense Retrieval Classification), ľahký rámec, ktorý ukazuje, ako môže vkladanie textu na všeobecné účely účinne nahradiť autoregresívne prístupy založené na LLM v skutočnosti overovacie úlohy. Kombináciou hustého vyhľadávania so špecializovanou klasifikáciou dosahuje náš systém lepšiu presnosť a zároveň je výrazne efektívnejší. DeReC prekonáva LLM generované vysvetlením v účinnosti, čím znižuje čas chodu o 95% na RAWFC (23 minút 36 sekúnd v porovnaní so 454 minútami 12 sekúnd) a 92% na LIAR-RAW (134 minút 14 sekúnd v porovnaní so 1692 minútami 23 sekúnd), čo poukazuje na jeho účinnosť v rôznych veľkostiach súborov údajov. Na súbore údajov RAWFC dosahuje DeReC skóre F1 65,58%, ktorá prevyšuje najmodernejšiu metódu L-Defense (61,20%). Naše výsledky ukazujú, že starostlivo navrhnuté systémy založené na vyhľadávaní môžu zodpovedať alebo prekročiť výkon LLM v špecializovaných úlohách, pričom sú výrazne praktickejšie pre nasadenie v reálnom svete.
Druh zverejnenia:
Konferenčný dokument
Vydavateľ:
5. konferencia o jazyku, dátach a znalostiach
Autori:
Qiushi Li, Andrea Ciamarra, Roberto Caldelli a Stefano Berretti
Abstrakt:
V prípade úlohy A v rámci výzvy MediaEval 2025 SynthIm Challenge (Synthetic Image Detection) sme identifikovali kritický posun v distribúcii medzi poskytnutými tréningovými a testovacími údajmi, v dôsledku čoho je táto úloha slabým zástupcom pre cieľovú doménu. Náš prístup priamo rieši túto výzvu začlenením štylisticky konzistentnejšej validácie do našich tréningových údajov a využitím zmrazeného CLIP ViT-L/14 ako robustného extraktora funkcií. Naším hlavným pohľadom je, že v takýchto podmienkach posunu domény zovšeobecniteľné reprezentácie z veľkého vopred vyškoleného modelu výrazne prekonávajú tradičnú CNN doladenú na nesúrodom súbore údajov, čo sa ukazuje ako efektívnejšia a spoľahlivejšia stratégia.
Druh zverejnenia:
Konferenčný dokument
Vydavateľ:
MediaEval’25: Multimediálny hodnotiaci seminár, 25. 26. októbra 2025, Dublin, Írsko a online
Prístup na požiadanie
Autori:
Qiushi Li, Roberto Caldelli a Stefano Berretti
Abstrakt:
Rýchly pokrok modelov generovania obrazu, ako je Stable Diffusion, vyvoláva obavy z možného zneužitia, v dôsledku čoho sú robustné techniky vodoznaku nevyhnutné na autentifikáciu a prideľovanie syntetického obsahu, najmä v boji proti deepfake. Zároveň však zostáva náročné zabezpečiť vysokokvalitnú tvorbu obrazu a presnú extrakciu vodoznaku. Analýzou existujúcich metód identifikujeme kritické obmedzenie:
ich funkcie straty často využívajú jednu referenciu (buď vstupný obraz alebo čistý obraz) na optimalizáciu vernosti obrazu, čo vedie k suboptimálnemu výkonu. V tomto príspevku vykonávame hĺbkovú štúdiu termínu straty kvality obrazu pri vodoznaku založenom na difúzii. Analýzou rôznych vplyvov použitia vstupného obrazu v porovnaní s čistým generovaným obrazom ako referencie počas optimalizácie odhaľujeme, že spoločné zváženie oboch referencií výrazne zlepšuje robustnosť a vizuálnu kvalitu. Rozsiahle experimenty ukazujú, že náš duálny referenčný prístup dosahuje vynikajúci výkon v presnosti extrakcie vodoznaku a vernosti generácie v porovnaní s jednoreferenčnými základnými hodnotami. Obhajujeme túto paradigmu na podporu spoľahlivého vodoznaku v generatívnych modeloch.
Druh zverejnenia:
Konferenčný dokument
Vydavateľ:
DFF “25: Proceedings of the 1st on Deepfake Forensics Workshop (Zborník z 1. seminára o hĺbkovej forenznej analýze): Detekcia, priradenie, uznanie a nepriateľské výzvy v ére médií vytvorených umelou inteligenciou
Autori:
Josu Eguiluz Castañeira, Axel Brando, Migle Laukyte, Marc Serra-Vidal
Abstrakt:
Umelá inteligencia v súčasnosti preniká do kritických infraštruktúr a rozhodovacích systémov, kde zlyhania spôsobujú sociálne, hospodárske a demokratické škody. Tento pozičný dokument spochybňuje zakorenené presvedčenie, že regulácia a inovácia sú protikladmi. Ako dokazujú analógie z letectva, liekov a systémov sociálneho zabezpečenia a nedávne prípady syntetických dezinformácií, zaujatosti a nezodpovedného rozhodovania, absencia dobre navrhnutej regulácie už spôsobila nesmierne škody. Regulácia, ak je premyslená a prispôsobivá, nie je brzdou inovácie – je jej základom. V tomto pozičnom dokumente sa skúma akt EÚ o umelej inteligencii ako model regulácie založenej na riziku a zodpovednosti, ktorý rieši Collingridgeovu dilemu: konať dostatočne včas na to, aby sa predišlo škodám, ale dostatočne pružne na to, aby sa udržali inovácie. Jeho adaptačné mechanizmy – experimentálne regulačné prostredia, podpora malých a stredných podnikov (MSP), testovanie v reálnych podmienkach, posúdenie vplyvu na základné práva – ukazujú, ako môže regulácia zodpovedne urýchliť technologický pokrok, a nie ho oddialiť. V pozičnom dokumente sa sumarizuje, ako nástroje riadenia transformujú vnímanú záťaž na hmatateľné výhody: právna istota, dôvera spotrebiteľov a etická konkurencieschopnosť. V konečnom dôsledku dokument prekresľuje pokrok: inovácie a regulácia spoločne napredujú. Začlenením transparentnosti, posúdení vplyvu, zodpovednosti a gramotnosti v oblasti umelej inteligencie do návrhu a zavádzania sa v rámci EÚ vymedzuje, čo skutočne znamená zodpovedná inovácia – technologická ambícia disciplinovaná demokratickými hodnotami a základnými právami.
Druh zverejnenia:
Konferenčný dokument
Vydavateľ:
Deviata výročná konferencia o neurónových informačných systémoch (NeurIPS 2025)
Autor: Pascaline Gaborit
Abstrakt:
V ére globálnej neistoty sa dôvera stala kritickým faktorom formujúcim vzťahy medzi národmi, inštitúciami a jednotlivcami. Táto kniha Trust, New Technologies and Geopolitics in an Uncertain World (Dôvera, nové technológie a geopolitika v neistom svete) ponúka včasné a hĺbkové preskúmanie toho, ako sa dôvera testuje a transformuje tvárou v tvár rýchlo sa meniacemu geopolitickému prostrediu. Od krehkosti demokratických systémov až po výzvy, ktoré predstavujú nové technológie, umelá inteligencia, dezinformácie a zmena klímy, sa táto kniha zaoberá najnaliehavejšími otázkami našej doby. Skúmaním prienikov dôvery s kľúčovými oblasťami, ako sú demokracie, obchodné vojny a nové technológie, táto práca poskytuje tvorcom politík, akademickým pracovníkom a každému, kto sa snaží pochopiť zložitosť dnešného sveta, cenné poznatky. Či už sa zaoberáte kybernetickou bezpečnosťou, dezinformáciami, vplyvom hybridných hrozieb alebo úlohou dôvery v medzinárodnú diplomaciu, táto kniha ponúka komplexný, ale prístupný rámec na zvládnutie týchto výziev. Vrhá svetlo na to, ako je pochopenie dôvery kľúčom k riešeniu geopolitických neistôt, ktoré definujú náš vek.
Druh zverejnenia:
Kniha
Vydavateľ:
Peter Lang Vydavateľstvo
Autor:
Eddie Conti, Álvaro Parafita, Axel Brando
Abstrakt:
Posudzovanie významu jednotlivých prvkov v strojovom učení je rozhodujúce pre pochopenie rozhodovacieho procesu modelu. Hoci existuje mnoho metód, absencia definitívneho základu pre porovnanie poukazuje na potrebu alternatívnych, dobre podložených opatrení. Tento článok predstavuje novú post-hoc metódu miestneho významu s názvom kontrafaktuálna distribúcia dôležitosti (CID). Vytvárame dve sady pozitívnych a negatívnych kontrafaktuálnych scenárov, modelujeme ich distribúcie pomocou odhadu hustoty jadra a zoraďujeme funkcie na základe distribučnej miery odlišnosti. Toto meradlo, založené na prísnom matematickom rámci, spĺňa kľúčové vlastnosti potrebné na to, aby fungovalo ako platná metrika. Prezentujeme účinnosť našej metódy porovnaním s dobre zavedenými lokálnymi vysvetľujúcimi prvkami dôležitosti. Naša metóda ponúka nielen doplnkové perspektívy k existujúcim prístupom, ale tiež zlepšuje výkonnosť metriky vernosti (pre komplexnosť aj dostatočnosť), čo vedie k vernejším vysvetleniam systému. Tieto výsledky zdôrazňujú jeho potenciál ako cenného nástroja na analýzu modelov.
Druh zverejnenia:
Konferenčný dokument
Vydavateľ:
Konferencia o hlbokom vzdelávaní Northern Lights 2026