Vědecké Publikace
Autoři:
Axel Brando, Lucas Berry, David Mege
Abstraktní:
Generativní difúzní modely, pozoruhodné svým velkým počtem parametrů (převyšujícím 100 milionů) a provozem ve vysokorozměrných obrazových prostorech, představují významné výzvy pro tradiční metody odhadu nejistoty kvůli výpočetním požadavkům. V této práci představujeme inovativní rámec Diffusion Ensembles for Capturing Uncertainty (DECU), určený pro odhad epistemické nejistoty pro difúzní modely. Rámec DECU zavádí novou metodu, která efektivně trénuje soubory modelů podmíněné difúze začleněním statického souboru předem vyškolených parametrů, což drasticky snižuje výpočetní zátěž a počet parametrů, které vyžadují školení. Kromě toho DECU používá párové odhady vzdálenosti (PaiDE) k přesnému měření epistemické nejistoty vyhodnocováním vzájemných informací mezi výstupy modelu a hmotnostmi ve vysokodimenzionálních prostorech. Účinnost tohoto rámce je demonstrována experimenty na datové sadě ImageNet, které zdůrazňují jeho schopnost zachytit epistemickou nejistotu, konkrétně v třídách obrázků s nedostatečným vzorkováním.
Druh zveřejnění:
Konferenční dokument
Vydavatel:
40. konference o nejistotě v umělé inteligenci
Autoři:
Coccomini D.A., Caldelli R., Gennaro C., Fiameni G., Amato G., Falchi F.
Abstraktní:
V poslední době bylo rostoucí šíření syntetických médií, známých jako deepfakes, umožněno rychlým pokrokem v technologiích umělé inteligence, zejména algoritmech hlubokého učení. Rostoucí obavy z rostoucí dostupnosti a věrohodnosti deepfakes podnítily výzkumníky, aby se soustředili na vývoj metod k jejich detekci. V této oblasti výzkumní pracovníci laboratoře AIMH organizace ISTI CNR ve spolupráci s výzkumnými pracovníky z jiných organizací provedli výzkum, šetření a projekty s cílem přispět k boji proti tomuto trendu a prozkoumat nová řešení a hrozby. Tento článek shrnuje nejnovější úsilí, které v této oblasti vyvinuli naši výzkumní pracovníci a ve spolupráci s dalšími institucemi a odborníky.
Druh zveřejnění:
Konferenční dokument
Vydavatel:
CEUR Workshop Proceedings
Autoři:
Stanciu, Cristian a Ionescu, Bogdan a Cuccovillo, Luca a Papadopoulos, Symeon a Kordopatis-Zilos, Giorgos a Popescu, Adrian a Caldelli, Roberto
Abstraktní:
Generování a manipulace se syntetickými médii zaznamenaly v posledních letech rychlé změny, díky nimž je stále snadnější vytvářet multimediální obsah, který je pro lidského pozorovatele nerozeznatelný. Kromě toho může být generovaný obsah zneužíván jednotlivci a organizacemi s cílem šířit dezinformace, což představuje významnou hrozbu pro společnost a demokracii. Proto existuje naléhavá potřeba nástrojů umělé inteligence zaměřených na usnadnění včasného a efektivního procesu ověřování médií. Cílem workshopu MAD’24 je spojit lidi z různých prostředí, kteří se věnují boji proti dezinformacím v multimédiích prostřednictvím umělé inteligence, a to podporou prostředí pro zkoumání inovativních nápadů a sdílení zkušeností. Oblasti výzkumu, které jsou předmětem zájmu, zahrnují identifikaci manipulovaného nebo vytvářeného obsahu spolu s vyšetřováním šíření dezinformací a jejich společenských dopadů. Seminář uznává význam multimédií a klade důraz na společnou analýzu různých modalit v rámci obsahu, protože ověřování lze zlepšit agregací různých forem obsahu.
Druh zveřejnění:
Konferenční dokument
Vydavatel:
Sborník 3. mezinárodního workshopu ACM o multimediální umělé inteligenci proti dezinformacím
Autoři:
Andrea Ciamarraová, Roberto Caldelli, Alberto Del Bimbo
Abstraktní:
Při pohledu na video sekvenci, kde je osoba v popředí zastoupena, už není tak dávno. Deepfakes způsobily revoluci v našem způsobu sledování takového obsahu a dnes jsme častěji zvyklí přemýšlet, zda to, co vidíme, je skutečné, nebo je to jen mystifikace. V souvislosti s všeobecnými dezinformacemi se velmi blíží potřeba spolehlivých řešení, která by pomohla běžným uživatelům, a nejen jim, posoudit tento druh videosekvencí. V tomto článku je představen nový přístup, který využívá časových anomálií povrchového rámu s cílem odhalit deepfake videa. Metoda hledá možné nesrovnalosti, vyvolané deepfake manipulací, na površích patřících k zachycené scéně a v jejich vývoji podél časové osy. Tyto funkce se používají jako vstup potrubí založeného na hlubokých neuronových sítích k provedení binárního hodnocení na samotném videu. Experimentální výsledky svědčí o tom, že taková metodika může dosáhnout významného výkonu z hlediska přesnosti detekce.
Druh zveřejnění:
Konferenční dokument
Vydavatel:
Konference IEEE/CVF 2024 o seminářích o počítačovém vidění a rozpoznávání vzorů (CVPRW)
Autoři:
Pascaline Gaboritová
Abstraktní:
Mezinárodní organizace klasifikují dezinformace jako jednu z hlavních hrozeb pro demokracii a instituce po více než deset let. Digitální technologie znovuobjevují a zásadně transformují moderní životní styl, občanské a podnikatelské prostředí. Umělá inteligence přináší nové narušení způsobu, jakým získáváme přístup ke znalostem a vytváříme, šíříme a chápeme informace. Může také stírat hranice mezi skutečnými informacemi a zmanipulovanými informacemi v důsledku vzniku „falešných zpráv“, křížových odkazů v automatických sítích a „hlubokých falešných zpráv“. Systémy UI zvyšují potenciál pro vytváření realistického falešného obsahu a cílených dezinformačních kampaní. Dezinformace jdou nad rámec jednoduchých fám, které záměrně klamou a zkreslují informace založené na důkazech prostřednictvím vykonstruovaných dat. Evropské orgány se v nedávné době rovněž zaměřily na identifikaci dezinformací souvisejících s zahraniční manipulací s informacemi a vměšováním: Zahraniční manipulace s informacemi a vměšování. Článek identifikuje trendy a obavy související s dezinformacemi a umělou inteligencí. Zkoumá vnímání dezinformací, jejich dopady a reakce, včetně aktu EU o umělé inteligenci a politik on-line platforem. Poskytuje první analytický přístup k tomuto tématu na základě současných diskusí výzkumných pracovníků, prvních zjištění našich průzkumů v roce 2024, rozhovorů a analýzy stovek falešných zpráv online. Snaží se pochopit, jak občané a zúčastněné strany vnímají dezinformace, a identifikuje možné dopady. Analyzuje také současné výzvy a omezení, příležitosti a omezení v boji proti manipulaci a vměšování. Článek se zabývá současnými procesy a dopady dezinformací (2), prezentací hlavních zjištění našeho online průzkumu o vnímání dezinformací (3), současnými regulačními reakcemi EU (4) a diskusními body (5). V tomto článku tvrdíme, že dochází k obrovské změně ve způsobu, jakým přistupujeme k informacím, ale že reakce na dezinformace jsou stále v rané fázi. Článek rovněž ukazuje, že v evropských zemích existuje zvýšené povědomí o dopadech dezinformací, ale také rozdíl mezi schopností identifikovat „falešné zprávy“ a dezinformace a omezeným porozuměním procesům, hrozbám a aktérům zapojeným do šíření dezinformací.
Druh zveřejnění:
Časopis
Vydavatel:
Journal of Political Science and International Relations
Autoři:
Tomáš Garriga, Gerard Sanz, Eduard Serrahima de Cambra, Axel Brando
Abstraktní:
V tomto článku představujeme novou aplikaci strukturálních kauzálních modelů (SCM) a postupu abduction-action-prediction na nastavení časových řad v kontextu reálného světového problému ve farmaceutickém průmyslu. Naším cílem je odhadnout hypotetické srovnávací scénáře pro objem prodeje léku, který byl ovlivněn vstupem konkurenčního generického léku na trh. Využíváme architektury založené na enkodérech, aplikujeme podmíněný variační autoenkodér a také zavádíme použití podmíněných řídkých autoenkodérů, které nikdy nebyly použity v kontrafaktuální literatuře. Navrhovaná metodika vyžaduje dostupnost historických událostí a časových řad bez událostí a má tu výhodu, že se nespoléhá na kontrolní proměnné, které mohou být nedostupné, a zároveň jasně překonává základní hypotetický srovnávací odhad prognózy. Náš přístup hodnotíme pomocí souboru údajů o prodeji naší společnosti v reálném světě, jakož i syntetických a polosyntetických souborů údajů, které napodobují kontext problému a prokazují jeho účinnost. Tento model jsme v naší společnosti úspěšně aplikovali a poskytli užitečné informace pro obchodní plánování, alokaci investic a stanovení cílů.
Druh zveřejnění:
Článek z workshopu
Vydavatel:
Seminář NeurIPS’24 o učení se kauzální reprezentaci
Autoři:
Anastasios Manos, Despina Elisabeth Filippidou, Nikolaos Pavlidis, Georgios Karanasios, Georgios Vachtanidis, Arianna D’Ulizia
Abstraktní:
Vzestup digitálních platforem usnadnil rychlé šíření dezinformací, což představuje významné sociální, politické a hospodářské výzvy. Znalostní grafy (KG) se objevují jako účinné nástroje pro zvýšení přesnosti, interpretovatelnosti a škálovatelnosti systémů detekce falešných zpráv a řeší omezení v tradičních přístupech založených na strojovém učení, které se opírají především o jazykovou analýzu. Tato práce obsahuje přehled literatury, který shrnuje zjištění z nedávných studií o uplatňování klíčových skupin při odhalování dezinformací. Identifikujeme, jak KG zlepšují detekci kódováním reálných vztahů, analýzou kontextu a zlepšením interpretability modelu, a zároveň diskutujeme o současných omezeních škálovatelnosti, úplnosti dat a kontextové adaptability. Přezkoumané studie zdůrazňují potřebu budoucího výzkumu zaměřeného na škálovatelné modely KG v reálném čase a napříč jazyky s cílem posílit schopnosti odhalování dezinformací na celém světě. Kromě toho předkládáme předběžné výsledky dvou případů použití, které představují metodiku pro vytváření klíčových skupin, jež mohou sloužit jako užitečné nástroje v boji proti šíření dezinformací.
Druh zveřejnění:
Konferenční dokument
Vydavatel:
Mezinárodní konference o strojírenství a vznikajících technologiích (ICEET) 2024
Autoři:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Uliziaová
Abstraktní:
Tento dokument se zabývá mnohostrannou reakcí Evropské unie na všudypřítomný problém dezinformací, který se od anexe Krymu v roce 2014 zintenzivnil. Dezinformace představují významnou hrozbu pro demokratické procesy a veřejné blaho. Přístup Evropské unie kombinuje regulační opatření, strategická partnerství a iniciativy v oblasti mediální gramotnosti s cílem řešit tento jev a zároveň chránit základní demokratické zásady, jako je svoboda projevu. Mezi klíčová opatření patří kodex zásad boje proti dezinformacím a akt o digitálních službách, jejichž cílem je pohnat digitální platformy k odpovědnosti a zajistit transparentnost. Iniciativy, jako je pracovní skupina East StratCom a systém rychlého varování, navíc zdůrazňují úsilí Evropské unie v boji proti dezinformacím jako nástroji hybridní války. Tento dokument také zdůrazňuje kritickou úlohu občanů, které se Evropská unie snaží posílit prostřednictvím programů mediální gramotnosti, které jim umožňují rozpoznat manipulativní obsah a odolávat mu. Zkoumáním interakcí mezi vládními opatřeními, zapojením soukromého sektoru a zapojením občanů poskytuje tato studie komplexní analýzu strategie Evropské unie proti dezinformacím a posuzuje výzvy a budoucí směry nezbytné pro udržení demokratické odolnosti ve vyvíjejícím se digitálním prostředí.
Druh zveřejnění:
Vědecký článek
Vydavatel:
Informační politika
Autoři:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Uliziaová
Abstraktní:
Účel
Pomocí multidisciplinárního přístupu si tato studie klade za cíl vysledovat cestu dezinformačních kampaní od jejich odhalení jazykovými náznaky důvěryhodnosti až po podporu prostřednictvím mechanismů šíření a nakonec posoudit jejich dopad na sociálně-politický kontext.
Návrh/metodika/přístup
Tato studie poskytuje podrobný přehled čtyř základních aspektů dezinformací: jazykové rysy, které odlišují obsah určený ke klamání a manipulaci veřejného mínění, mediální mechanismy, které usnadňují jeho šíření využíváním kognitivních procesů jeho publika, hrozby, které představuje rostoucí využívání generativní umělé inteligence k šíření dezinformací, a širší důsledky, které má tato dynamika dezinformací na veřejné mínění a následně na politické rozhodovací procesy.
Zjištění
V důsledku toho dokument poskytuje interdisciplinární a holistické zkoumání tohoto jevu s odkazem na jeho pluralizované prvky s cílem zdůraznit význam odpovědnosti platforem, kampaní mediální gramotnosti mezi občany a interaktivní spolupráce mezi soukromým a veřejným sektorem jako opatření ke zvýšení odolnosti vůči hrozbě dezinformací.
Originalita/hodnota
Studie zdůrazňuje potřebu zvýšit odpovědnost platforem, podporovat mediální gramotnost jednotlivců a rozvíjet spolupráci mezi veřejným a soukromým sektorem. Cílem této integrované strategie je posílit odolnost vůči dezinformacím a zajistit přizpůsobivost EU měnícím se digitálním hrozbám. Dokument v konečném důsledku obhajuje spravedlivou a otevřenou strategii, která chrání svobodu projevu a posiluje demokratické instituce v době, kdy jsou digitální dezinformace na vzestupu.
Druh zveřejnění:
Vědecký článek
Vydavatel:
Časopis informací, komunikace a etiky ve společnosti (2025)
Autoři:
Eddie Conti, Alejandro Astruc, Álvaro Parafita, Axel Brando
Abstraktní:
Pochopení toho, jak se informace šíří prostřednictvím modelů Transformer, je klíčovou výzvou pro interpretovatelnost. V této práci studujeme účinky minimálních perturbací žetonů na vkládací prostor. V našich experimentech analyzujeme frekvenci, s jakou žetony dosahují minimálních posunů, přičemž zdůrazňujeme, že vzácné žetony obvykle vedou k větším posunům. Kromě toho studujeme, jak se perturbace šíří napříč vrstvami, což ukazuje, že vstupní informace jsou stále více promíchány v hlubších vrstvách. Naše zjištění potvrzují společný předpoklad, že první vrstvy modelu mohou být použity jako proxy pro vysvětlení modelu. Celkově tato práce představuje kombinaci perturbací tokenu a posunů na vkládacím prostoru jako mocný nástroj pro interpretovatelnost modelu.
Druh zveřejnění:
Článek z workshopu
Vydavatel:
Workshop IJCAI 2025 o vysvětlitelné umělé inteligenci
Autoři:
Andrea Ciamarraová, Roberto Caldelli, Alberto Del Bimbo
Abstraktní:
Dezinformace je vždy více vyvolána uchýlením se ke změněnému nebo plně synteticky generovanému realistickému obsahu obecně známému jako deepfakes. To vyvolává potřebu spolehlivých nástrojů schopných odhalit takový falešný obsah, aby se zabránilo polarizaci myšlení osob. Byly představeny různé techniky, jejichž společným jmenovatelem je hledání některých nesrovnalostí vyvolaných procesem falešného generování a doložených pohledem na specifické vlastnosti. Zdá se, že možná kombinace různých charakteristických rysů by mohla přinést účinnější výsledky. Z tohoto pohledu a v návaznosti na naši předchozí studii na toto téma navrhujeme prozkoumat novou funkci, která v podstatě zohledňuje vestavěné vztahy existující v rámci celé akviziční scény v době zachycení obrazu (video) a poté reprezentované hodnotami obrazových pixelů. Myšlenkou je, že proces generování deepfake může prolomit takové vnitřní závislosti mezi osvětlením (intenzitou a směrem), povrchy objektů (polohou a odrazivostí) a akvizičním šumem, což dokazuje možnou manipulaci. Podle toho byl vytvořen deskriptor vlastností s názvem Local Surface Descriptor, který se používá k trénování modelů založených na CNN pro detekci deepfake. Experimentální výsledky provedené v různých operačních kontextech prokazují významnou přesnost detekce až 90%.
Druh zveřejnění:
Konferenční dokument
Vydavatel:
Mezinárodní konference IEEE 2024 o výzvách a seminářích v oblasti zpracování obrazu (ICIPCW), Abú Dhabí, Spojené arabské emiráty, 2024
Autoři:
Andrea Ciamarraová, Roberto Caldelli, Alberto Del Bimbo
Abstraktní:
Skutečná schopnost umělé inteligence vytvářet realistické plně syntetické obrazy se každým dnem zlepšuje, a to platí zejména pro obrazy představující lidské tváře, které se zdají být nerozeznatelné od skutečných lidí. To představuje zásadní potřebu vyvinout nástroje schopné rozlišovat mezi skutečnými a neexistujícími lidmi tím, že budou odhaleny některé případné nesrovnalosti vložené do snímků během procesu generování. Hlavním rozdílem mezi nedotčeným obrazem a generovaným deepfake je to, že ve druhém případě nedošlo k účinnému pořízení kamery; Takže všechny různé vzájemné vztahy mezi prvky patřícími do scény (světla, odrazivost, příslušné pozice objektů ve 3D prostoru) nejsou zachyceny reálným světem v tomto přesném časovém okamžiku, ale jen uměle reprodukovány. Podle těchto úvah představujeme v této práci povrchové rámy lokálních kamer jako možný prostředek reprezentující tyto specifické vlastnosti prostředí za účelem zdůraznění rozdílů. Provedená experimentální analýza ukázala, že tato vlastnost může poskytnout velmi vysokou úroveň přesnosti a významný stupeň zobecnění.
Druh zveřejnění:
Konferenční dokument
Vydavatel:
Mezinárodní konference IEEE 2024 o výzvách a seminářích v oblasti zpracování obrazu (ICIPCW), Abú Dhabí, Spojené arabské emiráty, 2024
Autoři:
Andrea Ciamarraová, Roberto Caldelli, Alberto Del Bimbo
Abstraktní:
Mimořádné nereálné obrazy mohou být realizovány pomocí pow-erful AI technik. Různé nástroje, které jsou k dispozici pro každého, jsou schopny znovu vytvářet vysoce kvalitní obsah, zejména generovat celé plně syntetické obrazy. Mezi stávajícími architekturami mohou modely založené na difúzi snadno vytvářet jakýkoli druh snímků, včetně zobrazení lidského obličeje, tím, že poskytují výzvu jako text. Tento falešný obsah se často používá k šíření dezinformací, což vyvolává obavy o bezpečnost lidí. V současné době je stále obtížnější vyvinout spolehlivé nástroje pro rozlišení mezi skutečnými a generovanými (i neexistujícími) lidmi. Velké množství implementací založených na difúzi navíc představuje pro tyto detektory problém zobecnit nové generativní techniky. Abychom tyto problémy vyřešili, navrhujeme prozkoumat schopnost charakteristického rysu na základě prostředí pro získávání obrazu individualizovat obrazy obličeje založené na difúzi od nedotčených. Ve skutečnosti by generované snímky neměly obsahovat charakteristiky, které jsou vlastní fázi akvizice prováděné prostřednictvím skutečné kamery. Tyto nesrovnalosti lze zvýraznit pomocí nedávno zavedených místních povrchových rámů. Tato funkce bere v úvahu objekty a povrchy zapojené do scény, které všechny ovlivňují proces získávání fotoaparátu, spolu s dalšími vnitřními informacemi spojenými se zařízením, stejně jako osvětlení a odrazy ovlivňující celý scénář. Článek zkoumá schopnost této funkce generalizovat se směrem k různým datovým souborům a novým generativním metodám neznámým během tréninku. Experimentální výsledky ukazují, že tato funkce stále poskytuje významnou úroveň přesnosti detekce i v těchto případech.
Druh zveřejnění:
Konferenční dokument
Vydavatel:
Mezinárodní konference IEEE 2024 o výzvách a seminářích v oblasti zpracování obrazu (ICIPCW), Abú Dhabí, Spojené arabské emiráty, 2024
Autoři:
Álvaro Parafita, Tomas Garriga, Axel Brando, Francisco J. Cazorla
Abstraktní:
Mezi techniky vysvětlitelnosti, SHAP vyniká jako jeden z nejpopulárnějších, ale často přehlíží příčinnou strukturu problému. V reakci na to do-SHAP používá intervenční dotazy, ale jeho spoléhání se na odhady brání jeho praktickému použití. K řešení tohoto problému navrhujeme použití estimand-agnostických přístupů, které umožňují odhadnout jakýkoli identifikovatelný dotaz z jednoho modelu, což umožňuje dělat-SHAP na složitých grafech. Vyvíjíme také nový algoritmus, který výrazně urychluje jeho výpočet za zanedbatelnou cenu, stejně jako metodu, jak vysvětlit nepřístupné procesy generování dat. Prokazujeme odhad a výpočetní výkon našeho přístupu a ověřujeme jej na dvou reálných datových souborech, přičemž zdůrazňujeme jeho potenciál při získávání spolehlivých vysvětlení.
Druh zveřejnění:
Konferenční dokument
Vydavatel:
Třicátá devátá výroční konference o neuronových informačních systémech (NeurIPS 2025)
Autoři:
Alamgir Munir Qazi, John Philip McCrae, Jamal Nasir
Abstraktní:
Šíření dezinformací vyžaduje spolehlivé, avšak výpočetně účinné systémy ověřování faktů. Zatímco současné moderní přístupy využívají velké jazykové modely (LLM) pro vytváření vysvětlujících odůvodnění, tyto metody čelí významným výpočetním překážkám a halucinačním rizikům při nasazení v reálném světě. Představujeme DeReC (Dense Retrieval Classification), odlehčený rámec, který demonstruje, jak obecné vkládání textu může účinně nahradit autoregresivní přístupy založené na LLM ve faktických ověřovacích úlohách. Kombinací hustého vyhledávání se specializovanou klasifikací dosahuje náš systém lepší přesnosti a zároveň je výrazně efektivnější. DeReC překonává LLM generující vysvětlení v efektivitě, čímž zkracuje dobu běhu o 95% na RAWFC (23 minut 36 sekund ve srovnání s 454 minut 12 sekund) a o 92% na LIAR-RAW (134 minut 14 sekund ve srovnání s 1692 minut 23 sekund), což ukazuje jeho účinnost v různých velikostech datových souborů. Na datovém souboru RAWFC dosáhla společnost DeReC skóre F1 65,58%, překonávající nejmodernější metodu L-Defense (61.20%). Naše výsledky ukazují, že pečlivě navržené systémy založené na vyhledávání mohou odpovídat nebo překračovat výkon LLM ve specializovaných úkolech a zároveň jsou výrazně praktičtější pro nasazení v reálném světě.
Druh zveřejnění:
Konferenční dokument
Vydavatel:
5. ročník konference o jazyku, datech a znalostech
Autoři:
Qiushi Li, Andrea Ciamarra, Roberto Caldelli a Stefano Berretti
Abstraktní:
Pro projekt MediaEval 2025 SynthIm Challenge Task A (Synthetic Image Detection) jsme identifikovali kritický posun v distribuci mezi poskytnutými tréninkovými a testovacími daty, což z něj činí špatného zástupce pro cílovou doménu. Náš přístup přímo řeší tuto výzvu začleněním stylisticky konzistentnější validační sady do našich tréninkových dat a využitím zmrazeného CLIP ViT-L/14 jako robustního extraktoru funkcí. Naším hlavním poznatkem je, že za takových podmínek posunu domény zobecnitelné reprezentace z velkého předtrénovaného modelu výrazně překonávají tradiční CNN vyladěnou na nesourodém datovém souboru, což se ukazuje jako účinnější a spolehlivější strategie.
Druh zveřejnění:
Konferenční dokument
Vydavatel:
MediaEval’25: Seminář o hodnocení multimédií, 25.–26. října 2025, Dublin, Irsko a online
Přístup na vyžádání
Autoři:
Hrají: Qiushi Li, Roberto Caldelli, Stefano Berretti
Abstraktní:
Rychlý pokrok modelů generování obrazu, jako je stabilní difúze, vyvolává obavy z možného zneužití, takže robustní techniky vodoznaku jsou nezbytné pro autentizaci a přiřazování syntetického obsahu, zejména v boji proti deepfakes. Současně však zůstává náročné zajistit vysoce kvalitní generování obrazu a přesnou extrakci vodoznaků. Analýzou stávajících metod identifikujeme kritické omezení:
jejich ztrátové funkce často přijímají jediný odkaz (buď vstupní obraz nebo čistý generovaný obraz) pro optimalizaci věrnosti obrazu, což vede k suboptimálnímu výkonu. V tomto článku provádíme hloubkovou studii ztrátového termínu obrazové kvality v difúzním vodoznaku. Analýzou zřetelných dopadů použití vstupního obrazu oproti čistému obrazu jako referencí během optimalizace odhalujeme, že společné zvážení obou referencí výrazně zlepšuje robustnost a vizuální kvalitu. Rozsáhlé experimenty ukazují, že náš dvoureferenční přístup dosahuje vynikajícího výkonu jak v přesnosti extrakce vodoznaku, tak ve věrnosti generování ve srovnání s jednoreferenčními základními liniemi. Zasazujeme se o to, aby toto paradigma prosazovalo spolehlivé vodoznaky v generativních modelech.
Druh zveřejnění:
Konferenční dokument
Vydavatel:
DFF“25: Proceedings of the 1st on Deepfake Forensics Workshop (Sborník z 1. semináře o forenzních vědách Deepfake): Detekce, přiřazení, uznání a kontradiktorní výzvy v éře médií vytvořených umělou inteligencí
Autoři:
Josu Eguiluz Castañeira, Axel Brando, Migle Laukyte, Marc Serra-Vidal
Abstraktní:
Umělá inteligence nyní proniká do kritických infrastruktur a rozhodovacích systémů, kde selhání způsobují sociální, hospodářské a demokratické škody. Tento poziční dokument zpochybňuje zakořeněné přesvědčení, že regulace a inovace jsou protiklady. Jak dokládají analogie z letectví, léčivých přípravků a systémů sociálního zabezpečení a nedávné případy syntetických dezinformací, předpojatosti a neodpovědného rozhodování, neexistence dobře koncipované regulace již způsobila nezměrné škody. Regulace, je-li promyšlená a přizpůsobivá, není brzdou inovací – je jejich základem. Tento poziční dokument se zabývá aktem EU o umělé inteligenci jako modelem regulace založené na posouzení rizik a odpovědnosti, který se zabývá Collingridgeovým dilematem: jednat dostatečně včas, aby se předešlo škodám, ale zároveň dostatečně pružně, aby se udržely inovace. Jeho adaptivní mechanismy – regulační pískoviště, podpora malých a středních podniků, testování v reálném provozu, posouzení dopadů na základní práva – ukazují, jak může regulace zodpovědně urychlit technologický pokrok, a nikoli jej oddálit. Stanovisko shrnuje, jak nástroje správy přeměňují vnímanou zátěž na hmatatelné výhody: právní jistota, důvěra spotřebitelů a etická konkurenceschopnost. V konečném důsledku dokument přeformuluje pokrok: inovace a regulace postupují společně. Začleněním transparentnosti, posouzení dopadů, odpovědnosti a gramotnosti v oblasti umělé inteligence do návrhu a zavádění rámec EU definuje, co odpovědné inovace skutečně znamenají – technologické ambice disciplinované demokratickými hodnotami a základními právy.
Druh zveřejnění:
Konferenční dokument
Vydavatel:
Třicátá devátá výroční konference o neuronových informačních systémech (NeurIPS 2025)
Autor: Pascaline Gaboritová
Abstraktní:
V éře globální nejistoty se důvěra stala kritickým faktorem utvářejícím vztahy mezi národy, institucemi a jednotlivci. Tato kniha Trust, New Technologies and Geopolitics in an Uncertain World (Důvěra, nové technologie a geopolitika v nejistém světě) nabízí včasné a důkladné zkoumání toho, jak je důvěra testována a transformována tváří v tvář rychle se měnící geopolitické krajině. Od křehkosti demokratických systémů až po výzvy spojené s novými technologiemi, umělou inteligencí, dezinformacemi a změnou klimatu se tato kniha zabývá nejnaléhavějšími otázkami naší doby. Zkoumáním průsečíků důvěry s klíčovými oblastmi, jako jsou demokracie, obchodní války a nové technologie, poskytuje tato práce cenné poznatky tvůrcům politik, vědcům a každému, kdo se snaží pochopit složitost dnešního světa. Ať už se zabýváte kybernetickou bezpečností, dezinformacemi, dopadem hybridních hrozeb nebo úlohou důvěry v mezinárodní diplomacii, tato kniha nabízí komplexní, ale přístupný rámec pro zvládnutí těchto výzev. Vrhá světlo na to, jak je porozumění důvěře klíčem k řešení geopolitických nejistot, které definují náš věk.
Druh zveřejnění:
Kniha
Vydavatel:
Peter Lang nakladatelství
Autor:
Eddie Conti, Álvaro Parafita, Axel Brando
Abstraktní:
Posouzení významu jednotlivých prvků ve strojovém učení má zásadní význam pro pochopení rozhodovacího procesu modelu. I když existuje řada metod, neexistence definitivní základní pravdy pro srovnání zdůrazňuje potřebu alternativních, opodstatněných opatření. Tento článek představuje novou post-hoc metodu významnosti lokálních rysů nazvanou Counterfactual Importance Distribution (CID). Vytváříme dvě sady pozitivních a negativních kontrafaktuálů, modelujeme jejich distribuce pomocí odhadu hustoty jádra a řadíme funkce na základě míry distribuční odlišnosti. Tato míra, založená na přísném matematickém rámci, splňuje klíčové vlastnosti potřebné k tomu, aby fungovala jako platná metrika. Účinnost naší metody ukazujeme porovnáním s dobře zavedenými vysvětlivkami významu místních rysů. Naše metoda nabízí nejen doplňkové perspektivy ke stávajícím přístupům, ale také zlepšuje výkonnost v metrikách věrnosti (jak pro komplexnost, tak pro dostatečnost), což vede k věrnějšímu vysvětlení systému. Tyto výsledky zdůrazňují jeho potenciál jako cenného nástroje pro analýzu modelů.
Druh zveřejnění:
Konferenční dokument
Vydavatel:
Northern Lights Deep Learning Conference 2026