Znanstvena Publikacije
Autori:
Axel Brando, Lucas Berry, David Mege
Sažetak:
Generativni difuzijski modeli, poznati po velikom broju parametara (više od 100 milijuna) i radu u visokodimenzionalnim slikovnim prostorima, predstavljaju znatne izazove za tradicionalne metode procjene nesigurnosti zbog računalnih zahtjeva. U ovom radu uvodimo inovativni okvir, Difuzijski ansambli za hvatanje nesigurnosti (DECU), dizajniran za procjenu epistemičke nesigurnosti za difuzijske modele. Okvirom DECU-a uvodi se nova metoda kojom se učinkovito osposobljavaju kompleti modela uvjetne difuzije uključivanjem statičkog skupa prethodno treniranih parametara, čime se drastično smanjuje računalno opterećenje i broj parametara koji zahtijevaju osposobljavanje. Osim toga, DECU zapošljava Pairwise-Distance Estimators (PaiDEs) za točno mjerenje epistemičke nesigurnosti procjenom međusobnih informacija između izlaza modela i težine u visokodimenzionalnim prostorima. Učinkovitost ovog okvira dokazana je eksperimentima na skupu podataka ImageNeta, naglašavajući njegovu sposobnost snimanja epistemijske nesigurnosti, posebno u nedovoljno uzorkovanim slikovnim razredima.
Vrsta publikacije:
Konferencijski rad
Izdavač:
Održana 40. konferencija o neizvjesnosti u području umjetne inteligencije
Autori:
Coccomini D.A., Caldelli R., Gennaro C., Fiameni G., Amato G., Falchi F.
Sažetak:
U posljednje vrijeme sve veće širenje sintetičkih medija, poznatih kao deepfake, omogućeno je brzim napretkom tehnologija umjetne inteligencije, posebno algoritama za duboko učenje. Sve veća zabrinutost zbog sve veće dostupnosti i vjerodostojnosti uvjerljivih krivotvorenih sadržaja potaknula je istraživače da se usredotoče na razvoj metoda za njihovo otkrivanje. U tom su području istraživači u AIMH Labu ISTI CNR-a, u suradnji s istraživačima iz drugih organizacija, proveli istraživanja, istrage i projekte kako bi doprinijeli borbi protiv tog trenda, istražujući nova rješenja i prijetnje. Ovaj članak sažima najnovije napore koje su naši istraživači uložili u ovom području i u suradnji s drugim institucijama i stručnjacima.
Vrsta publikacije:
Konferencijski rad
Izdavač:
CEUR Radionica Postupci
Autori:
Stanciu, Cristian i Ionescu, Bogdan i Cuccovillo, Luca i Papadopoulos, Symeon i Kordopatis-Zilos, Giorgos i Popescu, Adrian i Caldelli, Roberto
Sažetak:
Sintetička medijska generacija i manipulacija posljednjih godina doživljavaju brze reklame, što sve više olakšava stvaranje multimedijskog sadržaja koji se ne razlikuje od ljudskog promatrača. Nadalje, generirani sadržaj mogu zlonamjerno upotrebljavati pojedinci i organizacije kako bi širili dezinformacije, što predstavlja znatnu prijetnju društvu i demokraciji. Stoga postoji hitna potreba za alatima umjetne inteligencije usmjerenima na olakšavanje pravodobnog i djelotvornog postupka provjere medija. Radionicom MAD’24 nastoje se okupiti osobe različitog podrijetla koje su posvećene borbi protiv dezinformacija u multimediji s pomoću umjetne inteligencije poticanjem okruženja za istraživanje inovativnih ideja i razmjenu iskustava. Istraživačka područja od interesa obuhvaćaju identifikaciju manipuliranog ili generiranog sadržaja, zajedno s istraživanjem širenja dezinformacija i njihovih društvenih posljedica. Prepoznajući značaj multimedije, radionica naglašava zajedničku analizu različitih modaliteta unutar sadržaja, jer se provjera može poboljšati objedinjavanjem višestrukih oblika sadržaja.
Vrsta publikacije:
Konferencijski rad
Izdavač:
Održana 3. međunarodna radionica ACM-a o multimedijskoj umjetnoj inteligenciji protiv dezinformiranja
Autori:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Sažetak:
Gledanje video sekvence u kojoj je predstavljena osoba iz predznaka više nije kao prije vremena. Deepfakes su revolucionirali naš način gledanja na takve sadržaje i danas smo češće navikli pitati se je li ono što vidimo stvarno ili je samo mistifikacija. U tom kontekstu općih dezinformacija, potreba za pouzdanim rješenjima za pomoć zajedničkim korisnicima, a ne samo za procjenu takve vrste video sekvenci, vrlo je predstojeća. U ovom radu predstavljen je novi pristup koji se oslanja na anomalije temporalnog površinskog okvira kako bi se otkrili uvjerljivi krivotvoreni videozapisi. Metoda traži moguće nepodudarnosti, izazvane dubokom lažnom manipulacijom, na površinama koje pripadaju zarobljenoj sceni i u njihovoj evoluciji duž vremenske osi. Te se značajke upotrebljavaju kao ulaz cjevovoda koji se temelji na dubokim neuronskim mrežama kako bi se provela binarna procjena samog videozapisa. Eksperimentalni rezultati pokazuju da se takvom metodologijom može postići značajna učinkovitost u smislu točnosti otkrivanja.
Vrsta publikacije:
Konferencijski rad
Izdavač:
Konferencija IEEE-a i CVF-a 2024. o radionicama o računalnom vidu i prepoznavanju uzoraka (CVPRW)
Autori:
Pascaline Gaborit
Sažetak:
Međunarodne organizacije klasificiraju dezinformacije kao jednu od glavnih prijetnji demokraciji i institucijama više od desetljeća. Digitalne tehnologije ponovno osmišljavaju i dubinski mijenjaju moderan način života, okruženje građana i poduzeća. Umjetna inteligencija donosi nove poremećaje u načinu na koji pristupamo znanju te stvaramo, širimo i razumijemo informacije. Također može zamagliti granice između stvarnih informacija i manipuliranih informacija pojavom „lažnih vijesti”, unakrsnih referencija automatskih mreža i „dubokih lažnih informacija”. UI sustavi povećavaju potencijal za stvaranje realističnog lažnog sadržaja i ciljanih kampanja dezinformiranja. Dezinformacije nadilaze jednostavne glasine kako bi se namjerno obmanule i iskrivile informacije utemeljene na dokazima putem izmišljenih podataka. Europske institucije nedavno su se usredotočile i na utvrđivanje dezinformacija povezanih s FIMI-jem: Inozemna manipulacija informacijama i uplitanje. U članku se utvrđuju trendovi i problemi povezani s dezinformacijama i umjetnom inteligencijom. Istražuje se percepcija dezinformacija, njihovi učinci i odgovori, uključujući Akt EU-a o umjetnoj inteligenciji i politike internetskih platformi. Njime se pruža prvi analitički pristup toj temi na temelju trenutačnih rasprava istraživača, prvih rezultata naših anketa iz 2024., intervjua i analize stotina lažnih vijesti na internetu. Nastoji razumjeti kako građani i dionici doživljavaju dezinformacije i utvrđuje moguće učinke. Također analizira trenutačne izazove i ograničenja, mogućnosti i ograničenja za borbu protiv manipulacije i uplitanja. U članku se razmatraju trenutačni procesi i učinci dezinformacija (2), predstavljanje glavnih rezultata naše internetske ankete o percepciji dezinformacija (3), trenutačni regulatorni odgovori EU-a (4) i točke za raspravu (5). U ovom članku tvrdimo da postoji ogromna promjena u načinu na koji pristupamo informacijama, ali da su odgovori na dezinformacije još uvijek u ranoj fazi. Članak pokazuje i da u europskim zemljama postoji povećana svijest o učincima dezinformacija, ali i jaz između sposobnosti prepoznavanja „lažnih vijesti” i dezinformacija te ograničenog razumijevanja procesa, prijetnji i aktera uključenih u širenje dezinformacija.
Vrsta publikacije:
Novinski članak
Izdavač:
Časopis za političke znanosti i međunarodne odnose
Autori:
Tomas Garriga, Gerard Sanz, Eduard Serrahima de Cambra, Axel Brando
Sažetak:
U ovom radu prikazana je nova primjena strukturnih uzročnih modela (SCM) i postupka otmice-djelovanja-predviđanja na vremensku seriju u kontekstu problema iz stvarnog svijeta u farmaceutskoj industriji. Cilj nam je procijeniti protučinjenične scenarije za obujam prodaje lijeka na koji je utjecao ulazak konkurenta generičkog lijeka na tržište. Upotrebljavamo arhitekture temeljene na koder-dekoderu, primjenjujući uvjetni varijacijski autoenkoder i uvodeći korištenje uvjetnih rijetkih autoenkodera, koji nikada nisu bili korišteni u protučinjeničnoj literaturi. Predložena metodologija zahtijeva dostupnost povijesnih događaja i vremenskih serija bez događaja, a prednost joj je što se ne oslanja na kontrolne kovarijate koji mogu biti nedostupni, a pritom jasno nadmašuje osnovnu protučinjeničnu procjenu prognoze. Naš pristup ocjenjujemo s pomoću skupa stvarnih podataka o prodaji našeg poduzeća, kao i sintetičkih i polusintetičkih skupova podataka koji oponašaju kontekst problema, pokazujući njegovu učinkovitost. Uspješno smo primijenili ovaj model u našoj tvrtki, pružajući korisne informacije za poslovno planiranje, raspodjelu ulaganja i postavljanje ciljeva.
Vrsta publikacije:
Članak s radionice
Izdavač:
Radionica o učenju uzročno-posljedične reprezentacije „NeurIPS”24
Autori:
Anastasios Manos, Despina Elisabeth Filippidou, Nikolaos Pavlidis, Georgios Karanasios, Georgios Vachtanidis, Arianna D’Ulizia
Sažetak:
Rast digitalnih platformi olakšao je brzo širenje dezinformacija, što predstavlja znatne društvene, političke i gospodarske izazove. Grafikoni znanja pojavljuju se kao učinkoviti alati za poboljšanje točnosti, interpretabilnosti i skalabilnosti sustava za otkrivanje lažnih vijesti, čime se rješavaju ograničenja u tradicionalnim pristupima strojnog učenja koji se prvenstveno oslanjaju na jezičnu analizu. Ovaj rad sadrži pregled literature u kojem se sintetiziraju rezultati nedavnih studija o primjeni KG-ova u otkrivanju dezinformacija. Utvrđujemo kako KG-ovi poboljšavaju otkrivanje kodiranjem stvarnih odnosa, analizom konteksta i poboljšanjem interpretabilnosti modela, istodobno raspravljajući o trenutačnim ograničenjima u skalabilnosti, potpunosti podataka i kontekstualnoj prilagodljivosti. U revidiranim studijama naglašava se potreba za budućim istraživanjima usmjerenima na skalabilne modele KG-a u stvarnom vremenu i međujezične modele KG-a kako bi se ojačale sposobnosti otkrivanja dezinformacija na globalnoj razini. Nadalje, iznosimo preliminarne rezultate dvaju slučajeva upotrebe, prikazujući metodologiju za izgradnju ključnih skupina koja može poslužiti kao koristan alat za borbu protiv širenja dezinformacija.
Vrsta publikacije:
Konferencijski rad
Izdavač:
Međunarodna konferencija o inženjerstvu i tehnologijama u nastajanju 2024. (ICEET)
Autori:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Sažetak:
U ovom se dokumentu istražuje višedimenzionalni odgovor Europske unije na sveprisutni problem dezinformacija, koji se pojačao od pripojenja Krima 2014. Dezinformacije predstavljaju znatnu prijetnju demokratskim procesima i javnoj dobrobiti. U okviru pristupa Europske unije kombiniraju se regulatorne mjere, strateška partnerstva i inicijative za medijsku pismenost kako bi se riješio taj problem uz istodobnu zaštitu temeljnih demokratskih načela, kao što je sloboda izražavanja. Ključne mjere uključuju Kodeks dobre prakse u suzbijanju dezinformacija i Akt o digitalnim uslugama, čiji je cilj pozvati digitalne platforme na odgovornost i osigurati transparentnost. Nadalje, inicijative kao što su radna skupina East StratCom i sustav brzog uzbunjivanja ističu napore Europske unije u borbi protiv dezinformacija kao alata hibridnog ratovanja. Ovaj rad također naglašava ključnu ulogu građana, koje Europska unija nastoji osnažiti kroz programe medijske pismenosti, omogućujući im da prepoznaju i odupru se manipulativnim sadržajima. Ispitivanjem interakcija između vladinih mjera, uključenosti privatnog sektora i angažmana građana u ovoj se studiji pruža sveobuhvatna analiza strategije Europske unije za borbu protiv dezinformiranja te se procjenjuju izazovi i budući smjerovi potrebni za održavanje demokratske otpornosti u digitalnom okruženju koje se mijenja.
Vrsta publikacije:
Znanstveni članak
Izdavač:
Položaj informacija
Autori:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Sažetak:
Svrha
Cilj je ove studije, uz primjenu multidisciplinarnog pristupa, pratiti put kampanja dezinformiranja od njihova otkrivanja jezičnim znakovima vjerodostojnosti do unapređenja s pomoću mehanizama širenja i, naposljetku, procijeniti njihov učinak na društveno-politički kontekst.
Dizajn/metodologija/pristup
U ovoj studiji daje se detaljan pregled četiriju temeljnih aspekata dezinformiranja: jezične značajke koje razlikuju sadržaj osmišljen za obmanjivanje i manipuliranje javnim mnijenjem, medijske mehanizme koji olakšavaju njegovo širenje iskorištavanjem kognitivnih procesa njegove publike, prijetnje koje predstavlja sve veća upotreba generativne umjetne inteligencije za širenje dezinformacija i šire posljedice koje ta dinamika dezinformiranja ima na javno mnijenje, a time i na procese donošenja političkih odluka.
Nalazi
Kao rezultat toga, rad pruža interdisciplinarno i holističko ispitivanje fenomena, pozivajući se na njegove pluralizirane elemente kako bi se naglasila važnost odgovornosti platformi, kampanja medijske pismenosti među građanima i interaktivne suradnje između privatnog i javnog sektora kao mjera za jačanje otpornosti na prijetnju dezinformacija.
Originalnost/vrijednost
U studiji se ističe potreba za povećanjem odgovornosti platformi, promicanjem medijske pismenosti među pojedincima i razvojem suradnje između javnog i privatnog sektora. Ciljevi su te integrirane strategije jačanje otpornosti na dezinformacije i osiguravanje prilagodljivosti EU-a s obzirom na digitalne prijetnje koje se mijenjaju. Naposljetku, u dokumentu se zagovara pravedna i otvorena strategija kojom se štiti sloboda izražavanja i jačaju demokratske institucije u vrijeme kada su digitalne dezinformacije u porastu.
Vrsta publikacije:
Znanstveni članak
Izdavač:
Časopis za informiranje, komunikaciju i etiku u društvu (2025.)
Autori:
Eddie Conti, Alejandro Astruc, Álvaro Parafita, Axel Brando
Sažetak:
Razumijevanje kako se informacije šire kroz transformatorske modele ključni je izazov za interpretaciju. U ovom radu proučavamo učinke minimalnih perturbacija tokena na ugradbeni prostor. U našim eksperimentima analiziramo učestalost kojom tokeni daju minimalne pomake, naglašavajući da rijetki tokeni obično dovode do većih pomaka. Štoviše, proučavamo kako se perturbacije šire kroz slojeve, pokazujući da se ulazne informacije sve više miješaju u dublje slojeve. Naši nalazi potvrđuju zajedničku pretpostavku da se prvi slojevi modela mogu koristiti kao zamjenske vrijednosti za objašnjenja modela. Sve u svemu, ovaj rad uvodi kombinaciju perturbacija tokena i pomaka na prostoru ugradnje kao snažnog alata za interpretaciju modela.
Vrsta publikacije:
Članak s radionice
Izdavač:
Radionica IJCAI-ja za 2025. o objašnjivoj umjetnoj inteligenciji
Autori:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Sažetak:
Dezinformacije su uvijek više potaknute pribjegavanjem izmijenjenom ili potpuno sintetički generiranom realističnom sadržaju općenito poznatom kao deepfakes. Zbog toga su potrebni pouzdani instrumenti kojima se mogu otkriti takvi lažni sadržaji kako bi se izbjegla polarizacija mišljenja osoba. Prikazane su različite tehnike, čiji je zajednički nazivnik traženje nekih nedosljednosti izazvanih postupkom lažne generacije i o kojima svjedoči razmatranje posebnih značajki. Čini se da bi moguća kombinacija različitih razlikovnih obilježja mogla pružiti učinkovitija postignuća. U tom pogledu i nakon naše prethodne studije o ovom pitanju, predlažemo da istražimo novu značajku koja u osnovi uzima u obzir ugrađene odnose koji postoje unutar cijele scene akvizicije u vrijeme snimanja slike (video) i zatim predstavljene vrijednostima piksela slike. Ideja iza toga je da deepfake procesi mogu razbiti takve intrinzične ovisnosti između osvjetljenja (intenzitet i smjer), površina objekta (pozicija i refleksija) i stjecanja buke, čime se dokazuje moguća manipulacija. Prema tome, dugometražni deskriptor, nazvan Lokalni površinski deskriptor, izgrađen je i korišten za treniranje modela temeljenih na CNN-u za otkrivanje dubokog krivotvorenja. Eksperimentalni rezultati provedeni na različitim operativnim kontekstima pokazuju značajnu točnost otkrivanja do 90%.
Vrsta publikacije:
Konferencijski rad
Izdavač:
Međunarodna konferencija IEEE-a 2024. o izazovima i radionicama u području obrade slika (ICIPCW), Abu Dhabi, Ujedinjeni Arapski Emirati, 2024.
Autori:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Sažetak:
Stvarni kapacitet za stvaranje realističnih potpuno sintetičkih slika umjetnom inteligencijom poboljšava se iz dana u dan, a to posebno vrijedi za slike koje predstavljaju ljudska lica koja se ne razlikuju od stvarnih ljudi. To predstavlja ključnu potrebu za razvojem instrumenata koji mogu razlučiti između istinitih i nepostojećih ljudi otkrivanjem nekih mogućih nedosljednosti ugrađenih u slike tijekom procesa stvaranja. Glavna razlika između netaknute slike i uvjerljivo krivotvorene slike je u tome što u drugom slučaju nije došlo do učinkovite akvizicije kamere; tako da svi različiti međusobni odnosi među elementima koji pripadaju sceni (svjetla, refleksija, položaji objekta u 3D prostoru) nisu uzeti od strane stvarnog svijeta u tom točnom trenutku, već samo umjetno reproducirani. Prema tom razmatranju, u ovom radu uvodimo lokalne površinske okvire fotoaparata kao moguće sredstvo prikazivanja tih specifičnih karakteristika okoliša kako bi se istaknule razlike. Provedena eksperimentalna analiza pokazala je da ova značajka može dati vrlo visoku razinu točnosti i značajan stupanj generalizacije.
Vrsta publikacije:
Konferencijski rad
Izdavač:
Međunarodna konferencija IEEE-a 2024. o izazovima i radionicama u području obrade slika (ICIPCW), Abu Dhabi, Ujedinjeni Arapski Emirati, 2024.
Autori:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Sažetak:
Izvanredne nestvarne slike mogu se realizirati pow-erful AI tehnikama. Različiti alati dostupni svima mogu ponovno stvoriti visokokvalitetne sadržaje, posebno generirajući cijele potpuno sintetičke slike. Među postojećim arhitekturama, modeli koji se temelje na difuziji mogu lako proizvesti bilo koju vrstu slika, uključujući ljudske prikaze lica, dajući upit poput teksta. Takvi lažni sadržaji često se upotrebljavaju za širenje dezinformacija, što izaziva zabrinutost u pogledu sigurnosti ljudi. Trenutačno je sve teže razviti pouzdane instrumente za razlikovanje stvarnih i generiranih (čak i nepostojećih) ljudi. Nadalje, velika količina primjena koje se temelje na difuziji predstavlja problem za takve detektore u pogledu generalizacije novih generativnih tehnika. Kako bismo riješili ta pitanja, predlažemo da se istraži sposobnost razlikovnog obilježja, na temelju okruženja za stjecanje slika, za individuiranje slika lica temeljenih na difuziji iz netaknutih. U stvari, generirane slike ne bi trebale sadržavati značajke koje su ispravne u fazi stjecanja koja se izvodi stvarnom kamerom. Takve nedosljednosti mogu se istaknuti nedavno uvedenim lokalnim površinskim okvirima. Ova značajka uzima u obzir objekte i površine uključene u scenu, što sve utječe na proces akvizicije kamere, zajedno s daljnjim intrinzičnim informacijama vezanim za uređaj, kao i osvjetljenjem i refleksijama koje utječu na cijeli scenarij. Rad istražuje sposobnost ove značajke da se generalizira prema različitim skupovima podataka i novim generativnim metodama nepoznatim tijekom treninga. Eksperimentalni rezultati naglašavaju da takva značajka još uvijek pruža značajne razine točnosti otkrivanja i u tim slučajevima.
Vrsta publikacije:
Konferencijski rad
Izdavač:
Međunarodna konferencija IEEE-a 2024. o izazovima i radionicama u području obrade slika (ICIPCW), Abu Dhabi, Ujedinjeni Arapski Emirati, 2024.
Autori:
Álvaro Parafita, Tomas Garriga, Axel Brando, Francisco J. Cazorla
Sažetak:
Među tehnikama objašnjivosti, SHAP se ističe kao jedan od najpopularnijih, ali često zanemaruje uzročno-posljedičnu strukturu problema. Kao odgovor na to, do-SHAP koristi intervencijske upite, ali njegovo oslanjanje na procjene ometa njegovu praktičnu primjenu. Kako bi se riješio taj problem, predlažemo primjenu pristupa procjene i agnostike, koji omogućuju procjenu bilo kojeg prepoznatljivog upita iz jednog modela, što čini do-SHAP izvedivim na složenim grafikonima. Također razvijamo novi algoritam kako bismo značajno ubrzali njegov izračun uz zanemariv trošak, kao i metodu za objašnjavanje nedostupnih procesa generiranja podataka. Pokazujemo procjenu i računalnu učinkovitost našeg pristupa te ga potvrđujemo na dvama stvarnim skupovima podataka, naglašavajući njegov potencijal u dobivanju pouzdanih objašnjenja.
Vrsta publikacije:
Konferencijski rad
Izdavač:
Trideset deveta godišnja konferencija o neuronskim sustavima za obradu informacija (NeurIPS 2025)
Autori:
Alamgir Munir Qazi, John Philip McCrae, Jamal Nasir
Sažetak:
Za širenje pogrešnih informacija potrebni su pouzdani, ali računalno učinkoviti sustavi za provjeru činjenica. Iako trenutačni najsuvremeniji pristupi koriste velike jezične modele (LLM-ove) za stvaranje objašnjenja, te se metode suočavaju sa znatnim računalnim preprekama i halucinacijskim rizicima u stvarnim primjenama. Predstavljamo DeReC (Dense Retrieval Classification), lagani okvir koji pokazuje kako ugradnja teksta opće namjene može učinkovito zamijeniti autoregresivne pristupe temeljene na LLM-u u stvarnosti zadatke provjere. Kombiniranjem gustog dohvata sa specijaliziranom klasifikacijom, naš sustav postiže bolju točnost dok je značajno učinkovitiji. DeReC nadmašuje učinkovitost LLM-ova koji stvaraju objašnjenja, smanjujući vrijeme rada za 95% na RAWFC-u (23 minute 36 sekundi u usporedbi s 454 minute 12 sekundi) i 92% na LIAR-RAW-u (134 minute 14 sekundi u usporedbi sa 1692 minute 23 sekunde), pokazujući njegovu učinkovitost u različitim veličinama skupova podataka. Na skupu podataka RAWFC-a DeReC postiže F1 rezultat od 65,58%, nadmašujući najmoderniju metodu L-obrana (61.20%). Naši rezultati pokazuju da pažljivo projektirani sustavi temeljeni na dohvatu mogu odgovarati ili premašiti LLM performanse u specijaliziranim zadacima, dok su znatno praktičniji za realnu implementaciju.
Vrsta publikacije:
Konferencijski rad
Izdavač:
Peta konferencija o jeziku, podacima i znanju
Autori:
Qiushi Li, Andrea Ciamarra, Roberto Caldelli i Stefano Berretti
Sažetak:
Za zadatak A projekta MediaEval 2025 SynthIm Challenge (Synthetic Image Detection) utvrdili smo kritički pomak u distribuciji između pruženih podataka o osposobljavanju i testiranju, zbog čega je prvonavedeni slabo reprezentativan za ciljnu domenu. Naš pristup izravno rješava taj izazov uključivanjem stilski dosljednijeg skupa validacije u naše podatke o treniranju i iskorištavanjem zamrznutog CLIP ViT-L/14 kao robusnog izvlačitelja značajki. Naš glavni uvid je da u takvim uvjetima promjene domene, generalizirani prikazi iz velikog unaprijed obučenog modela značajno nadmašuju tradicionalnu CNN-ovu prilagodbu neusklađenog skupa podataka, što se pokazalo učinkovitijom i pouzdanijom strategijom.
Vrsta publikacije:
Konferencijski rad
Izdavač:
MediaEval’25: Radionica o multimedijskoj evaluaciji, 25. i 26. listopada 2025., Dublin, Irska i na internetu
Pristup na zahtjev
Autori:
Qiushi Li, Roberto Caldelli i Stefano Berretti
Sažetak:
Brz napredak modela za generiranje slika kao što je Stabilna difuzija izaziva zabrinutost zbog moguće zlouporabe, zbog čega su pouzdane tehnike vodenog žiga ključne za autentifikaciju i atribuciju sintetičkog sadržaja, posebno u borbi protiv uvjerljivih krivotvorenih sadržaja. Međutim, istodobno osiguravanje visokokvalitetnog generiranja slika i preciznog vađenja vodenog žiga i dalje je izazov. Analizom postojećih metoda utvrđujemo kritično ograničenje:
njihove funkcije gubitka često usvajaju jednu referencu (bilo ulaznu sliku ili čisto generiranu sliku) za optimizaciju vjernosti slike, što dovodi do neoptimalnih performansi. U ovom radu provodimo dubinsku studiju pojma gubitka kvalitete slike u vodenom žigu na bazi difuzije. Analizirajući različite utjecaje korištenja ulazne slike u odnosu na čisto generiranu sliku kao reference tijekom optimizacije, otkrivamo da zajedničko razmatranje obje reference značajno poboljšava robusnost i vizualnu kvalitetu. Opsežni eksperimenti pokazuju da naš dvoreferentni pristup postiže vrhunske performanse u točnosti ekstrakcije vodenog žiga i generacijskoj vjernosti u usporedbi s jednoreferentnim polaznim vrijednostima. Zalažemo se za to da ova paradigma unaprijedi pouzdano vodeno žigosanje u generativnim modelima.
Vrsta publikacije:
Konferencijski rad
Izdavač:
DFF „25: Održana prva radionica za forenziku Deepfake: Otkrivanje, atribucija, prepoznavanje i kontradiktorni izazovi u doba medija generiranih umjetnom inteligencijom
Autori:
Josu Eguiluz Castañeira, Axel Brando, Migle Laukyte, Marc Serra-Vidal
Sažetak:
Umjetna inteligencija sada prožima kritičnu infrastrukturu i sustave donošenja odluka u kojima neuspjesi uzrokuju društvenu, gospodarsku i demokratsku štetu. Ovaj dokument o stajalištu dovodi u pitanje ukorijenjeno uvjerenje da su regulativa i inovacije suprotne. Kao što pokazuju analogije iz zrakoplovnih sustava, farmaceutskih sustava i sustava socijalne skrbi te nedavni slučajevi sintetičkih dezinformacija, pristranosti i neodgovornog donošenja odluka, nepostojanje dobro osmišljenih propisa već je prouzročilo nemjerljivu štetu. Regulacija, kada je promišljena i prilagodljiva, ne koči inovacije, već je njezin temelj. U ovom dokumentu o stajalištu razmatra se Akt EU-a o umjetnoj inteligenciji kao model uredbe utemeljene na riziku i odgovornosti koji se odnosi na Collingridgeovu dilemu: dovoljno rano djelovanje kako bi se spriječila šteta, ali dovoljno fleksibilno za održavanje inovacija. Njezini prilagodljivi mehanizmi – regulatorna izolirana okruženja, potpora malim i srednjim poduzećima (MSP-ovi), testiranje u stvarnim uvjetima, procjena učinka na temeljna prava (FRIA) – pokazuju kako se regulativom može odgovorno ubrzati tehnološki napredak, a ne ga odgoditi. U dokumentu o stajalištu sažeto je prikazano kako upravljački alati pretvaraju percipirana opterećenja u opipljive prednosti: pravna sigurnost, povjerenje potrošača i etička konkurentnost. U konačnici, u dokumentu je prikazan napredak: inovacije i regulativa zajedno napreduju. Uključivanjem transparentnosti, procjena učinka, odgovornosti i pismenosti u području umjetne inteligencije u dizajn i uvođenje, okvirom EU-a definira se što doista znače odgovorne inovacije – tehnološke ambicije koje se temelje na demokratskim vrijednostima i temeljnim pravima.
Vrsta publikacije:
Konferencijski rad
Izdavač:
Trideset deveta godišnja konferencija o neuronskim sustavima za obradu informacija (NeurIPS 2025)
Autor: Pascaline Gaborit
Sažetak:
U doba globalne nesigurnosti povjerenje je postalo ključni čimbenik koji oblikuje odnose između nacija, institucija i pojedinaca. Ova knjiga, Trust, New Technologies and Geopolitics in an Uncertain World (Povjerenje, nove tehnologije i geopolitika u nesigurnom svijetu), nudi pravodobna i detaljna istraživanja o tome kako se povjerenje testira i transformira u kontekstu geopolitičkih krajolika koji se brzo mijenjaju. Od nestabilnosti demokratskih sustava do izazova koje predstavljaju nove tehnologije, umjetna inteligencija, dezinformacije i klimatske promjene, ova knjiga istražuje najhitnija pitanja našeg doba. Istražujući sjecišta povjerenja s ključnim područjima kao što su demokracije, trgovinski ratovi i nove tehnologije, ovaj rad pruža vrijedne uvide tvorcima politika, znanstvenicima i svima koji žele razumjeti složenost današnjeg svijeta. Bez obzira na to bavite li se kibersigurnošću, dezinformacijama, utjecajem hibridnih prijetnji ili ulogom povjerenja u međunarodnu diplomaciju, ova knjiga nudi sveobuhvatan, ali pristupačan okvir za suočavanje s tim izazovima. U njemu se objašnjava kako je razumijevanje povjerenja ključno za rješavanje geopolitičkih nesigurnosti koje definiraju naše doba.
Vrsta publikacije:
Knjiga
Izdavač:
Peter Lang izdavač
Autor:
Eddie Conti, Álvaro Parafita, Axel Brando
Sažetak:
Procjena važnosti pojedinačnih značajki u strojnom učenju ključna je za razumijevanje procesa donošenja odluka modela. Iako postoje brojne metode, nedostatak konačne temeljne istine za usporedbu naglašava potrebu za alternativnim, dobro utemeljenim mjerama. U ovom radu predstavljena je nova post-hoc metoda lokalnog značaja pod nazivom Distribucija protučinjenične važnosti (engl. Counterfactual Importance Distribution, CID). Generiramo dva skupa pozitivnih i negativnih protučinjeničnih scenarija, modeliramo njihove distribucije pomoću procjene gustoće jezgre i rang značajki na temelju mjere distribucijske različitosti. Ova mjera, utemeljena na rigoroznom matematičkom okviru, zadovoljava ključna svojstva potrebna da bi funkcionirala kao valjana metrika. Pokazujemo učinkovitost naše metode uspoređujući je s dobro uhodanim objašnjavačima lokalne važnosti. Naša metoda ne samo da nudi komplementarne perspektive postojećim pristupima, već i poboljšava uspješnost mjerenja vjernosti (kako za sveobuhvatnost tako i za dostatnost), što rezultira vjernijim objašnjenjima sustava. Ovi rezultati ističu njegov potencijal kao vrijednog alata za analizu modela.
Vrsta publikacije:
Konferencijski rad
Izdavač:
Konferencija za duboko učenje Northern Lights 2026