Znanstveno Publikacije
Avtorji:
Axel Brando, Lucas Berry, David Mege
Povzetek:
Generativni difuzijski modeli, ki so opazni zaradi velikega števila parametrov (več kot 100 milijonov) in delovanja v visokodimenzionalnih slikovnih prostorih, predstavljajo velik izziv za tradicionalne metode ocenjevanja negotovosti zaradi računalniških zahtev. V tem delu uvajamo inovativen okvir Diffusion Ensembles for Capturing Uncertainty (DECU), namenjen ocenjevanju epistemične negotovosti za difuzijske modele. Okvir DECU uvaja novo metodo, ki učinkovito usposablja ansamble modelov pogojne difuzije z vključitvijo statičnega sklopa predhodno usposobljenih parametrov, kar drastično zmanjša računsko breme in število parametrov, ki zahtevajo usposabljanje. Poleg tega DECU uporablja Pairwise-Distance Estimators (PaiDEs) za natančno merjenje epistemične negotovosti z vrednotenjem vzajemnih informacij med izhodi modela in utežmi v visokorazsežnih prostorih. Učinkovitost tega okvira je dokazana s poskusi na podatkovnem nizu ImageNet, ki poudarjajo njegovo sposobnost zajemanja epistemične negotovosti, zlasti v razredih podob, ki niso dovolj vzorčene.
Vrsta objave:
Konferenčni dokument
Založnik:
40. konferenca o negotovosti v umetni inteligenci
Avtorji:
Coccomini D.A., Caldelli R., Gennaro C., Fiameni G., Amato G., Falchi F.
Povzetek:
V zadnjem času je vse večje širjenje sintetičnih medijev, znanih kot globoki ponaredki, omogočil hiter napredek na področju tehnologij umetne inteligence, zlasti algoritmov globokega učenja. Naraščajoče skrbi glede vse večje razpoložljivosti in verjetnosti globokih ponaredkov so spodbudile raziskovalce, da se osredotočijo na razvoj metod za njihovo odkrivanje. Na tem področju so raziskovalci v laboratoriju AIMH v okviru ISTI CNR v sodelovanju z raziskovalci iz drugih organizacij izvedli raziskave, preiskave in projekte, da bi prispevali k boju proti temu trendu, pri čemer so raziskali nove rešitve in grožnje. Ta članek povzema najnovejša prizadevanja naših raziskovalcev na tem področju in v sodelovanju z drugimi institucijami in strokovnjaki.
Vrsta objave:
Konferenčni dokument
Založnik:
CEUR Delavnica Proceedings
Avtorji:
Stanciu, Cristian in Ionescu, Bogdan in Cuccovillo, Luca in Papadopoulos, Symeon in Kordopatis-Zilos, Giorgos in Popescu, Adrian in Caldelli, Roberto
Povzetek:
Generacija in manipulacija sintetičnih medijev sta v zadnjih letih doživeli hitre oglase, zaradi česar je vse lažje ustvarjati multimedijske vsebine, ki jih človeški opazovalec ne razlikuje. Poleg tega lahko posamezniki in organizacije ustvarjeno vsebino uporabljajo zlonamerno za širjenje dezinformacij, ki predstavljajo veliko grožnjo družbi in demokraciji. Zato so nujno potrebna orodja umetne inteligence, ki bodo omogočala pravočasen in učinkovit postopek preverjanja medijev. Namen delavnice MAD24 je združiti ljudi z različnimi ozadji, ki so namenjeni boju proti dezinformacijam v multimedijskih medijih s pomočjo umetne inteligence, in sicer s spodbujanjem okolja za raziskovanje inovativnih zamisli in izmenjavo izkušenj. Raziskovalna področja zajemajo prepoznavanje manipuliranih ali ustvarjenih vsebin ter raziskovanje razširjanja dezinformacij in njihovih družbenih posledic. Delavnica ob priznavanju pomena multimedije poudarja skupno analizo različnih modalitet znotraj vsebine, saj je preverjanje mogoče izboljšati z združevanjem več oblik vsebine.
Vrsta objave:
Konferenčni dokument
Založnik:
Zbornik 3. mednarodne delavnice ACM o multimedijski umetni inteligenci proti dezinformacijam
Avtorji:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Povzetek:
Če pogledamo video sekvenco, v kateri je predstavljena oseba v ospredju, ni več tako kot pred časom. Globoki ponaredki so revolucionirali naš način gledanja takšnih vsebin in danes smo pogosteje navajeni, da se sprašujemo, ali je to, kar vidimo, resnično ali je le mistifikacija. V tem kontekstu posplošenih dezinformacij se močno pojavlja potreba po zanesljivih rešitvah za pomoč skupnim uporabnikom in ne le za oceno tovrstnih video sekvenc. V tem članku je predstavljen nov pristop, ki se opira na anomalije časovnega površinskega okvirja, da bi razkrili globoke ponarejene videoposnetke. Metoda išče možna neskladja, ki jih povzroča globoka manipulacija s ponaredki, na površinah, ki pripadajo ujetemu prizoru, in v njihovi evoluciji vzdolž časovne osi. Te funkcije se uporabljajo kot vhod v cevovod, ki temelji na globokih nevronskih mrežah, za izvedbo binarne ocene samega videa. Eksperimentalni rezultati kažejo, da se lahko s tako metodologijo doseže pomembna učinkovitost v smislu natančnosti zaznavanja.
Vrsta objave:
Konferenčni dokument
Založnik:
Konferenca IEEE/CVF 2024 o delavnicah računalniškega vida in prepoznavanja vzorcev (CVPRW)
Avtorji:
Pascaline Gaborit
Povzetek:
Mednarodne organizacije dezinformacije že več kot desetletje uvrščajo med glavne grožnje demokraciji in institucijam. Digitalne tehnologije na novo izumljajo in korenito preoblikujejo sodoben življenjski slog, državljansko in poslovno okolje. Umetna inteligenca prinaša nove motnje v načinu, kako dostopamo do znanja ter ustvarjamo, širimo in razumemo informacije. Prav tako lahko zabriše meje med resničnimi informacijami in manipuliranimi informacijami s pojavom lažnih novic, samodejnega navzkrižnega referenciranja omrežij in globokih ponaredkov. Umetnointeligenčni sistemi povečujejo potencial za ustvarjanje realističnih lažnih vsebin in ciljno usmerjenih dezinformacijskih kampanj. Dezinformacije presegajo preproste govorice, saj namerno zavajajo in izkrivljajo informacije, ki temeljijo na dokazih, z izmišljenimi podatki. Evropske institucije so se nedavno osredotočile tudi na prepoznavanje dezinformacij, povezanih s tujim manipuliranjem z informacijami in vmešavanjem: Tuje manipuliranje z informacijami in vmešavanje. V članku so opredeljeni trendi in pomisleki v zvezi z dezinformacijami in umetno inteligenco. Preučuje dojemanje dezinformacij, njihove učinke in odzive, vključno z aktom EU o umetni inteligenci in politikami spletnih platform. Zagotavlja prvi analitični pristop k tej temi na podlagi trenutnih razprav raziskovalcev, prvih ugotovitev raziskav Sodišča iz leta 2024, intervjujev in analize več sto lažnih novic na spletu. Njen namen je razumeti, kako državljani in deležniki dojemajo dezinformacije, ter opredeliti morebitne učinke. Analizira tudi trenutne izzive in omejitve, priložnosti in omejitve za boj proti manipulaciji in vmešavanju. Članek obravnava sedanje procese in učinke dezinformacij (2), predstavitev glavnih ugotovitev naše spletne ankete o dojemanju dezinformacij (3), sedanje regulativne odzive EU (4) in točke za razpravo (5). V tem članku trdimo, da je prišlo do ogromne spremembe v načinu dostopa do informacij, vendar so odzivi na dezinformacije še vedno v zgodnji fazi. Iz članka je razvidno tudi, da se v evropskih državah povečuje ozaveščenost o učinkih dezinformacij, pa tudi vrzel med zmožnostjo prepoznavanja „lažnih novic“ in dezinformacij ter omejenim razumevanjem procesov, groženj in akterjev, vključenih v širjenje dezinformacij.
Vrsta objave:
Časopisni članek
Založnik:
Časopis za politične vede in mednarodne odnose
Avtorji:
Tomas Garriga, Gerard Sanz, Eduard Serrahima de Cambra, Axel Brando
Povzetek:
V tem prispevku predstavljamo novo uporabo strukturnih vzročnih modelov (SCM) in postopka napovedovanja ugrabitev-ukrepov za časovno vrsto v kontekstu resničnega svetovnega problema v farmacevtski industriji. Naš cilj je oceniti hipotetične scenarije za obseg prodaje zdravila, na katerega je vplival vstop konkurenčnega generičnega zdravila na trg. Uporabljamo arhitekture, ki temeljijo na kodirniku in dekodirniku, uporabljamo pogojni variacijski autoencoder in uvajamo tudi uporabo pogojnih redkih autoencoderjev, ki niso bili nikoli uporabljeni v hipotetični literaturi. Predlagana metodologija zahteva razpoložljivost zgodovinskih dogodkov in časovnih vrst brez dogodkov ter ima to prednost, da se ne zanaša na kontrolne sospremenljivke, ki morda niso na voljo, hkrati pa očitno presega osnovno hipotetično oceno napovedi. Naš pristop ocenjujemo z uporabo nabora podatkov našega podjetja o prodaji v resničnem svetu ter sintetičnih in polsintetičnih naborov podatkov, ki posnemajo problematični okvir, kar dokazuje njegovo učinkovitost. Ta model smo uspešno uporabili v našem podjetju, saj zagotavljamo koristne informacije za poslovno načrtovanje, dodeljevanje naložb in določanje ciljev.
Vrsta objave:
Članek z delavnice
Založnik:
Delavnica NeurIPS24 o učenju vzročne reprezentacije
Avtorji:
Anastasios Manos, Despina Elisabeth Filippidou, Nikolaos Pavlidis, Georgios Karanasios, Georgios Vachtanidis, Arianna D’Ulizia
Povzetek:
Vzpon digitalnih platform je omogočil hitro širjenje dezinformacij, kar prinaša velike družbene, politične in gospodarske izzive. Grafi znanja se pojavljajo kot učinkovita orodja za izboljšanje natančnosti, razložljivosti in nadgradljivosti sistemov za odkrivanje lažnih novic, ki obravnavajo omejitve tradicionalnih pristopov, ki temeljijo na strojnem učenju in se opirajo predvsem na jezikovno analizo. To delo vsebuje pregled literature, ki povzema ugotovitve iz nedavnih študij o uporabi ključnih smernic pri odkrivanju dezinformacij. Ugotavljamo, kako KG-ji izboljšajo zaznavanje s kodiranjem resničnih odnosov, analizo konteksta in izboljšanjem interpretacije modela, hkrati pa razpravljamo o trenutnih omejitvah v nadgradljivosti, popolnosti podatkov in kontekstualni prilagodljivosti. Pregledane študije poudarjajo potrebo po prihodnjih raziskavah, osredotočenih na nadgradljive, medjezikovne modele KG v realnem času, da bi okrepili zmogljivosti za odkrivanje dezinformacij po vsem svetu. Poleg tega je Sodišče predstavilo predhodne rezultate dveh primerov uporabe, pri čemer je predstavilo metodologijo za oblikovanje ključnih smernic, ki so lahko koristno orodje za boj proti širjenju dezinformacij.
Vrsta objave:
Konferenčni dokument
Založnik:
Mednarodna konferenca o inženiringu in nastajajočih tehnologijah 2024 (ICEET)
Avtorji:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Povzetek:
V tem dokumentu je obravnavan večplasten odziv Evropske unije na vseprisotno vprašanje dezinformacij, tj. izziv, ki se je po priključitvi Krima leta 2014 še zaostril. Dezinformacije močno ogrožajo demokratične procese in javno blaginjo. Pristop Evropske unije za obravnavanje tega pojava združuje regulativne ukrepe, strateška partnerstva in pobude za medijsko pismenost, hkrati pa varuje temeljna demokratična načela, kot je svoboda izražanja. Ključni ukrepi vključujejo kodeks ravnanja glede dezinformacij in akt o digitalnih storitvah, katerih cilj je zagotoviti odgovornost digitalnih platform in preglednost. Poleg tega pobude, kot sta projektna skupina East StratCom in sistem hitrega obveščanja, poudarjajo prizadevanja Evropske unije za boj proti dezinformacijam kot orodju hibridnega vojskovanja. V tem dokumentu je poudarjena tudi ključna vloga državljanov, ki jih želi Evropska unija opolnomočiti s programi medijske pismenosti, da bi lahko prepoznali manipulativne vsebine in se jim uprli. Ta študija s preučitvijo interakcij med vladnimi ukrepi, vključevanjem zasebnega sektorja in državljanskim udejstvovanjem zagotavlja celovito analizo strategije Evropske unije proti dezinformacijam ter ocenjuje izzive in prihodnje usmeritve, potrebne za ohranjanje demokratične odpornosti v razvijajočem se digitalnem okolju.
Vrsta objave:
Znanstveni članek
Založnik:
Informacijska družba
Avtorji:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Povzetek:
Namen
Namen te študije je z multidisciplinarnim pristopom slediti poti dezinformacijskih kampanj od njihovega odkrivanja z jezikovnimi znaki verodostojnosti do spodbujanja prek mehanizmov razširjanja in nazadnje oceniti njihov vpliv na družbeno-politični okvir.
Oblikovanje/metodologija/pristop
Ta študija vsebuje poglobljen pregled štirih temeljnih vidikov dezinformacij: jezikovne značilnosti, po katerih se razlikujejo vsebine, namenjene zavajanju in manipulaciji javnega mnenja, medijski mehanizmi, ki omogočajo njihovo razširjanje z izkoriščanjem kognitivnih procesov občinstva, grožnje, ki jih predstavlja vse večja uporaba generativne umetne inteligence za širjenje dezinformacij, in širše posledice, ki jih ima ta dinamika dezinformacij na javno mnenje in posledično na postopke političnega odločanja.
Ugotovitve
Zato dokument zagotavlja interdisciplinarno in celostno obravnavo pojava, pri čemer se sklicuje na njegove pluralne elemente, da bi poudarili pomen odgovornosti platform, kampanj medijske pismenosti med državljani ter interaktivnega sodelovanja med zasebnim in javnim sektorjem kot ukrepov za povečanje odpornosti proti grožnji dezinformacij.
Izvirnost/vrednost
Študija poudarja potrebo po povečanju odgovornosti platform, spodbujanju medijske pismenosti med posamezniki ter razvoju sodelovanja med javnim in zasebnim sektorjem. Cilja te celovite strategije sta krepitev odpornosti proti dezinformacijam in zagotavljanje prilagodljivosti EU spreminjajočim se digitalnim grožnjam. Dokument se zavzema za pravično in odprto strategijo, ki varuje svobodo izražanja in krepi demokratične institucije v času, ko se širijo digitalne dezinformacije.
Vrsta objave:
Znanstveni članek
Založnik:
Časopis za informiranje, komuniciranje in etiko v družbi (2025)
Avtorji:
Eddie Conti, Alejandro Astruc, Álvaro Parafita, Axel Brando
Povzetek:
Razumevanje, kako se informacije širijo prek modelov transformatorjev, je ključni izziv za interpretacijo. V tem delu proučujemo učinke minimalnih motenj žetona na vgradni prostor. V naših poskusih analiziramo pogostost, katere žetoni prinašajo minimalne premike, pri čemer poudarjamo, da redki žetoni običajno vodijo do večjih premikov. Poleg tega proučujemo, kako se motnje širijo po plasteh, kar dokazuje, da se vhodne informacije vse bolj prepletajo v globljih plasteh. Naše ugotovitve potrjujejo splošno predpostavko, da se lahko prve plasti modela uporabijo kot približki za razlago modela. Na splošno to delo uvaja kombinacijo motenj žetona in premikov na vdelanem prostoru kot zmogljivo orodje za interpretacijo modela.
Vrsta objave:
Članek z delavnice
Založnik:
Delavnica IJCAI 2025 o umetni inteligenci, ki jo je mogoče razložiti
Avtorji:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Povzetek:
Dezinformacije so vedno bolj inducirane z uporabo spremenjenih ali popolnoma sintetično ustvarjenih realističnih vsebin, splošno znanih kot globoki ponaredki. Zato so potrebni zanesljivi instrumenti, ki lahko razkrijejo takšne lažne vsebine, da bi se izognili polarizaciji mišljenja ljudi. Predstavljene so bile različne tehnike, katerih skupni imenovalec je iskanje nekaterih nedoslednosti, ki jih povzroča proces lažne proizvodnje in so dokazane s preučevanjem posebnih značilnosti. Zdi se, da bi lahko morebitna kombinacija različnih posebnosti zagotovila učinkovitejše dosežke. V tem pogledu in po naši prejšnji študiji o tej zadevi predlagamo, da raziščemo novo funkcijo, ki v bistvu upošteva vgrajene odnose, ki obstajajo v celotnem prizoru pridobivanja v času zajema slike (video), nato pa jih predstavljajo vrednosti slikovnih pik. Zamisel je, da lahko proces nastajanja globokih ponaredkov prekine takšne notranje odvisnosti med osvetlitvijo (intenzivnost in smer), površinami predmetov (položaj in odbojnost) in hrupom pri pridobivanju, kar kaže na morebitno manipulacijo. V skladu s tem je bil izdelan opisnik značilnosti, imenovan lokalni deskriptor površine, ki se uporablja za usposabljanje modelov, ki temeljijo na CNN, za odkrivanje globokih ponaredkov. Eksperimentalni rezultati, izvedeni na različnih operativnih kontekstih, kažejo znatno natančnost zaznavanja do 90%.
Vrsta objave:
Konferenčni dokument
Založnik:
Mednarodna konferenca IEEE 2024 o izzivih in delavnicah obdelave slik (ICIPCW), Abu Dabi, Združeni arabski emirati, 2024
Avtorji:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Povzetek:
Dejanska zmogljivost ustvarjanja realističnih popolnoma sintetičnih slik z umetno inteligenco se iz dneva v dan izboljšuje, kar še posebej velja za slike, ki predstavljajo človeške obraze, ki se ne razlikujejo od resničnih ljudi. To pomeni, da je treba nujno razviti instrumente, s katerimi bo mogoče razlikovati med resničnimi in neobstoječimi ljudmi, in sicer z odkrivanjem nekaterih morebitnih nedoslednosti, vgrajenih v podobe med procesom ustvarjanja. Glavna razlika med neokrnjeno sliko in globokim ponaredkom je, da v drugem primeru ni bilo učinkovitega pridobivanja kamer; Tako vsa različna medsebojna razmerja med elementi, ki pripadajo sceni (luči, refleksija, položaji objektov v 3D prostoru), niso vzeta iz realnega sveta v točno določenem trenutku, ampak samo umetno reproducirana. V skladu s tem premislekom v tem delu uvajamo površinske okvirje lokalnih kamer kot možno sredstvo za predstavitev teh posebnih okoljskih značilnosti, da bi poudarili razlike. Opravljena eksperimentalna analiza je pokazala, da lahko ta funkcija zagotovi zelo visoko stopnjo natančnosti in znatno stopnjo posploševanja.
Vrsta objave:
Konferenčni dokument
Založnik:
Mednarodna konferenca IEEE 2024 o izzivih in delavnicah obdelave slik (ICIPCW), Abu Dabi, Združeni arabski emirati, 2024
Avtorji:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Povzetek:
Izjemne neresnične slike je mogoče realizirati s premišljenimi tehnikami umetne inteligence. Različna orodja, ki so na voljo vsakomur, lahko poustvarijo visokokakovostne vsebine, zlasti z ustvarjanjem celotnih popolnoma sintetičnih slik. Med obstoječimi arhitekturami lahko modeli, ki temeljijo na difuziji, zlahka ustvarijo vse vrste podob, vključno s podobami človeškega obraza, tako da dajo hitro kot besedilo. Takšne lažne vsebine se pogosto uporabljajo za širjenje dezinformacij, kar vzbuja zaskrbljenost glede varnosti ljudi. Trenutno je težko razviti zanesljive instrumente za razlikovanje med resničnimi in ustvarjenimi (tudi neobstoječimi) ljudmi. Poleg tega veliko število izvedb, ki temeljijo na difuziji, takim detektorjem povzroča težave pri posploševanju novih generativnih tehnik. Da bi rešili ta vprašanja, predlagamo, da preučimo zmožnost posebne značilnosti, ki temelji na okolju za pridobivanje slik, da loči podobe obraza, ki temeljijo na difuziji, od neokrnjenih. Dejansko ustvarjene slike ne bi smele vsebovati značilnosti, ki so primerne za fazo pridobivanja, izvedeno s pravo kamero. Takšne nedoslednosti je mogoče poudariti z nedavno uvedenimi lokalnimi površinskimi okvirji. Ta funkcija upošteva predmete in površine, vključene v prizor, ki vplivajo na proces pridobivanja kamere, skupaj z nadaljnjimi notranjimi informacijami, vezanimi na napravo, ter osvetlitvijo in odsevi, ki vplivajo na celoten scenarij. Članek raziskuje zmožnost te funkcije, da se posploši na različne nabore podatkov in nove generativne metode, ki med treningom niso znane. Eksperimentalni rezultati kažejo, da taka funkcija tudi v teh primerih še vedno zagotavlja znatne ravni natančnosti zaznavanja.
Vrsta objave:
Konferenčni dokument
Založnik:
Mednarodna konferenca IEEE 2024 o izzivih in delavnicah obdelave slik (ICIPCW), Abu Dabi, Združeni arabski emirati, 2024
Avtorji:
Álvaro Parafita, Tomas Garriga, Axel Brando, Francisco J. Cazorla
Povzetek:
Med tehnikami razložljivosti SHAP izstopa kot ena izmed najbolj priljubljenih, vendar pogosto spregleda vzročno strukturo problema. Do-SHAP v odgovor uporablja intervencijske poizvedbe, vendar njegovo zanašanje na ocene ovira njegovo praktično uporabo. Za rešitev tega problema predlagamo uporabo estimand-agnostičnih pristopov, ki omogočajo oceno katere koli prepoznavne poizvedbe iz enega samega modela, zaradi česar je do-SHAP izvedljiv na kompleksnih grafih. Razvijamo tudi nov algoritem za znatno pospešitev njegovega izračunavanja z zanemarljivimi stroški, pa tudi metodo za razlago nedostopnih procesov ustvarjanja podatkov. Prikazujemo oceno in računsko uspešnost našega pristopa ter ga validiramo na dveh realnih podatkovnih nizih, pri čemer poudarjamo njegov potencial pri pridobivanju zanesljivih razlag.
Vrsta objave:
Konferenčni dokument
Založnik:
Devetintrideseta letna konferenca o nevronskih sistemih za obdelavo informacij (NeurIPS 2025)
Avtorji:
Alamgir Munir Qazi, John Philip McCrae, Jamal Nasir
Povzetek:
Zaradi širjenja napačnih informacij so potrebni zanesljivi, vendar računalniško učinkoviti sistemi za preverjanje dejstev. Medtem ko sedanji najsodobnejši pristopi izkoriščajo velike jezikovne modele za ustvarjanje obrazložitvenih utemeljitev, se te metode soočajo s pomembnimi računalniškimi ovirami in halucinacijskimi tveganji pri uvajanju v resničnem svetu. Predstavljamo DeReC (Dense Retrieval Classification), lahek okvir, ki prikazuje, kako lahko vdelave besedila za splošne namene učinkovito nadomestijo avtoregresivne pristope, ki temeljijo na LLM, v nalogah preverjanja dejstev. Z združevanjem gosto pridobivanje s specializirano klasifikacijo, naš sistem doseže večjo natančnost, medtem ko je bistveno bolj učinkovit. DeReC prekaša LLM-je, ki ustvarjajo razlago v učinkovitosti, s čimer se čas delovanja zmanjša za 95% na RAWFC (23 minut 36 sekund v primerjavi s 454 minutami 12 sekund) in za 92% na LIAR-RAW (134 minut 14 sekund v primerjavi s 1692 minutami 23 sekund), ki prikazuje njegovo učinkovitost v različnih velikostih nabora podatkov. Na naboru podatkov RAWFC DeReC doseže oceno F1 65,58%, ki presega najsodobnejšo metodo L-Defense (61.20%). Naši rezultati kažejo, da lahko skrbno zasnovani sistemi, ki temeljijo na pridobivanju, ustrezajo ali presegajo zmogljivost LLM pri specializiranih nalogah, hkrati pa so bistveno bolj praktični za uporabo v resničnem svetu.
Vrsta objave:
Konferenčni dokument
Založnik:
5. konferenca o jeziku, podatkih in znanju
Avtorji:
Qiushi Li, Andrea Ciamarra, Roberto Caldelli in Stefano Berretti
Povzetek:
Sodišče je za nalogo MediaEval 2025 SynthIm Challenge Task A (Synthetic Image Detection) opredelilo kritični premik porazdelitve med zagotovljenimi podatki o usposabljanju in testih, zaradi česar so prvi slabo reprezentativni za ciljno področje. Naš pristop neposredno obravnava ta izziv z vključitvijo slogovno doslednejšega nabora validacij v naše vadbene podatke in uporabo zamrznjenega CLIP ViT-L/14 kot robustnega ekstraktorja funkcij. Naš glavni vpogled je, da v takšnih pogojih premika domene posplošljive predstavitve iz velikega predhodno usposobljenega modela znatno presegajo tradicionalni CNN, ki je natančno nastavljen na neskladen nabor podatkov, kar se je izkazalo za učinkovitejšo in zanesljivejšo strategijo.
Vrsta objave:
Konferenčni dokument
Založnik:
MediaEval“25: Delavnica za ocenjevanje multimedijskih vsebin, 25.–26. oktober 2025, Dublin, Irska in splet
Dostop na zahtevo
Avtorji:
Qiushi Li, Roberto Caldelli in Stefano Berretti
Povzetek:
Hiter napredek modelov za ustvarjanje slik, kot je Stable Diffusion, vzbuja pomisleke glede morebitne zlorabe, zaradi česar so zanesljive tehnike vodnega žiga bistvene za avtentikacijo in pripisovanje sintetične vsebine, zlasti v boju proti globokim ponaredkom. Hkrati pa je še vedno težko zagotoviti visokokakovostno ustvarjanje slik in natančno ekstrakcijo vodnega žiga. Z analizo obstoječih metod ugotavljamo kritično omejitev:
njihove funkcije izgube pogosto uporabljajo eno samo referenco (bodisi vhodno sliko bodisi čisto ustvarjeno sliko) za optimizacijo zvestobe slike, kar vodi do neoptimalne zmogljivosti. V tem članku smo izvedli poglobljeno študijo izraza izgube kakovosti slike pri vodnem žigu na osnovi difuzije. Z analizo različnih vplivov uporabe vhodne slike v primerjavi s čisto ustvarjeno sliko kot referenco med optimizacijo razkrivamo, da skupno upoštevanje obeh referenc bistveno izboljša robustnost in vizualno kakovost. Obsežni poskusi kažejo, da naš dvojni referenčni pristop dosega vrhunsko zmogljivost tako pri natančnosti ekstrakcije vodnega žiga kot pri zvestobi generaciji v primerjavi z eno-referenčnimi izhodišči. Zavzemamo se za to paradigmo za napredek zanesljivega vodnega žiga v generativnih modelih.
Vrsta objave:
Konferenčni dokument
Založnik:
DFF“25: Proceedings of the 1st on Deepfake Forensics Workshop (Zbornik 1. delavnice o forenziki globokih ponaredkov): Odkrivanje, pripisovanje, priznavanje in nasprotni izzivi v dobi medijev, ki jih ustvarja umetna inteligenca
Avtorji:
Josu Eguiluz Castañeira, Axel Brando, Migle Laukyte, Marc Serra-Vidal
Povzetek:
Umetna inteligenca zdaj prežema kritično infrastrukturo in sisteme odločanja, kjer neuspehi povzročajo družbeno, gospodarsko in demokratično škodo. Ta dokument o stališču izpodbija zakoreninjeno prepričanje, da so regulacija in inovacije nasprotja. Kot dokazujejo analogije iz letalstva, farmacevtskih izdelkov in sistemov socialnega varstva ter nedavni primeri sintetičnih napačnih informacij, pristranskosti in neodgovornega odločanja, je odsotnost dobro zasnovane ureditve že povzročila neizmerljivo škodo. Če je regulacija premišljena in prilagodljiva, ni ovira za inovacije – je njen temelj. V tem dokumentu o stališču je akt EU o umetni inteligenci preučen kot model ureditve, ki temelji na tveganju in odgovornosti ter obravnava Collingridgevo dilemo: ukrepanje dovolj zgodaj, da se prepreči škoda, vendar dovolj prožno, da se ohranijo inovacije. Njeni prilagoditveni mehanizmi – regulativni peskovniki, podpora malim in srednjim podjetjem (MSP), preizkušanje v praksi, ocena učinka na temeljne pravice – kažejo, kako lahko regulacija odgovorno pospeši tehnološki napredek, ne pa ga upočasni. V dokumentu o stališču je povzeto, kako orodja upravljanja preoblikujejo zaznana bremena v oprijemljive prednosti: pravna varnost, zaupanje potrošnikov in etična konkurenčnost. Na koncu dokument preoblikuje napredek: inovacije in predpisi napredujejo skupaj. Okvir EU z vključitvijo preglednosti, ocen učinka, odgovornosti in pismenosti na področju umetne inteligence v zasnovo in uvajanje opredeljuje, kaj odgovorne inovacije resnično pomenijo – tehnološke ambicije, urejene z demokratičnimi vrednotami in temeljnimi pravicami.
Vrsta objave:
Konferenčni dokument
Založnik:
Devetintrideseta letna konferenca o nevronskih sistemih za obdelavo informacij (NeurIPS 2025)
Avtor: Pascaline Gaborit
Povzetek:
V dobi globalne negotovosti je zaupanje postalo ključni dejavnik, ki oblikuje odnose med narodi, institucijami in posamezniki. Knjiga Trust, New Technologies and Geopolitics in an Uncertain World (Zaupanje, nove tehnologije in geopolitika v negotovem svetu) ponuja pravočasno in poglobljeno raziskovanje, kako se zaupanje preizkuša in preoblikuje v luči hitro spreminjajočih se geopolitičnih pokrajin. Knjiga obravnava najbolj pereča vprašanja našega časa, od krhkosti demokratičnih sistemov do izzivov, ki jih prinašajo nove tehnologije, umetna inteligenca, dezinformacije in podnebne spremembe. S preučevanjem presečišča zaupanja s ključnimi področji, kot so demokracije, trgovinske vojne in nove tehnologije, to delo zagotavlja dragocen vpogled za oblikovalce politik, znanstvenike in vse, ki želijo razumeti kompleksnost današnjega sveta. Ne glede na to, ali se ukvarjate s kibernetsko varnostjo, dezinformacijami, vplivom hibridnih groženj ali vlogo zaupanja v mednarodni diplomaciji, ta knjiga ponuja celovit, a dostopen okvir za spopadanje s temi izzivi. Pojasnjuje, kako je razumevanje zaupanja ključno za reševanje geopolitičnih negotovosti, ki opredeljujejo našo starost.
Vrsta objave:
Knjiga
Založnik:
Peter Lang Založnik
Avtor:
Eddie Conti, Álvaro Parafita, Axel Brando
Povzetek:
Ocenjevanje pomena posameznih značilnosti strojnega učenja je ključnega pomena za razumevanje postopka odločanja modela. Čeprav obstajajo številne metode, pomanjkanje dokončne resnice za primerjavo kaže na potrebo po alternativnih, dobro utemeljenih ukrepih. Ta članek uvaja novo post-hoc metodo lokalnega pomena značilnosti, imenovano porazdelitev hipotetičnega pomena (CID). Ustvarimo dva sklopa pozitivnih in negativnih hipotetičnih scenarijev, modeliramo njihove porazdelitve z oceno gostote jedra in razvrstimo značilnosti na podlagi merila porazdelitvene različnosti. Ta mera, ki temelji na strogem matematičnem okviru, izpolnjuje ključne lastnosti, potrebne za delovanje kot veljavna metrika. Učinkovitost naše metode prikazujemo s primerjavo z uveljavljenimi lokalnimi razlagalci pomembnosti značilnosti. Naša metoda ne ponuja le komplementarnih pogledov na obstoječe pristope, temveč tudi izboljšuje učinkovitost meritev zvestobe (tako za celovitost kot zadostnost), kar ima za posledico bolj zveste razlage sistema. Ti rezultati poudarjajo njegov potencial kot dragoceno orodje za analizo modelov.
Vrsta objave:
Konferenčni dokument
Založnik:
Konferenca o poglobljenem učenju Northern Lights 2026