Mokslinis Leidiniai
Autoriai:
Axel Brando, Lucas Berry, David Mege
Santrauka:
Generaciniai sklaidos modeliai, pasižymintys dideliu parametrų skaičiumi (daugiau kaip 100 mln.) ir eksploatavimu didelės dimensijos vaizdo erdvėse, kelia didelių iššūkių tradiciniams neapibrėžtumo vertinimo metodams dėl skaičiavimo poreikių. Šiame darbe pristatome novatorišką sistemą "Diffusion Ensembles for Capturing Uncertainty" (DECU), skirtą difuzijos modelių episteminiam neapibrėžtumui įvertinti. DECU sistema pristato naują metodą, kuris veiksmingai moko sąlyginės sklaidos modelių ansamblius, įtraukdamas statinį iš anksto apmokytų parametrų rinkinį, smarkiai sumažindamas skaičiavimo naštą ir parametrų, kuriuos reikia mokyti, skaičių. Be to, DECU naudoja porinius atstumo įverčius (PaiDE), kad tiksliai išmatuotų episteminę neapibrėžtį, įvertindamas abipusę informaciją tarp modelio išvedinių ir svorių didelės dimensijos erdvėse. Šios sistemos veiksmingumas įrodomas eksperimentais su „ImageNet“ duomenų rinkiniu, pabrėžiant jo gebėjimą užfiksuoti episteminę neapibrėžtį, ypač nepakankamai atrinktose vaizdo klasėse.
Paskelbimo rūšis:
Konferencijos dokumentas
Leidėjas:
40-oji konferencija "Neapibrėžtumas dirbtinio intelekto srityje"
Autoriai:
Coccomini D.A., Caldelli R., Gennaro C., Fiameni G., Amato G., Falchi F.
Santrauka:
Pastaruoju metu didėjantis sintetinės žiniasklaidos, vadinamos sintetine vaizdakaita, plitimas tapo įmanomas dėl sparčios dirbtinio intelekto technologijų, ypač giliojo mokymosi algoritmų, pažangos. Didėjantis susirūpinimas dėl didėjančio sintetinės sankaitos prieinamumo ir patikimumo paskatino mokslininkus sutelkti dėmesį į jų aptikimo metodų kūrimą. Šioje srityje ISTI CNR AIMH laboratorijos tyrėjai, bendradarbiaudami su kitų organizacijų tyrėjais, atliko mokslinius tyrimus, tyrimus ir projektus, kuriais siekiama prisidėti prie kovos su šia tendencija, ieškant naujų sprendimų ir grėsmių. Šiame straipsnyje apibendrinamos naujausios mūsų mokslininkų pastangos šioje srityje, bendradarbiaujant su kitomis institucijomis ir ekspertais.
Paskelbimo rūšis:
Konferencijos dokumentas
Leidėjas:
CEUR seminaro eiga
Autoriai:
Stanciu, Cristian ir Ionescu, Bogdan ir Cuccovillo, Luca ir Papadopoulos, Symeon ir Kordopatis-Zilos, Giorgos ir Popescu, Adrian ir Caldelli, Roberto
Santrauka:
Sintetinės žiniasklaidos generavimas ir manipuliavimas pastaraisiais metais sulaukė greitų reklamų, todėl vis lengviau kurti daugialypės terpės turinį, kuris yra neatskiriamas nuo žmogaus stebėtojo. Be to, sukurtas turinys gali būti piktavališkai naudojamas individų ir organizacijų siekiant skleisti dezinformaciją, keliančią didelę grėsmę visuomenei ir demokratijai. Todėl skubiai reikia DI priemonių, kuriomis būtų siekiama sudaryti palankesnes sąlygas savalaikiam ir veiksmingam žiniasklaidos tikrinimo procesui. MAD’24 praktiniu seminaru siekiama suburti įvairios kilmės žmones, kurie siekia kovoti su dezinformacija daugialypėje terpėje pasitelkiant DI, skatinant aplinką, kurioje būtų galima ieškoti novatoriškų idėjų ir dalytis patirtimi. Domėjimosi sritys apima manipuliavimo arba sukurto turinio nustatymą, taip pat dezinformacijos sklaidos ir jos poveikio visuomenei tyrimą. Pripažįstant daugialypės terpės svarbą, seminare pabrėžiama bendra įvairių turinio sąlygų analizė, nes patikrinimą galima pagerinti sujungiant įvairias turinio formas.
Paskelbimo rūšis:
Konferencijos dokumentas
Leidėjas:
3-ojo ACM tarptautinio seminaro dėl daugialypės terpės DI prieš dezinformaciją eiga
Autoriai:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Santrauka:
Žvelgiant į vaizdo įrašų seką, kurioje vaizduojamas priekinis asmuo, nebėra taip seniai. Sintetinė vaizdakaita iš esmės pakeitė mūsų požiūrį į tokį turinį ir šiandien mes dažniau esame įpratę stebėtis, ar tai, ką matome, yra tikra, ar tik mistifikacija. Atsižvelgiant į apibendrintą dezinformaciją, labai tikėtina, kad reikės patikimų sprendimų, kurie padėtų paprastiems naudotojams, o ne tik, įvertinti tokio pobūdžio vaizdo įrašų sekas. Šiame dokumente pristatomas naujas metodas, kuris naudoja laikinus paviršiaus rėmo anomalijas, kad atskleistų sintetinės sankaitos vaizdo įrašus. Metodas ieško galimų neatitikimų, kuriuos sukelia manipuliavimas sintetine sankaita, paviršiuose, priklausančiuose užfiksuotai scenai, ir jų evoliucijoje išilgai laiko ašies. Šios savybės naudojamos kaip giluminiais neuroniniais tinklais pagrįsto dujotiekio įvestis, kad būtų galima atlikti dvejetainį paties vaizdo įrašo vertinimą. Eksperimentiniai rezultatai rodo, kad taikant tokią metodiką galima pasiekti reikšmingų rezultatų aptikimo tikslumo požiūriu.
Paskelbimo rūšis:
Konferencijos dokumentas
Leidėjas:
2024 m. IEEE/CVF konferencija dėl kompiuterių vizijos ir modelių atpažinimo praktinių seminarų (CVPRW)
Autoriai:
Pascaline Gaborit
Santrauka:
Tarptautinės organizacijos daugiau nei dešimtmetį dezinformaciją laiko viena iš pagrindinių grėsmių demokratijai ir institucijoms. Skaitmeninės technologijos iš naujo išranda ir iš esmės pakeičia šiuolaikinę gyvenseną, piliečių ir verslo aplinką. Dirbtinis intelektas iš naujo sutrikdo tai, kaip mes gauname žinias ir kuriame, skleidžiame ir suprantame informaciją. Dėl to taip pat gali išnykti ribos tarp realios informacijos ir manipuliuojamos informacijos, atsirandant melagingoms naujienoms, automatiniams tinklams, kuriuose pateikiamos kryžminės nuorodos, ir dideliems informacijos srautams. DI sistemos didina galimybes kurti realistišką netikrą turinį ir vykdyti tikslines dezinformacijos kampanijas. Dezinformacija apima ne tik paprastus gandus, bet ir sąmoningai apgaudinėja ir iškraipo įrodymais pagrįstą informaciją per suklastotus duomenis. Europos institucijos taip pat neseniai daug dėmesio skyrė su užsienio vykdomu manipuliavimu informacija ir kišimusi susijusios dezinformacijos nustatymui: Užsienio manipuliavimas informacija ir kišimasis. Straipsnyje nurodomos su dezinformacija ir dirbtiniu intelektu susijusios tendencijos ir problemos. Jame nagrinėjamas dezinformacijos suvokimas, jos poveikis ir atsakomieji veiksmai, įskaitant ES DI aktą ir interneto platformų politiką. Jame pateikiamas pirmasis analitinis požiūris į šią temą, grindžiamas dabartinėmis tyrėjų diskusijomis, pirmosiomis mūsų 2024 m. apklausų išvadomis, interviu ir šimtų melagingų naujienų internete analize. Juo siekiama suprasti, kaip piliečiai ir suinteresuotieji subjektai suvokia dezinformaciją, ir nustatyti galimą poveikį. Jame taip pat analizuojami dabartiniai iššūkiai ir suvaržymai, galimybės ir apribojimai kovoti su manipuliavimu ir kišimusi. Straipsnyje aptariami dabartiniai dezinformacijos procesai ir poveikis (2), pristatomos pagrindinės mūsų internetinės apklausos dėl dezinformacijos suvokimo išvados (3), dabartinės ES reguliavimo priemonės (4) ir diskusijų punktai (5). Šiame straipsnyje teigiame, kad labai pasikeitė mūsų prieigos prie informacijos būdas, tačiau atsakas į dezinformaciją vis dar ankstyvame etape. Straipsnyje taip pat parodoma, kad Europos šalyse didėja informuotumas apie dezinformacijos poveikį, tačiau taip pat esama atotrūkio tarp gebėjimo atpažinti melagingas naujienas ir dezinformaciją ir riboto supratimo apie procesus, grėsmes ir subjektus, dalyvaujančius skleidžiant dezinformaciją.
Paskelbimo rūšis:
Žurnalas
Leidėjas:
Politikos mokslų ir tarptautinių santykių žurnalas
Autoriai:
Tomas Garriga, Gerard Sanz, Eduard Serrahima de Cambra, Axel Brando
Santrauka:
Šiame straipsnyje pristatome naują struktūrinių priežastinių modelių (SCM) ir pagrobimo-veiksmo-prognozės procedūros taikymą laiko eilučių nustatymui atsižvelgiant į realaus pasaulio problemą farmacijos pramonėje. Siekiame įvertinti vaisto, kuriam turėjo įtakos konkurento generinio vaisto patekimas į rinką, pardavimo apimties priešingos padėties scenarijus. Mes naudojame kodavimo dekoderiu pagrįstas architektūras, taikydami sąlyginį variacinį autokoderį ir taip pat įvesdami sąlyginius retus autokoderius, kurie niekada nebuvo naudojami priešingos padėties literatūroje. Pagal siūlomą metodiką reikalaujama, kad būtų prieinami istoriniai įvykiai ir laiko eilutės, kuriose įvykių nėra, o jos pranašumas yra tas, kad negalima pasikliauti kontrolės kintamaisiais, kurie gali būti neprieinami, kartu aiškiai viršijant bazinį prognozės priešingos padėties įvertį. Vertiname savo požiūrį naudodami savo įmonės realių pardavimų duomenų rinkinį, taip pat sintetinius ir pusiau sintetinius duomenų rinkinius, kurie imituoja problemos kontekstą ir rodo jos veiksmingumą. Sėkmingai pritaikėme šį modelį savo įmonėje, suteikdami naudingos informacijos verslo planavimui, investicijų paskirstymui ir tikslų nustatymui.
Paskelbimo rūšis:
Dirbtuvių straipsnis
Leidėjas:
NeurIPS’24 praktinis seminaras „Priežastinio atstovavimo mokymasis“
Autoriai:
Anastasios Manos, Despina Elisabeth Filippidou, Nikolaos Pavlidis, Georgios Karanasios, Georgios Vachtanidis, Arianna D’Ulizia
Santrauka:
Atsiradus skaitmeninėms platformoms buvo sudarytos palankesnės sąlygos sparčiai skleisti dezinformaciją, o tai kelia didelių socialinių, politinių ir ekonominių iššūkių. Žinių diagramos (KG) tampa veiksmingomis priemonėmis melagingų naujienų aptikimo sistemų tikslumui, interpretuojamumui ir išplečiamumui didinti, šalinant tradicinių mašininiu mokymusi grindžiamų metodų, kurie daugiausia grindžiami kalbine analize, apribojimus. Šiame darbe pateikiama literatūros apžvalga, kurioje apibendrinamos naujausių tyrimų dėl KG taikymo dezinformacijos aptikimui išvados. Mes nustatome, kaip KG pagerina aptikimą koduodami realius santykius, analizuodami kontekstą ir tobulindami modelių interpretavimą, taip pat aptardami dabartinius mastelio apribojimus, duomenų išsamumą ir kontekstinį pritaikomumą. Peržiūrėtuose tyrimuose pabrėžiamas poreikis ateityje atlikti mokslinius tyrimus, kuriuose daugiausia dėmesio būtų skiriama kintamo masto, realaus laiko ir daugiakalbiams KG modeliams, siekiant sustiprinti dezinformacijos aptikimo pajėgumus visame pasaulyje. Be to, pateikiame preliminarius dviejų naudojimo atvejų rezultatus, parodydami KG kūrimo metodiką, kuri gali būti naudinga priemonė kovojant su dezinformacijos plitimu.
Paskelbimo rūšis:
Konferencijos dokumentas
Leidėjas:
2024 m. Tarptautinė inžinerijos ir besiformuojančių technologijų konferencija (ICEET)
Autoriai:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Santrauka:
Šiame dokumente nagrinėjamas daugialypis Europos Sąjungos atsakas į plintančią dezinformacijos problemą – problemą, kuri sustiprėjo po Krymo aneksijos 2014 m. Dezinformacija kelia didelę grėsmę demokratiniams procesams ir visuomenės gerovei. Europos Sąjungos požiūris apima reguliavimo priemones, strategines partnerystes ir gebėjimo naudotis žiniasklaidos priemonėmis iniciatyvas, kuriomis siekiama kovoti su šiuo reiškiniu, kartu apsaugant pagrindinius demokratinius principus, pavyzdžiui, saviraiškos laisvę. Pagrindinės priemonės apima Kovos su dezinformacija praktikos kodeksą ir Skaitmeninių paslaugų aktą, kuriais siekiama užtikrinti skaitmeninių platformų atskaitomybę ir skaidrumą. Be to, tokiomis iniciatyvomis kaip Strateginės komunikacijos Rytų kaimynystės šalyse darbo grupė ir Skubių pranešimų sistema pabrėžiamos Europos Sąjungos pastangos kovoti su dezinformacija kaip hibridinio karo priemone. Šiame dokumente taip pat pabrėžiamas itin svarbus piliečių, kuriuos Europos Sąjunga siekia įgalinti pasitelkdama gebėjimo naudotis žiniasklaidos priemonėmis programas, vaidmuo, suteikiant jiems galimybę atpažinti manipuliacinį turinį ir jam pasipriešinti. Nagrinėjant vyriausybės veiksmų, privačiojo sektoriaus dalyvavimo ir piliečių dalyvavimo sąveiką, šiame tyrime pateikiama išsami Europos Sąjungos kovos su dezinformacija strategijos analizė ir įvertinami iššūkiai bei būsimos kryptys, kurių reikia siekiant išlaikyti demokratinį atsparumą kintančioje skaitmeninėje aplinkoje.
Paskelbimo rūšis:
Mokslinis straipsnis
Leidėjas:
Informacijos politika
Autoriai:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Santrauka:
Tikslas
Taikant daugiadalykį požiūrį, šiuo tyrimu siekiama atsekti dezinformacijos kampanijų kelią nuo jų nustatymo kalbiniais patikimumo ženklais iki tolesnės veiklos pasitelkiant sklaidos mechanizmus ir galiausiai įvertinti jų poveikį socialiniam ir politiniam kontekstui.
Projektavimas/metodika/požiūris
Šiame tyrime išsamiai apžvelgiami keturi pagrindiniai dezinformacijos aspektai: kalbinius ypatumus, pagal kuriuos atskiriamas turinys, skirtas viešajai nuomonei apgauti ir ja manipuliuoti, žiniasklaidos mechanizmus, kurie palengvina jos sklaidą išnaudojant auditorijos kognityvinius procesus, grėsmes, kurias kelia vis dažnesnis generatyvinio dirbtinio intelekto naudojimas dezinformacijai skleisti, ir platesnes šios dezinformacijos dinamikos pasekmes viešajai nuomonei, taigi ir politinių sprendimų priėmimo procesams.
Nustatyti faktai
Todėl dokumente pateikiamas tarpdisciplininis ir holistinis šio reiškinio nagrinėjimas, nurodant jo daugialypius elementus, siekiant pabrėžti platformų atsakomybės, piliečių gebėjimo naudotis žiniasklaidos priemonėmis kampanijų ir interaktyvaus privačiojo ir viešojo sektorių bendradarbiavimo, kaip priemonių atsparumui dezinformacijos grėsmei didinti, svarbą.
Originalumas / vertė
Tyrime pabrėžiama, kad reikia didinti platformų atskaitomybę, skatinti asmenų gebėjimą naudotis žiniasklaidos priemonėmis ir plėtoti viešojo ir privačiojo sektorių bendradarbiavimą. Šios integruotos strategijos tikslai – didinti atsparumą dezinformacijai ir užtikrinti ES gebėjimą prisitaikyti prie kintančių skaitmeninių grėsmių. Galiausiai dokumente pasisakoma už sąžiningą ir atvirą strategiją, kuria būtų saugoma saviraiškos laisvė ir stiprinamos demokratinės institucijos tuo metu, kai daugėja skaitmeninės dezinformacijos.
Paskelbimo rūšis:
Mokslinis straipsnis
Leidėjas:
Žurnalas "Informacija, komunikacija ir etika visuomenėje" (2025 m.)
Autoriai:
Eddie Conti, Alejandro Astruc, Álvaro Parafita, Axel Brando
Santrauka:
Supratimas, kaip informacija skleidžiama naudojant transformatoriaus modelius, yra pagrindinis aiškinimo iššūkis. Šiame darbe mes tiriame minimalių simbolinių trikdžių poveikį įterpimo erdvei. Savo eksperimentuose analizuojame, kokiu dažnumu žetonai pasiekia minimalius poslinkius, pabrėždami, kad reti žetonai paprastai sukelia didesnius poslinkius. Be to, mes tiriame, kaip trikdžiai plinta tarp sluoksnių, parodydami, kad įvesties informacija vis labiau susimaišo gilesniuose sluoksniuose. Mūsų išvados patvirtina bendrą prielaidą, kad pirmieji modelio lygmenys gali būti naudojami kaip modelio paaiškinimų pakaitiniai rodikliai. Apskritai šiame darbe pristatomas simbolinių trikdžių ir poslinkių derinys įterpimo erdvėje, kaip galinga modelio interpretavimo priemonė.
Paskelbimo rūšis:
Dirbtuvių straipsnis
Leidėjas:
2025 m. IJCAI praktinis seminaras dėl paaiškinamo dirbtinio intelekto
Autoriai:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Santrauka:
Dezinformacija visada labiau skatinama naudojant pakeistą arba visiškai sintetiniu būdu sukurtą realistišką turinį, paprastai vadinamą sintetine vaizdakaita. Todėl reikia patikimų priemonių, kuriomis būtų galima atskleisti tokį netikrą turinį, kad būtų išvengta asmenų mąstymo poliarizacijos. Buvo pristatyti įvairūs metodai, kurių bendras vardiklis yra ieškoti tam tikrų nenuoseklumų, atsiradusių dėl netikro generavimo proceso ir įrodytų atsižvelgiant į konkrečias savybes. Atrodo, kad galimas įvairių skiriamųjų bruožų derinys galėtų užtikrinti veiksmingesnius pasiekimus. Atsižvelgdami į tai ir remdamiesi savo ankstesniu tyrimu šiuo klausimu, siūlome ištirti naują funkciją, kuri iš esmės atsižvelgia į įmontuotus santykius, egzistuojančius visoje įsigijimo scenoje vaizdo (vaizdo) fiksavimo metu ir tada vaizduojamus vaizdo pikselių reikšmėmis. Idėja yra ta, kad sintetinės sankaitos generavimo procesas gali nutraukti tokias esmines priklausomybes tarp apšvietimo (intensyvumo ir krypties), objektų paviršių (pozicijos ir atspindžio) ir įgijimo triukšmo, taip įrodydamas galimą manipuliavimą. Remiantis tuo, buvo sukurtas ir naudojamas funkcijos deskriptorius, pavadintas vietiniu paviršiaus deskriptoriumi, skirtas mokyti CNN pagrįstus modelius sintetinės sankaitos aptikimui. Eksperimentiniai rezultatai, atlikti įvairiomis operatyvinėmis aplinkybėmis, rodo didelį aptikimo tikslumą iki 90%.
Paskelbimo rūšis:
Konferencijos dokumentas
Leidėjas:
2024 m. IEEE tarptautinė konferencija „Image Processing Challenges and Workshops“ (ICIPCW), Abu Dabis (Jungtiniai Arabų Emyratai), 2024 m.
Autoriai:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Santrauka:
Faktinis gebėjimas dirbtiniu intelektu sukurti tikroviškus visiškai sintetinius vaizdus kasdien tobulėja, ir tai ypač pasakytina apie vaizdus, vaizduojančius žmonių veidus, kurie atrodo neatskiriami nuo realių žmonių. Dėl to kyla esminis poreikis sukurti priemones, kuriomis būtų galima atskirti tikrus ir neegzistuojančius žmones, nustatant kai kuriuos galimus nesuderinamumus, įterptus į vaizdus kūrimo proceso metu. Pagrindinis skirtumas tarp nesugadintos nuotraukos ir sukurtos sintetinės sankaitos yra tas, kad antruoju atveju nebuvo veiksmingo fotoaparato įsigijimo; Taigi visi įvairūs tarpusavio ryšiai tarp scenos elementų (šviesa, atspindys, objekto atitinkamos pozicijos 3D erdvėje) nėra realiame pasaulyje tuo tiksliu laiko momentu, bet tiesiog dirbtinai atkuriami. Atsižvelgiant į tai, šiame darbe pristatome vietinius fotoaparato paviršiaus rėmus kaip galimą priemonę, atspindinčią šias specifines aplinkos charakteristikas, siekiant pabrėžti skirtumus. Atlikta eksperimentinė analizė parodė, kad ši savybė gali suteikti labai aukštą tikslumo lygį ir didelį apibendrinimo laipsnį.
Paskelbimo rūšis:
Konferencijos dokumentas
Leidėjas:
2024 m. IEEE tarptautinė konferencija „Image Processing Challenges and Workshops“ (ICIPCW), Abu Dabis (Jungtiniai Arabų Emyratai), 2024 m.
Autoriai:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Santrauka:
Neįprasti nerealūs vaizdai gali būti realizuojami naudojant pow-erful dirbtinio intelekto metodus. Įvairūs įrankiai, prieinami visiems, gali atkurti aukštos kokybės turinį, ypač generuoti visiškai sintetinius vaizdus. Tarp esamų architektūrų, difuzija pagrįsti modeliai gali lengvai sukurti bet kokius vaizdus, įskaitant žmogaus veido atvaizdus, pateikdami tokį raginimą kaip tekstas. Toks klaidingas turinys dažnai naudojamas dezinformacijai skleisti, o tai kelia susirūpinimą dėl žmonių saugumo. Šiuo metu vis sunkiau sukurti patikimas priemones, kuriomis būtų galima atskirti realius ir sukurtus (net ir neegzistuojančius) žmones. Be to, dėl didelio difuzija grindžiamų įdiegimų kiekio kyla problema, kad tokie detektoriai apibendrintai naudoja naujus generatyvinius metodus. Norėdami išspręsti šias problemas, siūlome ištirti skiriamojo požymio gebėjimą, pagrįstą vaizdo įgijimo aplinka, atskirti difuzija pagrįstus veido vaizdus nuo senovinių. Tiesą sakant, sukurtuose vaizduose neturėtų būti savybių, kurios yra tinkamos įsigijimo etapui, atliekamam per tikrą fotoaparatą. Tokie neatitikimai gali būti išryškinti neseniai įdiegus vietinius paviršiaus rėmus. Ši funkcija atsižvelgia į scenoje esančius objektus ir paviršius, kurie visi turi įtakos fotoaparato įsigijimo procesui, taip pat į tolesnę vidinę informaciją, susietą su prietaisu, taip pat apšvietimą ir atspindžius, turinčius įtakos visam scenarijui. Straipsnyje nagrinėjamas šios funkcijos gebėjimas apibendrinti skirtingus duomenų rinkinius ir naujus generatyvinius metodus, nežinomus mokymo metu. Eksperimentiniai rezultatai rodo, kad tokia funkcija vis dar užtikrina didelį aptikimo tikslumą ir šiais atvejais.
Paskelbimo rūšis:
Konferencijos dokumentas
Leidėjas:
2024 m. IEEE tarptautinė konferencija „Image Processing Challenges and Workshops“ (ICIPCW), Abu Dabis (Jungtiniai Arabų Emyratai), 2024 m.
Autoriai:
Álvaro Parafita, Tomas Garriga, Axel Brando, Francisco J. Cazorla
Santrauka:
Tarp paaiškinamumo metodų SHAP išsiskiria kaip vienas iš populiariausių, tačiau dažnai nepastebi problemos priežastinės struktūros. Reaguodama į tai, "do-SHAP" naudoja intervencines užklausas, tačiau jos priklausomybė nuo įverčių trukdo ją praktiškai taikyti. Norėdami išspręsti šią problemą, siūlome naudoti vertinimo ir agnostikos metodus, kurie leidžia įvertinti bet kokią identifikuojamą užklausą iš vieno modelio, todėl "do-SHAP" yra įmanomas sudėtingose diagramose. Mes taip pat kuriame naują algoritmą, kad gerokai paspartintume jo skaičiavimą nedidelėmis sąnaudomis, taip pat metodą, skirtą paaiškinti neprieinamus duomenų generavimo procesus. Mes parodome mūsų metodo vertinimo ir skaičiavimo efektyvumą ir patvirtiname jį dviejuose realaus pasaulio duomenų rinkiniuose, pabrėždami jo potencialą gauti patikimus paaiškinimus.
Paskelbimo rūšis:
Konferencijos dokumentas
Leidėjas:
Trisdešimt devintoji metinė konferencija dėl neuroninių informacijos apdorojimo sistemų (NeurIPS 2025)
Autoriai:
Alamgir Munir Qazi, John Philip McCrae, Jamal Nasir
Santrauka:
Dėl klaidingos informacijos plitimo būtinos patikimos, tačiau skaičiavimo požiūriu veiksmingos faktų tikrinimo sistemos. Nors taikant dabartinius pažangiausius metodus naudojami dideli kalbos modeliai (angl. Large Language Models, LLM) aiškinamiesiems pagrindimams kurti, diegiant šiuos metodus realiomis sąlygomis susiduriama su didelėmis skaičiavimo kliūtimis ir haliucinacijų rizika. Mes pristatome "DeReC" (tankios paieškos klasifikaciją), lengvą sistemą, kuri parodo, kaip bendrosios paskirties teksto įterpimai gali veiksmingai pakeisti autoregresyvius LLM pagrįstus metodus. Derinant tankią paiešką su specializuota klasifikacija, mūsų sistema pasiekia didesnį tikslumą ir yra žymiai efektyvesnė. "DeReC" pranoksta paaiškinimus generuojančius LLM efektyvumo srityje, sumažindama veikimo trukmę 95% RAWFC (23 minutės 36 sekundės, palyginti su 454 minutėmis 12 sekundžių) ir 92% LIAR-RAW (134 min. 14 sek., palyginti su 1692 min. 23 sek.), demonstruojant jo efektyvumą įvairaus dydžio duomenų rinkiniuose. Dėl RAWFC duomenų rinkinio, DeReC pasiekia F1 balą 65,58%, pranokstantis moderniausią L-Defense metodą (61.20)%). Mūsų rezultatai rodo, kad kruopščiai suprojektuotos paieškos sistemos gali atitikti arba viršyti LLM našumą specializuotose užduotyse, tuo pačiu metu yra daug praktiškesnės realiame pasaulyje.
Paskelbimo rūšis:
Konferencijos dokumentas
Leidėjas:
5-oji konferencija "Kalba, duomenys ir žinios"
Autoriai:
Qiushi Li, Andrea Ciamarra, Roberto Caldelli ir Stefano Berretti
Santrauka:
Kalbant apie „MediaEval 2025 SynthIm Challenge Task A“ (Synthetic Image Detection), nustatėme kritinį pateiktų mokymo ir bandymų duomenų pasiskirstymo poslinkį, dėl kurio pirmasis buvo prastas tikslinės srities atstovas. Mūsų požiūris tiesiogiai sprendžia šį iššūkį, įtraukdamas stilistiškai nuoseklesnį patvirtinimo rinkinį į mūsų mokymo duomenis ir naudodamas įšaldytą CLIP ViT-L/14 kaip tvirtą funkcijų ištraukiklį. Mūsų pagrindinė įžvalga yra ta, kad tokiomis domeno keitimo sąlygomis apibendrintos reprezentacijos iš didelio iš anksto apmokyto modelio gerokai pranoksta tradicinį CNN, pritaikytą neatitinkančiam duomenų rinkiniui, ir pasirodo, kad tai yra veiksmingesnė ir patikimesnė strategija.
Paskelbimo rūšis:
Konferencijos dokumentas
Leidėjas:
MediaEval’25: Multimedijos vertinimo praktinis seminaras, 2025 m. spalio 25–26 d., Dublinas, Airija ir internetas
Prieiga pateikus prašymą
Autoriai:
Qiushi Li, Roberto Caldelli ir Stefano Berretti
Santrauka:
Sparti vaizdo generavimo modelių, pvz., „Stable Diffusion“, pažanga kelia susirūpinimą dėl galimo netinkamo naudojimo, todėl patikimi vandens ženklinimo metodai yra labai svarbūs sintetinio turinio autentiškumo patvirtinimui ir priskyrimui, visų pirma kovojant su sintetine vaizdakaita. Tačiau kartu užtikrinti aukštos kokybės vaizdo generavimą ir tikslų vandens ženklų išgavimą tebėra sudėtinga. Analizuodami esamus metodus, mes nustatome kritinį apribojimą:
jų praradimo funkcijos dažnai naudoja vieną nuorodą (įvesties vaizdą arba švariai sukurtą vaizdą), kad optimizuotų vaizdo tikslumą, todėl našumas yra neoptimalus. Šiame dokumente mes atliekame išsamų vaizdo kokybės praradimo termino difuzijos pagrindu vandenženklyje tyrimą. Analizuodami skirtingus įvesties vaizdo naudojimo poveikius lyginant su švariu sukurtu vaizdu kaip nuorodomis optimizavimo metu, atskleidžiame, kad kartu atsižvelgiant į abi nuorodas žymiai pagerinamas patvarumas ir vaizdo kokybė. Platūs eksperimentai rodo, kad mūsų dviejų etalonų metodas pasiekia puikų našumą tiek vandens ženklų ekstrahavimo tikslumu, tiek generavimo tikslumu, palyginti su vienetinėmis bazinėmis vertėmis. Mes pasisakome už šią paradigmą, kad būtų skatinamas patikimas vandens ženklinimas generatyviniuose modeliuose.
Paskelbimo rūšis:
Konferencijos dokumentas
Leidėjas:
DFF 25: 1-ojo sintetinės vaizdakaitos teismo ekspertizės seminaro eiga: Aptikimo, priskyrimo, pripažinimo ir prieštaravimų iššūkiai dirbtinio intelekto sukurtų medijų eroje
Autoriai:
Josu Eguiluz Castañeira, Axel Brando, Migle Laukyte, Marc Serra-Vidal
Santrauka:
Dirbtinis intelektas (DI) dabar skverbiasi į ypatingos svarbos infrastruktūros objektus ir sprendimų priėmimo sistemas, kuriose gedimai daro socialinę, ekonominę ir demokratinę žalą. Šiame pozicijos dokumente ginčijamas įsigalėjęs įsitikinimas, kad reguliavimas ir inovacijos yra priešingi dalykai. Kaip matyti iš aviacijos, farmacijos ir gerovės sistemų analogijų ir naujausių sintetinės klaidingos informacijos, šališkumo ir neatskaitingo sprendimų priėmimo atvejų, tinkamai parengto reglamentavimo nebuvimas jau padarė neišmatuojamą žalą. Reguliavimas, kai jis apgalvotas ir prisitaikantis, nestabdo inovacijų – jis yra jo pagrindas. Šiame pozicijos dokumente ES DI aktas nagrinėjamas kaip rizika grindžiamo, atsakomybe grindžiamo reglamentavimo modelis, kuriuo sprendžiama Collingridge dilema: veikti pakankamai anksti, kad būtų išvengta žalos, tačiau pakankamai lanksčiai, kad būtų palaikomos inovacijos. Jos prisitaikymo mechanizmai – apribotos bandomosios reglamentavimo aplinkos, parama mažosioms ir vidutinėms įmonėms (MVĮ), bandymai realiomis sąlygomis, poveikio pagrindinėms teisėms vertinimas (FRIA) – rodo, kaip reglamentavimas gali atsakingai paspartinti, o ne vilkinti technologinę pažangą. Pozicijos dokumente apibendrinama, kaip valdymo priemonėmis suvokiama našta paverčiama apčiuopiama nauda: teisinio tikrumo, vartotojų pasitikėjimo ir etinio konkurencingumo. Galiausiai dokumente apžvelgiama pažanga: kartu skatinti inovacijas ir reglamentavimą. Į projektavimą ir diegimą įtraukdama skaidrumą, poveikio vertinimus, atskaitomybę ir raštingumą DI srityje, ES sistema apibrėžia, ką iš tiesų reiškia atsakingos inovacijos – demokratinių vertybių ir pagrindinių teisių puoselėjamus technologinius užmojus.
Paskelbimo rūšis:
Konferencijos dokumentas
Leidėjas:
Trisdešimt devintoji metinė konferencija dėl neuroninių informacijos apdorojimo sistemų (NeurIPS 2025)
Autorius: Pascaline Gaborit
Santrauka:
Pasaulinio neapibrėžtumo eroje pasitikėjimas tapo lemiamu veiksniu, formuojančiu tautų, institucijų ir asmenų santykius. Ši knyga, Pasitikėjimas, naujos technologijos ir geopolitika neapibrėžtame pasaulyje, siūlo laiku ir išsamiai ištirti, kaip pasitikėjimas yra išbandomas ir transformuojamas sparčiai besikeičiančių geopolitinių kraštovaizdžių akivaizdoje. Nuo demokratinių sistemų pažeidžiamumo iki iššūkių, kuriuos kelia naujos technologijos, dirbtinis intelektas, dezinformacija ir klimato kaita, šioje knygoje aptariamos aktualiausios mūsų laikų problemos. Išnagrinėjus pasitikėjimo sąsajas su pagrindinėmis sritimis, pavyzdžiui, demokratija, prekybos karais ir naujomis technologijomis, šis darbas suteikia vertingų įžvalgų politikos formuotojams, mokslininkams ir visiems, norintiems suprasti šiuolaikinio pasaulio sudėtingumą. Nesvarbu, ar jums rūpi kibernetinis saugumas, dezinformacija, hibridinių grėsmių poveikis, ar pasitikėjimo tarptautine diplomatija vaidmuo, šioje knygoje pateikiama išsami, tačiau prieinama sistema šiems iššūkiams įveikti. Jame paaiškinama, kaip supratimas apie pasitikėjimą yra labai svarbus sprendžiant geopolitinius neaiškumus, kurie apibrėžia mūsų amžių.
Paskelbimo rūšis:
Knyga
Leidėjas:
Peter Lang Leidėjas
Autorius:
Eddie Conti, Álvaro Parafita, Axel Brando
Santrauka:
Norint suprasti modelio sprendimų priėmimo procesą, labai svarbu įvertinti atskirų mašinų mokymosi ypatybių svarbą. Nors yra daug metodų, tai, kad nėra galutinio pagrindo, kuriuo remiantis būtų galima atlikti palyginimą, rodo, kad reikia alternatyvių, tinkamai pagrįstų priemonių. Šiame dokumente pristatomas naujas post-hoc vietos ypatybių svarbos metodas, vadinamas priešingos padėties svarbos pasiskirstymu (CID). Sukuriame du teigiamų ir neigiamų priešingos padėties scenarijų rinkinius, modeliuojame jų pasiskirstymą naudodami branduolio tankio įvertį ir vertiname savybes pagal pasiskirstymo nepanašumo matą. Ši priemonė, pagrįsta griežta matematine sistema, atitinka pagrindines savybes, reikalingas norint veikti kaip galiojanti metrika. Mes parodome mūsų metodo efektyvumą, palygindami jį su nusistovėjusiais vietiniais funkcijų svarbos paaiškinimais. Mūsų metodas ne tik suteikia papildomų perspektyvų esamiems metodams, bet ir pagerina ištikimybės metrikų (tiek išsamumo, tiek pakankamumo) veikimą, todėl sistemos paaiškinimai yra tikslesni. Šie rezultatai pabrėžia jos, kaip vertingos modelio analizės priemonės, potencialą.
Paskelbimo rūšis:
Konferencijos dokumentas
Leidėjas:
"Northern Lights" giliojo mokymosi konferencija 2026