Zinātniskie pētījumi Publikācijas
Autori:
Axel Brando, Lucas Berry, David Mege
Kopsavilkums:
Ģeneratīvie difūzijas modeļi, kam raksturīgs liels parametru skaits (vairāk nekā 100 miljoni) un darbība augstdimensionālās attēlu telpās, rada ievērojamas problēmas tradicionālajām nenoteiktības aplēšu metodēm skaitļošanas prasību dēļ. Šajā darbā mēs ieviešam inovatīvu sistēmu Diffusion Ensembles for Capturing Uncertainty (DECU), kas paredzēta epistemiskās nenoteiktības aplēšanai difūzijas modeļiem. DECU sistēma ievieš jaunu metodi, kas efektīvi apmāca nosacītās difūzijas modeļu ansambļus, iekļaujot statisku iepriekš apmācītu parametru kopumu, krasi samazinot skaitļošanas slogu un to parametru skaitu, kuriem nepieciešama apmācība. Turklāt DECU izmanto pairwise-Distance Estimators (PaiDEs), lai precīzi izmērītu epistemisko nenoteiktību, novērtējot savstarpējo informāciju starp modeļa izvadēm un svariem augstdimensionālās telpās. Šīs sistēmas efektivitāti pierāda eksperimenti ar ImageNet datu kopu, uzsverot tās spēju uztvert epistētisku nenoteiktību, jo īpaši nepietiekami atlasītās attēlu klasēs.
Publikācijas veids:
Konferences dokuments
Izdevējs:
Konference par neskaidrību mākslīgā intelekta jomā
Autori:
Coccomini D.A., Caldelli R., Gennaro C., Fiameni G., Amato G., Falchi F.
Kopsavilkums:
Pēdējā laikā mākslīgā intelekta tehnoloģiju, jo īpaši dziļās mācīšanās algoritmu, straujā attīstība ir ļāvusi arvien vairāk izplatīt sintētiskos medijus, kas pazīstami kā dziļviltojumi. Pieaugošās bažas par dziļviltojumu pieaugošo pieejamību un ticamību ir mudinājušas pētniekus koncentrēties uz metožu izstrādi to atklāšanai. Šajā jomā ISTI CNR AIMH Lab pētnieki sadarbībā ar pētniekiem no citām organizācijām ir veikuši pētījumus, izmeklēšanu un projektus, lai palīdzētu apkarot šo tendenci, pētot jaunus risinājumus un draudus. Šajā rakstā apkopoti jaunākie centieni, ko šajā jomā veikuši mūsu pētnieki sadarbībā ar citām iestādēm un ekspertiem.
Publikācijas veids:
Konferences dokuments
Izdevējs:
CEUR darbsemināra procedūras
Autori:
Stanciu, Cristian un Ionescu, Bogdan un Cuccovillo, Luca un Papadopoulos, Symeon un Kordopatis-Zilos, Giorgos un Popescu, Adrian un Caldelli, Roberto
Kopsavilkums:
Sintētisko mediju veidošana un manipulācijas pēdējos gados ir piedzīvojušas straujus pavērsienus, padarot arvien vieglāku multivides satura radīšanu, kas nav atšķirams no cilvēka novērotāja. Turklāt ģenerēto saturu var ļaunprātīgi izmantot individuāļi un organizācijas, lai izplatītu dezinformāciju, kas rada būtiskus draudus sabiedrībai un demokrātijai. Tāpēc ir steidzami vajadzīgi MI rīki, kas vērsti uz to, lai atvieglotu savlaicīgu un efektīvu mediju verifikācijas procesu. MAD’24 darbsemināra mērķis ir pulcēt cilvēkus ar dažādu izcelsmi, kuri ir veltīti dezinformācijas apkarošanai multividē, izmantojot MI, veicinot vidi inovatīvu ideju izpētei un pieredzes apmaiņai. Interešu pētniecības jomas ietver manipulēta vai ģenerēta satura identificēšanu, kā arī dezinformācijas izplatīšanas un tās sociālo seku izmeklēšanu. Atzīstot multivides nozīmi, darbseminārs uzsver dažādu modalitāšu kopīgu analīzi saturā, jo verifikāciju var uzlabot, apkopojot vairākas satura formas.
Publikācijas veids:
Konferences dokuments
Izdevējs:
ACM 3. starptautiskā semināra “Multimediju mākslīgais intelekts pret dezinformāciju” darbseminārs
Autori:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Kopsavilkums:
Aplūkojot video secību, kurā ir attēlota priekšplāna persona, vairs nav tik sen. Dziļviltojumi ir radikāli mainījuši mūsu veidu, kā skatīties uz šādu saturu, un mūsdienās mēs biežāk esam pieraduši brīnīties, vai tas, ko mēs redzam, ir īsts vai tikai mistifikācija. Šajā vispārējās dezinformācijas kontekstā ļoti gaidāmi uzticami risinājumi, kas palīdzētu kopīgajiem lietotājiem ne tikai novērtēt šāda veida videosekvences. Šajā dokumentā ir ieviesta jauna pieeja, kas izmanto laika virsmas rāmja anomālijas, lai atklātu dziļviltotus videoklipus. Ar šo metodi tiek meklētas iespējamās nesakritības, ko izraisa dziļviltošanas manipulācijas, uztvertās ainas virsmās un to evolūcijā pa laika asi. Šīs funkcijas tiek izmantotas kā cauruļvada ievade, pamatojoties uz dziļiem neironu tīkliem, lai veiktu paša video bināro novērtējumu. Eksperimentālie rezultāti liecina, ka šāda metodika var sasniegt ievērojamus rezultātus atklāšanas precizitātes ziņā.
Publikācijas veids:
Konferences dokuments
Izdevējs:
2024. gada IEEE/CVF konference par datorredzi un modeļu atpazīšanas darbsemināriem (CVPRW)
Autori:
Paskalīna gaborita
Kopsavilkums:
Vairāk nekā desmit gadus starptautiskas organizācijas dezinformāciju klasificē kā vienu no galvenajiem draudiem demokrātijai un iestādēm. Digitālās tehnoloģijas no jauna izgudro un būtiski pārveido mūsdienīgu dzīvesveidu, iedzīvotāju un uzņēmējdarbības vidi. Mākslīgais intelekts rada jaunus traucējumus veidā, kādā mēs piekļūstam zināšanām un veidojam, izplatām un izprotam informāciju. Tas var arī padarīt neskaidras robežas starp reālu informāciju un manipulētu informāciju, parādoties “viltus ziņām”, automātiskajām tīklu savstarpējām atsaucēm un “dziļviltojumiem”. MI sistēmas palielina potenciālu radīt reālistisku viltus saturu un mērķtiecīgas dezinformācijas kampaņas. Dezinformācija pārsniedz vienkāršas baumas, lai apzināti maldinātu un izkropļotu uz pierādījumiem balstītu informāciju, izmantojot safabricētus datus. Eiropas iestādes nesen pievērsās arī ar FIMI saistītas dezinformācijas identificēšanai: Ārvalstu informācijas manipulācija un iejaukšanās. Rakstā ir norādītas tendences un bažas, kas saistītas ar dezinformāciju un mākslīgo intelektu. Tajā pētīta dezinformācijas uztvere, tās ietekme un atbildes pasākumi, tostarp ES Mākslīgā intelekta akts un tiešsaistes platformu politika. Tas nodrošina pirmo analītisko pieeju šim tematam, pamatojoties uz pašreizējām pētnieku debatēm, mūsu 2024. gada aptauju pirmajiem konstatējumiem, intervijām un simtiem viltus ziņu tiešsaistē analīzi. Tajā mēģināts saprast, kā iedzīvotāji un ieinteresētās personas uztver dezinformāciju, un apzināt iespējamo ietekmi. Tajā analizētas arī pašreizējās problēmas un ierobežojumi, iespējas un ierobežojumi cīņā pret manipulācijām un iejaukšanos. Rakstā aplūkoti pašreizējie procesi un dezinformācijas ietekme (2), izklāstīti galvenie konstatējumi mūsu tiešsaistes aptaujā par dezinformācijas uztveri (3), pašreizējās ES regulatīvās atbildes (4) un diskusiju punkti (5). Šajā rakstā mēs apgalvojam, ka veids, kādā mēs piekļūstam informācijai, ir gigantiski mainījies, bet reakcija uz dezinformāciju joprojām ir agrīnā posmā. Rakstā arī parādīts, ka Eiropas valstīs palielinās informētība par dezinformācijas ietekmi, kā arī plaisa starp spēju identificēt “viltus ziņas” un dezinformāciju un ierobežotu izpratni par dezinformācijas izplatīšanā iesaistītajiem procesiem, draudiem un dalībniekiem.
Publikācijas veids:
Žurnāla papīrs
Izdevējs:
Politisko zinātņu un starptautisko attiecību žurnāls
Autori:
Tomas Garriga, Gerard Sanz, Eduard Serrahima de Cambra, Axel Brando
Kopsavilkums:
Šajā dokumentā mēs iepazīstinām ar jaunu strukturālo cēloņsakarību modeļu (SCM) un nolaupīšanas, rīcības un prognozēšanas procedūras piemērošanu laikrindu iestatīšanai saistībā ar reālās pasaules problēmu farmācijas nozarē. Mūsu mērķis ir aplēst hipotētiskos scenārijus attiecībā uz tādu zāļu pārdošanas apjomu, kuras ir ietekmējusi konkurējošu ģenērisko zāļu ienākšana tirgū. Mēs izmantojam uz kodētāju dekodētāju balstītas arhitektūras, piemērojot nosacītu variācijas autoencoderu, kā arī ieviešot nosacītu retu autoencoderu izmantošanu, kas nekad nav izmantoti hipotētiskajā literatūrā. Ierosinātajai metodikai ir nepieciešama vēsturisku notikumu un beznotikumu laikrindu pieejamība, un tās priekšrocība ir nepaļauties uz kontroles kovariantiem, kas var nebūt pieejami, vienlaikus skaidri pārsniedzot prognozes pamata hipotētisko aplēsi. Mēs izvērtējam savu pieeju, izmantojot mūsu uzņēmuma reālās pārdošanas datu kopu, kā arī sintētiskas un daļēji sintētiskas datu kopas, kas atdarina problēmas kontekstu, parādot tās efektivitāti. Mēs esam veiksmīgi izmantojuši šo modeli savā uzņēmumā, sniedzot noderīgu informāciju biznesa plānošanai, investīciju sadalei un mērķu noteikšanai.
Publikācijas veids:
Semināra raksts
Izdevējs:
NeurIPS 24. darbseminārs par mācīšanos par cēloņu pārstāvību
Autori:
Anastasios Manos, Despina Elisabeth Filippidou, Nikolaos Pavlidis, Georgios Karanasios, Georgios Vachtanidis, Arianna D’Ulizia
Kopsavilkums:
Digitālo platformu pieaugums ir veicinājis dezinformācijas strauju izplatīšanos, kas rada būtiskas sociālas, politiskas un ekonomiskas problēmas. Zināšanu grafiki (ZG) kļūst par efektīviem rīkiem viltus ziņu atklāšanas sistēmu precizitātes, interpretējamības un mērogojamības uzlabošanai, novēršot ierobežojumus tradicionālajās uz mašīnmācīšanos balstītajās pieejās, kas galvenokārt balstās uz lingvistisko analīzi. Šajā darbā ir ietverts literatūras apskats, kurā apkopoti konstatējumi no jaunākajiem pētījumiem par KG izmantošanu dezinformācijas atklāšanā. Mēs apzināmies, kā GV uzlabo atklāšanu, kodējot reālas attiecības, analizējot kontekstu un uzlabojot modeļu interpretējamību, vienlaikus apspriežot arī pašreizējos mērogojamības, datu pilnīguma un kontekstuālās pielāgojamības ierobežojumus. Pārskatītie pētījumi uzsver, ka ir vajadzīgi turpmāki pētījumi, kas vērsti uz mērogojamiem, reāllaika un starplingvistiskiem KG modeļiem, lai stiprinātu dezinformācijas atklāšanas spējas visā pasaulē. Turklāt mēs iepazīstinām ar divu izmantošanas gadījumu sākotnējiem rezultātiem, demonstrējot metodiku tādu GV izveidei, kas var kalpot kā noderīgi instrumenti cīņā pret dezinformācijas izplatīšanu.
Publikācijas veids:
Konferences dokuments
Izdevējs:
2024. gada Starptautiskā konference par inženierzinātnēm un jaunām tehnoloģijām (ICEET)
Autori:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Kopsavilkums:
Šajā dokumentā ir pētīta Eiropas Savienības daudzšķautņainā reakcija uz plaši izplatīto dezinformācijas problēmu, kas ir pastiprinājusies kopš Krimas aneksijas 2014. gadā. Dezinformācija būtiski apdraud demokrātiskos procesus un sabiedrības labklājību. Eiropas Savienības pieeja apvieno regulatīvus pasākumus, stratēģiskas partnerības un medijpratības iniciatīvas, lai risinātu šo problēmu, vienlaikus aizsargājot demokrātijas pamatprincipus, piemēram, vārda brīvību. Galvenie pasākumi ietver Prakses kodeksu dezinformācijas jomā un Digitālo pakalpojumu aktu, kuru mērķis ir saukt digitālās platformas pie atbildības un nodrošināt pārredzamību. Turklāt tādas iniciatīvas kā Austrumu Stratēģiskās komunikācijas operatīvā grupa un ātrās brīdināšanas sistēma uzsver Eiropas Savienības centienus apkarot dezinformāciju kā hibrīdkara instrumentu. Šajā dokumentā arī uzsvērta pilsoņu būtiskā nozīme, kurus Eiropas Savienība cenšas stiprināt ar plašsaziņas līdzekļu lietotprasmes programmām, ļaujot viņiem atpazīt manipulatīvu saturu un pretoties tam. Izpētot mijiedarbību starp valdības darbībām, privātā sektora iesaisti un iedzīvotāju iesaisti, šajā pētījumā ir sniegta visaptveroša analīze par Eiropas Savienības stratēģiju dezinformācijas apkarošanai un novērtētas problēmas un turpmākie virzieni, kas vajadzīgi, lai saglabātu demokrātisko noturību mainīgajā digitālajā vidē.
Publikācijas veids:
Zinātniskais raksts
Izdevējs:
Informācijas polisms
Autori:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Kopsavilkums:
Mērķis
Izmantojot daudzdisciplīnu pieeju, šā pētījuma mērķis ir izsekot dezinformācijas kampaņu ceļam no to atklāšanas ar lingvistiskām ticamības norādēm līdz tālākai attīstībai, izmantojot izplatīšanas mehānismus, un, visbeidzot, novērtēt to ietekmi uz sociālpolitisko kontekstu.
Konstrukcija/metodoloģija/pieeja
Šajā pētījumā ir sniegts padziļināts pārskats par četriem būtiskiem dezinformācijas aspektiem: lingvistiskās iezīmes, kas atšķir saturu, kura mērķis ir maldināt sabiedrisko domu un manipulēt ar to, mediju mehānismi, kas veicina tā izplatīšanu, izmantojot auditorijas kognitīvos procesus, draudi, ko rada ģeneratīvā mākslīgā intelekta arvien plašāka izmantošana dezinformācijas izplatīšanā, un plašākas sekas, ko šī dezinformācijas dinamika atstāj uz sabiedrisko domu un līdz ar to uz politisko lēmumu pieņemšanas procesiem.
Konstatējumi
Rezultātā dokumentā ir sniegts šīs parādības starpdisciplinārs un holistisks izvērtējums, atsaucoties uz tās daudzveidīgajiem elementiem, lai uzsvērtu, cik svarīga ir platformu atbildība, medijpratības kampaņas iedzīvotāju vidū un interaktīva sadarbība starp privāto un publisko sektoru kā pasākumi, kuru mērķis ir uzlabot noturību pret dezinformācijas draudiem.
Oriģinalitāte/vērtība
Pētījumā uzsvērta nepieciešamība palielināt platformu pārskatatbildību, veicināt medijpratību indivīdu vidū un attīstīt sadarbību starp publisko un privāto sektoru. Šīs integrētās stratēģijas mērķi ir stiprināt noturību pret dezinformāciju un nodrošināt ES spēju pielāgoties mainīgajiem digitālajiem apdraudējumiem. Visbeidzot, dokumentā ir atbalstīta taisnīga un atvērta stratēģija, kas aizsargā vārda brīvību un stiprina demokrātiskās iestādes laikā, kad pieaug digitālā dezinformācija.
Publikācijas veids:
Zinātniskais raksts
Izdevējs:
Informācijas, komunikācijas un ētikas žurnāls sabiedrībā (2025)
Autori:
Eddie Conti, Alejandro Astruc, Álvaro Parafita, Axel Brando
Kopsavilkums:
Izpratne par to, kā informācija izplatās, izmantojot transformatoru modeļus, ir galvenais interpretējamības izaicinājums. Šajā darbā mēs pētām minimālo marķiera perturbāciju ietekmi uz iegulšanas telpu. Mūsu eksperimentos mēs analizējam, cik bieži žetoni dod minimālas maiņas, uzsverot, ka reti žetoni parasti noved pie lielākām maiņām. Turklāt mēs pētām, kā perturbācijas izplatās pa slāņiem, parādot, ka ievades informācija arvien vairāk tiek sajaukta dziļākos slāņos. Mūsu konstatējumi apstiprina kopīgo pieņēmumu, ka modeļa pirmos slāņus var izmantot kā aizstājējvērtības modeļa skaidrojumiem. Kopumā šis darbs ievieš žetona perturbāciju un maiņu kombināciju iegulšanas telpā kā spēcīgu instrumentu modeļu interpretējamībai.
Publikācijas veids:
Semināra raksts
Izdevējs:
IJCAI 2025. gada darbseminārs par izskaidrojamu mākslīgo intelektu
Autori:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Kopsavilkums:
Dezinformācija vienmēr tiek inducēta vairāk, izmantojot pārveidotu vai pilnīgu sintētiski radītu reālistisku saturu, ko parasti sauc par dziļviltojumiem. Tas rada vajadzību pēc uzticamiem instrumentiem, kas spēj atklāt šādu neīstu saturu, lai izvairītos no personu domāšanas polarizācijas. Ir izklāstīti dažādi paņēmieni, kuru kopsaucējs ir meklēt dažas neatbilstības, ko izraisījis viltus ģenerēšanas process un kas apliecinātas, aplūkojot konkrētas īpašības. Šķiet, ka dažādu atšķirīgu iezīmju iespējamā kombinācija varētu nodrošināt efektīvākus sasniegumus. Ņemot vērā šo viedokli un mūsu iepriekšējo pētījumu par šo jautājumu, mēs ierosinām izpētīt jaunu funkciju, kurā būtībā tiek ņemtas vērā iebūvētās attiecības, kas pastāv visā iegādes ainā attēla (video) uzņemšanas laikā un ko pēc tam attēlo attēla pikseļu vērtības. Ideja ir tāda, ka dziļviltojumu ģenerēšanas process var pārraut šādas iekšējas atkarības starp apgaismojumu (intensitāti un virzienu), objektu virsmām (pozīciju un atstarojumu) un uztveršanas troksni, tādējādi apliecinot iespējamu manipulāciju. Saskaņā ar to ir izveidots funkciju deskriptors, ko sauc par vietējo virsmas deskriptoru, un to izmanto, lai apmācītu CNN balstītus modeļus dziļviltojumu atklāšanai. Eksperimentālie rezultāti, kas veikti dažādos operatīvajos kontekstos, liecina par ievērojamu noteikšanas precizitāti līdz 90%.
Publikācijas veids:
Konferences dokuments
Izdevējs:
2024. gada IEEE starptautiskā konference par attēlu apstrādes izaicinājumiem un darbsemināriem (ICIPCW), Abū Dabī, Apvienotie Arābu Emirāti, 2024. gads
Autori:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Kopsavilkums:
Faktiskā spēja radīt reālistiskus pilnībā sintētiskus attēlus ar MI katru dienu uzlabojas, un tas jo īpaši attiecas uz attēliem, kuros attēlotas cilvēka sejas, kas šķiet neatšķiramas no reāliem cilvēkiem. Tas rada būtisku nepieciešamību izstrādāt instrumentus, kas spēj atšķirt patiesos un neesošos cilvēkus, atklājot dažas iespējamās neatbilstības, kas iestrādātas attēlos ģenerēšanas procesā. Galvenā atšķirība starp pirmatnēju attēlu un ģenerētu dziļviltojumu ir tā, ka otrajā gadījumā nav notikusi efektīva kameras iegāde; tāpēc visas dažādās savstarpējās attiecības starp elementiem, kas pieder pie skatuves (gaismas, atstarošana, objektu attiecīgās pozīcijas 3D telpā), reālajā pasaulē netiek uzņemtas šajā precīzā laika momentā, bet tikai mākslīgi reproducētas. Saskaņā ar šādu apsvērumu, šajā darbā mēs ieviešam vietējo kameru virsmas rāmjus kā iespējamu līdzekli, lai attēlotu šos specifiskos vides raksturlielumus, lai izceltu atšķirības. Veiktā eksperimentālā analīze liecina, ka šī funkcija var piešķirt ļoti augstu precizitātes līmeni un ievērojamu vispārināšanas pakāpi.
Publikācijas veids:
Konferences dokuments
Izdevējs:
2024. gada IEEE starptautiskā konference par attēlu apstrādes izaicinājumiem un darbsemināriem (ICIPCW), Abū Dabī, Apvienotie Arābu Emirāti, 2024. gads
Autori:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Kopsavilkums:
Ārkārtīgi nereālus attēlus var realizēt ar pow-erful AI metodēm. Dažādi rīki, kas pieejami ikvienam, spēj atjaunot augstas kvalitātes saturu, jo īpaši radot pilnīgi sintētiskus attēlus. Starp esošajām arhitektūrām modeļi, kuru pamatā ir difūzija, var viegli radīt jebkāda veida attēlus, tostarp cilvēka sejas attēlus, sniedzot uzvedni, piemēram, tekstu. Šāds nepatiess saturs bieži tiek izmantots, lai izplatītu dezinformāciju, un tas rada bažas par cilvēku drošību. Pašlaik ir grūti izstrādāt uzticamus instrumentus, lai nošķirtu reālus un radītus (pat neesošus) cilvēkus. Turklāt lielais uz difūziju balstītais īstenošanas gadījumu skaits rada problēmu, ka šādi detektori vispārina jaunus ģeneratīvus paņēmienus. Lai risinātu šos jautājumus, mēs ierosinām izpētīt īpašas iezīmes spēju, pamatojoties uz attēlu iegūšanas vidi, nošķirt uz difūziju balstītus sejas attēlus no neskartiem. Faktiski ģenerētajiem attēliem nevajadzētu saturēt īpašības, kas ir atbilstošas iegūšanas fāzei, ko veic ar reālu kameru. Šādas neatbilstības var izcelt, izmantojot nesen ieviestos vietējos virsmas rāmjus. Šī funkcija ņem vērā ainā iesaistītos objektus un virsmas, kas visi ietekmē kameras iegūšanas procesu, kā arī papildu iekšējo informāciju, kas saistīta ar ierīci, kā arī apgaismojumu un atstarojumus, kas ietekmē visu scenāriju. Darbā pētīta šīs funkcijas spēja vispārināties uz dažādām datu kopām un jaunām ģeneratīvām metodēm, kas apmācības laikā nav zināmas. Eksperimentālie rezultāti liecina, ka šāda funkcija joprojām nodrošina ievērojamu atklāšanas precizitātes līmeni arī šajos gadījumos.
Publikācijas veids:
Konferences dokuments
Izdevējs:
2024. gada IEEE starptautiskā konference par attēlu apstrādes izaicinājumiem un darbsemināriem (ICIPCW), Abū Dabī, Apvienotie Arābu Emirāti, 2024. gads
Autori:
Álvaro Parafita, Tomas Garriga, Axel Brando, Francisco J. Cazorla
Kopsavilkums:
Starp izskaidrojamības metodēm SHAP izceļas kā viens no populārākajiem, bet bieži vien neņem vērā problēmas cēloņsakarību struktūru. Atbildot uz to, do-SHAP izmanto intervences vaicājumus, bet tā paļaušanās uz aplēsēm kavē tā praktisko piemērošanu. Lai risinātu šo problēmu, mēs ierosinām izmantot estimand-agnostiskas pieejas, kas ļauj aplēst jebkuru identificējamu vaicājumu no viena modeļa, padarot do-SHAP iespējamu sarežģītās diagrammās. Mēs arī izstrādājam jaunu algoritmu, lai ievērojami paātrinātu tā aprēķināšanu ar nenozīmīgām izmaksām, kā arī metodi, lai izskaidrotu nepieejamus datu ģenerēšanas procesus. Mēs demonstrējam mūsu pieejas aplēsi un skaitļošanas veiktspēju un validējam to divās reālos apstākļos iegūtās datu kopās, uzsverot tās potenciālu uzticamu paskaidrojumu iegūšanā.
Publikācijas veids:
Konferences dokuments
Izdevējs:
Trīsdesmit devītā ikgadējā konference par neironu informācijas apstrādes sistēmām (NeurIPS 2025)
Autori:
Alamgir Munir Qazi, John Philip McCrae, Jamal Nasir
Kopsavilkums:
Maldinošas informācijas izplatīšanās dēļ ir vajadzīgas stabilas, bet skaitļošanas ziņā efektīvas faktu pārbaudes sistēmas. Lai gan pašreizējās mūsdienīgās pieejas izmanto apjomīgus valodu modeļus (LLM), lai radītu paskaidrojošus pamatojumus, šīs metodes saskaras ar būtiskiem skaitļošanas šķēršļiem un halucinācijas riskiem reālos apstākļos. Mēs piedāvājam DeReC (blīvas izguves klasifikāciju), vieglu sistēmu, kas parāda, kā vispārēja lietojuma teksta iegulšana var efektīvi aizstāt autoregresīvas LLM balstītas pieejas, faktiski veicot pārbaudes uzdevumus. Apvienojot blīvu izgūšanu ar specializētu klasifikāciju, mūsu sistēma sasniedz labāku precizitāti, vienlaikus būdama ievērojami efektīvāka. DeReC pārspēj paskaidrojošās LLM efektivitātes ziņā, samazinot darbības laiku par 95% RAWFC (23 minūtes 36 sekundes salīdzinājumā ar 454 minūtēm 12 sekundes) un 92% LIAR-RAW (134 minūtes 14 sekundes salīdzinājumā ar 1692 minūtēm 23 sekundes), demonstrējot tā efektivitāti dažādos datu kopu izmēros. RAWFC datu kopā DeReC sasniedz F1 punktu skaitu 65,58%, kas pārsniedz jaunāko L-Defense metodi (61.20%). Mūsu rezultāti parāda, ka rūpīgi izstrādātas izguves sistēmas var saskaņot vai pārsniegt LLM veiktspēju specializētos uzdevumos, vienlaikus ievērojami praktiskāk pielietojot reālos apstākļos.
Publikācijas veids:
Konferences dokuments
Izdevējs:
Piektā konference par valodu, datiem un zināšanām
Autori:
Qiushi Li, Andrea Ciamarra, Roberto Caldelli un Stefano Berretti
Kopsavilkums:
Attiecībā uz MediaEval 2025 SynthIm Challenge Task A (Synthetic Image Detection) mēs konstatējām kritisku sadalījuma maiņu starp sniegtajiem apmācības un testa datiem, padarot bijušo par sliktu pārstāvi mērķa jomā. Mūsu pieeja tieši risina šo problēmu, iekļaujot stilistiski konsekventāku validācijas kopumu mūsu apmācības datos un izmantojot iesaldēto CLIP ViT-L/14 kā spēcīgu funkciju ekstraktoru. Mūsu galvenais ieskats ir tāds, ka šādos domēnu maiņas apstākļos plaša iepriekš apmācīta modeļa vispārināmie atveidojumi ievērojami pārsniedz tradicionālo CNN, kas pielāgots nesaskaņotajai datu kopai, un tā ir efektīvāka un uzticamāka stratēģija.
Publikācijas veids:
Konferences dokuments
Izdevējs:
MediaEval”25: Multivides izvērtēšanas darbseminārs 2025. gada 25.–26. oktobrī Dublinā, Īrijā un tiešsaistē
Piekļuve pēc pieprasījuma
Autori:
Qiushi Li, Roberto Caldelli un Stefano Berretti
Kopsavilkums:
Attēlu veidošanas modeļu, piemēram, stabilas difūzijas, straujā attīstība rada bažas par iespējamu ļaunprātīgu izmantošanu, padarot robustas ūdenszīmes metodes būtiskas sintētiska satura autentifikācijai un attiecināšanai, jo īpaši cīņā pret dziļviltojumiem. Tomēr joprojām ir grūti vienlaikus nodrošināt augstas kvalitātes attēlu ģenerēšanu un precīzu ūdenszīmju ieguvi. Analizējot esošās metodes, mēs identificējam kritisku ierobežojumu:
to zuduma funkcijas bieži vien izmanto vienu atsauci (vai nu ievades attēlu, vai tīru ģenerētu attēlu), lai optimizētu attēla precizitāti, kas noved pie neoptimālas veiktspējas. Šajā dokumentā mēs veicam padziļinātu pētījumu par attēla kvalitātes zuduma termiņu ūdenszīmēs, kuru pamatā ir difūzija. Analizējot atšķirīgo ietekmi, ko rada ievades attēla izmantošana salīdzinājumā ar tīru ģenerēto attēlu kā atsauces optimizācijas laikā, mēs atklājam, ka, kopīgi ņemot abas atsauces, ievērojami uzlabo noturību un vizuālo kvalitāti. Plaši eksperimenti parāda, ka mūsu divkāršās atsauces pieeja nodrošina izcilu veiktspēju gan ūdenszīmju ekstrakcijas precizitātes, gan ģenerēšanas precizitātes ziņā, salīdzinot ar vienas atsauces bāzlīnijām. Mēs atbalstām šo paradigmu, lai veicinātu uzticamu ūdenszīmēšanu ģeneratīvos modeļos.
Publikācijas veids:
Konferences dokuments
Izdevējs:
DFF ’25: 1. darbsemināra par dziļviltotu kriminālistiku procedūras: Atklāšana, attiecināšana, atzīšana un pretrunu problēmas MI radīto mediju laikmetā
Autori:
Josu Eguiluz Castañeira, Axel Brando, Migle Laukyte, Marc Serra-Vidal
Kopsavilkums:
Mākslīgais intelekts (MI) tagad caurvij kritisko infrastruktūru un lēmumu pieņemšanas sistēmas, kur neveiksmes rada sociālu, ekonomisku un demokrātisku kaitējumu. Šis nostājas dokuments apšauba iesakņojušos pārliecību, ka regulējums un inovācija ir pretstati. Kā liecina aviācijas, farmācijas un labklājības sistēmu analoģijas un nesenie sintētiskas maldinošas informācijas, neobjektivitātes un nekontrolējamas lēmumu pieņemšanas gadījumi, labi izstrādāta regulējuma trūkums jau ir radījis neizmērāmu kaitējumu. Ja regulējums ir pārdomāts un adaptīvs, tas nekavē inovāciju — tas ir tās pamats. Šajā nostājas dokumentā ES Mākslīgā intelekta akts ir aplūkots kā uz risku balstīta, uz atbildību balstīta regulējuma modelis, kas pievēršas Collingridge Dilemma: rīkoties pietiekami savlaicīgi, lai novērstu kaitējumu, bet pietiekami elastīgi, lai atbalstītu inovāciju. Tās adaptīvie mehānismi — regulatīvās smilškastes, atbalsts maziem un vidējiem uzņēmumiem (MVU), testēšana reālos apstākļos, ietekmes uz pamattiesībām novērtējums (FRIA) — parāda, kā regulējums var atbildīgi paātrināt, nevis aizkavēt tehnoloģisko progresu. Nostājas dokumentā ir apkopots, kā pārvaldības instrumenti uztveramo slogu pārvērš taustāmās priekšrocībās: juridiskā noteiktība, patērētāju uzticēšanās un ētiska konkurētspēja. Galu galā dokumentā ir pārskatīts progress: inovācija un regulējums virzās uz priekšu kopā. Iekļaujot projektēšanā un ieviešanā pārredzamību, ietekmes novērtējumus, pārskatatbildību un MI pratību, ES satvars nosaka, ko īsti nozīmē atbildīga inovācija – tehnoloģiskie mērķi, ko disciplinē demokrātiskās vērtības un pamattiesības.
Publikācijas veids:
Konferences dokuments
Izdevējs:
Trīsdesmit devītā ikgadējā konference par neironu informācijas apstrādes sistēmām (NeurIPS 2025)
Autors: Paskalīna gaborita
Kopsavilkums:
Globālās nenoteiktības laikmetā uzticēšanās ir kļuvusi par izšķirošu faktoru, kas veido attiecības starp nācijām, iestādēm un indivīdiem. Šī grāmata, Trust, New Technologies and Geopolitics in an Uncertain World, piedāvā savlaicīgu un padziļinātu izpēti par to, kā uzticēšanās tiek pārbaudīta un pārveidota, ņemot vērā strauji mainīgās ģeopolitiskās ainavas. No demokrātisko sistēmu nestabilitātes līdz izaicinājumiem, ko rada jaunās tehnoloģijas, mākslīgais intelekts, dezinformācija un klimata pārmaiņas, šī grāmata pievēršas mūsdienu aktuālākajiem jautājumiem. Izpētot, kā uzticēšanās krustojas ar tādām svarīgām jomām kā demokrātija, tirdzniecības kari un jaunās tehnoloģijas, šis darbs sniedz vērtīgu ieskatu politikas veidotājiem, zinātniekiem un ikvienam, kas vēlas izprast mūsdienu pasaules sarežģītību. Neatkarīgi no tā, vai jums rūp kiberdrošība, dezinformācija, hibrīddraudu ietekme vai uzticēšanās starptautiskajai diplomātijai, šī grāmata piedāvā visaptverošu, bet pieejamu satvaru šo problēmu risināšanai. Tas parāda, kā uzticēšanās izpratne ir būtiska, lai novērstu ģeopolitisko nenoteiktību, kas nosaka mūsu laikmetu.
Publikācijas veids:
Grāmata
Izdevējs:
Pīters Langs Izdevējs
Autors:
Edijs Konti (Eddie Conti), Alvaro Parafita (Álvaro Parafita), Aksels Brando (Axel Brando)
Kopsavilkums:
Lai izprastu modeļa lēmumu pieņemšanas procesu, ir ļoti svarīgi novērtēt atsevišķu iezīmju nozīmi mašīnmācīšanās procesā. Lai gan pastāv daudzas metodes, tas, ka nav galīgas pamata patiesības salīdzināšanai, norāda uz nepieciešamību pēc alternatīviem, labi pamatotiem pasākumiem. Šis dokuments iepazīstina ar jaunu post-hoc vietējās nozīmes metodi, ko sauc par hipotētiskās nozīmes izplatīšanu (CID). Mēs ģenerējam divus pozitīvu un negatīvu hipotētisko scenāriju kopumus, modelējam to sadalījumus, izmantojot kodola blīvuma novērtējumu, un sarindojam iezīmes, pamatojoties uz distributīvās atšķirības mēru. Šis mērs, kura pamatā ir stingra matemātiskā sistēma, atbilst galvenajām īpašībām, kas nepieciešamas, lai darbotos kā derīgs rādītājs. Mēs demonstrējam mūsu metodes efektivitāti, salīdzinot ar vispāratzītiem vietējiem funkciju nozīmes skaidrotājiem. Mūsu metode ne tikai piedāvā papildu perspektīvas esošajām pieejām, bet arī uzlabo uzticamību (gan vispusīgumu, gan pietiekamību), kā rezultātā tiek sniegti uzticamāki sistēmas skaidrojumi. Šie rezultāti izceļ tās kā vērtīga modeļa analīzes instrumenta potenciālu.
Publikācijas veids:
Konferences dokuments
Izdevējs:
Ziemeļu gaismas dziļās mācīšanās konference 2026. gadā