Științific Publicații
Autori:
Axel Brando, Lucas Berry și David Mege
Rezumat:
Modelele de difuzie generativă, notabile pentru numărul mare de parametri (peste 100 de milioane) și funcționarea în spații de imagine înalt dimensionale, prezintă provocări semnificative pentru metodele tradiționale de estimare a incertitudinii din cauza cerințelor de calcul. În această lucrare, introducem un cadru inovator, Diffusion Ensembles for Capturing Uncertainty (DECU), conceput pentru estimarea incertitudinii epistemice pentru modelele de difuzie. Cadrul DECU introduce o metodă nouă care antrenează în mod eficient ansambluri de modele de difuzie condiționată prin încorporarea unui set static de parametri pre-instruiți, reducând drastic sarcina de calcul și numărul de parametri care necesită instruire. În plus, DECU utilizează Pairwise-Distance Estimators (PaiDEs) pentru a măsura cu precizie incertitudinea epistemică prin evaluarea informațiilor reciproce dintre rezultatele modelului și greutățile din spațiile înalt dimensionale. Eficacitatea acestui cadru este demonstrată prin experimente pe setul de date ImageNet, subliniind capacitatea sa de a capta incertitudinea epistemică, în special în clasele de imagini sub-eșantionate.
Tipul publicației:
Document de conferință
Editorul:
Cea de-a 40-a Conferință privind Incertitudinea în Inteligența Artificială
Autori:
Coccomini D.A., Caldelli R., Gennaro C., Fiameni G., Amato G., Falchi F.
Rezumat:
În ultima vreme, răspândirea tot mai mare a mass-mediei sintetice, cunoscută sub numele de deepfakes, a fost posibilă datorită progreselor rapide înregistrate în tehnologiile de inteligență artificială, în special în algoritmii de învățare profundă. Preocupările tot mai mari cu privire la disponibilitatea și credibilitatea tot mai mare a deepfake-urilor au stimulat cercetătorii să se concentreze asupra dezvoltării unor metode de detectare a acestora. În acest domeniu, cercetătorii de la laboratorul AIMH al ISTI CNR, în colaborare cu cercetători din alte organizații, au efectuat cercetări, investigații și proiecte pentru a contribui la combaterea acestei tendințe, explorând noi soluții și amenințări. Acest articol rezumă cele mai recente eforturi făcute în acest domeniu de către cercetătorii noștri și în colaborare cu alte instituții și experți.
Tipul publicației:
Document de conferință
Editorul:
Lucrările atelierului CEUR
Autori:
Stanciu, Cristian și Ionescu, Bogdan și Cuccovillo, Luca și Papadopoulos, Symeon și Kordopatis-Zilos, Giorgos și Popescu, Adrian și Caldelli, Roberto
Rezumat:
Generarea și manipularea mass-mediei sintetice au cunoscut creșteri rapide în ultimii ani, ceea ce face din ce în ce mai ușoară crearea de conținut multimedia care nu poate fi distins de observatorul uman. În plus, conținutul generat poate fi utilizat cu rea intenție de indivizi și organizații pentru a răspândi dezinformarea, reprezentând o amenințare semnificativă la adresa societății și a democrației. Prin urmare, există o nevoie urgentă de instrumente de IA orientate către facilitarea unui proces de verificare în timp util și eficace a mass-mediei. Atelierul MAD’24 urmărește să reunească persoane din medii diverse care sunt dedicate combaterii dezinformării în domeniul multimedia prin intermediul IA, promovând un mediu pentru explorarea ideilor inovatoare și schimbul de experiențe. Domeniile de cercetare de interes includ identificarea conținutului manipulat sau generat, precum și investigarea diseminării dezinformării și a repercusiunilor societale ale acesteia. Recunoscând importanța multimedia, atelierul pune accentul pe analiza comună a diferitelor modalități din cadrul conținutului, deoarece verificarea poate fi îmbunătățită prin agregarea mai multor forme de conținut.
Tipul publicației:
Document de conferință
Editorul:
Lucrările celui de-al treilea atelier internațional ACM privind IA multimedia împotriva dezinformării
Autori:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Rezumat:
Privind la o secvență video în care o persoană din prim-plan este reprezentată nu mai este ca acum mult timp. Deepfake-urile au revoluționat modul nostru de a viziona astfel de conținuturi și în zilele noastre suntem mai des obișnuiți să ne întrebăm dacă ceea ce vedem este real sau este doar o mistificare. În acest context al dezinformării generalizate, necesitatea unor soluții fiabile pentru a ajuta utilizatorii obișnuiți și nu numai, să facă o evaluare a acestui tip de secvențe video este foarte viitoare. În această lucrare, este introdusă o nouă abordare care utilizează anomaliile temporale ale cadrului de suprafață pentru a dezvălui videoclipurile deepfake. Metoda caută posibile discrepanțe, induse de manipularea deepfake, în suprafețele aparținând scenei capturate și în evoluția lor de-a lungul axei temporale. Aceste caracteristici sunt folosite ca intrare a unei conducte bazate pe rețele neuronale profunde pentru a efectua o evaluare binară a videoclipului în sine. Rezultatele experimentale arată că o astfel de metodologie poate obține performanțe semnificative în ceea ce privește acuratețea detectării.
Tipul publicației:
Document de conferință
Editorul:
Conferința IEEE/CVF din 2024 privind atelierele de viziune computerizată și recunoaștere a modelelor (CVPRW)
Autori:
Pascaline Gaborit
Rezumat:
Organizațiile internaționale clasifică dezinformarea drept una dintre principalele amenințări la adresa democrației și a instituțiilor de mai bine de un deceniu. Tehnologiile digitale reinventează și transformă profund stilurile de viață moderne, mediul cetățenilor și mediul de afaceri. IA aduce o nouă perturbare în modul în care accesăm cunoștințele și creăm, răspândim și înțelegem informațiile. De asemenea, poate estompa liniile de demarcație dintre informațiile reale și informațiile manipulate odată cu apariția „știrilor false”, a referințelor încrucișate ale rețelelor automate și a „falsurilor profunde”. Sistemele de IA sporesc potențialul de creare a unui conținut fals realist și a unor campanii de dezinformare specifice. Dezinformarea depășește simplele zvonuri pentru a induce în eroare și a denatura în mod deliberat informațiile bazate pe dovezi prin intermediul unor date fabricate. De asemenea, instituțiile europene s-au axat recent pe identificarea dezinformării legate de acțiunile străine de manipulare a informațiilor și ingerințele străine: Manipularea informațiilor străine și ingerințele. Articolul identifică tendințele și preocupările legate de dezinformare și de IA. Acesta analizează percepția dezinformării, impactul acesteia și răspunsurile la aceasta, inclusiv Regulamentul UE privind IA și politicile platformelor online. Acesta oferă o primă abordare analitică a subiectului pe baza dezbaterilor actuale ale cercetătorilor, a primelor constatări ale sondajelor noastre din 2024, a interviurilor și a analizei a sute de știri false online. Aceasta încearcă să înțeleagă modul în care cetățenii și părțile interesate percep dezinformarea și identifică posibilele efecte. De asemenea, analizează provocările și constrângerile actuale, oportunitățile și limitările pentru a aborda manipularea și interferența. Articolul ia în considerare procesele actuale și impactul dezinformării (2), prezentarea principalelor constatări ale sondajului nostru online privind percepțiile asupra dezinformării (3), răspunsurile actuale în materie de reglementare ale UE (4) și punctele de discuție (5). Susținem în acest articol că există o schimbare uriașă în modul în care accesăm informațiile, dar că răspunsurile la dezinformare sunt încă într-un stadiu incipient. Articolul demonstrează, de asemenea, că există o sensibilizare sporită în țările europene cu privire la impactul dezinformării, dar și un decalaj între capacitatea de a identifica „știrile false” și dezinformarea și o înțelegere limitată a proceselor, a amenințărilor și a actorilor implicați în răspândirea dezinformării.
Tipul publicației:
Hârtie de ziar
Editorul:
Revista de Științe Politice și Relații Internaționale
Autori:
Tomas Garriga, Gerard Sanz, Eduard Serrahima de Cambra, Axel Brando
Rezumat:
În această lucrare, prezentăm o nouă aplicare a modelelor cauzale structurale (SCM) și a procedurii răpire-acțiune-predicție într-o setare a seriilor de timp în contextul unei probleme din lumea reală în industria farmaceutică. Scopul nostru este de a estima contrafactualele pentru volumul vânzărilor unui medicament care a fost afectat de intrarea pe piață a unui medicament generic concurent. Folosim arhitecturi bazate pe encoder-decoder, aplicând un autoencoder variațional condiționat și introducând, de asemenea, utilizarea de autoencodere condiționate rare, care nu au fost niciodată utilizate în literatura contrafactuală. Metodologia propusă necesită disponibilitatea evenimentelor istorice și a seriilor cronologice fără evenimente și are avantajul de a nu se baza pe covariabile de control care ar putea fi indisponibile, depășind în mod clar estimarea contrafactuală de bază a unei previziuni. Evaluăm abordarea noastră utilizând setul de date privind vânzările în condiții reale al societății noastre, precum și seturile de date sintetice și semisintetice care imită contextul problemei, demonstrând eficacitatea acesteia. Am aplicat cu succes acest model în compania noastră, oferind informații utile pentru planificarea afacerii, alocarea investițiilor și stabilirea obiectivelor.
Tipul publicației:
Articol din atelier
Editorul:
Atelierul NeurIPS24 privind învățarea prin reprezentare cauzală
Autori:
Anastasios Manos, Despina Elisabeth Filippidou, Nikolaos Pavlidis, Georgios Karanasios, Georgios Vachtanidis, Arianna D’Ulizia
Rezumat:
Dezvoltarea platformelor digitale a facilitat răspândirea rapidă a dezinformării, care prezintă provocări sociale, politice și economice semnificative. Graficele de cunoștințe (KG) apar ca instrumente eficace pentru îmbunătățirea acurateței, a interpretabilității și a scalabilității sistemelor de detectare a știrilor false, abordând limitările abordărilor tradiționale bazate pe învățarea automată care se bazează în principal pe analiza lingvistică. Această lucrare conține o analiză a literaturii de specialitate care sintetizează constatările studiilor recente privind aplicarea grupurilor-cheie în detectarea dezinformării. Identificăm modul în care KG-urile îmbunătățesc detectarea prin codificarea relațiilor reale, analizarea contextului și îmbunătățirea interpretabilității modelului, discutând în același timp limitările actuale în ceea ce privește scalabilitatea, exhaustivitatea datelor și adaptabilitatea contextuală. Studiile revizuite subliniază necesitatea unor cercetări viitoare axate pe modele KG scalabile, în timp real și translingvistice pentru a consolida capacitățile de detectare a dezinformării la nivel mondial. În plus, prezentăm rezultatele preliminare a două cazuri de utilizare, prezentând o metodologie pentru construirea de grupuri-cheie care pot servi drept instrumente utile pentru combaterea răspândirii dezinformării.
Tipul publicației:
Document de conferință
Editorul:
Conferința internațională din 2024 privind ingineria și tehnologiile emergente (ICEET)
Autori:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Rezumat:
Prezentul document analizează răspunsul multidimensional al Uniunii Europene la problema generalizată a dezinformării, o provocare care s-a intensificat de la anexarea Crimeei în 2014. Dezinformarea reprezintă amenințări semnificative la adresa proceselor democratice și a bunăstării publice. Abordarea Uniunii Europene combină măsuri de reglementare, parteneriate strategice și inițiative de educație în domeniul mass-mediei pentru a aborda acest fenomen, protejând în același timp principiile democratice fundamentale, cum ar fi libertatea de exprimare. Printre măsurile-cheie se numără Codul de bune practici privind dezinformarea și Actul legislativ privind serviciile digitale, care vizează tragerea la răspundere a platformelor digitale și asigurarea transparenței. În plus, inițiative precum Grupul operativ East StratCom și Sistemul de alertă rapidă evidențiază eforturile Uniunii Europene de combatere a dezinformării ca instrument de război hibrid. Acest document subliniază, de asemenea, rolul esențial al cetățenilor, pe care Uniunea Europeană încearcă să îi capaciteze prin programe de alfabetizare mediatică, permițându-le să recunoască și să reziste conținutului manipulator. Examinând interacțiunile dintre acțiunile guvernamentale, implicarea sectorului privat și implicarea cetățenilor, acest studiu oferă o analiză cuprinzătoare a strategiei Uniunii Europene împotriva dezinformării și evaluează provocările și direcțiile viitoare necesare pentru a susține reziliența democratică într-un peisaj digital în evoluție.
Tipul publicației:
Articol științific
Editorul:
Politatea informațională
Autori:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Rezumat:
Scop
Utilizând o abordare multidisciplinară, acest studiu își propune să traseze calea campaniilor de dezinformare, de la detectarea acestora prin indicii lingvistice de credibilitate până la promovarea prin intermediul mecanismelor de diseminare și, în cele din urmă, evaluarea impactului acestora asupra contextului sociopolitic.
Proiectare/metodologie/abordare
Acest studiu oferă o imagine de ansamblu aprofundată a patru aspecte fundamentale ale dezinformării: caracteristicile lingvistice care disting conținutul menit să înșele și să manipuleze opinia publică, mecanismele mass-media care facilitează diseminarea acestuia prin exploatarea proceselor cognitive ale publicului său, amenințările reprezentate de utilizarea tot mai frecventă a inteligenței artificiale generative pentru a răspândi dezinformarea și consecințele mai ample pe care aceste dinamici ale dezinformării le au asupra opiniei publice și, prin urmare, asupra proceselor decizionale politice.
Constatări
Ca urmare, lucrarea oferă o examinare interdisciplinară și holistică a fenomenului, referindu-se la elementele sale pluralizate pentru a evidenția importanța responsabilității platformelor, a campaniilor de alfabetizare mediatică în rândul cetățenilor și a cooperării interactive între sectorul privat și cel public ca măsuri de sporire a rezilienței împotriva amenințării dezinformării.
Originalitate/valoare
Studiul subliniază necesitatea de a spori responsabilitatea platformelor, de a promova educația în domeniul mass-mediei în rândul persoanelor și de a dezvolta cooperarea dintre sectorul public și cel privat. Consolidarea rezilienței la dezinformare și asigurarea adaptabilității UE în fața amenințărilor digitale în schimbare sunt obiectivele acestei strategii integrate. În cele din urmă, documentul pledează pentru o strategie echitabilă și deschisă care să protejeze libertatea de exprimare și să consolideze instituțiile democratice într-un moment în care dezinformarea digitală este în creștere.
Tipul publicației:
Articol științific
Editorul:
Jurnalul de Informare, Comunicare și Etică în Societate (2025)
Autori:
Eddie Conti, Alejandro Astruc, Álvaro Parafita, Axel Brando
Rezumat:
Înțelegerea modului în care informațiile se propagă prin intermediul modelelor Transformer este o provocare-cheie pentru interpretabilitate. În această lucrare, studiem efectele perturbațiilor minime asupra spațiului de încorporare. În experimentele noastre, analizăm frecvența cu care jetoanele produc schimbări minime, evidențiind faptul că jetoanele rare conduc, de obicei, la schimbări mai mari. În plus, studiem modul în care perturbațiile se propagă între straturi, demonstrând că informațiile de intrare sunt din ce în ce mai amestecate în straturi mai profunde. Constatările noastre validează ipoteza comună că primele straturi ale unui model pot fi utilizate ca proxy-uri pentru explicațiile modelului. În general, această lucrare introduce combinația de perturbații simbolice și schimbări ale spațiului de încorporare ca un instrument puternic pentru interpretarea modelului.
Tipul publicației:
Articol din atelier
Editorul:
Atelierul IJCAI 2025 privind inteligența artificială explicabilă
Autori:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Rezumat:
Dezinformarea este întotdeauna mai indusă prin recurgerea la conținuturi realiste modificate sau complet generate sintetic, cunoscute în general sub denumirea de deepfake. Acest lucru impune necesitatea unor instrumente fiabile, capabile să dezvăluie astfel de conținuturi false, pentru a evita polarizarea gândirii persoanelor. Au fost prezentate diverse tehnici, al căror numitor comun este căutarea unor inconsecvențe induse de procesul de generare fals și evidențiate prin analizarea caracteristicilor specifice. Se pare că posibila combinare a diferitelor caracteristici distinctive ar putea oferi realizări mai eficiente. În acest sens și în urma studiului nostru anterior pe această temă, ne propunem să investigăm o nouă caracteristică care ia în considerare, în principiu, relațiile încorporate existente în întreaga scenă de achiziție la momentul captării imaginii (video) și apoi reprezentate de valorile pixelilor imaginii. Ideea din spatele este că procesul de generare deepfake poate rupe astfel de dependențe intrinseci între iluminare (intensitate și direcție), suprafețele obiectelor (poziție și reflexie) și zgomotul de achiziție, evidențiind astfel o posibilă manipulare. Potrivit acestuia, un descriptor de caracteristici, numit Local Surface Descriptor, a fost construit și utilizat pentru a antrena modele bazate pe CNN pentru detectarea deepfake. Rezultatele experimentale efectuate pe diferite contexte operative demonstrează o precizie semnificativă de detectare de până la 90%.
Tipul publicației:
Document de conferință
Editorul:
Conferința internațională IEEE din 2024 privind provocările și atelierele de prelucrare a imaginilor (ICIPCW), Abu Dhabi, Emiratele Arabe Unite, 2024
Autori:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Rezumat:
Capacitatea reală de a genera imagini realiste complet sintetice se îmbunătățește de la o zi la alta, iar acest lucru este valabil în special pentru imaginile care reprezintă fețe umane care par imposibil de distins de oamenii reali. Acest lucru impune necesitatea crucială de a dezvolta instrumente capabile să discearnă între persoanele adevărate și cele care nu există, prin detectarea unor eventuale inconsecvențe încorporate în imagini în timpul procesului de generare. Principala diferență dintre o imagine curată și una generată deepfake este că, în al doilea caz, nu a existat o achiziție eficientă a camerei; Astfel, toate diferitele interrelații dintre elementele care aparțin scenei (lumini, reflexie, pozițiile obiectului respectiv în spațiul 3D) nu sunt preluate de lumea reală în acel moment precis, ci doar reproduse artificial. Conform acestei considerații, în această lucrare, introducem cadre locale de suprafață ale camerei ca un posibil mijloc de reprezentare a acestor caracteristici specifice de mediu pentru a evidenția diferențele. Analiza experimentală efectuată a arătat că această caracteristică poate oferi un nivel foarte ridicat de precizie și un grad semnificativ de generalizare.
Tipul publicației:
Document de conferință
Editorul:
Conferința internațională IEEE din 2024 privind provocările și atelierele de prelucrare a imaginilor (ICIPCW), Abu Dhabi, Emiratele Arabe Unite, 2024
Autori:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Rezumat:
Imagini extraordinare ireale pot fi realizate cu tehnici IA pow-erful. Diverse instrumente disponibile pentru toată lumea sunt capabile să recreeze conținuturi de înaltă calitate, în special generând imagini integral sintetice. Printre arhitecturile existente, modelele bazate pe difuzie pot produce cu ușurință orice fel de imagini, inclusiv imagini faciale umane, oferind un prompt ca un text. Astfel de conținuturi false sunt adesea utilizate pentru a răspândi dezinformarea, ceea ce ridică preocupări cu privire la securitatea persoanelor. În prezent, este din ce în ce mai greu să se dezvolte instrumente fiabile pentru a face distincția între persoanele reale și cele generate (chiar și cele inexistente). În plus, numărul mare de implementări bazate pe difuzie ridică problema generalizării unor astfel de detectoare cu privire la noile tehnici generative. Pentru a aborda aceste probleme, ne propunem să investigăm capacitatea unei caracteristici distinctive, bazată pe mediul de achiziție a imaginii, de a individualiza imaginile faciale bazate pe difuzie din cele originale. De fapt, imaginile generate nu ar trebui să conțină caracteristicile care sunt proprii fazei de achiziție efectuate prin intermediul unei camere reale. Astfel de neconcordanțe pot fi evidențiate prin intermediul unor cadre de suprafață locale recent introduse. Această caracteristică ia în considerare obiectele și suprafețele implicate în scenă, care influențează procesul de achiziție a camerei, împreună cu alte informații intrinseci legate de dispozitiv, precum și iluminarea și reflecțiile care afectează întregul scenariu. Lucrarea explorează capacitatea acestei caracteristici de a generaliza spre diferite seturi de date și noi metode generative necunoscute în timpul antrenamentului. Rezultatele experimentale evidențiază faptul că o astfel de caracteristică oferă în continuare niveluri semnificative de precizie a detecției și în aceste cazuri.
Tipul publicației:
Document de conferință
Editorul:
Conferința internațională IEEE din 2024 privind provocările și atelierele de prelucrare a imaginilor (ICIPCW), Abu Dhabi, Emiratele Arabe Unite, 2024
Autori:
Álvaro Parafita, Tomas Garriga, Axel Brando, Francisco J. Cazorla
Rezumat:
Printre tehnicile de explicabilitate, SHAP iese în evidență ca fiind una dintre cele mai populare, dar adesea trece cu vederea structura cauzală a problemei. Ca răspuns, do-SHAP utilizează interogări intervenționale, dar dependența sa de estimări împiedică aplicarea sa practică. Pentru a rezolva această problemă, propunem utilizarea abordărilor agnostice estimative, care permit estimarea oricărei interogări identificabile dintr-un singur model, făcând posibilă do-SHAP pe grafice complexe. De asemenea, dezvoltăm un algoritm nou pentru a accelera în mod semnificativ calculul la un cost neglijabil, precum și o metodă de a explica procesele inaccesibile de generare a datelor. Demonstrăm estimarea și performanța computațională a abordării noastre și o validăm pe două seturi de date din lumea reală, evidențiind potențialul acesteia de a obține explicații fiabile.
Tipul publicației:
Document de conferință
Editorul:
Cea de a 39-a Conferință anuală privind sistemele de prelucrare a informațiilor neuronale (NeurIPS 2025)
Autori:
Alamgir Munir Qazi, John Philip McCrae, Jamal Nasir
Rezumat:
Proliferarea dezinformării necesită sisteme solide, dar eficiente din punct de vedere computațional, de verificare a faptelor. În timp ce abordările actuale de ultimă generație utilizează modelele lingvistice mari (LLM) pentru a genera justificări explicative, aceste metode se confruntă cu bariere computaționale semnificative și cu riscuri de halucinație în implementările din lumea reală. Prezentăm DeReC (Dense Retrieval Classification), un cadru ușor care demonstrează modul în care încorporarea textului de uz general poate înlocui în mod eficient abordările autoregresive bazate pe LLM, de fapt sarcini de verificare. Combinând recuperarea densă cu clasificarea specializată, sistemul nostru obține o precizie mai bună, fiind în același timp semnificativ mai eficient. DeReC depășește LLM-urile generatoare de explicații în eficiență, reducând timpul de funcționare cu 95% pe RAWFC (23 minute 36 secunde comparativ cu 454 minute 12 secunde) și cu 92% pe LIAR-RAW (134 de minute și 14 secunde, comparativ cu 1692 de minute și 23 de secunde), prezentându-și eficacitatea pe diferite dimensiuni ale seturilor de date. Pe setul de date RAWFC, DeReC obține un scor F1 de 65,58%, depășind metoda de ultimă generație L-Apărare (61,20%). Rezultatele noastre demonstrează că sistemele bazate pe recuperare atent proiectate pot egala sau depăși performanța LLM în sarcini specializate, fiind în același timp semnificativ mai practice pentru implementarea în lumea reală.
Tipul publicației:
Document de conferință
Editorul:
A 5-a Conferință privind limba, datele și cunoștințele
Autori:
Qiushi Li, Andrea Ciamarra, Roberto Caldelli și Stefano Berretti
Rezumat:
Pentru MediaEval 2025 SynthIm Challenge Task A (Synthetic Image Detection), am identificat o schimbare critică de distribuție între datele de antrenament și de testare furnizate, ceea ce face ca primul să fie un reprezentant slab pentru domeniul țintă. Abordarea noastră abordează în mod direct această provocare prin încorporarea setului de validare mai consistent din punct de vedere stilistic în datele noastre de antrenament și prin utilizarea unui CLIP ViT-L/14 înghețat ca extractor robust de caracteristici. Perspectiva noastră principală este că, în astfel de condiții de schimbare a domeniului, reprezentările generalizabile dintr-un model pre-instruit mare depășesc în mod semnificativ un CNN tradițional reglat fin pe setul de date necorespunzător, dovedindu-se a fi o strategie mai eficientă și mai fiabilă.
Tipul publicației:
Document de conferință
Editorul:
MediaEval”25: Atelier de evaluare multimedia, 25-26 octombrie 2025, Dublin, Irlanda și online
Acces la cerere
Autori:
Qiushi Li, Roberto Caldelli și Stefano Berretti
Rezumat:
Progresul rapid al modelelor de generare a imaginilor, cum ar fi Stable Diffusion, ridică preocupări cu privire la posibila utilizare abuzivă, făcând ca tehnicile robuste de filigranare să fie esențiale pentru autentificarea și atribuirea conținutului sintetic, în special în combaterea deepfake-urilor. Cu toate acestea, asigurarea simultană a generării de imagini de înaltă calitate și a extracției precise a filigranului rămâne o provocare. Printr-o analiză a metodelor existente, identificăm o limitare critică:
Funcțiile lor de pierdere adoptă adesea o singură referință (fie imaginea de intrare, fie imaginea generată curat) pentru optimizarea fidelității imaginii, ceea ce duce la performanțe suboptime. În această lucrare, efectuăm un studiu aprofundat al termenului de pierdere a calității imaginii în filigranarea bazată pe difuzie. Analizând impactul distinct al utilizării imaginii de intrare față de imaginea generată curat ca referințe în timpul optimizării, dezvăluim că luarea în considerare în comun a ambelor referințe îmbunătățește semnificativ robustețea și calitatea vizuală. Experimentele extinse demonstrează că abordarea noastră cu referință dublă atinge performanțe superioare atât în ceea ce privește precizia extracției filigranului, cât și fidelitatea generării în comparație cu valorile de referință cu referință unică. Susținem această paradigmă pentru a promova filigranarea fiabilă în modelele generative.
Tipul publicației:
Document de conferință
Editorul:
DFF ’25: Lucrările primului atelier de criminalistică Deepfake: Detectarea, atribuirea, recunoașterea și provocările adverse în era mass-mediei generate de IA
Autori:
Josu Eguiluz Castañeira, Axel Brando, Migle Laukyte, Marc Serra-Vidal
Rezumat:
Inteligența artificială (IA) pătrunde în prezent în infrastructurile critice și în sistemele decizionale în care eșecurile produc prejudicii sociale, economice și democratice. Acest document de poziție contestă convingerea înrădăcinată că reglementarea și inovarea sunt opuse. După cum reiese din analogiile din domeniul aviației, al produselor farmaceutice și al sistemelor de protecție socială și din cazurile recente de dezinformare sintetică, de părtinire și de luare a deciziilor care nu pot fi trase la răspundere, absența unei reglementări bine concepute a creat deja daune incomensurabile. Atunci când este gândită și adaptabilă, reglementarea nu reprezintă o frână în calea inovării, ci este fundamentul acesteia. Prezentul document de poziție examinează Regulamentul UE privind IA ca model de reglementare bazată pe riscuri și pe responsabilitate, care abordează dilema Collingridge: acțiuni suficient de timpurii pentru a preveni prejudiciile, dar suficient de flexibile pentru a susține inovarea. Mecanismele sale de adaptare – spații de testare în materie de reglementare, sprijin pentru întreprinderile mici și mijlocii (IMM-uri), testare în condiții reale, evaluarea impactului asupra drepturilor fundamentale (FRIA) – demonstrează modul în care reglementarea poate accelera în mod responsabil, mai degrabă decât să întârzie, progresul tehnologic. Documentul de poziție sintetizează modul în care instrumentele de guvernanță transformă sarcinile percepute în avantaje tangibile: securitatea juridică, încrederea consumatorilor și competitivitatea etică. În cele din urmă, documentul reformulează progresul: inovarea și reglementarea avansează împreună. Prin integrarea transparenței, a evaluărilor impactului, a responsabilității și a alfabetizării în domeniul IA în proiectare și implementare, cadrul UE definește ceea ce înseamnă cu adevărat inovarea responsabilă – ambiția tehnologică disciplinată de valorile democratice și de drepturile fundamentale.
Tipul publicației:
Document de conferință
Editorul:
Cea de a 39-a Conferință anuală privind sistemele de prelucrare a informațiilor neuronale (NeurIPS 2025)
Autorul: Pascaline Gaborit
Rezumat:
Într-o eră a incertitudinii globale, încrederea a devenit un factor critic care modelează relațiile dintre națiuni, instituții și indivizi. Această carte, Trust, New Technologies and Geopolitics in an Uncertain World (Încredere, noi tehnologii și geopolitică într-o lume nesigură), oferă o explorare în timp util și în profunzime a modului în care încrederea este testată și transformată în fața peisajelor geopolitice în schimbare rapidă. De la fragilitatea sistemelor democratice la provocările generate de noile tehnologii, IA, dezinformare și schimbările climatice, această carte abordează cele mai presante probleme ale timpului nostru. Examinând intersecțiile încrederii cu domenii-cheie, cum ar fi democrațiile, războaiele comerciale și noile tehnologii, această activitate oferă informații valoroase factorilor de decizie politică, cercetătorilor și tuturor celor care încearcă să înțeleagă complexitatea lumii de astăzi. Indiferent dacă vă preocupă securitatea cibernetică, dezinformarea, impactul amenințărilor hibride sau rolul încrederii în diplomația internațională, această carte oferă un cadru cuprinzător, dar accesibil, pentru a face față acestor provocări. Ea aruncă o lumină asupra modului în care înțelegerea încrederii este esențială pentru abordarea incertitudinilor geopolitice care definesc epoca noastră.
Tipul publicației:
Carte
Editorul:
Peter Lang Publisher
Autorul:
Eddie Conti, Álvaro Parafita, Axel Brando
Rezumat:
Evaluarea importanței caracteristicilor individuale în învățarea automată este esențială pentru înțelegerea procesului decizional al modelului. Deși există numeroase metode, lipsa unui adevăr fundamental definitiv pentru comparație evidențiază necesitatea unor măsuri alternative, bine întemeiate. Această lucrare introduce o nouă metodă de importanță locală post-hoc numită Distribuția Importanței Contrafactuale (CID). Generăm două seturi de contrafactuale pozitive și negative, modelăm distribuțiile lor folosind Estimarea Densității Kernelului și clasificăm caracteristicile bazate pe o măsură a dissimilarității distributive. Această măsură, bazată pe un cadru matematic riguros, satisface proprietățile cheie necesare pentru a funcționa ca o metrică validă. Evidențiem eficacitatea metodei noastre prin compararea cu explicatorii de importanță locală bine stabiliți. Metoda noastră nu numai că oferă perspective complementare abordărilor existente, ci îmbunătățește și performanța în ceea ce privește indicatorii de fidelitate (atât pentru exhaustivitate, cât și pentru suficiență), ceea ce duce la explicații mai fidele ale sistemului. Aceste rezultate evidențiază potențialul său ca instrument valoros pentru analiza modelelor.
Tipul publicației:
Document de conferință
Editorul:
Conferința de învățare profundă Northern Lights 2026