Tieteellinen Julkaisut
Tekijät:
Axel Brando, Lucas Berry, David Mege
Tiivistelmä:
Generatiiviset diffuusiomallit, jotka ovat tunnettuja suuresta parametrimäärästään (yli 100 miljoonaa) ja toiminnastaan suuriulotteisissa kuvatiloissa, asettavat merkittäviä haasteita perinteisille epävarmuuden arviointimenetelmille laskennallisten vaatimusten vuoksi. Tässä työssä esittelemme innovatiivisen viitekehyksen, Diffusion Ensembles for Capturing Uncertainty (DECU), joka on suunniteltu diffuusiomallien episteemisen epävarmuuden arviointiin. DECU-kehyksessä otetaan käyttöön uusi menetelmä, joka kouluttaa tehokkaasti ehdollisen diffuusion mallien yhdistelmiä sisällyttämällä staattisen joukon ennalta koulutettuja parametreja, mikä vähentää merkittävästi laskennallista rasitetta ja koulutusta edellyttävien parametrien määrää. Lisäksi DECU käyttää parittaisen etäisyyden estimaattoreita (PaiDE) mittaamaan tarkasti episteemistä epävarmuutta arvioimalla mallien tuotosten ja painojen keskinäisiä tietoja korkeaulotteisissa tiloissa. Tämän kehyksen tehokkuus osoitetaan ImageNet-datajoukon kokeilla, joissa korostetaan sen kykyä kaapata episteeminen epävarmuus, erityisesti alinäytteistetyissä kuvaluokissa.
Julkaisutyyppi:
Konferenssiasiakirja
Julkaisija:
Tekoälyn epävarmuutta käsittelevä 40. konferenssi
Tekijät:
Coccomini D.A., Caldelli R., Gennaro C., Fiameni G., Amato G., Falchi F.
Tiivistelmä:
Viime aikoina synteettisten medioiden, jotka tunnetaan syväväärennöksinä, kasvava leviäminen on mahdollistanut tekoälyteknologioiden, erityisesti syväoppimisalgoritmien, nopean kehityksen. Kasvavat huolet syväväärennösten kasvavasta saatavuudesta ja uskottavuudesta ovat kannustaneet tutkijoita keskittymään menetelmien kehittämiseen niiden havaitsemiseksi. Tällä alalla ISTI CNR:n AIMH Labin tutkijat ovat yhteistyössä muiden organisaatioiden tutkijoiden kanssa tehneet tutkimuksia ja hankkeita tämän suuntauksen torjumiseksi ja uusien ratkaisujen ja uhkien tutkimiseksi. Tässä artikkelissa esitetään yhteenveto viimeisimmistä toimista, joita tutkijat ovat tehneet tällä alalla yhteistyössä muiden laitosten ja asiantuntijoiden kanssa.
Julkaisutyyppi:
Konferenssiasiakirja
Julkaisija:
CEUR Workshop Proceedings
Tekijät:
Stanciu, Cristian ja Ionescu, Bogdan ja Cuccovillo, Luca ja Papadopoulos, Symeon ja Kordopatis-Zilos, Giorgos ja Popescu, Adrian ja Caldelli, Roberto
Tiivistelmä:
Synteettisen median tuottamisessa ja manipuloinnissa on viime vuosina nähty nopeita mainosviittauksia, joiden ansiosta on yhä helpompaa luoda multimediasisältöä, jota ihminen ei pysty erottamaan toisistaan. Lisäksi yksittäiset henkilöt ja organisaatiot voivat käyttää tuotettua sisältöä haitallisesti disinformaation levittämiseen, mikä on merkittävä uhka yhteiskunnalle ja demokratialle. Siksi tarvitaan kiireellisesti tekoälyvälineitä, joilla helpotetaan oikea-aikaista ja tehokasta tiedotusvälineiden todentamisprosessia. MAD’24-työpajassa pyritään tuomaan yhteen taustaltaan erilaisia ihmisiä, jotka ovat omistautuneet torjumaan multimedian disinformaatiota tekoälyn avulla, edistämällä ympäristöä innovatiivisten ideoiden tutkimiseksi ja kokemusten jakamiseksi. Kiinnostavia tutkimusaloja ovat muun muassa manipuloidun tai tuotetun sisällön tunnistaminen sekä disinformaation levittämisen ja sen yhteiskunnallisten seurausten tutkiminen. Tunnustaen multimedian merkityksen työpaja korostaa sisällön eri muotojen yhteistä analyysiä, koska todentamista voidaan parantaa yhdistämällä useita sisällön muotoja.
Julkaisutyyppi:
Konferenssiasiakirja
Julkaisija:
Kolmannen disinformaatiota torjuvaa multimediatekoälyä käsittelevän ACM:n kansainvälisen työpajan käsittely
Tekijät:
Andrea Ciamarra, Roberto Caldelli ja Alberto Del Bimbo
Tiivistelmä:
Videosarjan katsominen, jossa edustamasi henkilö on edustettuna, ei ole enää niin kauan sitten. Syväväärennökset ovat mullistaneet tapamme katsella tällaisia sisältöjä, ja nykyään meitä käytetään useammin miettimään, onko näkemämme todellinen vai vain mystifiointi. Yleistyneen disinformaation yhteydessä on voimakkaasti tulossa tarve luotettaville ratkaisuille, joilla autetaan tavallisia käyttäjiä eikä pelkästään arvioimaan tällaisia videosekvenssejä. Tässä artikkelissa esitellään uusi lähestymistapa, joka hyödyntää ajallisia pintakehyspoikkeamia syväväärennösvideoiden paljastamiseksi. Menetelmässä etsitään syväväärennösten manipuloinnin aiheuttamia mahdollisia poikkeamia taltioituun kohtaukseen kuuluvilla pinnoilla ja niiden kehityksessä ajallisella akselilla. Näitä ominaisuuksia käytetään syötteenä syviin neuroverkkoihin perustuvassa putkijohdossa, joka suorittaa itse videon binäärisen arvioinnin. Kokeelliset tulokset osoittavat, että tällaisilla menetelmillä voidaan saavuttaa merkittäviä tuloksia havaitsemistarkkuudessa.
Julkaisutyyppi:
Konferenssiasiakirja
Julkaisija:
2024 IEEE/CVF Conference on Computer Vision and Pattern Recognition Workshops (CVPRW) Näytä tarkat tiedot
Tekijät:
Pascaline Gaborit
Tiivistelmä:
Kansainväliset järjestöt luokittelevat disinformaation yhdeksi suurimmista uhkista demokratialle ja instituutioille yli vuosikymmenen ajan. Digitaaliteknologiat uudistavat ja muuttavat perinpohjaisesti nykyaikaisia elämäntapoja sekä kansalaisten ja yritysten toimintaympäristöjä. Tekoäly aiheuttaa uuden häiriön tavassa, jolla saamme tietoa ja luomme, levitämme ja ymmärrämme tietoa. Se voi myös hämärtää todellisen tiedon ja manipuloidun tiedon välisiä rajoja, kun syntyy valeuutisia, automaattisten verkkojen ristiviittauksia ja syväväärennöksiä. Tekoälyjärjestelmät lisäävät mahdollisuuksia luoda realistista väärennettyä sisältöä ja kohdennettuja disinformaatiokampanjoita. Disinformaatio ylittää pelkät huhut, joiden tarkoituksena on tarkoituksellisesti harhauttaa ja vääristää näyttöön perustuvaa tietoa tekaistujen tietojen avulla. EU:n toimielimet ovat myös viime aikoina keskittyneet ulkomaiseen tiedonmanipulointiin ja häirintään liittyvän disinformaation tunnistamiseen: Ulkomainen tiedonmanipulointi ja häirintä. Artikkelissa yksilöidään disinformaatioon ja tekoälyyn liittyviä suuntauksia ja huolenaiheita. Siinä tarkastellaan disinformaation käsityksiä, sen vaikutuksia ja vastauksia, mukaan lukien EU:n tekoälysäädös ja verkkoalustojen toimintapolitiikat. Se tarjoaa ensimmäisen analyyttisen lähestymistavan aiheeseen tutkijoiden tämänhetkisten keskustelujen, vuoden 2024 kyselytutkimusten ensimmäisten havaintojen, haastattelujen ja satojen verkossa olevien valeuutisten analyysin perusteella. Siinä pyritään ymmärtämään, miten kansalaiset ja sidosryhmät mieltävät disinformaation ja tunnistavat sen mahdolliset vaikutukset. Siinä analysoidaan myös nykyisiä haasteita ja rajoituksia, mahdollisuuksia ja rajoituksia manipuloinnin ja häirinnän torjumiseksi. Artikkelissa tarkastellaan disinformaation nykyisiä prosesseja ja vaikutuksia (2), disinformaation käsityksiä koskevan verkkokyselyn tärkeimpien havaintojen esittelyä (3), EU:n nykyisiä sääntelytoimia (4) ja keskustelukohtia (5). Väitämme tässä artikkelissa, että tiedonsaantitavassa on tapahtunut valtava muutos, mutta disinformaation vastatoimet ovat vielä varhaisessa vaiheessa. Artikkeli osoittaa myös, että Euroopan maissa on lisääntynyt tietoisuus disinformaation vaikutuksista, mutta myös ero ”valeuutisten” ja disinformaation tunnistamiskyvyn ja disinformaation levittämiseen osallistuvien prosessien, uhkien ja toimijoiden vähäisen ymmärtämisen välillä.
Julkaisutyyppi:
Lehtipaperi
Julkaisija:
Journal of Political Science and International Relations
Tekijät:
Tomas Garriga, Gerard Sanz, Eduard Serrahima de Cambra, Axel Brando
Tiivistelmä:
Tässä artikkelissa esitämme uudenlaisen rakenteellisten kausaalimallien (SCM) ja sieppaus-toiminta-ennustusmenettelyn soveltamisen aikasarjaan, joka asettaa todellisen maailman ongelman lääketeollisuudessa. Pyrimme arvioimaan vaihtoehtoiset skenaariot sellaisen lääkkeen myyntimäärälle, johon kilpailevan geneerisen lääkkeen markkinoille tulo on vaikuttanut. Käytämme enkooderi-dekooderipohjaisia arkkitehtuureja, soveltaen ehdollista variaatioautokooderia ja myös ottamalla käyttöön ehdollisia harvalukuisia autokoodereita, joita ei ollut koskaan käytetty vaihtoehtoisessa kirjallisuudessa. Ehdotettu menetelmä edellyttää historiallisten tapahtumasarjojen ja tapahtumattomien aikasarjojen saatavuutta, ja sen etuna on se, että siinä ei nojauduta kontrollikovariaatteihin, joita ei ehkä ole käytettävissä, samalla kun se ylittää selvästi ennusteen vaihtoehtoisen perusarvion. Arvioimme lähestymistapaamme käyttämällä yrityksemme reaalimaailman myyntidatajoukkoa sekä synteettisiä ja puolisynteettisiä datajoukkoja, jotka jäljittelevät ongelman kontekstia ja osoittavat sen tehokkuuden. Olemme soveltaneet tätä mallia menestyksekkäästi yrityksessämme ja antaneet hyödyllistä tietoa liiketoiminnan suunnitteluun, investointien kohdentamiseen ja tavoitteiden asettamiseen.
Julkaisutyyppi:
Työpajan artikkeli
Julkaisija:
NeurIPS’24-työpaja syy-seuraussuhteiden oppimisesta
Tekijät:
Anastasios Manos, Despina Elisabeth Filippidou, Nikolaos Pavlidis, Georgios Karanasios, Georgios Vachtanidis, Arianna D’Ulizia
Tiivistelmä:
Digitaalisten alustojen yleistyminen on helpottanut disinformaation nopeaa leviämistä, mikä aiheuttaa merkittäviä sosiaalisia, poliittisia ja taloudellisia haasteita. Tietämyskaaviot ovat nousemassa tehokkaiksi välineiksi, joilla parannetaan valeuutisten havaitsemisjärjestelmien tarkkuutta, tulkittavuutta ja skaalautuvuutta ja puututaan rajoituksiin perinteisissä koneoppimiseen perustuvissa lähestymistavoissa, jotka perustuvat ensisijaisesti kielelliseen analyysiin. Tämä työ sisältää kirjallisuuskatsauksen, joka kokoaa yhteen viimeaikaiset tutkimukset KG: n soveltamisesta disinformaation havaitsemiseen. Tunnistamme, miten KG: t parantavat havaitsemista koodaamalla todellisia suhteita, analysoimalla kontekstia ja parantamalla mallin tulkittavuutta. Arvioidut tutkimukset korostavat tarvetta tulevalle tutkimukselle, jossa keskitytään skaalautuviin, reaaliaikaisiin ja kielellisiin KG-malleihin disinformaation havaitsemisvalmiuksien vahvistamiseksi maailmanlaajuisesti. Lisäksi esitämme kahden käyttötapauksen alustavat tulokset ja esitämme avainryhmien rakentamista koskevan menetelmän, joka voi toimia hyödyllisinä välineinä disinformaation leviämisen torjunnassa.
Julkaisutyyppi:
Konferenssiasiakirja
Julkaisija:
Vuoden 2024 kansainvälinen insinööritieteiden ja kehitteillä olevien teknologioiden konferenssi (ICEET)
Tekijät:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Tiivistelmä:
Tässä asiakirjassa tarkastellaan Euroopan unionin monitahoista vastausta laajalle levinneeseen disinformaatiokysymykseen, joka on voimistunut Krimin liittämisen jälkeen vuonna 2014. Disinformaatio on merkittävä uhka demokraattisille prosesseille ja kansalaisten hyvinvoinnille. Euroopan unionin lähestymistavassa yhdistyvät sääntelytoimenpiteet, strategiset kumppanuudet ja medialukutaitoa koskevat aloitteet, joilla puututaan tähän ilmiöön ja turvataan samalla keskeiset demokraattiset periaatteet, kuten sananvapaus. Keskeisiä toimenpiteitä ovat disinformaatiota koskevat käytännesäännöt ja digipalvelusäädös, joilla pyritään saattamaan digitaaliset alustat vastuuseen ja varmistamaan avoimuus. Lisäksi East StratCom -työryhmän ja nopean hälytysjärjestelmän kaltaisissa aloitteissa korostetaan Euroopan unionin pyrkimyksiä torjua disinformaatiota hybridisodankäynnin välineenä. Tässä asiakirjassa korostetaan myös kansalaisten ratkaisevaa roolia. Euroopan unioni pyrkii lisäämään heidän vaikutusmahdollisuuksiaan medialukutaito-ohjelmien avulla, jotta he voivat tunnistaa manipuloivan sisällön ja vastustaa sitä. Tässä tutkimuksessa tarkastellaan hallitusten toimien, yksityisen sektorin osallistumisen ja kansalaisten osallistumisen välistä vuorovaikutusta ja esitetään kattava analyysi Euroopan unionin disinformaation vastaisesta strategiasta sekä arvioidaan haasteita ja tulevia suuntia, jotka ovat tarpeen demokraattisen häiriönsietokyvyn ylläpitämiseksi kehittyvässä digitaalisessa ympäristössä.
Julkaisutyyppi:
Tieteellinen artikkeli
Julkaisija:
Informaatio Polity
Tekijät:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Tiivistelmä:
Tarkoitus
Tässä tutkimuksessa pyritään monitieteisen lähestymistavan avulla jäljittämään disinformaatiokampanjoiden polku niiden havaitsemisesta kielellisten uskottavuusvihjeiden avulla niiden edistämiseen levitysmekanismien avulla ja lopuksi arvioimaan niiden vaikutusta yhteiskunnallis-poliittiseen kontekstiin.
Suunnittelu/menetelmä/lähestymistapa
Tässä tutkimuksessa esitetään perusteellinen katsaus disinformaation neljään perusnäkökohtaan: kielelliset ominaisuudet, jotka erottavat yleistä mielipidettä harhauttavan ja manipuloivan sisällön, mediamekanismit, jotka helpottavat sen levittämistä hyödyntämällä yleisön kognitiivisia prosesseja, generatiivisen tekoälyn lisääntyvän käytön aiheuttamat uhat disinformaation levittämisessä ja laajemmat seuraukset, joita tällä disinformaation dynamiikalla on yleiseen mielipiteeseen ja näin ollen poliittisiin päätöksentekoprosesseihin.
Havainnot
Tämän tuloksena asiakirjassa tarkastellaan ilmiötä monitieteisesti ja kokonaisvaltaisesti ja viitataan sen moniarvoisiin osatekijöihin, jotta voidaan korostaa alustavastuun, kansalaisten medialukutaitokampanjoiden sekä yksityisen ja julkisen sektorin välisen vuorovaikutteisen yhteistyön merkitystä toimenpiteinä, joilla parannetaan häiriönsietokykyä disinformaation uhkaa vastaan.
Omaperäisyys/arvo
Tutkimuksessa korostetaan tarvetta lisätä alustojen vastuuvelvollisuutta, edistää medialukutaitoa yksilöiden keskuudessa ja kehittää yhteistyötä julkisen ja yksityisen sektorin välillä. Tämän yhdennetyn strategian tavoitteita ovat disinformaation sietokyvyn vahvistaminen ja EU:n sopeutumiskyvyn varmistaminen muuttuvien digitaalisten uhkien edessä. Asiakirjassa kannatetaan viime kädessä oikeudenmukaista ja avointa strategiaa, jolla suojellaan sananvapautta ja vahvistetaan demokraattisia instituutioita digitaalisen disinformaation lisääntyessä.
Julkaisutyyppi:
Tieteellinen artikkeli
Julkaisija:
Journal of Information, Communication and Ethics in Society (2025) Näytä tarkat tiedot
Tekijät:
Eddie Conti, Alejandro Astruc, Álvaro Parafita, Axel Brando
Tiivistelmä:
Sen ymmärtäminen, miten tieto leviää Transformer-mallien kautta, on keskeinen haaste tulkittavuudelle. Tässä työssä tutkimme minimaalisten token-häiriöiden vaikutuksia upotustilaan. Kokeissamme analysoimme, kuinka usein tokenit tuottavat minimaalisia siirtymiä, korostaen, että harvinaiset tokenit johtavat yleensä suurempiin siirtymiin. Lisäksi tutkimme, miten häiriöt leviävät kerrosten välillä, mikä osoittaa, että syöttötiedot sekoittuvat yhä syvemmissä kerroksissa. Havaintomme vahvistavat yleisen oletuksen, että mallin ensimmäisiä kerroksia voidaan käyttää mallin selitysten sijaisina. Kaiken kaikkiaan tämä työ esittelee merkkien häiriöiden ja siirtymien yhdistelmän upotustilassa tehokkaana mallin tulkittavuuden välineenä.
Julkaisutyyppi:
Työpajan artikkeli
Julkaisija:
IJCAI 2025 -seminaari selittävästä tekoälystä
Tekijät:
Andrea Ciamarra, Roberto Caldelli ja Alberto Del Bimbo
Tiivistelmä:
Disinformaatiota indusoidaan aina enemmän turvautumalla muutettuun tai täydelliseen synteettisesti tuotettuun realistiseen sisältöön, joka tunnetaan yleisesti syväväärennöksinä. Tämän vuoksi tarvitaan luotettavia välineitä, jotka pystyvät paljastamaan tällaisen valheellisen sisällön, jotta vältetään ihmisten ajattelun polarisoituminen. On esitetty erilaisia tekniikoita, joiden yhteisenä nimittäjänä on etsiä joitakin epäjohdonmukaisuuksia, jotka johtuvat väärennetystä tuotantoprosessista ja jotka osoitetaan tarkastelemalla erityispiirteitä. Vaikuttaa siltä, että eri ominaispiirteiden mahdollinen yhdistelmä voisi tarjota tehokkaampia saavutuksia. Tässä näkemyksessä ja aiemmassa asiaa koskevassa tutkimuksessamme ehdotamme, että tutkitaan uutta ominaisuutta, jossa otetaan periaatteessa huomioon koko hankintakohtauksen sisäänrakennetut suhteet kuvan (videon) kaappaamisen aikana ja jota sitten edustavat kuvan pikseliarvot. Ajatuksena on, että deepfake-tuotantoprosessi voi rikkoa tällaiset sisäiset riippuvuudet valaistuksen (voimakkuus ja suunta), esinepintojen (sijainti ja heijastus) ja hankintamelun välillä, mikä osoittaa mahdollisen manipuloinnin. Tämän mukaan ominaisuuskuvaaja, nimeltään Local Surface Descriptor, on rakennettu ja sitä käytetään kouluttamaan CNN-pohjaisia malleja syväväärennösten havaitsemiseen. Eri operatiivisissa yhteyksissä suoritetut kokeelliset tulokset osoittavat merkittävän havaitsemistarkkuuden jopa 90%.
Julkaisutyyppi:
Konferenssiasiakirja
Julkaisija:
2024 IEEE International Conference on Image Processing Challenges and Workshops (ICIPCW), Abu Dhabi, Yhdistyneet arabiemiirikunnat, 2024
Tekijät:
Andrea Ciamarra, Roberto Caldelli ja Alberto Del Bimbo
Tiivistelmä:
Todellinen kyky tuottaa tekoälyn avulla realistisia täysin synteettisiä kuvia paranee päivä päivältä, ja tämä pätee erityisesti ihmisten kasvoja esittäviin kuviin, jotka näyttävät erottamattomilta todellisista ihmisistä. Tästä syystä on ratkaisevan tärkeää kehittää välineitä, joilla voidaan erottaa toisistaan todelliset ja ei-olemassa olevat ihmiset havaitsemalla kuviin mahdollisesti sisältyviä epäjohdonmukaisuuksia luomisprosessin aikana. Tärkein ero koskemattoman kuvan ja syväväärennetyn kuvan välillä on se, että toisessa tapauksessa ei ole ollut tehokasta kameran hankintaa; Joten kaikki erilaiset vuorovaikutussuhteet kohtaukseen kuuluvien elementtien välillä (valot, heijastus, esinekohtaiset sijainnit 3D-avaruudessa) eivät ole reaalimaailman ottamia tuona tarkana hetkenä, vaan vain keinotekoisesti toistettuja. Tällaisen pohdinnan mukaan esittelemme tässä työssä paikallisia kameran pintakehyksiä mahdollisena keinona edustaa näitä erityisiä ympäristöominaisuuksia erojen korostamiseksi. Suoritettu kokeellinen analyysi on todistanut, että tämä ominaisuus voi antaa erittäin korkean tarkkuuden ja merkittävän yleistyksen.
Julkaisutyyppi:
Konferenssiasiakirja
Julkaisija:
2024 IEEE International Conference on Image Processing Challenges and Workshops (ICIPCW), Abu Dhabi, Yhdistyneet arabiemiirikunnat, 2024
Tekijät:
Andrea Ciamarra, Roberto Caldelli ja Alberto Del Bimbo
Tiivistelmä:
Poikkeukselliset epätodelliset kuvat voidaan toteuttaa pow-erful AI -tekniikoilla. Erilaiset työkalut, jotka ovat kaikkien käytettävissä, pystyvät luomaan korkealaatuisia sisältöjä, erityisesti tuottamaan kokonaisia täysin synteettisiä kuvia. Olemassa olevista arkkitehtuureista diffuusioon perustuvat mallit voivat helposti tuottaa kaikenlaisia kuvia, myös ihmisen kasvokuvia, antamalla kehotteen kuin tekstin. Tällaista väärää sisältöä käytetään usein disinformaation levittämiseen, mikä herättää huolta ihmisten turvallisuudesta. Tällä hetkellä on yhä vaikeampaa kehittää luotettavia välineitä todellisten ja luotujen (jopa olemattomien) ihmisten erottamiseksi toisistaan. Lisäksi diffuusioon perustuvien toteutusten suuri määrä aiheuttaa tällaisille ilmaisimille ongelman uusien generatiivisten tekniikoiden yleistymisessä. Näiden ongelmien ratkaisemiseksi ehdotamme, että tutkitaan kuvanhankintaympäristöön perustuvan erottuvan ominaisuuden kykyä erottaa diffuusioon perustuvat kasvokuvat koskemattomista. Itse asiassa luotujen kuvien ei pitäisi sisältää ominaisuuksia, jotka ovat oikeita todellisella kameralla suoritetulle hankintavaiheelle. Tällaisia epäjohdonmukaisuuksia voidaan korostaa äskettäin käyttöön otetuilla paikallisilla pintakehyksillä. Tässä ominaisuudessa otetaan huomioon kohtaukseen liittyvät esineet ja pinnat, jotka kaikki vaikuttavat kameran hankintaprosessiin, sekä laitteeseen liittyvät muut olennaiset tiedot sekä valaistus ja heijastukset, jotka vaikuttavat koko skenaarioon. Tutkimuksessa tarkastellaan tämän ominaisuuden kykyä yleistyä kohti erilaisia tietoaineistoja ja uusia generatiivisia menetelmiä, joita ei tunneta koulutuksen aikana. Kokeelliset tulokset korostavat, että tällainen ominaisuus tarjoaa edelleen merkittävän havaitsemistarkkuuden myös näissä tapauksissa.
Julkaisutyyppi:
Konferenssiasiakirja
Julkaisija:
2024 IEEE International Conference on Image Processing Challenges and Workshops (ICIPCW), Abu Dhabi, Yhdistyneet arabiemiirikunnat, 2024
Tekijät:
Álvaro Parafita, Tomas Garriga, Axel Brando, Francisco J. Cazorla
Tiivistelmä:
Selitettävyystekniikoista SHAP erottuu yhtenä suosituimmista, mutta jättää usein huomiotta ongelman syy-rakenteen. Vastauksena do-SHAP käyttää interventiokyselyjä, mutta sen riippuvuus arvioista estää sen käytännön soveltamisen. Tämän ongelman ratkaisemiseksi ehdotamme estimointi-agnostisia lähestymistapoja, joiden avulla voidaan arvioida kaikki tunnistettavat kyselyt yhdestä mallista, jolloin do-SHAP on mahdollista monimutkaisissa kaavioissa. Kehitämme myös uuden algoritmin, joka nopeuttaa merkittävästi sen laskentaa vähäisin kustannuksin, sekä menetelmän, jolla selitetään saavuttamattomia datan tuottamisprosesseja. Osoitamme lähestymistapamme estimoinnin ja laskennallisen suorituskyvyn ja validoimme sen kahdella reaalimaailman tietoaineistolla korostaen sen mahdollisuuksia saada luotettavia selityksiä.
Julkaisutyyppi:
Konferenssiasiakirja
Julkaisija:
Yhdeksäskymmenesyhdeksäs vuotuinen konferenssi hermoston tietojenkäsittelyjärjestelmistä (NeurIPS 2025)
Tekijät:
Alamgir Munir Qazi, John Philip McCrae ja Jamal Nasir
Tiivistelmä:
Väärien tietojen leviäminen edellyttää luotettavia mutta laskennallisesti tehokkaita faktantarkistusjärjestelmiä. Vaikka nykyaikaisissa lähestymistavoissa hyödynnetään suuria kielimalleja selittävien perusteiden luomiseksi, nämä menetelmät kohtaavat merkittäviä laskennallisia esteitä ja hallusinaatioriskejä reaalimaailman käyttöönotoissa. Esittelemme DeReC (Dense Retrieval Classification), kevyt kehys, joka osoittaa, miten yleiskäyttöiset teksti upotukset voivat tehokkaasti korvata autoregressiiviset LLM-pohjaiset lähestymistavat itse asiassa todentamistehtävissä. Yhdistämällä tiheän haun erikoisluokitukseen järjestelmämme saavuttaa paremman tarkkuuden ja on samalla huomattavasti tehokkaampi. DeReC ylittää selityksiä tuottavat LLM: t tehokkuudessa, mikä vähentää ajoaikaa 95: llä% RAWFC (23 minuuttia 36 sekuntia verrattuna 454 minuuttiin 12 sekuntia) ja 92% LIAR-RAW (134 minuuttia 14 sekuntia verrattuna 1692 minuuttiin 23 sekuntia), joka osoittaa sen tehokkuuden eri kokoisissa tietoaineistoissa. RAWFC-aineistossa DeReC saavutti F1-pistemäärän 65,58%, joka ylittää uusimman L-Defense-menetelmän (61.20%). Tuloksemme osoittavat, että huolellisesti suunnitellut hakupohjaiset järjestelmät voivat täsmätä tai ylittää LLM-suorituskyvyn erikoistuneissa tehtävissä ja olla samalla huomattavasti käytännöllisempiä todellisessa käyttöönotossa.
Julkaisutyyppi:
Konferenssiasiakirja
Julkaisija:
Viides kieliä, tietoa ja osaamista käsittelevä konferenssi
Tekijät:
Qiushi Li, Andrea Ciamarra, Roberto Caldelli ja Stefano Berretti
Tiivistelmä:
MediaEval 2025 SynthIm Challenge -tehtävässä A (Synteettinen kuvantunnistus) tilintarkastustuomioistuin havaitsi kriittisen jakauman muutoksen annetun koulutuksen ja testidatan välillä, mikä teki ensin mainitusta kohdealan huonon edustajan. Lähestymistapamme vastaa suoraan tähän haasteeseen sisällyttämällä stylistisesti johdonmukaisemman validoinnin harjoitustietoihimme ja hyödyntämällä jäädytettyä CLIP ViT-L/14:ää vankkana ominaisuuksien poistolaitteena. Tärkein näkemyksemme on, että tällaisissa aluesiirtymäolosuhteissa suuren ennalta koulutetun mallin yleistettävät esitykset ylittävät merkittävästi perinteisen CNN: n, joka on hienosäädetty epäsuhtaiselle tietojoukolle, osoittautuen tehokkaammaksi ja luotettavammaksi strategiaksi.
Julkaisutyyppi:
Konferenssiasiakirja
Julkaisija:
MediaEval’25: Multimedia Evaluation Workshop, 25.–26. lokakuuta 2025, Dublin, Irlanti ja verkossa
Pääsy pyynnöstä
Tekijät:
Qiushi Li, Roberto Caldelli ja Stefano Berretti
Tiivistelmä:
Vakaan diffuusion kaltaisten kuvanmuodostusmallien nopea kehitys herättää huolta mahdollisesta väärinkäytöstä, minkä vuoksi vankat vesileimaustekniikat ovat välttämättömiä synteettisen sisällön todentamiseksi ja osoittamiseksi erityisesti syväväärennösten torjunnassa. Laadukkaan kuvanmuodostuksen ja tarkan vesileiman poiston varmistaminen samanaikaisesti on kuitenkin edelleen haastavaa. Analysoimalla olemassa olevia menetelmiä tunnistamme kriittisen rajoituksen:
niiden häviötoiminnot käyttävät usein yhtä viitettä (joko syöttökuvaa tai puhtaasti luotua kuvaa) kuvan uskollisuuden optimoimiseksi, mikä johtaa epäoptimaaliseen suorituskykyyn. Tässä artikkelissa tutkimme syvällisesti kuvanlaatuhäviötermiä diffuusiopohjaisessa vesileimauksessa. Analysoimalla syöttökuvan käytön eri vaikutuksia verrattuna puhtaasti tuotettuun kuvaan referensseinä optimoinnin aikana, paljastamme, että molempien referenssien huomioon ottaminen yhdessä parantaa merkittävästi lujuutta ja visuaalista laatua. Laajat kokeet osoittavat, että kaksoisvertailumenetelmämme saavuttaa ylivoimaisen suorituskyvyn sekä vesileiman uuttotarkkuudessa että tuotannon uskollisuudessa verrattuna yhden referenssin perusviivoihin. Kannatamme tätä paradigmaa luotettavan vesileiman edistämiseksi generatiivisissa malleissa.
Julkaisutyyppi:
Konferenssiasiakirja
Julkaisija:
DFF ”25: Ensimmäinen Deepfake Forensics Workshop -tapahtuma: Havaitseminen, nimeäminen, tunnustaminen ja vastakkaiset haasteet tekoälyn luoman median aikakaudella
Tekijät:
Josu Eguiluz Castañeira, Axel Brando, Migle Laukyte, Marc Serra-Vidal
Tiivistelmä:
Tekoäly läpäisee nyt kriittiset infrastruktuurit ja päätöksentekojärjestelmät, joissa epäonnistumiset aiheuttavat sosiaalista, taloudellista ja demokraattista haittaa. Tässä kannanotossa kyseenalaistetaan vakiintunut usko siihen, että sääntely ja innovointi ovat vastakohtia. Kuten ilmailu-, lääke- ja hyvinvointijärjestelmien analogiat ja viimeaikaiset synteettisen väärän tiedon, puolueellisuuden ja vastuuttoman päätöksenteon tapaukset osoittavat, hyvin suunnitellun sääntelyn puuttuminen on jo aiheuttanut mittaamatonta vahinkoa. Kun sääntely on harkittua ja mukautuvaa, se ei jarruta innovointia – se on sen perusta. Tässä kannanotossa tarkastellaan EU:n tekoälysäädöstä riskiperusteisen, vastuulähtöisen sääntelyn mallina, jolla puututaan Collingridgen ongelmaan: toimia riittävän varhaisessa vaiheessa haittojen ehkäisemiseksi, mutta riittävän joustavasti innovoinnin ylläpitämiseksi. Sen mukautuvat mekanismit – sääntelyn testiympäristöt, pienten ja keskisuurten yritysten (pk-yritysten) tuki, reaalimaailman testaus, perusoikeusvaikutusten arviointi – osoittavat, miten sääntelyllä voidaan nopeuttaa teknologian kehitystä vastuullisesti eikä viivyttää sitä. Kannanotossa esitetään yhteenveto siitä, miten hallintovälineet muuttavat koetut rasitteet konkreettisiksi eduiksi: oikeusvarmuus, kuluttajien luottamus ja eettinen kilpailukyky. Viime kädessä paperi kuvaa edistymistä uudelleen: Innovointi ja sääntely etenevät yhdessä. Sisällyttämällä läpinäkyvyys, vaikutustenarvioinnit, vastuuvelvollisuus ja tekoälylukutaito suunnitteluun ja käyttöönottoon EU:n kehyksessä määritellään, mitä vastuullinen innovointi todella tarkoittaa – teknologinen tavoite, jota säätelevät demokraattiset arvot ja perusoikeudet.
Julkaisutyyppi:
Konferenssiasiakirja
Julkaisija:
Yhdeksäskymmenesyhdeksäs vuotuinen konferenssi hermoston tietojenkäsittelyjärjestelmistä (NeurIPS 2025)
Laatija: Pascaline Gaborit
Tiivistelmä:
Maailmanlaajuisen epävarmuuden aikakaudella luottamuksesta on tullut kriittinen tekijä, joka muokkaa kansojen, instituutioiden ja yksilöiden välisiä suhteita. Tämä kirja, Trust, New Technologies and Geopolitics in an Uncertain World, tarjoaa ajankohtaisen ja perusteellisen tutkimuksen siitä, miten luottamusta testataan ja muutetaan nopeasti muuttuvien geopoliittisten maisemien edessä. Demokraattisten järjestelmien hauraudesta uusien teknologioiden, tekoälyn, disinformaation ja ilmastonmuutoksen asettamiin haasteisiin tämä kirja pureutuu aikamme kiireellisimpiin kysymyksiin. Tutkimalla luottamuksen ja keskeisten alojen, kuten demokratioiden, kauppasotien ja uusien teknologioiden, välisiä yhtymäkohtia tämä työ tarjoaa arvokasta tietoa poliittisille päättäjille, tutkijoille ja kaikille, jotka haluavat ymmärtää nykymaailman monimutkaisuutta. Olipa kyse kyberturvallisuudesta, disinformaatiosta, hybridiuhkien vaikutuksista tai luottamuksen roolista kansainvälisessä diplomatiassa, tämä kirja tarjoaa kattavan mutta helposti saatavilla olevan kehyksen näihin haasteisiin vastaamiseksi. Se valaisee sitä, miten luottamuksen ymmärtäminen on avainasemassa käsiteltäessä geopoliittisia epävarmuustekijöitä, jotka määrittävät ikäämme.
Julkaisutyyppi:
Kirja
Julkaisija:
Peter Lang Julkaisija
Laatija:
Eddie Conti, Álvaro Parafita ja Axel Brando
Tiivistelmä:
Yksittäisten ominaisuuksien merkityksen arvioiminen koneoppimisessa on ratkaisevan tärkeää mallin päätöksentekoprosessin ymmärtämiseksi. Vaikka menetelmiä on lukuisia, lopullisen vertailuperusteen puuttuminen korostaa vaihtoehtoisten, hyvin perusteltujen toimenpiteiden tarvetta. Tämä artikkeli esittelee uuden post-hoc-paikallisen ominaisuuden tärkeysmenetelmän nimeltä Counterfactual Importance Distribution (CID). Luomme kaksi positiivisten ja negatiivisten vaihtoehtojen sarjaa, mallinnamme niiden jakaumat käyttämällä ytimen tiheyden estimointia ja sijoitamme ominaisuudet jakauman erilaisuusmittarin perusteella. Tämä mitta, joka perustuu tiukkaan matemaattiseen kehykseen, täyttää keskeiset ominaisuudet, joita tarvitaan toimimaan pätevänä mittarina. Esittelemme menetelmämme tehokkuutta vertaamalla vakiintuneita paikallisia ominaispiirteiden tärkeyden selittäjiä. Menetelmämme ei ainoastaan tarjoa täydentäviä näkökulmia olemassa oleviin lähestymistapoihin, vaan myös parantaa uskollisuusmittareiden suorituskykyä (sekä kattavuuden että riittävyyden osalta), mikä johtaa järjestelmän uskollisempiin selityksiin. Nämä tulokset korostavat sen potentiaalia arvokkaana mallin analysoinnin välineenä.
Julkaisutyyppi:
Konferenssiasiakirja
Julkaisija:
Northern Lights Deep Learning -konferenssi 2026