Tudományos Kiadványok
Szerzők:
Axel Brando, Lucas Berry, David Mege
Absztrakt:
A generatív diffúziós modellek, amelyek nagy (100 milliót meghaladó) paraméterszámukról és nagydimenziós képtereken belüli működésükről nevezetesek, a számítási igények miatt jelentős kihívást jelentenek a hagyományos bizonytalansági becslési módszerek számára. Ebben a munkában bemutatunk egy innovatív keretrendszert, a Diffusion Ensembles for Capturing Uncertainty-t (DECU), amelyet a diffúziós modellek episztemikus bizonytalanságának becslésére terveztek. A DECU keretrendszer olyan új módszert vezet be, amely hatékonyan betanítja a feltételes diffúziós modellek együtteseit azáltal, hogy előre betanított paraméterek statikus készletét tartalmazza, drasztikusan csökkentve a számítási terhet és a betanítást igénylő paraméterek számát. Ezenkívül a DECU Pairwise-Distance Estimators (PaiDEs) segítségével pontosan méri az episztemikus bizonytalanságot azáltal, hogy értékeli a modell kimenetei és a súlyok közötti kölcsönös információkat a nagy dimenziós terekben. Ennek a keretrendszernek a hatékonyságát az ImageNet adatkészleten végzett kísérletek bizonyítják, kiemelve annak képességét az episztemikus bizonytalanság megragadására, különösen az alulmintavételezett képosztályokban.
Közzététel típusa:
Konferenciadokumentum
Kiadó:
A mesterséges intelligenciával kapcsolatos bizonytalanságról szóló 40. konferencia
Szerzők:
Coccomini D.A., Caldelli R., Gennaro C., Fiameni G., Amato G., Falchi F.
Absztrakt:
Az utóbbi időben a mesterségesintelligencia-technológiák, különösen a mélytanulási algoritmusok gyors fejlődése tette lehetővé a deepfake néven ismert szintetikus média növekvő terjedését. A deepfake növekvő elérhetősége és hihetősége miatti növekvő aggodalmak arra ösztönözték a kutatókat, hogy összpontosítsanak az észlelésükre szolgáló módszerek kifejlesztésére. Ezen a területen az ISTI CNR AIMH Lab kutatói más szervezetek kutatóival együttműködve kutatásokat, vizsgálatokat és projekteket végeztek annak érdekében, hogy hozzájáruljanak e tendencia leküzdéséhez, új megoldások és fenyegetések feltárásával. Ez a cikk összefoglalja a kutatók által ezen a területen más intézményekkel és szakértőkkel együttműködve tett legújabb erőfeszítéseket.
Közzététel típusa:
Konferenciadokumentum
Kiadó:
A CEUR-munkaértekezlet eljárása
Szerzők:
Stanciu, Cristian és Ionescu, Bogdan és Cuccovillo, Luca és Papadopoulos, Symeon és Kordopatis-Zilos, Giorgos és Popescu, Adrian és Caldelli, Roberto
Absztrakt:
A szintetikus média előállítása és manipulálása az elmúlt években gyors hirdetési ugrásokat mutatott, ami egyre könnyebbé teszi az emberi megfigyelő számára megkülönböztethetetlen multimédiás tartalmak létrehozását. Emellett a létrehozott tartalmakat egyének és szervezetek rosszindulatúan felhasználhatják dezinformáció terjesztésére, ami jelentős fenyegetést jelent a társadalomra és a demokráciára nézve. Ezért sürgősen szükség van olyan MI-eszközökre, amelyek célja az időben történő és hatékony médiaellenőrzési folyamat megkönnyítése. A MAD’24 munkaértekezlet célja, hogy az innovatív ötletek feltárására és a tapasztalatok megosztására szolgáló környezet előmozdítása révén összehozza a multimédiás dezinformáció elleni küzdelem iránt elkötelezett, különböző háttérrel rendelkező embereket. Az érdeklődésre számot tartó kutatási területek magukban foglalják a manipulált vagy létrehozott tartalmak azonosítását, valamint a dezinformáció terjesztésének és társadalmi következményeinek vizsgálatát. Felismerve a multimédia jelentőségét, a műhely hangsúlyozza a tartalom különböző módozatainak közös elemzését, mivel az ellenőrzés javítható a tartalom különböző formáinak összesítésével.
Közzététel típusa:
Konferenciadokumentum
Kiadó:
Az ACM harmadik, a dezinformációval szembeni multimédiás mesterséges intelligenciáról szóló nemzetközi munkaértekezletének eredményei
Szerzők:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Absztrakt:
Ha megnézünk egy videósorozatot, ahol egy előtérben lévő személyt ábrázolnak, az már nem olyan régen van. A deepfake forradalmasította az ilyen tartalmak megfigyelésének módját, és manapság gyakrabban szoktunk azon tűnődni, hogy amit látunk, az valódi-e, vagy csak misztifikáció. Az általános félretájékoztatással összefüggésben nagy szükség van olyan megbízható megoldásokra, amelyek nemcsak a közös felhasználókat segítik abban, hogy értékeljék az ilyen típusú videoszekvenciákat. Ebben a dolgozatban bemutatunk egy újszerű megközelítést, amely az temporális felszíni képkocka anomáliákat kihasználva felfedi a deepfake videókat. A módszer a deepfake manipuláció által előidézett lehetséges eltéréseket kutatja a rögzített jelenethez tartozó felületeken és azok időbeli tengely mentén történő fejlődésében. Ezeket a funkciókat mély neurális hálózatokon alapuló csővezeték bemeneteként használják, hogy bináris értékelést végezzenek a videón. A kísérleti eredmények azt mutatják, hogy egy ilyen módszer jelentős teljesítményt érhet el a kimutatási pontosság tekintetében.
Közzététel típusa:
Konferenciadokumentum
Kiadó:
2024 IEEE/CVF konferencia a számítógépes látásról és a mintafelismerésről (CVPRW)
Szerzők:
Pascaline Gaborit
Absztrakt:
A nemzetközi szervezetek a dezinformációt több mint egy évtizede a demokráciát és az intézményeket fenyegető fő veszélyek közé sorolják. A digitális technológiák újra feltalálják és gyökeresen átalakítják a modern életmódot, a polgárokat és az üzleti környezetet. A mesterséges intelligencia új zavart okoz a tudáshoz való hozzáférésben, valamint az információk létrehozásában, terjesztésében és megértésében. A „hamis hírek”, az automatikus hálózatok kereszthivatkozásai és a „mély hamisítások” megjelenésével elmoshatja a valódi információk és a manipulált információk közötti határvonalakat is. Az MI-rendszerek növelik a reális hamis tartalmak és a célzott dezinformációs kampányok létrehozásának lehetőségét. A dezinformáció túlmutat az egyszerű pletykákon, hogy szándékosan félrevezesse és torzítsa a bizonyítékokon alapuló információkat hamisított adatokon keresztül. Az európai intézmények a közelmúltban a külföldi információmanipulációhoz és beavatkozáshoz kapcsolódó dezinformáció azonosítására is összpontosítottak: Külföldi információmanipuláció és beavatkozás. A cikk azonosítja a dezinformációval és a mesterséges intelligenciával kapcsolatos tendenciákat és aggályokat. Feltárja a dezinformáció megítélését, hatásait és válaszlépéseit, beleértve a mesterséges intelligenciáról szóló uniós jogszabályt és az online platformok szakpolitikáit. Ez biztosítja a téma első analitikus megközelítését a kutatók jelenlegi vitái, a 2024-es felméréseink első megállapításai, interjúk és több száz online álhír elemzése alapján. Megkísérli megérteni, hogy a polgárok és az érdekelt felek hogyan érzékelik a dezinformációt, és azonosítja a lehetséges hatásokat. Elemzi továbbá a manipuláció és a beavatkozás kezelésének jelenlegi kihívásait és korlátait, lehetőségeit és korlátait. A cikk a dezinformáció jelenlegi folyamatait és hatásait (2), a dezinformáció megítéléséről szóló online felmérésünk főbb megállapításainak ismertetését (3), a jelenlegi uniós szabályozási válaszokat (4) és a vitapontokat (5) vizsgálja. Ebben a cikkben amellett érvelünk, hogy óriási változás van az információkhoz való hozzáférés módjában, de a dezinformációra adott válaszok még mindig korai szakaszban vannak. A cikk azt is bemutatja, hogy az európai országokban egyre inkább tudatosulnak a félretájékoztatás hatásai, ugyanakkor szakadék tátong az „álhírek” és a félretájékoztatás azonosításának képessége, valamint a félretájékoztatás terjesztésében részt vevő folyamatok, fenyegetések és szereplők korlátozott megértése között.
Közzététel típusa:
Folyóiratcikk
Kiadó:
Politikatudományi és Nemzetközi Kapcsolatok Folyóirat
Szerzők:
Tomas Garriga, Gerard Sanz, Eduard Serrahima de Cambra, Axel Brando
Absztrakt:
Jelen dolgozatban a strukturális ok-okozati modellek (SCM-ek) és az elrablás-cselekvés-előrejelzési eljárás újszerű alkalmazását mutatjuk be a gyógyszeripar valós problémáinak kontextusában. Célunk, hogy megbecsüljük egy versenytárs generikus gyógyszer piacra lépése által érintett gyógyszer értékesítési volumenének kontrafaktuális adatait. Encoder-dekóder alapú architektúrákat alkalmazunk, feltételes variációs autoenkódert alkalmazunk, és bevezetjük a feltételes ritka autoenkóderek használatát, amelyeket soha nem használtak a kontrafaktuális irodalomban. A javasolt módszertan megköveteli a múltbeli események és az eseménymentes idősorok rendelkezésre állását, és előnye, hogy nem támaszkodik olyan kontrollkovariánsokra, amelyek esetleg nem állnak rendelkezésre, miközben egyértelműen felülmúlja az előrejelzés kontrafaktuális alapbecslését. Megközelítésünket vállalatunk valós értékesítési adatkészlete, valamint a problémakörnyezetet utánzó szintetikus és félszintetikus adatkészletek felhasználásával értékeljük, bizonyítva annak hatékonyságát. Cégünknél sikeresen alkalmaztuk ezt a modellt, hasznos információkkal szolgálva az üzleti tervezéshez, a beruházások elosztásához és a célok kitűzéséhez.
Közzététel típusa:
Műhelycikk
Kiadó:
NeurIPS’24 workshop az ok-okozati reprezentáció tanulásáról
Szerzők:
Anastasios Manos, Despina Elisabeth Filippidou, Nikolaos Pavlidis, Georgios Karanasios, Georgios Vachtanidis, Arianna D’Ulizia
Absztrakt:
A digitális platformok térnyerése elősegítette a dezinformáció gyors terjedését, ami jelentős társadalmi, politikai és gazdasági kihívásokat jelent. A tudásdiagramok (KG-k) hatékony eszközként jelennek meg az álhírészlelő rendszerek pontosságának, értelmezhetőségének és méretezhetőségének javítására, kezelve a hagyományos gépi tanuláson alapuló megközelítések korlátait, amelyek elsősorban a nyelvi elemzésre támaszkodnak. Ez a munka egy szakirodalmi áttekintést tartalmaz, amely összegzi a kulcsfontosságú iránymutatások dezinformációfelderítésben való alkalmazásáról szóló közelmúltbeli tanulmányok megállapításait. Azonosítjuk, hogy a KG-k hogyan javítják az észlelést a valós kapcsolatok kódolásával, a kontextus elemzésével és a modell értelmezhetőségének javításával, miközben megvitatjuk a skálázhatóság, az adatok teljessége és a kontextuális alkalmazkodóképesség jelenlegi korlátait is. A felülvizsgált tanulmányok hangsúlyozzák, hogy a dezinformációfelderítési képességek globális megerősítése érdekében a jövőben a skálázható, valós idejű és többnyelvű KG-modellekre összpontosító kutatásra van szükség. Ezenkívül két felhasználási eset előzetes eredményeit mutatjuk be, bemutatva a kulcsfontosságú csoportok létrehozásának módszertanát, amely hasznos eszközként szolgálhat a dezinformáció terjedése elleni küzdelemben.
Közzététel típusa:
Konferenciadokumentum
Kiadó:
2024. évi nemzetközi konferencia a mérnöki tudományokról és a kialakulóban lévő technológiákról (ICEET)
Szerzők:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Absztrakt:
Ez a dokumentum az Európai Unió sokrétű válaszát vizsgálja a félretájékoztatás mindent átható problémájára, amely a Krím 2014-es annektálása óta fokozódott. A dezinformáció jelentős fenyegetést jelent a demokratikus folyamatokra és a közjólétre nézve. Az Európai Unió megközelítése szabályozási intézkedéseket, stratégiai partnerségeket és médiaműveltségi kezdeményezéseket ötvöz e jelenség kezelése érdekében, miközben megőrzi az alapvető demokratikus elveket, például a véleménynyilvánítás szabadságát. A kulcsfontosságú intézkedések közé tartozik a dezinformáció visszaszorítását célzó gyakorlati kódex és a digitális szolgáltatásokról szóló jogszabály, amelyek célja a digitális platformok elszámoltathatósága és az átláthatóság biztosítása. Emellett az olyan kezdeményezések, mint a keleti stratégiai kommunikációval foglalkozó munkacsoport és a riasztási rendszer, kiemelik az Európai Unió arra irányuló erőfeszítéseit, hogy fellépjen a dezinformációval mint a hibrid hadviselés eszközével szemben. Ez a tanulmány a polgárok kritikus szerepét is hangsúlyozza, akiket az Európai Unió médiaműveltségi programok révén kíván megerősíteni, lehetővé téve számukra a manipulatív tartalmak felismerését és az azokkal szembeni ellenállást. A kormányzati intézkedések, a magánszektor bevonása és a polgárok szerepvállalása közötti kölcsönhatások vizsgálatával ez a tanulmány átfogó elemzést nyújt az Európai Unió dezinformáció elleni stratégiájáról, és értékeli a demokratikus reziliencia fenntartásához szükséges kihívásokat és jövőbeli irányokat a változó digitális környezetben.
Közzététel típusa:
Tudományos cikk
Kiadó:
Információs pólus
Szerzők:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Absztrakt:
Célkitűzés
Multidiszciplináris megközelítést alkalmazva e tanulmány célja, hogy nyomon kövesse a félretájékoztatási kampányok útját a hitelesség nyelvi jeleinek észlelésétől a terjesztési mechanizmusokon keresztül történő előmozdításig, és végezetül értékelje azok társadalmi-politikai környezetre gyakorolt hatását.
Tervezés/módszertan/megközelítés
Ez a tanulmány mélyreható áttekintést nyújt a dezinformáció négy alapvető aspektusáról: azok a nyelvi jellemzők, amelyek megkülönböztetik a közvélemény megtévesztésére és manipulálására szánt tartalmakat, azok a médiamechanizmusok, amelyek a közönség kognitív folyamatainak kiaknázásával megkönnyítik azok terjesztését, a generatív mesterséges intelligencia dezinformáció terjesztésére való növekvő használata által jelentett fenyegetések, valamint e dezinformációs dinamika szélesebb körű következményei a közvéleményre és következésképpen a politikai döntéshozatali folyamatokra nézve.
Megállapítások
Ennek eredményeként a dokumentum interdiszciplináris és holisztikus vizsgálatot nyújt a jelenségről, utalva annak pluralizált elemeire, kiemelve a platformfelelősség, a polgárok körében folytatott médiaműveltségi kampányok, valamint a magán- és az állami szektor közötti interaktív együttműködés fontosságát a dezinformáció fenyegetésével szembeni reziliencia fokozása érdekében.
Eredetiség/érték
A tanulmány kiemeli, hogy növelni kell a platformok elszámoltathatóságát, elő kell mozdítani a médiaműveltséget az egyének körében, és fejleszteni kell az állami és a magánszektor közötti együttműködést. Ezen integrált stratégia célja a dezinformációval szembeni reziliencia megerősítése és az EU alkalmazkodóképességének biztosítása a változó digitális fenyegetésekkel szemben. Végső soron a dokumentum olyan méltányos és nyitott stratégiát szorgalmaz, amely védi a véleménynyilvánítás szabadságát és megerősíti a demokratikus intézményeket egy olyan időszakban, amikor a digitális dezinformáció egyre nagyobb méreteket ölt.
Közzététel típusa:
Tudományos cikk
Kiadó:
Információ, kommunikáció és etika a társadalomban (2025)
Szerzők:
Eddie Conti, Alejandro Astruc, Álvaro Parafita, Axel Brando
Absztrakt:
Annak megértése, hogy az információ hogyan terjed a transzformátor modelleken keresztül, kulcsfontosságú kihívás az értelmezhetőség szempontjából. Ebben a munkában a minimális token perturbációk hatását vizsgáljuk a beágyazási térre. Kísérleteinkben elemezzük, hogy a tokenek milyen gyakorisággal eredményeznek minimális eltolódásokat, kiemelve, hogy a ritka tokenek általában nagyobb eltolódásokhoz vezetnek. Ezenkívül tanulmányozzuk, hogy a perturbációk hogyan terjednek a rétegek között, bizonyítva, hogy a bemeneti információk egyre inkább keverednek a mélyebb rétegekben. Megállapításaink alátámasztják azt a közös feltételezést, hogy egy modell első rétegei modellmagyarázatok helyettesítőiként használhatók. Összességében ez a munka bemutatja a token perturbációk és eltolódások kombinációját a beágyazási térben, mint a modell értelmezhetőségének hatékony eszközét.
Közzététel típusa:
Műhelycikk
Kiadó:
IJCAI 2025 munkaértekezlet a megmagyarázható mesterséges intelligenciáról
Szerzők:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Absztrakt:
A félretájékoztatást mindig jobban ösztönzi a módosított vagy teljesen szintetikusan generált valósághű tartalom, amelyet általában deepfake-nek neveznek. Ehhez olyan megbízható eszközökre van szükség, amelyek képesek feltárni az ilyen hamis tartalmakat, hogy elkerülhető legyen a személyek gondolkodásának polarizációja. Különböző technikákat mutattak be, amelyek közös nevezője a hamis előállítási folyamat által kiváltott és a sajátos jellemzők vizsgálatával bizonyított következetlenségek keresése. Úgy tűnik, hogy a különböző megkülönböztető jellemzők lehetséges kombinációja hatékonyabb eredményeket hozhat. Ebben a nézetben és az ezzel kapcsolatos korábbi tanulmányunkat követően egy olyan új funkció vizsgálatát javasoljuk, amely alapvetően figyelembe veszi a kép (videó) rögzítésének időpontjában a teljes akvizíciós jelenetben meglévő beépített kapcsolatokat, majd a kép képpontértékek által képviselt kapcsolatokat. A mögöttes elképzelés az, hogy a deepfake generálási folyamat megtörheti az ilyen belső függőségeket a megvilágítás (intenzitás és irány), az objektumfelületek (helyzet és visszaverődés) és az akvizíciós zaj között, ezáltal bizonyítva egy lehetséges manipulációt. Eszerint a Local Surface Descriptor (helyi felületleíró) nevű funkcióleírót a CNN-alapú modellek deepfake detektálására fejlesztették ki és használták. A különböző operatív környezetekben végzett kísérleti eredmények jelentős, akár 90-ig terjedő észlelési pontosságot mutatnak%.
Közzététel típusa:
Konferenciadokumentum
Kiadó:
2024 IEEE International Conference on Image Processing Challenges and Workshops (ICIPCW), Abu-Dzabi, Egyesült Arab Emírségek, 2024
Szerzők:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Absztrakt:
A mesterséges intelligencia valós, teljesen szintetikus képek létrehozására való tényleges képessége napról napra javul, és ez különösen igaz az emberi arcokat ábrázoló képekre, amelyek megkülönböztethetetlennek tűnnek a valódi emberektől. Ez szükségessé teszi olyan eszközök kifejlesztését, amelyek képesek megkülönböztetni a valódi és a nem létező embereket azáltal, hogy észlelik a képekbe ágyazott esetleges következetlenségeket a generációs folyamat során. A fő különbség az eredeti kép és a deepfake által generált kép között az, hogy a második esetben nem történt hatékony kamerafelvétel; Így a jelenethez tartozó elemek (fények, tükröződés, objektumok pozíciói a 3D térben) közötti összes különböző kölcsönhatást nem a valós világ veszi fel abban a pillanatban, hanem csak mesterségesen reprodukálja. E megfontolás alapján ebben a munkában bemutatjuk a helyi kamera felületi képkockákat, mint lehetséges eszközt ezeknek a sajátos környezeti jellemzőknek a bemutatására, hogy kiemeljük a különbségeket. Az elvégzett kísérleti elemzés tanúja volt annak, hogy ez a tulajdonság nagyon magas szintű pontosságot és jelentős mértékű általánosítást biztosíthat.
Közzététel típusa:
Konferenciadokumentum
Kiadó:
2024 IEEE International Conference on Image Processing Challenges and Workshops (ICIPCW), Abu-Dzabi, Egyesült Arab Emírségek, 2024
Szerzők:
Andrea Ciamarra, Roberto Caldelli, Alberto Del Bimbo
Absztrakt:
Rendkívüli irreális képek valósíthatók meg pow-erful AI technikákkal. A mindenki számára elérhető különböző eszközök kiváló minőségű tartalmakat képesek létrehozni, különösen teljes, teljesen szintetikus képeket generálva. A meglévő architektúrák közül a diffúziós alapú modellek könnyen készíthetnek bármilyen képet, beleértve az emberi arcképeket is, olyan gyors, mint egy szöveg. Az ilyen hamis tartalmakat gyakran használják dezinformáció terjesztésére, ami aggályokat vet fel az emberek biztonságával kapcsolatban. Jelenleg egyre nehezebb megbízható eszközöket kifejleszteni a valós és a generált (még a nem létező) emberek megkülönböztetésére. Ezen túlmenően a nagy mennyiségű diffúziós alapú implementációk problémát jelentenek az ilyen detektorok számára, hogy általánosítsák az új generatív technikákat. E problémák megoldása érdekében azt javasoljuk, hogy vizsgáljuk meg, hogy a képgyűjtési környezeten alapuló megkülönböztető jellemző képes-e elkülöníteni a diffúziós alapú arcképeket az érintetlenektől. Valójában a generált képek nem tartalmazhatnak olyan jellemzőket, amelyek a valódi kamerával végzett adatgyűjtési szakasznak megfelelőek. Ezeket a következetlenségeket a közelmúltban bevezetett helyi felületi keretek segítségével lehet kiemelni. Ez a funkció figyelembe veszi a jelenetben részt vevő tárgyakat és felületeket, amelyek mindegyike befolyásolja a fényképezőgép felvételi folyamatát, valamint a készülékhez kapcsolódó további belső információkat, valamint a teljes forgatókönyvet érintő világítást és tükröződéseket. A tanulmány azt vizsgálja, hogy ez a funkció képes-e általánosítani a különböző adatkészletek és a képzés során ismeretlen új generatív módszerek felé. A kísérleti eredmények rávilágítanak arra, hogy egy ilyen funkció ezekben az esetekben is jelentős szintű észlelési pontosságot biztosít.
Közzététel típusa:
Konferenciadokumentum
Kiadó:
2024 IEEE International Conference on Image Processing Challenges and Workshops (ICIPCW), Abu-Dzabi, Egyesült Arab Emírségek, 2024
Szerzők:
Álvaro Parafita, Tomas Garriga, Axel Brando, Francisco J. Cazorla
Absztrakt:
A megmagyarázhatósági technikák közül a SHAP az egyik legnépszerűbb, de gyakran figyelmen kívül hagyja a probléma ok-okozati szerkezetét. Válaszul a do-SHAP intervenciós lekérdezéseket alkalmaz, de a becslésre való támaszkodása akadályozza gyakorlati alkalmazását. A probléma megoldása érdekében becslési-agnosztikus megközelítések alkalmazását javasoljuk, amelyek lehetővé teszik bármely azonosítható lekérdezés becslését egyetlen modellből, így a do-SHAP komplex gráfokon is megvalósítható. Kifejlesztünk egy új algoritmust is, amely jelentősen felgyorsítja a számítást elhanyagolható költségek mellett, valamint egy módszert a hozzáférhetetlen adatgeneráló folyamatok magyarázatára. Megközelítésünk becslési és számítási teljesítményét demonstráljuk, és két valós adatkészleten validáljuk, kiemelve a megbízható magyarázatok megszerzésében rejlő lehetőségeket.
Közzététel típusa:
Konferenciadokumentum
Kiadó:
Harminckilencedik éves konferencia a neurális információfeldolgozó rendszerekről (NeurIPS 2025)
Szerzők:
Alamgir Munir Qazi, John Philip McCrae, Jamal Nasir
Absztrakt:
A félretájékoztatás terjedéséhez megbízható, ugyanakkor számítási szempontból hatékony tényellenőrző rendszerekre van szükség. Míg a jelenlegi legkorszerűbb megközelítések a nagy nyelvi modelleket (LLM-ek) használják magyarázó érvek generálására, ezek a módszerek jelentős számítási akadályokkal és hallucinációs kockázatokkal szembesülnek a valós telepítésekben. Bemutatjuk a DeReC-t (Dense Retrieval Classification), egy könnyű keretrendszert, amely bemutatja, hogy az általános célú szövegbeágyazás hatékonyan helyettesítheti az autoregresszív LLM-alapú megközelítéseket a tényellenőrzési feladatokban. A sűrű visszakeresés és a speciális osztályozás kombinálásával rendszerünk nagyobb pontosságot ér el, miközben jelentősen hatékonyabb. A DeReC túlteljesíti a magyarázatot generáló LLM-eket a hatékonyságban, 95-tel csökkentve a futásidőt% RAWFC-n (23 perc 36 másodperc a 454 perc 12 másodperchez képest) és 92% LIAR-RAW (134 perc 14 másodperc az 1692 perc 23 másodperchez képest), amely a különböző adatkészletek méreteiben mutatja be hatékonyságát. A RAWFC-adatkészleten a DeReC 65,58 F1-pontszámot ér el%, felülmúlva a legkorszerűbb L-Védelem módszert (61.20%). Eredményeink azt mutatják, hogy a gondosan megtervezett visszakeresés-alapú rendszerek képesek az LLM teljesítményének megfelelni vagy azt meghaladni a speciális feladatokban, miközben lényegesen praktikusabbak a valós telepítéshez.
Közzététel típusa:
Konferenciadokumentum
Kiadó:
5. Nyelvi, Adat- és Tudáskonferencia
Szerzők:
Qiushi Li, Andrea Ciamarra, Roberto Caldelli és Stefano Berretti
Absztrakt:
A MediaEval 2025 SynthIm Challenge Task A (szintetikus képfelismerés) esetében kritikus eloszláseltolódást állapítottunk meg a nyújtott képzési és tesztadatok között, így az előbbi a céltartomány gyenge képviselője. Megközelítésünk közvetlenül kezeli ezt a kihívást azáltal, hogy a stilisztikailag következetesebb érvényesítési készletet beépíti az edzési adatainkba, és kihasználja a fagyasztott CLIP ViT-L/14 robusztus funkcióelszívóját. Legfőbb meglátásunk az, hogy ilyen tartományeltolódási körülmények között egy nagy előképzett modell általánosítható reprezentációi jelentősen felülmúlják a nem megfelelő adatkészletre finomhangolt hagyományos CNN-t, ami hatékonyabb és megbízhatóbb stratégiának bizonyul.
Közzététel típusa:
Konferenciadokumentum
Kiadó:
MediaEval’25: Multimédiás értékelő munkaértekezlet, 2025. október 25–26., Dublin, Írország és online
Hozzáférés kérésre
Szerzők:
Qiushi Li, Roberto Caldelli és Stefano Berretti
Absztrakt:
Az olyan képgeneráló modellek gyors fejlődése, mint a Stable Diffusion, aggályokat vet fel a lehetséges visszaélésekkel kapcsolatban, így a robusztus vízjelezési technikák elengedhetetlenek a szintetikus tartalom hitelesítéséhez és hozzárendeléséhez, különösen a deepfake elleni küzdelemben. Ugyanakkor a kiváló minőségű képalkotás és a pontos vízjel-eltávolítás egyidejű biztosítása továbbra is kihívást jelent. A meglévő módszerek elemzésével kritikus korlátozást azonosítunk:
veszteségfunkcióik gyakran egyetlen referenciát alkalmaznak (akár a bemeneti képet, akár a tiszta generált képet) a képhűség optimalizálására, ami az optimálistól elmaradó teljesítményhez vezet. Ebben a dolgozatban a diffúziós vízjelezés képminőség-veszteség kifejezésének mélyreható vizsgálatát végezzük el. A bemeneti kép és a tiszta generált kép optimalizálás során referenciaként történő felhasználásának különböző hatásainak elemzésével feltárjuk, hogy a két referencia együttes figyelembevétele jelentősen javítja a robusztusságot és a vizuális minőséget. Kiterjedt kísérletek bizonyítják, hogy kettős referencia-megközelítésünk kiváló teljesítményt nyújt mind a vízjel-kivonási pontosság, mind a generációs hűség terén az egy referencia-alapértékekhez képest. Támogatjuk ezt a paradigmát, hogy előmozdítsuk a megbízható vízjelölést a generatív modellekben.
Közzététel típusa:
Konferenciadokumentum
Kiadó:
DFF ’25: Az első Deepfake Forensics Workshop: Felismerés, hozzárendelés, elismerés és ellentmondásos kihívások a mesterséges intelligencián alapuló média korában
Szerzők:
Josu Eguiluz Castañeira, Axel Brando, Migle Laukyte, Marc Serra-Vidal
Absztrakt:
A mesterséges intelligencia (MI) ma már áthatja a kritikus infrastruktúrákat és döntéshozatali rendszereket, ahol a kudarcok társadalmi, gazdasági és demokratikus károkat okoznak. Ez az állásfoglalás megkérdőjelezi azt a szilárd meggyőződést, hogy a szabályozás és az innováció ellentétesek. Amint azt a légi közlekedés, a gyógyszerek és a jóléti rendszerek analógiái, valamint a szintetikus félretájékoztatás, az elfogultság és az el nem számolható döntéshozatal közelmúltbeli esetei is bizonyítják, a jól megtervezett szabályozás hiánya már most is mérhetetlen károkat okozott. A szabályozás, ha átgondolt és alkalmazkodó, nem fékezi az innovációt, hanem annak alapja. Ez az állásfoglalás a mesterséges intelligenciáról szóló uniós jogszabályt a Collingridge-dilemmával foglalkozó kockázatalapú, felelősségvezérelt szabályozás modelljeként vizsgálja: elég korán cselekedni ahhoz, hogy megelőzzük az ártalmakat, ugyanakkor elég rugalmasan ahhoz, hogy fenntartsuk az innovációt. Alkalmazkodó mechanizmusai – szabályozói tesztkörnyezetek, a kis- és középvállalkozások (kkv-k) támogatása, valós körülmények közötti tesztelés, alapjogi hatásvizsgálat (FRIA) – azt mutatják be, hogy a szabályozás hogyan gyorsíthatja fel felelősségteljesen, nem pedig késleltetve a technológiai fejlődést. Az állásfoglalás összefoglalja, hogy az irányítási eszközök hogyan alakítják át az érzékelt terheket kézzelfogható előnyökké: jogbiztonság, fogyasztói bizalom és etikus versenyképesség. Végső soron a papír újrafogalmazza a haladást: Az innováció és a szabályozás együtt fejlődik. Az átláthatóságnak, a hatásvizsgálatoknak, az elszámoltathatóságnak és a mesterséges intelligenciával kapcsolatos jártasságnak a tervezésbe és a bevezetésbe való beépítésével az uniós keret meghatározza, hogy mit jelent valójában a felelős innováció – a demokratikus értékek és az alapvető jogok által fegyelmezett technológiai ambíció.
Közzététel típusa:
Konferenciadokumentum
Kiadó:
Harminckilencedik éves konferencia a neurális információfeldolgozó rendszerekről (NeurIPS 2025)
Szerző: Pascaline Gaborit
Absztrakt:
A globális bizonytalanság korában a bizalom kritikus tényezővé vált a nemzetek, intézmények és egyének közötti kapcsolatok alakításában. A Bizalom, új technológiák és geopolitika egy bizonytalan világban című könyv időszerű és mélyreható feltárást nyújt arról, hogyan tesztelik és alakítják át a bizalmat a gyorsan változó geopolitikai környezetben. A demokratikus rendszerek törékenységétől az új technológiák, a mesterséges intelligencia, a dezinformáció és az éghajlatváltozás jelentette kihívásokig ez a könyv korunk legsürgetőbb kérdéseivel foglalkozik. A bizalom olyan kulcsfontosságú területekkel való metszéspontjainak vizsgálatával, mint a demokráciák, a kereskedelmi háborúk és az új technológiák, ez a munka értékes betekintést nyújt a politikai döntéshozók, a tudósok és mindazok számára, akik meg akarják érteni a mai világ összetettségét. Akár a kiberbiztonsággal, a dezinformációval, a hibrid fenyegetések hatásával vagy a nemzetközi diplomáciába vetett bizalom szerepével foglalkozik, ez a könyv átfogó, mégis hozzáférhető keretet kínál e kihívások leküzdéséhez. Rávilágít arra, hogy a bizalom megértése kulcsfontosságú a korunkat meghatározó geopolitikai bizonytalanságok kezelésében.
Közzététel típusa:
Könyv
Kiadó:
Peter Lang Kiadó
Szerző:
Eddie Conti, Álvaro Parafita, Axel Brando
Absztrakt:
A modell döntéshozatali folyamatának megértéséhez elengedhetetlen az egyes funkciók fontosságának értékelése a gépi tanulásban. Bár számos módszer létezik, az összehasonlításhoz szükséges végleges alapigazság hiánya rávilágít arra, hogy alternatív, megalapozott intézkedésekre van szükség. Ez a tanulmány bemutatja az új post-hoc lokális fontossági módszert, a kontrafaktuális fontossági eloszlást (CID). Két pozitív és negatív kontrafaktuális halmazt hozunk létre, modellezzük eloszlásukat a kernelsűrűség-becslés segítségével, és rangsoroljuk a jellemzőket az eloszlási eltérés mértéke alapján. Ez az intézkedés, amely szigorú matematikai kereten alapul, kielégíti az érvényes mérőszámként való működéshez szükséges kulcsfontosságú tulajdonságokat. Módszerünk hatékonyságát jól bevált helyi fontossági magyarázókkal összehasonlítva mutatjuk be. Módszerünk nemcsak kiegészítő perspektívákat kínál a meglévő megközelítésekhez, hanem javítja a megbízhatósági mérőszámok teljesítményét is (mind az átfogóság, mind az elégségesség szempontjából), ami a rendszer pontosabb magyarázatát eredményezi. Ezek az eredmények rávilágítanak a modellelemzés értékes eszközeként rejlő lehetőségekre.
Közzététel típusa:
Konferenciadokumentum
Kiadó:
Északi fény mélytanulási konferencia 2026