Επιστημονική Δημοσιεύσεις
Συγγραφείς:
Άξελ Μπράντο, Λούκας Μπέρι, Ντέιβιντ Μεγκ
Περίληψη:
Τα μοντέλα γενετικής διάχυσης, αξιοσημείωτα για τον μεγάλο αριθμό παραμέτρων τους (που υπερβαίνει τα 100 εκατομμύρια) και τη λειτουργία τους σε χώρους εικόνων υψηλών διαστάσεων, θέτουν σημαντικές προκλήσεις για τις παραδοσιακές μεθόδους εκτίμησης της αβεβαιότητας λόγω των υπολογιστικών απαιτήσεων. Σε αυτό το έργο, εισάγουμε ένα καινοτόμο πλαίσιο, το Diffusion Ensembles for Capturing Uncertainty (DECU), σχεδιασμένο για την εκτίμηση της επιστημικής αβεβαιότητας για μοντέλα διάχυσης. Το πλαίσιο DECU εισάγει μια νέα μέθοδο που εκπαιδεύει αποτελεσματικά σύνολα μοντέλων υπό όρους διάχυσης ενσωματώνοντας ένα στατικό σύνολο προεκπαιδευμένων παραμέτρων, μειώνοντας δραστικά την υπολογιστική επιβάρυνση και τον αριθμό των παραμέτρων που απαιτούν εκπαίδευση. Επιπλέον, η DECU χρησιμοποιεί Pairwise-Distance Estimators (PaiDEs) για την ακριβή μέτρηση της επιστημικής αβεβαιότητας, αξιολογώντας τις αμοιβαίες πληροφορίες μεταξύ των εξόδων του μοντέλου και των βαρών σε χώρους υψηλών διαστάσεων. Η αποτελεσματικότητα αυτού του πλαισίου αποδεικνύεται μέσω πειραμάτων στο σύνολο δεδομένων του ImageNet, τονίζοντας την ικανότητά του να καταγράφει επιστημική αβεβαιότητα, ειδικά σε κατηγορίες εικόνων που δεν περιλαμβάνονται στο δείγμα.
Είδος δημοσίευσης:
Έγγραφο της διάσκεψης
Εκδότης:
40ο Συνέδριο για την Αβεβαιότητα στην Τεχνητή Νοημοσύνη
Συγγραφείς:
Coccomini D.A., Caldelli R., Gennaro C., Fiameni G., Amato G., Falchi F.
Περίληψη:
Τα τελευταία χρόνια, η αυξανόμενη εξάπλωση των συνθετικών μέσων, γνωστών ως deepfakes, κατέστη δυνατή χάρη στην ταχεία πρόοδο των τεχνολογιών τεχνητής νοημοσύνης, ιδίως των αλγορίθμων βαθιάς μάθησης. Οι αυξανόμενες ανησυχίες σχετικά με την αυξανόμενη διαθεσιμότητα και αξιοπιστία των deepfakes έχουν ωθήσει τους ερευνητές να επικεντρωθούν στην ανάπτυξη μεθόδων για την ανίχνευσή τους. Σε αυτόν τον τομέα, ερευνητές στο εργαστήριο AIMH του ISTI CNR, σε συνεργασία με ερευνητές από άλλους οργανισμούς, διεξήγαγαν έρευνες, έρευνες και έργα για να συμβάλουν στην καταπολέμηση αυτής της τάσης, διερευνώντας νέες λύσεις και απειλές. Αυτό το άρθρο συνοψίζει τις πιο πρόσφατες προσπάθειες που έγιναν στον τομέα αυτό από τους ερευνητές μας και σε συνεργασία με άλλα ιδρύματα και εμπειρογνώμονες.
Είδος δημοσίευσης:
Έγγραφο της διάσκεψης
Εκδότης:
Πρακτικά εργαστηρίου CEUR
Συγγραφείς:
Stanciu, Cristian και Ionescu, Bogdan και Cuccovillo, Luca και Παπαδόπουλος, Συμεών και Κορδοπάτης-Ζήλος, Γιώργος και Ποπέσκου, Adrian και Caldelli, Roberto
Περίληψη:
Η παραγωγή και η χειραγώγηση των συνθετικών μέσων ενημέρωσης έχουν δει γρήγορες διαφημίσεις τα τελευταία χρόνια, καθιστώντας όλο και πιο εύκολη τη δημιουργία περιεχομένου πολυμέσων που δεν διακρίνεται από τον ανθρώπινο παρατηρητή. Επιπλέον, το παραγόμενο περιεχόμενο μπορεί να χρησιμοποιηθεί κακόβουλα από ιδιώτες και οργανισμούς με σκοπό τη διάδοση παραπληροφόρησης, γεγονός που συνιστά σημαντική απειλή για την κοινωνία και τη δημοκρατία. Ως εκ τούτου, υπάρχει επείγουσα ανάγκη για εργαλεία ΤΝ που θα αποσκοπούν στη διευκόλυνση μιας έγκαιρης και αποτελεσματικής διαδικασίας επαλήθευσης των μέσων ενημέρωσης. Το εργαστήριο MAD’24 επιδιώκει να φέρει σε επαφή άτομα με διαφορετικό υπόβαθρο που είναι αφιερωμένα στην καταπολέμηση της παραπληροφόρησης στα πολυμέσα μέσω της ΤΝ, προωθώντας ένα περιβάλλον για τη διερεύνηση καινοτόμων ιδεών και την ανταλλαγή εμπειριών. Οι ερευνητικοί τομείς ενδιαφέροντος περιλαμβάνουν τον εντοπισμό παραποιημένου ή παραγόμενου περιεχομένου, καθώς και τη διερεύνηση της διάδοσης της παραπληροφόρησης και των κοινωνικών επιπτώσεών της. Αναγνωρίζοντας τη σημασία των πολυμέσων, το εργαστήριο δίνει έμφαση στην από κοινού ανάλυση των διαφόρων τρόπων μέσα στο περιεχόμενο, καθώς η επαλήθευση μπορεί να βελτιωθεί με τη συγκέντρωση πολλαπλών μορφών περιεχομένου.
Είδος δημοσίευσης:
Έγγραφο της διάσκεψης
Εκδότης:
Πρακτικά του 3ου Διεθνούς Εργαστηρίου της ACM για την Τεχνητή Νοημοσύνη Πολυμέσων κατά της Παραπληροφόρησης
Συγγραφείς:
Andrea Ciamarra, Roberto Caldelli, Αλμπέρτο Ντελ Μπίμπο
Περίληψη:
Κοιτάζοντας μια ακολουθία βίντεο όπου ένα πρόσωπο σε πρώτο πλάνο εκπροσωπείται δεν είναι όπως πριν από τον χρόνο πια. Τα Deepfakes έχουν φέρει επανάσταση στον τρόπο με τον οποίο βλέπουμε τέτοια περιεχόμενα και σήμερα συνηθίζουμε να αναρωτιόμαστε αν αυτό που βλέπουμε είναι πραγματικό ή είναι απλώς μια μυστικοποίηση. Σε αυτό το πλαίσιο γενικευμένης παραπληροφόρησης, η ανάγκη για αξιόπιστες λύσεις που θα βοηθήσουν τους κοινούς χρήστες, και όχι μόνο, να προβούν σε αξιολόγηση αυτού του είδους των ακολουθιών βίντεο, είναι ιδιαίτερα επίκαιρη. Σε αυτή την εργασία, εισάγεται μια νέα προσέγγιση που αξιοποιεί τις χρονικές ανωμαλίες του πλαισίου επιφάνειας για να αποκαλύψει βίντεο deepfake. Η μέθοδος αναζητά πιθανές αποκλίσεις, που προκαλούνται από deepfake χειρισμούς, στις επιφάνειες που ανήκουν στην καταγεγραμμένη σκηνή και στην εξέλιξή τους κατά μήκος του χρονικού άξονα. Αυτά τα χαρακτηριστικά χρησιμοποιούνται ως είσοδος ενός αγωγού που βασίζεται σε βαθιά νευρωνικά δίκτυα για να εκτελέσει μια δυαδική αξιολόγηση στο ίδιο το βίντεο. Τα πειραματικά αποτελέσματα μαρτυρούν ότι μια τέτοια μεθοδολογία μπορεί να επιτύχει σημαντικές επιδόσεις όσον αφορά την ακρίβεια ανίχνευσης.
Είδος δημοσίευσης:
Έγγραφο της διάσκεψης
Εκδότης:
2024 IEEE/CVF Conference on Computer Vision and Pattern Recognition Workshops (CVPRW) (Διάσκεψη IEEE/CVF του 2024 σχετικά με τα εργαστήρια υπολογιστικής όρασης και αναγνώρισης προτύπων)
Συγγραφείς:
Πασκαλίνη Γκαμπορίτ
Περίληψη:
Οι διεθνείς οργανισμοί κατατάσσουν την παραπληροφόρηση ως μία από τις κύριες απειλές για τη δημοκρατία και τους θεσμούς για περισσότερο από μια δεκαετία. Οι ψηφιακές τεχνολογίες επανεφεύρουν και μετασχηματίζουν ριζικά τον σύγχρονο τρόπο ζωής, το περιβάλλον των πολιτών και το επιχειρηματικό περιβάλλον. Η τεχνητή νοημοσύνη φέρνει μια νέα διαταραχή στον τρόπο με τον οποίο έχουμε πρόσβαση στη γνώση και δημιουργούμε, διαδίδουμε και κατανοούμε πληροφορίες. Μπορεί επίσης να θολώσει τα όρια μεταξύ πραγματικών πληροφοριών και παραποιημένων πληροφοριών με την εμφάνιση των «ψευδών ειδήσεων», της διασταυρούμενης αναφοράς των αυτόματων δικτύων και των «βαθιών απομιμήσεων». Τα συστήματα ΤΝ ενισχύουν τις δυνατότητες δημιουργίας ρεαλιστικού ψευδούς περιεχομένου και στοχευμένων εκστρατειών παραπληροφόρησης. Η παραπληροφόρηση υπερβαίνει τις απλές φήμες για την εσκεμμένη εξαπάτηση και στρέβλωση τεκμηριωμένων πληροφοριών μέσω κατασκευασμένων δεδομένων. Τα ευρωπαϊκά θεσμικά όργανα επικεντρώθηκαν επίσης πρόσφατα στον εντοπισμό της παραπληροφόρησης που συνδέεται με τη χειραγώγηση των πληροφοριών και τις παρεμβάσεις από το εξωτερικό: Χειραγώγηση και παρέμβαση πληροφοριών από το εξωτερικό. Το άρθρο προσδιορίζει τις τάσεις και τις ανησυχίες που σχετίζονται με την παραπληροφόρηση και την ΤΝ. Διερευνά την αντίληψη της παραπληροφόρησης, τον αντίκτυπό της και τις αντιδράσεις της, συμπεριλαμβανομένης της πράξης της ΕΕ για την ΤΝ και των πολιτικών για τις διαδικτυακές πλατφόρμες. Παρέχει μια πρώτη αναλυτική προσέγγιση του θέματος με βάση τις τρέχουσες συζητήσεις των ερευνητών, τα πρώτα πορίσματα των ερευνών μας για το 2024, τις συνεντεύξεις και την ανάλυση εκατοντάδων διαδικτυακών ψευδών ειδήσεων. Προσπαθεί να κατανοήσει τον τρόπο με τον οποίο οι πολίτες και τα ενδιαφερόμενα μέρη αντιλαμβάνονται την παραπληροφόρηση και εντοπίζουν πιθανές επιπτώσεις. Αναλύει επίσης τις τρέχουσες προκλήσεις και τους περιορισμούς, τις ευκαιρίες και τους περιορισμούς για την αντιμετώπιση της χειραγώγησης και των παρεμβάσεων. Το άρθρο εξετάζει τις τρέχουσες διαδικασίες και τις επιπτώσεις της παραπληροφόρησης (2), την παρουσίαση των κύριων πορισμάτων της διαδικτυακής μας έρευνας σχετικά με τις αντιλήψεις για την παραπληροφόρηση (3), τις τρέχουσες ρυθμιστικές απαντήσεις της ΕΕ (4) και τα σημεία συζήτησης (5). Υποστηρίζουμε σε αυτό το άρθρο ότι υπάρχει μια γιγαντιαία αλλαγή στον τρόπο με τον οποίο έχουμε πρόσβαση σε πληροφορίες, αλλά ότι οι απαντήσεις στην παραπληροφόρηση βρίσκονται ακόμη σε πρώιμο στάδιο. Το άρθρο καταδεικνύει επίσης ότι υπάρχει αυξημένη ευαισθητοποίηση στις ευρωπαϊκές χώρες σχετικά με τις επιπτώσεις της παραπληροφόρησης, αλλά και χάσμα μεταξύ της ικανότητας εντοπισμού «ψευδών ειδήσεων» και παραπληροφόρησης και της περιορισμένης κατανόησης των διαδικασιών, των απειλών και των παραγόντων που εμπλέκονται στη διάδοση της παραπληροφόρησης.
Είδος δημοσίευσης:
Έγγραφο για το περιοδικό
Εκδότης:
Περιοδικό Πολιτικής Επιστήμης και Διεθνών Σχέσεων
Συγγραφείς:
Tomas Garriga, Gerard Sanz, Eduard Serrahima de Cambra, Axel Brando
Περίληψη:
Σε αυτή την εργασία, παρουσιάζουμε μια νέα εφαρμογή των δομικών αιτιωδών μοντέλων (SCMs) και τη διαδικασία απαγωγής-δράσης-πρόβλεψης σε μια χρονοσειρά που θέτει στο πλαίσιο ενός πραγματικού προβλήματος στη φαρμακευτική βιομηχανία. Στόχος μας είναι να εκτιμήσουμε τα αντιπαραδείγματα για τον όγκο πωλήσεων ενός φαρμάκου που έχει επηρεαστεί από την είσοδο στην αγορά ενός ανταγωνιστικού γενόσημου φαρμάκου. Χρησιμοποιούμε αρχιτεκτονικές βασισμένες σε κωδικοποιητή-αποκωδικοποιητή, εφαρμόζοντας έναν υπό όρους παραλλαγή αυτοκωδικοποιητή και εισάγοντας επίσης τη χρήση υπό όρους αραιών αυτοκωδικοποιητών, οι οποίοι δεν είχαν χρησιμοποιηθεί ποτέ στη βιβλιογραφία αντιπαραδείγματος. Η προτεινόμενη μεθοδολογία απαιτεί διαθεσιμότητα ιστορικών γεγονότων και χρονολογικών σειρών χωρίς γεγονότα και έχει το πλεονέκτημα ότι δεν βασίζεται σε συμμεταβλητές ελέγχου που ενδέχεται να μην είναι διαθέσιμες, ενώ υπερβαίνει σαφώς τη βασική εκτίμηση αντιπαραδείγματος μιας πρόβλεψης. Αξιολογούμε την προσέγγισή μας χρησιμοποιώντας το σύνολο δεδομένων πωλήσεων της εταιρείας μας σε πραγματικές συνθήκες, καθώς και συνθετικά και ημισυνθετικά σύνολα δεδομένων που μιμούνται το πλαίσιο του προβλήματος, αποδεικνύοντας την αποτελεσματικότητά του. Εφαρμόσαμε με επιτυχία αυτό το μοντέλο στην εταιρεία μας, παρέχοντας χρήσιμες πληροφορίες για τον επιχειρηματικό σχεδιασμό, την κατανομή των επενδύσεων και τον καθορισμό στόχων.
Είδος δημοσίευσης:
Άρθρο εργαστηρίου
Εκδότης:
Εργαστήριο NeurIPS’24 για την εκμάθηση της Αιτιώδους Εκπροσώπησης
Συγγραφείς:
Αναστάσιος Μάνος, Δέσποινα Ελισάβετ Φιλιππίδου, Νικόλαος Παυλίδης, Γεώργιος Καρανάσιος, Γεώργιος Βαχτανίδης, Arianna D’Ulizia
Περίληψη:
Η άνοδος των ψηφιακών πλατφορμών διευκόλυνε την ταχεία εξάπλωση της παραπληροφόρησης, η οποία θέτει σημαντικές κοινωνικές, πολιτικές και οικονομικές προκλήσεις. Τα γραφήματα γνώσης (KG) αναδύονται ως αποτελεσματικά εργαλεία για την ενίσχυση της ακρίβειας, της ερμηνευσιμότητας και της επεκτασιμότητας των συστημάτων ανίχνευσης ψευδών ειδήσεων, αντιμετωπίζοντας τους περιορισμούς στις παραδοσιακές προσεγγίσεις που βασίζονται στη μηχανική μάθηση και βασίζονται κυρίως στη γλωσσική ανάλυση. Αυτή η εργασία περιέχει μια ανασκόπηση της βιβλιογραφίας που συνθέτει τα ευρήματα από πρόσφατες μελέτες σχετικά με την εφαρμογή των KG στην ανίχνευση παραπληροφόρησης. Προσδιορίζουμε τον τρόπο με τον οποίο τα KG βελτιώνουν την ανίχνευση κωδικοποιώντας πραγματικές σχέσεις, αναλύοντας το πλαίσιο και ενισχύοντας την ερμηνευσιμότητα του μοντέλου, ενώ παράλληλα συζητάμε τους τρέχοντες περιορισμούς στην επεκτασιμότητα, την πληρότητα των δεδομένων και την προσαρμοστικότητα του πλαισίου. Οι αναθεωρημένες μελέτες υπογραμμίζουν την ανάγκη για μελλοντική έρευνα που θα επικεντρώνεται σε κλιμακούμενα, σε πραγματικό χρόνο και διαγλωσσικά μοντέλα KG για την ενίσχυση των ικανοτήτων ανίχνευσης παραπληροφόρησης σε παγκόσμιο επίπεδο. Επιπλέον, παρουσιάζουμε προκαταρκτικά αποτελέσματα δύο περιπτώσεων χρήσης, παρουσιάζοντας μια μεθοδολογία για την κατασκευή βαρελιών που μπορούν να χρησιμεύσουν ως χρήσιμα εργαλεία για την καταπολέμηση της διάδοσης παραπληροφόρησης.
Είδος δημοσίευσης:
Έγγραφο της διάσκεψης
Εκδότης:
2024 Διεθνές Συνέδριο Μηχανικής και Αναδυόμενων Τεχνολογιών (ICEET)
Συγγραφείς:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Περίληψη:
Το παρόν έγγραφο διερευνά την πολύπλευρη αντίδραση της Ευρωπαϊκής Ένωσης στο διαδεδομένο ζήτημα της παραπληροφόρησης, μια πρόκληση που έχει ενταθεί μετά την προσάρτηση της Κριμαίας το 2014. Η παραπληροφόρηση αποτελεί σημαντική απειλή για τις δημοκρατικές διαδικασίες και την ευημερία των πολιτών. Η προσέγγιση της Ευρωπαϊκής Ένωσης συνδυάζει ρυθμιστικά μέτρα, στρατηγικές εταιρικές σχέσεις και πρωτοβουλίες γραμματισμού στα μέσα επικοινωνίας για την αντιμετώπιση αυτού του φαινομένου, διασφαλίζοντας παράλληλα βασικές δημοκρατικές αρχές, όπως η ελευθερία της έκφρασης. Στα βασικά μέτρα περιλαμβάνονται ο κώδικας δεοντολογίας για την παραπληροφόρηση και η πράξη για τις ψηφιακές υπηρεσίες, οι οποίες αποσκοπούν στη λογοδοσία των ψηφιακών πλατφορμών και στη διασφάλιση της διαφάνειας. Επιπλέον, πρωτοβουλίες όπως η ειδική ομάδα East StratCom και το σύστημα έγκαιρης προειδοποίησης αναδεικνύουν τις προσπάθειες της Ευρωπαϊκής Ένωσης για την αντιμετώπιση της παραπληροφόρησης ως εργαλείου υβριδικού πολέμου. Το παρόν έγγραφο τονίζει επίσης τον κρίσιμο ρόλο των πολιτών, τους οποίους η Ευρωπαϊκή Ένωση επιδιώκει να ενδυναμώσει μέσω προγραμμάτων γραμματισμού στα μέσα επικοινωνίας, δίνοντάς τους τη δυνατότητα να αναγνωρίζουν και να αντιστέκονται στο χειριστικό περιεχόμενο. Εξετάζοντας τις αλληλεπιδράσεις μεταξύ των κυβερνητικών δράσεων, της συμμετοχής του ιδιωτικού τομέα και της συμμετοχής των πολιτών, η παρούσα μελέτη παρέχει ολοκληρωμένη ανάλυση της στρατηγικής της Ευρωπαϊκής Ένωσης κατά της παραπληροφόρησης και αξιολογεί τις προκλήσεις και τις μελλοντικές κατευθύνσεις που απαιτούνται για τη διατήρηση της δημοκρατικής ανθεκτικότητας σε ένα εξελισσόμενο ψηφιακό τοπίο.
Είδος δημοσίευσης:
Επιστημονικό άρθρο
Εκδότης:
Πληροφόρηση
Συγγραφείς:
Alessia D’Andrea, Giorgia Fusacchia, Arianna D’Ulizia
Περίληψη:
Σκοπός
Χρησιμοποιώντας μια πολυεπιστημονική προσέγγιση, η παρούσα μελέτη αποσκοπεί στην ιχνηλάτηση της πορείας των εκστρατειών παραπληροφόρησης, από τον εντοπισμό τους μέσω γλωσσικών ενδείξεων αξιοπιστίας έως την προώθησή τους μέσω των μηχανισμών διάδοσης και, τέλος, την αξιολόγηση του αντικτύπου τους στο κοινωνικοπολιτικό πλαίσιο.
Σχεδιασμός/μεθοδολογία/προσέγγιση
Η παρούσα μελέτη παρέχει μια εις βάθος επισκόπηση τεσσάρων θεμελιωδών πτυχών της παραπληροφόρησης: τα γλωσσικά χαρακτηριστικά που διακρίνουν το περιεχόμενο που έχει σχεδιαστεί για την εξαπάτηση και τη χειραγώγηση της κοινής γνώμης, τους μηχανισμούς των μέσων ενημέρωσης που διευκολύνουν τη διάδοσή του αξιοποιώντας τις γνωστικές διαδικασίες του κοινού του, τις απειλές που θέτει η αυξανόμενη χρήση της παραγωγικής τεχνητής νοημοσύνης για τη διάδοση παραπληροφόρησης και τις ευρύτερες συνέπειες που έχει αυτή η δυναμική παραπληροφόρησης στην κοινή γνώμη και, κατά συνέπεια, στις διαδικασίες λήψης πολιτικών αποφάσεων.
Πορίσματα
Ως εκ τούτου, το έγγραφο παρέχει μια διεπιστημονική και ολιστική εξέταση του φαινομένου, παραπέμποντας στα πολυφωνικά στοιχεία του για να τονίσει τη σημασία της ευθύνης των πλατφορμών, των εκστρατειών γραμματισμού στα μέσα επικοινωνίας μεταξύ των πολιτών και της διαδραστικής συνεργασίας μεταξύ του ιδιωτικού και του δημόσιου τομέα ως μέτρων για την ενίσχυση της ανθεκτικότητας έναντι της απειλής της παραπληροφόρησης.
Πρωτοτυπία/αξία
Η μελέτη υπογραμμίζει την ανάγκη να αυξηθεί η λογοδοσία των πλατφορμών, να προωθηθεί ο γραμματισμός στα μέσα επικοινωνίας μεταξύ των ατόμων και να αναπτυχθεί η συνεργασία μεταξύ του δημόσιου και του ιδιωτικού τομέα. Η ενίσχυση της ανθεκτικότητας στην παραπληροφόρηση και η διασφάλιση της προσαρμοστικότητας της ΕΕ έναντι των μεταβαλλόμενων ψηφιακών απειλών αποτελούν τους στόχους αυτής της ολοκληρωμένης στρατηγικής. Τέλος, το έγγραφο υποστηρίζει μια δίκαιη και ανοικτή στρατηγική που προστατεύει την ελευθερία της έκφρασης και ενισχύει τους δημοκρατικούς θεσμούς σε μια εποχή που η ψηφιακή παραπληροφόρηση βρίσκεται σε άνοδο.
Είδος δημοσίευσης:
Επιστημονικό άρθρο
Εκδότης:
Εφημερίδα της Πληροφόρησης, Επικοινωνίας και Ηθικής στην Κοινωνία (2025)
Συγγραφείς:
Eddie Conti, Alejandro Astruc, Álvaro Parafita, Axel Brando
Περίληψη:
Η κατανόηση του τρόπου με τον οποίο οι πληροφορίες διαδίδονται μέσω μοντέλων Transformer αποτελεί βασική πρόκληση για την ερμηνευσιμότητα. Σε αυτή την εργασία, μελετάμε τις επιπτώσεις των ελάχιστων συμβολικών διαταραχών στον χώρο ενσωμάτωσης. Στα πειράματά μας, αναλύουμε τη συχνότητα των οποίων οι μάρκες αποδίδουν σε ελάχιστες μετατοπίσεις, τονίζοντας ότι οι σπάνιες μάρκες συνήθως οδηγούν σε μεγαλύτερες μετατοπίσεις. Επιπλέον, μελετάμε τον τρόπο με τον οποίο οι διαταραχές διαδίδονται σε όλα τα στρώματα, αποδεικνύοντας ότι οι πληροφορίες εισόδου αναμειγνύονται όλο και περισσότερο σε βαθύτερα στρώματα. Τα ευρήματά μας επικυρώνουν την κοινή υπόθεση ότι τα πρώτα στρώματα ενός μοντέλου μπορούν να χρησιμοποιηθούν ως υποκατάστατα για τις εξηγήσεις του μοντέλου. Συνολικά, το έργο αυτό εισάγει τον συνδυασμό συμβολικών διαταραχών και μετατοπίσεων στον χώρο ενσωμάτωσης ως ισχυρό εργαλείο για την ερμηνεία μοντέλων.
Είδος δημοσίευσης:
Άρθρο εργαστηρίου
Εκδότης:
Εργαστήριο IJCAI 2025 για την εξηγήσιμη τεχνητή νοημοσύνη
Συγγραφείς:
Andrea Ciamarra, Roberto Caldelli, Αλμπέρτο Ντελ Μπίμπο
Περίληψη:
Η παραπληροφόρηση προκαλείται πάντα περισσότερο από την προσφυγή σε αλλοιωμένο ή πλήρως συνθετικά παραγόμενο ρεαλιστικό περιεχόμενο, γενικά γνωστό ως deepfakes. Αυτό δημιουργεί την ανάγκη αξιόπιστων μέσων ικανών να αποκαλύπτουν τέτοια ψεύτικα περιεχόμενα, ώστε να αποφεύγεται η πόλωση της σκέψης των ατόμων. Παρουσιάστηκαν διάφορες τεχνικές, των οποίων ο κοινός παρονομαστής είναι η αναζήτηση ορισμένων ασυνεπειών που προκαλούνται από τη διαδικασία της ψευδούς παραγωγής και τεκμηριώνονται με την εξέταση συγκεκριμένων χαρακτηριστικών. Φαίνεται ότι ο πιθανός συνδυασμός διαφόρων διακριτικών χαρακτηριστικών θα μπορούσε να προσφέρει αποτελεσματικότερα επιτεύγματα. Με αυτή την άποψη και σε συνέχεια της προηγούμενης μελέτης μας για το θέμα αυτό, προτείνουμε να διερευνήσουμε ένα νέο χαρακτηριστικό το οποίο βασικά λαμβάνει υπόψη τις ενσωματωμένες σχέσεις που υπάρχουν μέσα σε ολόκληρη τη σκηνή απόκτησης κατά τη στιγμή της λήψης της εικόνας (βίντεο) και στη συνέχεια αντιπροσωπεύεται από τις τιμές εικονοστοιχείων εικόνας. Η ιδέα πίσω από αυτό είναι ότι η βαθιά ψευδής διαδικασία παραγωγής μπορεί να σπάσει τέτοιες εγγενείς εξαρτήσεις μεταξύ του φωτισμού (ένταση και κατεύθυνση), των επιφανειών αντικειμένων (θέση και ανάκλαση) και του θορύβου απόκτησης, αποδεικνύοντας έτσι έναν πιθανό χειρισμό. Σύμφωνα με αυτό, ένας περιγραφέας χαρακτηριστικών, που ονομάζεται Local Surface Descriptor, έχει κατασκευαστεί και χρησιμοποιηθεί για την εκπαίδευση μοντέλων που βασίζονται στο CNN για ανίχνευση deepfake. Πειραματικά αποτελέσματα που διεξήχθησαν σε διαφορετικά λειτουργικά πλαίσια αποδεικνύουν σημαντική ακρίβεια ανίχνευσης έως και 90%.
Είδος δημοσίευσης:
Έγγραφο της διάσκεψης
Εκδότης:
2024 IEEE International Conference on Image Processing Challenges and Workshops (ICIPCW), Αμπού Ντάμπι, Ηνωμένα Αραβικά Εμιράτα, 2024
Συγγραφείς:
Andrea Ciamarra, Roberto Caldelli, Αλμπέρτο Ντελ Μπίμπο
Περίληψη:
Η πραγματική ικανότητα της τεχνητής νοημοσύνης να παράγει ρεαλιστικές πλήρως συνθετικές εικόνες βελτιώνεται καθημερινά και αυτό ισχύει ιδιαίτερα για εικόνες που αντιπροσωπεύουν ανθρώπινα πρόσωπα που εμφανίζονται αδιαχώριστα από τους πραγματικούς ανθρώπους. Αυτό θέτει την κρίσιμη ανάγκη να αναπτυχθούν μέσα ικανά να διακρίνουν μεταξύ αληθινών και μη υπαρχόντων ανθρώπων, εντοπίζοντας κάποιες ενδεχόμενες ασυνέπειες που ενσωματώνονται στις εικόνες κατά τη διάρκεια της διαδικασίας παραγωγής. Η κύρια διαφορά μεταξύ μιας παρθένας εικόνας και μιας παραγόμενης βαθιάς παραποίησης είναι ότι, στη δεύτερη περίπτωση, δεν υπήρξε αποτελεσματική απόκτηση κάμερας. Έτσι, όλες οι διάφορες αλληλεξαρτήσεις μεταξύ των στοιχείων που ανήκουν στη σκηνή (φώτα, ανακλαστικότητα, αντίστοιχες θέσεις αντικειμένων στον τρισδιάστατο χώρο) δεν λαμβάνονται από τον πραγματικό κόσμο σε αυτή την ακριβή χρονική στιγμή, αλλά απλώς αναπαράγονται τεχνητά. Σύμφωνα με αυτό το σκεπτικό, σε αυτή την εργασία, εισάγουμε τα τοπικά πλαίσια επιφάνειας κάμερας ως πιθανό μέσο για να αναπαραστήσουμε αυτά τα συγκεκριμένα περιβαλλοντικά χαρακτηριστικά προκειμένου να επισημάνουμε τις διαφορές. Η πειραματική ανάλυση που πραγματοποιήθηκε έχει διαπιστώσει ότι αυτό το χαρακτηριστικό μπορεί να δώσει ένα πολύ υψηλό επίπεδο ακρίβειας και ένα σημαντικό βαθμό γενίκευσης.
Είδος δημοσίευσης:
Έγγραφο της διάσκεψης
Εκδότης:
2024 IEEE International Conference on Image Processing Challenges and Workshops (ICIPCW), Αμπού Ντάμπι, Ηνωμένα Αραβικά Εμιράτα, 2024
Συγγραφείς:
Andrea Ciamarra, Roberto Caldelli, Αλμπέρτο Ντελ Μπίμπο
Περίληψη:
Εξαιρετικές εξωπραγματικές εικόνες μπορούν να πραγματοποιηθούν με τεχνικές τεχνητής νοημοσύνης. Διάφορα εργαλεία διαθέσιμα σε όλους είναι σε θέση να αναδημιουργήσουν περιεχόμενο υψηλής ποιότητας, ειδικά δημιουργώντας ολόκληρες πλήρως συνθετικές εικόνες. Μεταξύ των υφιστάμενων αρχιτεκτονικών, τα μοντέλα που βασίζονται στη διάχυση μπορούν εύκολα να παράγουν οποιοδήποτε είδος εικόνων, συμπεριλαμβανομένων των εικόνων του ανθρώπινου προσώπου, δίνοντας μια προτροπή όπως ένα κείμενο. Αυτά τα ψευδή περιεχόμενα χρησιμοποιούνται συχνά για τη διάδοση παραπληροφόρησης και αυτό εγείρει ανησυχίες σχετικά με την ασφάλεια των ανθρώπων. Επί του παρόντος, είναι δύσκολο να αναπτυχθούν αξιόπιστα μέσα για τη διάκριση μεταξύ πραγματικών και παραγόμενων (ακόμη και ανύπαρκτων) ανθρώπων. Επιπλέον, ο μεγάλος αριθμός εφαρμογών που βασίζονται στη διάχυση θέτει το πρόβλημα να γενικευθούν οι εν λόγω ανιχνευτές σε νέες παραγωγικές τεχνικές. Για την αντιμετώπιση αυτών των ζητημάτων, προτείνουμε να διερευνηθεί η ικανότητα ενός διακριτού χαρακτηριστικού, με βάση το περιβάλλον απόκτησης εικόνας, να εξατομικεύσει τις εικόνες προσώπου που βασίζονται στη διάχυση από τις παρθένες. Στην πραγματικότητα, οι παραγόμενες εικόνες δεν πρέπει να περιέχουν τα χαρακτηριστικά που είναι κατάλληλα για τη φάση απόκτησης που εκτελείται μέσω πραγματικής κάμερας. Τέτοιες ασυνέπειες μπορούν να επισημανθούν μέσω των πρόσφατα εισαχθέντων τοπικών πλαισίων επιφάνειας. Αυτή η λειτουργία λαμβάνει υπόψη αντικείμενα και επιφάνειες που εμπλέκονται στη σκηνή, τα οποία επηρεάζουν τη διαδικασία απόκτησης της κάμερας, μαζί με περαιτέρω εγγενείς πληροφορίες που συνδέονται με τη συσκευή, καθώς και φωτισμό και αντανακλάσεις που επηρεάζουν ολόκληρο το σενάριο. Η εργασία διερευνά την ικανότητα αυτού του χαρακτηριστικού να γενικεύεται προς διαφορετικά σύνολα δεδομένων και νέες παραγωγικές μεθόδους άγνωστες κατά τη διάρκεια της εκπαίδευσης. Τα πειραματικά αποτελέσματα υπογραμμίζουν ότι ένα τέτοιο χαρακτηριστικό εξακολουθεί να παρέχει σημαντικά επίπεδα ακρίβειας ανίχνευσης και σε αυτές τις περιπτώσεις.
Είδος δημοσίευσης:
Έγγραφο της διάσκεψης
Εκδότης:
2024 IEEE International Conference on Image Processing Challenges and Workshops (ICIPCW), Αμπού Ντάμπι, Ηνωμένα Αραβικά Εμιράτα, 2024
Συγγραφείς:
Álvaro Parafita, Tomas Garriga, Axel Brando, Francisco J. Cazorla
Περίληψη:
Μεταξύ των τεχνικών εξηγησιμότητας, το SHAP ξεχωρίζει ως ένα από τα πιο δημοφιλή, αλλά συχνά παραβλέπει την αιτιώδη δομή του προβλήματος. Σε απάντηση, το do-SHAP χρησιμοποιεί παρεμβατικά ερωτήματα, αλλά η εξάρτησή του από εκτιμήσεις εμποδίζει την πρακτική εφαρμογή του. Για την αντιμετώπιση αυτού του προβλήματος, προτείνουμε τη χρήση προσεγγίσεων εκτίμησης και αγνωστικισμού, οι οποίες επιτρέπουν την εκτίμηση οποιουδήποτε αναγνωρίσιμου ερωτήματος από ένα μόνο μοντέλο, καθιστώντας εφικτό το do-SHAP σε σύνθετα γραφήματα. Αναπτύσσουμε επίσης έναν νέο αλγόριθμο για να επιταχύνουμε σημαντικά τον υπολογισμό του με αμελητέο κόστος, καθώς και μια μέθοδο για την εξήγηση των μη προσβάσιμων διαδικασιών παραγωγής δεδομένων. Επιδεικνύουμε την εκτίμηση και την υπολογιστική απόδοση της προσέγγισής μας και την επικυρώνουμε σε δύο σύνολα δεδομένων πραγματικού κόσμου, τονίζοντας τις δυνατότητές της στην απόκτηση αξιόπιστων εξηγήσεων.
Είδος δημοσίευσης:
Έγγραφο της διάσκεψης
Εκδότης:
Τριακοστή ένατη ετήσια διάσκεψη για τα νευρωνικά συστήματα επεξεργασίας πληροφοριών (NeurIPS 2025)
Συγγραφείς:
Alamgir Munir Qazi, John Philip McCrae, Τζαμάλ Νασίρ
Περίληψη:
Ο πολλαπλασιασμός της παραπληροφόρησης απαιτεί ισχυρά αλλά υπολογιστικά αποδοτικά συστήματα επαλήθευσης γεγονότων. Ενώ οι τρέχουσες σύγχρονες προσεγγίσεις αξιοποιούν τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) για τη δημιουργία επεξηγηματικών λογικών, αυτές οι μέθοδοι αντιμετωπίζουν σημαντικά υπολογιστικά εμπόδια και κινδύνους παραίσθησης σε πραγματικές εφαρμογές. Παρουσιάζουμε το DeReC (Dense Retrieval Classification), ένα ελαφρύ πλαίσιο που αποδεικνύει πώς οι ενσωματώσεις κειμένου γενικής χρήσης μπορούν να αντικαταστήσουν αποτελεσματικά τις αυτοπαλίνδρομες προσεγγίσεις που βασίζονται στο LLM. Συνδυάζοντας την πυκνή ανάκτηση με την εξειδικευμένη ταξινόμηση, το σύστημά μας επιτυγχάνει καλύτερη ακρίβεια ενώ είναι σημαντικά πιο αποτελεσματικό. Το DeReC ξεπερνά τα LLM που παράγουν επεξήγηση στην αποδοτικότητα, μειώνοντας τον χρόνο εκτέλεσης κατά 95% σε RAWFC (23 λεπτά 36 δευτερόλεπτα σε σύγκριση με 454 λεπτά 12 δευτερόλεπτα) και κατά 92% στο LIAR-RAW (134 λεπτά 14 δευτερόλεπτα σε σύγκριση με 1692 λεπτά 23 δευτερόλεπτα), παρουσιάζοντας την αποτελεσματικότητά του σε διάφορα μεγέθη συνόλων δεδομένων. Στο σύνολο δεδομένων της RAWFC, η DeReC επιτυγχάνει βαθμολογία F1 65,58%, ξεπερνώντας την υπερσύγχρονη μέθοδο L-Defense (61.20%). Τα αποτελέσματά μας δείχνουν ότι τα προσεκτικά σχεδιασμένα συστήματα ανάκτησης μπορούν να ταιριάξουν ή να ξεπεράσουν την απόδοση LLM σε εξειδικευμένες εργασίες, ενώ είναι σημαντικά πιο πρακτικά για την ανάπτυξη σε πραγματικό κόσμο.
Είδος δημοσίευσης:
Έγγραφο της διάσκεψης
Εκδότης:
5ο Συνέδριο για τη Γλώσσα, τα Δεδομένα και τη Γνώση
Συγγραφείς:
Qiushi Li, Andrea Ciamarra, Roberto Caldelli και Stefano Berretti
Περίληψη:
Για το MediaEval 2025 SynthIm Challenge Task A (Synthetic Image Detection), εντοπίσαμε μια κρίσιμη μετατόπιση κατανομής μεταξύ των παρεχόμενων δεδομένων εκπαίδευσης και δοκιμών, καθιστώντας το πρώτο φτωχό εκπρόσωπο για τον τομέα-στόχο. Η προσέγγισή μας αντιμετωπίζει άμεσα αυτή την πρόκληση ενσωματώνοντας το πιο στυλιστικά συνεπές σύνολο επικύρωσης στα δεδομένα εκπαίδευσής μας και αξιοποιώντας ένα παγωμένο CLIP ViT-L/14 ως ισχυρό εξολκέα χαρακτηριστικών. Η κύρια διορατικότητά μας είναι ότι κάτω από τέτοιες συνθήκες μετατόπισης τομέα, οι γενικεύσιμες αναπαραστάσεις από ένα μεγάλο προ-εκπαιδευμένο μοντέλο ξεπερνούν σημαντικά ένα παραδοσιακό CNN τελειοποιημένο στο αναντιστοιχισμένο σύνολο δεδομένων, αποδεικνύοντας ότι είναι μια πιο αποτελεσματική και αξιόπιστη στρατηγική.
Είδος δημοσίευσης:
Έγγραφο της διάσκεψης
Εκδότης:
MediaEval’25: Εργαστήριο αξιολόγησης πολυμέσων, 25-26 Οκτωβρίου 2025, Δουβλίνο, Ιρλανδία και διαδίκτυο
Πρόσβαση κατόπιν αιτήματος
Συγγραφείς:
Qiushi Li, Roberto Caldelli και Stefano Berretti
Περίληψη:
Η ταχεία πρόοδος των μοντέλων παραγωγής εικόνας, όπως η Σταθερή Διάχυση, εγείρει ανησυχίες σχετικά με πιθανή κακή χρήση, καθιστώντας τις ισχυρές τεχνικές υδατογράφησης απαραίτητες για τον έλεγχο ταυτότητας και την απόδοση συνθετικού περιεχομένου, ιδιαίτερα για την καταπολέμηση των deepfakes. Ωστόσο, η ταυτόχρονη διασφάλιση της παραγωγής εικόνας υψηλής ποιότητας και της ακριβούς εξαγωγής υδατογραφήματος εξακολουθεί να αποτελεί πρόκληση. Μέσα από μια ανάλυση των υφιστάμενων μεθόδων, εντοπίζουμε έναν κρίσιμο περιορισμό:
Οι λειτουργίες απώλειας συχνά υιοθετούν μία μόνο αναφορά (είτε την εικόνα εισόδου είτε την καθαρή εικόνα) για τη βελτιστοποίηση της πιστότητας της εικόνας, οδηγώντας σε μη βέλτιστες επιδόσεις. Σε αυτή την εργασία, διεξάγουμε μια εις βάθος μελέτη του όρου απώλειας ποιότητας εικόνας σε υδατογράφημα με βάση τη διάχυση. Αναλύοντας τις διακριτές επιπτώσεις της χρήσης της εικόνας εισόδου έναντι της καθαρής παραγόμενης εικόνας ως αναφορές κατά τη βελτιστοποίηση, αποκαλύπτουμε ότι η από κοινού εξέταση και των δύο αναφορών βελτιώνει σημαντικά την ευρωστία και την οπτική ποιότητα. Εκτεταμένα πειράματα δείχνουν ότι η προσέγγισή μας διπλής αναφοράς επιτυγχάνει ανώτερη απόδοση τόσο στην ακρίβεια εξαγωγής υδατογραφήματος όσο και στην πιστότητα παραγωγής σε σύγκριση με τις γραμμές βάσης μίας αναφοράς. Υποστηρίζουμε αυτό το παράδειγμα για την προώθηση της αξιόπιστης υδατογράφησης σε παραγωγικά μοντέλα.
Είδος δημοσίευσης:
Έγγραφο της διάσκεψης
Εκδότης:
DFF ’25: Πρακτικά του 1ου Εργαστηρίου Εγκληματολογίας Deepfake: Ανίχνευση, απόδοση, αναγνώριση και αντιφατικές προκλήσεις στην εποχή των μέσων ενημέρωσης που παράγονται από ΤΝ
Συγγραφείς:
Josu Eguiluz Castañeira, Axel Brando, Migle Laukyte, Marc Serra-Vidal
Περίληψη:
Η τεχνητή νοημοσύνη (ΤΝ) διαπερνά πλέον υποδομές ζωτικής σημασίας και συστήματα λήψης αποφάσεων όπου οι αποτυχίες προκαλούν κοινωνική, οικονομική και δημοκρατική βλάβη. Αυτό το έγγραφο θέσης αμφισβητεί την παγιωμένη πεποίθηση ότι η ρύθμιση και η καινοτομία είναι αντίθετες. Όπως αποδεικνύεται από αναλογίες από την αεροπορία, τα φαρμακευτικά προϊόντα και τα συστήματα κοινωνικής πρόνοιας και από πρόσφατες περιπτώσεις συνθετικής παραπληροφόρησης, μεροληψίας και μη υπεύθυνης λήψης αποφάσεων, η απουσία καλά σχεδιασμένης ρύθμισης έχει ήδη δημιουργήσει ανυπολόγιστες ζημίες. Ο κανονισμός, όταν είναι στοχαστικός και προσαρμοστικός, δεν αποτελεί τροχοπέδη για την καινοτομία — είναι το θεμέλιό του. Το παρόν έγγραφο θέσης εξετάζει την πράξη της ΕΕ για την ΤΝ ως μοντέλο ρύθμισης με βάση τον κίνδυνο και με γνώμονα την ευθύνη, το οποίο αντιμετωπίζει το δίλημμα Collingridge: δράση αρκετά νωρίς για την πρόληψη βλαβών, αλλά αρκετά ευέλικτα για τη διατήρηση της καινοτομίας. Οι προσαρμοστικοί μηχανισμοί της —ρυθμιστικά δοκιμαστήρια, στήριξη μικρών και μεσαίων επιχειρήσεων (ΜΜΕ), δοκιμές σε πραγματικές συνθήκες, εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα (FRIA)— καταδεικνύουν τον τρόπο με τον οποίο η ρύθμιση μπορεί να επιταχύνει υπεύθυνα και όχι να καθυστερήσει την τεχνολογική πρόοδο. Το έγγραφο θέσης συνοψίζει τον τρόπο με τον οποίο τα εργαλεία διακυβέρνησης μετατρέπουν τα αντιληπτά βάρη σε απτά πλεονεκτήματα: ασφάλεια δικαίου, εμπιστοσύνη των καταναλωτών και δεοντολογική ανταγωνιστικότητα. Τελικά, το έγγραφο επαναπροσδιορίζει την πρόοδο: η καινοτομία και η ρύθμιση προχωρούν από κοινού. Με την ενσωμάτωση της διαφάνειας, των εκτιμήσεων επιπτώσεων, της λογοδοσίας και του γραμματισμού στον τομέα της ΤΝ στον σχεδιασμό και την εφαρμογή, το πλαίσιο της ΕΕ καθορίζει τι σημαίνει πραγματικά υπεύθυνη καινοτομία — τεχνολογική φιλοδοξία που διέπεται από δημοκρατικές αξίες και θεμελιώδη δικαιώματα.
Είδος δημοσίευσης:
Έγγραφο της διάσκεψης
Εκδότης:
Τριακοστή ένατη ετήσια διάσκεψη για τα νευρωνικά συστήματα επεξεργασίας πληροφοριών (NeurIPS 2025)
Συγγραφέας: Πασκαλίνη Γκαμπορίτ
Περίληψη:
Σε μια εποχή παγκόσμιας αβεβαιότητας, η εμπιστοσύνη έχει γίνει ένας κρίσιμος παράγοντας που διαμορφώνει τις σχέσεις μεταξύ των εθνών, των θεσμών και των ατόμων. Το βιβλίο αυτό, Trust, New Technologies and Geopolitics in an Uncertain World (Εμπιστοσύνη, νέες τεχνολογίες και γεωπολιτική σε έναν αβέβαιο κόσμο), προσφέρει μια έγκαιρη και σε βάθος διερεύνηση του τρόπου με τον οποίο δοκιμάζεται και μετασχηματίζεται η εμπιστοσύνη ενόψει των ταχέως μεταβαλλόμενων γεωπολιτικών τοπίων. Από την ευπάθεια των δημοκρατικών συστημάτων έως τις προκλήσεις που θέτουν οι νέες τεχνολογίες, η τεχνητή νοημοσύνη, η παραπληροφόρηση και η κλιματική αλλαγή, το βιβλίο αυτό εξετάζει τα πιο πιεστικά ζητήματα της εποχής μας. Εξετάζοντας τις διασταυρώσεις εμπιστοσύνης με βασικούς τομείς όπως οι δημοκρατίες, οι εμπορικοί πόλεμοι και οι νέες τεχνολογίες, το έργο αυτό παρέχει πολύτιμες πληροφορίες για τους υπεύθυνους χάραξης πολιτικής, τους μελετητές και οποιονδήποτε επιδιώκει να κατανοήσει την πολυπλοκότητα του σημερινού κόσμου. Είτε ενδιαφέρεστε για την κυβερνοασφάλεια, την παραπληροφόρηση, τον αντίκτυπο των υβριδικών απειλών είτε για τον ρόλο της εμπιστοσύνης στη διεθνή διπλωματία, το παρόν βιβλίο προσφέρει ένα ολοκληρωμένο αλλά προσβάσιμο πλαίσιο για την αντιμετώπιση αυτών των προκλήσεων. Ρίχνει φως στο πώς η κατανόηση της εμπιστοσύνης είναι το κλειδί για την αντιμετώπιση των γεωπολιτικών αβεβαιοτήτων που καθορίζουν την εποχή μας.
Είδος δημοσίευσης:
Βιβλίο
Εκδότης:
Peter Lang Εκδότης
Συγγραφέας:
Eddie Conti, Álvaro Parafita, Axel Brando
Περίληψη:
Η αξιολόγηση της σημασίας των επιμέρους χαρακτηριστικών στη μηχανική μάθηση είναι ζωτικής σημασίας για την κατανόηση της διαδικασίας λήψης αποφάσεων του μοντέλου. Ενώ υπάρχουν πολλές μέθοδοι, η έλλειψη μιας οριστικής βασικής αλήθειας για σύγκριση υπογραμμίζει την ανάγκη για εναλλακτικά, βάσιμα μέτρα. Αυτή η εργασία εισάγει μια νέα μετα-hoc μέθοδο τοπικής σημασίας χαρακτηριστικών που ονομάζεται Counterfactual Importance Distribution (CID). Δημιουργούμε δύο σύνολα θετικών και αρνητικών αντιπαραδειγμάτων, μοντελοποιούμε τις κατανομές τους χρησιμοποιώντας την Εκτίμηση Πυκνότητας Πυρήνα και κατατάσσουμε τα χαρακτηριστικά με βάση ένα μέτρο διανεμητικής ανομοιότητας. Αυτό το μέτρο, βασισμένο σε ένα αυστηρό μαθηματικό πλαίσιο, ικανοποιεί βασικές ιδιότητες που απαιτούνται για να λειτουργήσουν ως έγκυρη μέτρηση. Επιδεικνύουμε την αποτελεσματικότητα της μεθόδου μας συγκρίνοντας με καλά εδραιωμένους τοπικούς εξηγητές σημασίας χαρακτηριστικών. Η μέθοδός μας όχι μόνο προσφέρει συμπληρωματικές προοπτικές στις υπάρχουσες προσεγγίσεις, αλλά βελτιώνει επίσης την απόδοση στις μετρήσεις πιστότητας (τόσο για την πληρότητα όσο και για την επάρκεια), με αποτέλεσμα πιο πιστές εξηγήσεις του συστήματος. Τα αποτελέσματα αυτά αναδεικνύουν τις δυνατότητές της ως πολύτιμο εργαλείο για την ανάλυση μοντέλων.
Είδος δημοσίευσης:
Έγγραφο της διάσκεψης
Εκδότης:
Συνέδριο Deep Learning του Northern Lights 2026