Deepfake, IA e giustizia digitale: la sfida della fiducia

Dalla capacità di riconoscere un deepfake generato da modelli di intelligenza artificiale mai visti prima alla necessità di rendere gli algoritmi più trasparenti, spiegabili e affidabili in ambito forense. Sono questi alcuni dei temi al centro degli interventi di Irene Amerini, docente della Sapienza Università di Roma e responsabile del Computer Vision and Multimedia Forensics Research Team dell’ALCORLab, e di Lucia Cascone, ricercatrice dell’Università degli Studi di Salerno, nell’ambito della quinta edizione di IFOSS – International Forensics Science Summer School.

L’iniziativa, punto di riferimento internazionale per lo studio delle nuove frontiere della Forensics e delle discipline correlate, quest’anno dedica particolare attenzione alle trasformazioni introdotte dall’intelligenza artificiale applicata alle indagini digitali, mettendo a confronto ricerca accademica, competenze professionali e applicazioni concrete. Diretta dai professori Sebastiano Battiato dell’Università di Catania, Donatella Curtotti dell’Università di Foggia e Giovanni Ziccardi dell’Università di Milano, la scuola affronta le opportunità ma anche le criticità legate all’impiego dell’IA nei processi investigativi e giudiziari.

In foto i partecipanti a Ifoss 2026

Irene Amerini: Deepfake e IA, la sfida dei sistemi capaci di “capire” le manipolazioni

Rendere i sistemi di rilevamento dei deepfake più affidabili, capaci di riconoscere contenuti generati da modelli di intelligenza artificiale sempre nuovi e, soprattutto, in grado di spiegare le proprie decisioni. È questa una delle principali sfide della Digital Forensics nell’era dell’IA generativa. Ne parla Irene Amerini, docente della Sapienza Università di Roma e responsabile del Computer Vision and Multimedia Forensics Research Team dell’ALCORLab, che evidenzia la necessità di sviluppare sistemi di autenticazione più evoluti, basati su analisi multimodali e modelli capaci di integrare competenze diverse. Un percorso che non riguarda solo la capacità di individuare un contenuto falso, ma anche quella di comprendere come l’algoritmo sia arrivato alla propria valutazione, requisito fondamentale quando l’intelligenza artificiale entra nei processi investigativi e forensi.

Come possiamo rendere i sistemi di rilevamento dei deepfake più affidabili quando devono analizzare contenuti modificati, compressi o creati da modelli di intelligenza artificiale mai visti prima? 

Dal mio punto di vista, ciò che va fatto è creare un framework di autenticazione che parta dalla detection tradizionale, quindi su contenuti non compressi, e che sia poi in grado di integrare strumenti capaci di affrontare anche i casi in cui ci si trovi di fronte a modelli di intelligenza artificiale generativa mai visti prima. Mi riferisco a generatori che, durante la fase di addestramento del modello di detection, non erano ancora conosciuti e che quindi non fanno parte delle casistiche apprese.

In questi casi si potrebbero aggiungere moduli in grado di verificare la distribuzione dei dati, andando a confrontare quella che il modello ha imparato durante la fase di training con quella che osserva successivamente in fase di inferenza. Se la distribuzione risulta differente, è possibile individuare la presenza di modelli generativi nuovi. Si tratta dei cosiddetti moduli di out-of-distribution detection, pensati proprio per svolgere questo tipo di analisi.

Diverso è invece il discorso per quanto riguarda i contenuti modificati e compressi. Qui il problema è più complesso, perché sappiamo che tutti i modelli di rilevazione tendono a perdere prestazioni quando si trovano ad analizzare contenuti di questo tipo. Un primo approccio consiste certamente nell'includere anche queste tipologie di dati durante la fase di training, così da rendere i modelli più robusti. Tuttavia, questa soluzione da sola potrebbe non essere sufficiente.

Un'altra possibilità è ricorrere ad analisi multimodali, che consentano di verificare anche altre tipologie di tracce utili all'identificazione delle manipolazioni. Oppure si potrebbe immaginare di sfruttare il supporto di agenti di intelligenza artificiale, specializzati nell'analisi di specifiche categorie di contenuti. Ad esempio, si potrebbero avere agenti dedicati a un determinato social network e altri specializzati su piattaforme differenti, ciascuno in grado di conoscere in profondità le caratteristiche dei dati che circolano in quel particolare ecosistema.

Successivamente, le risposte fornite dai diversi agenti potrebbero essere integrate attraverso un approccio cosiddetto mixture of experts, cioè un sistema in cui più esperti, ciascuno competente su uno specifico dominio — ad esempio un particolare livello di compressione o un determinato social network — collaborano mettendo insieme le rispettive competenze. In questo modo sarebbe possibile ottenere una valutazione complessiva più accurata e affidabile rispetto a quella che potrebbe fornire un singolo modello.

In foto Irene Amerini

Quanto è importante la spiegabilità dell’intelligenza artificiale per poter utilizzare i sistemi di rilevamento dei deepfake in ambito forense e investigativo?

Dal mio punto di vista questo è un aspetto fondamentale, sia per quanto riguarda la explainability, cioè la capacità del modello di spiegare le proprie decisioni, sia per l'interpretability, ovvero la possibilità di comprenderne il funzionamento. In ambito forense, infatti, il destinatario finale dell'analisi è spesso una persona che non possiede competenze tecnologiche approfondite e che ha bisogno di ricevere una spiegazione chiara, possibilmente in forma testuale, delle conclusioni raggiunte.

Per questo è importante essere in grado di partire dal funzionamento della rete neurale e spiegare come è arrivata a una determinata decisione, ad esempio attraverso l'analisi delle mappe di salienza oppure investigando i meccanismi interni della rete, fino al livello delle attivazioni neuronali che hanno portato a quel risultato. Si tratta però di analisi altamente tecniche, che risultano ancora difficili da comprendere per un utente non specializzato.

L'obiettivo deve quindi essere quello di trasformare queste informazioni in un linguaggio più accessibile. In questo senso, i modelli linguistici di grandi dimensioni, gli LLM, possono rappresentare un valido supporto: possono infatti tradurre le spiegazioni tecniche che ricaviamo dai modelli e dagli algoritmi in contenuti comprensibili anche per chi non è un esperto. Naturalmente questo processo deve avvenire sempre in modo controllato e sotto la supervisione di un essere umano, così da garantire l'accuratezza e l'affidabilità delle spiegazioni fornite.

Un momento della 'lectio' di Irene Amerini

Lucia Cascone. IA forense, trasparenza e bias: la sfida di algoritmi affidabili 

L’intelligenza artificiale entra sempre più nei processi di analisi forense, ma la sua efficacia non può essere misurata soltanto in termini di accuratezza. Servono sistemi trasparenti, capaci di spiegare le proprie decisioni, documentare i criteri utilizzati e rendere evidenti anche limiti ed eventuali margini di errore. Lucia Cascone, docente dell’Università degli Studi di Salerno, affronta il tema dell’affidabilità dell’IA applicata alla visione artificiale e alle indagini digitali, richiamando l’attenzione sulla necessità di contrastare i bias nei sistemi biometrici e di evitare una fiducia automatica negli algoritmi. Una sfida che riguarda non solo la capacità di riconoscere contenuti manipolati, ma anche quella di comprendere il percorso che porta il modello a una determinata conclusione, soprattutto quando le tecnologie vengono impiegate in ambiti ad alto impatto come quello giudiziario.

Come possiamo garantire che i sistemi di intelligenza artificiale usati nelle analisi forensi producano risultati affidabili e scientificamente validi? 

Sicuramente non possiamo garantirlo, ma possiamo provarci. Oggi i sistemi di intelligenza artificiale sono spesso descritti come delle vere e proprie black box. Il nostro obiettivo, come ricercatori e sviluppatori, è renderli il più possibile trasparenti: spiegare come operano, rendere i risultati riproducibili e documentare tutte le specifiche che hanno portato a una determinata decisione. Questo è particolarmente importante quando il modello è destinato a contesti ad alto rischio, come quello forense. In questi casi è indispensabile disporre di strumenti che comunichino chiaramente le configurazioni iniziali, i dataset di addestramento e tutte le condizioni che hanno contribuito a definire il comportamento del modello.

In ambito forense è stato osservato che i modelli generativi possono essere influenzati da bias, strettamente legati ai dati utilizzati durante l'addestramento. Per questo è fondamentale comunicare non solo gli elementi che hanno portato a un determinato risultato, ma anche i limiti del modello e gli errori più ricorrenti. A noi farebbe piacere che i modelli funzionassero sempre e, nella ricerca, si tende spesso a raccontarne soprattutto i punti di forza. Se però vogliamo utilizzarli nella vita reale, è nostro dovere spiegare con chiarezza quali sono i loro limiti, i margini di errore e in quali situazioni tendono a sbagliare, così da rendere gli utilizzatori pienamente consapevoli delle potenzialità, ma anche dei limiti, di queste tecnologie. Dobbiamo, in altre parole, evitare che si sviluppi una fiducia cieca nei confronti dell'intelligenza artificiale e scongiurare il rischio della delega cognitiva.

Lucia Cascone

Perché è importante che i sistemi di IA per la visione artificiale siano trasparenti e capaci di spiegare le proprie decisioni? 

È fondamentale evitare la delega cognitiva. Oggi utilizziamo i sistemi di intelligenza artificiale quotidianamente, per le attività più diverse, ed è quindi necessario sensibilizzare chi li usa a mantenere sempre un approccio critico nei confronti delle risposte che questi modelli forniscono.

Per quanto riguarda i sistemi di riconoscimento biometrico, diciamolo chiaramente: i bias esistono e continueranno a esistere. È impensabile eliminarli completamente. Occorre però fare una distinzione importante tra bias e fairness. Il bias è una proprietà intrinseca del sistema, mentre la fairness misura l'impatto che quello sbilanciamento può avere sulle persone e, più in generale, sulla società.

I bias, inoltre, non hanno necessariamente un'accezione negativa: in alcuni contesti vengono persino sfruttati per finalità come quelle pubblicitarie. Il problema nasce quando influenzano le decisioni di modelli impiegati in settori ad alto rischio, come quello forense. In questi casi è indispensabile definire regole precise.

Definire queste regole significa progettare sistemi che non siano influenzati da caratteristiche demografiche estranee all'identità della persona. In altre parole, vogliamo che il modello non prenda decisioni sulla base dell'etnia, del genere o dell'età, ma esclusivamente sulla base degli elementi realmente pertinenti all'identificazione dell'individuo.

Come possiamo ridurre i possibili bias nei sistemi di riconoscimento biometrico e assicurarci che siano equi per persone con caratteristiche diverse? 

Sicuramente bisogna testare questi modelli in più condizioni possibili, in condizioni realistiche, ma dobbiamo anche assicurarci nella fase di sviluppo di misurare le diverse prestazioni anche per quelle che secondo noi possono essere gli eventuali gruppi o sottogruppi di popolazione che potrebbero ricevere una risposta dal modello differente.

In letteratura è noto che spesso questo accade e ciò è dovuto principalmente anche a problemi legati al dataset di training iniziale. Ci sono diverse strategie per cercare di operare sui bias, dalla più banale che è quella di lavorare inizialmente sulla base dati, in maniera tale che sia quanto più bilanciata possibile. Quando questo non è possibile si può lavorare sul modello o poi alla fine anche su quelle che sono poi le prestazioni, cercando di operare per aggiustare quelle che sono le risposte, per evitare sbilanciamenti dovuti non alla semantica ma a quello che rappresenta quella persona.

Un momento della 'lectio' di Lucia Cascone

L’accuratezza nel rilevare deepfake e contenuti manipolati è sufficiente, oppure è necessario anche comprendere come l’IA arriva alle sue conclusioni?

No, non è sufficiente. Anche quando si parla di manipolazioni facciali, infatti, è possibile alterare un video senza modificarne l'identità del soggetto. Per questo è necessario disporre di modelli che non si limitino a stabilire se un contenuto sia autentico o falso, ma che siano anche in grado di indicare quale tipo di manipolazione è stata effettuata.

Oggi esistono diverse tecniche di manipolazione del volto che consentono di preservare l'identità della persona, modificandone però il comportamento, la posa o l'illuminazione. In questi casi il video potrebbe comunque risultare utile in un'analisi forense: tutto dipende dall'obiettivo dell'indagine. È quindi fondamentale che il sistema evidenzi con precisione il tipo di alterazione riscontrata, perché alcune manipolazioni non incidono sull'identità del soggetto presente nella scena, mentre altre sono progettate proprio per sostituirla.

Se, ad esempio, modifico il colore dei capelli, il contenuto è certamente falso, ma l'identità della persona rimane la stessa. Se invece sostituisco il volto del soggetto con quello di un'altra persona, allora l'identità viene effettivamente alterata