A IFOSS esperti internazionali a confronto su affidabilità degli algoritmi, acquisizione dei dati e futuro della Digital Forensics
La rivoluzione dell’intelligenza artificiale sta trasformando profondamente il mondo delle indagini digitali, aprendo nuove opportunità ma anche ponendo interrogativi cruciali sul piano scientifico, giuridico e investigativo. È questo il terreno di confronto della quinta edizione di IFOSS – International Forensic Summer School, appuntamento internazionale dedicato allo stato dell’arte della ricerca e delle migliori pratiche professionali nel campo della Forensics e delle discipline correlate, con un focus particolare sul rapporto tra tecnologia, diritto e Intelligenza Artificiale.
La scuola, diretta dai professori Sebastiano Battiato dell’Università di Catania, Donatella Curtotti dell’Università di Foggia e Giovanni Ziccardi dell’Università di Milano, riunisce esperti provenienti dal mondo accademico, dalle forze dell’ordine e dall’industria, con l’obiettivo di analizzare le trasformazioni in atto nella Digital Forensics e nelle attività investigative supportate dalle nuove tecnologie.
Tra i temi centrali dell’edizione di quest’anno c’è il ruolo sempre più rilevante dell’intelligenza artificiale nell’analisi delle evidenze digitali: dai sistemi capaci di individuare correlazioni tra grandi quantità di dati fino agli algoritmi utilizzati per valutare la forza dell’evidenza attraverso strumenti statistici come il Likelihood Ratio. Tecnologie che promettono maggiore rapidità ed efficienza nelle indagini, ma che richiedono nuove forme di controllo, trasparenza e validazione per poter essere utilizzate in contesti delicati come quello giudiziario.
Proprio su questi aspetti si concentrano gli interventi di Giovanni Tessitore, Senior Forensics Scientist del Ministero dell’Interno, che affronta il tema dell’affidabilità dei risultati prodotti da modelli di intelligenza artificiale considerati “black box”. La questione non riguarda soltanto la capacità dell’algoritmo di elaborare un risultato, ma soprattutto la possibilità di verificarne la correttezza attraverso parametri scientifici, test di calibrazione e procedure in grado di garantire al giudice e alle parti coinvolte la piena comprensione e replicabilità del percorso che ha portato alla valutazione finale.
Accanto alla dimensione algoritmica, la Digital Forensics si confronta anche con una trasformazione radicale del concetto stesso di prova digitale.
Come evidenziato da Roberto Muremec, Inspector Police Officer della Guardia di Finanza a Pordenone, il dato informatico non è più necessariamente legato a un dispositivo fisico: smartphone, sistemi cloud, dispositivi criptati e infrastrutture distribuite hanno modificato il modo in cui le informazioni vengono conservate e acquisite, introducendo nuove complessità giuridiche e operative.
Allievi e allieve della summer school insieme ai docenti
Giovanni Tessitore. Quando l’intelligenza artificiale diventa prova, la sfida dell’affidabilità degli algoritmi
Dalla valutazione della forza dell’evidenza alla trasparenza dei modelli di intelligenza artificiale, il futuro della Digital Forensics passa dalla capacità di coniugare innovazione tecnologica e rigore scientifico. Ne parla Giovanni Tessitore, direttore della Sezione Indagini Elettroniche della IV Divisione del Servizio Polizia Scientifica, esperto di analisi di immagini e video, riconoscimento facciale e sistemi automatici di comparazione. Al centro dell’intervista il ruolo del Likelihood Ratio, gli strumenti statistici alla base della valutazione delle evidenze e le garanzie necessarie affinché i risultati prodotti dall’IA possano essere considerati affidabili anche in ambito forense.
Cosa è e possiamo fidarci di un Likelihood Ratio ottenuto da un modello Black Box se non sappiamo come il modello arriva al risultato?
È importante cercare di spiegare in maniera semplice che cos’è il Likelihood Ratio. Si tratta di un rapporto di verosimiglianza utilizzato nell’ambito della formalizzazione di quello che viene definito come “forza dell’evidenza”.
Per dare un’idea intuitiva del concetto, possiamo fare un esempio facilmente comprensibile. Immaginiamo di avere un soggetto ignoto di cui conosciamo una determinata caratteristica, come ad esempio l’altezza, e un sospettato del quale conosciamo a sua volta lo stesso parametro. Se riscontriamo una corrispondenza tra i due valori della statura messi a confronto, questo elemento da solo non è però sufficiente per stabilire quanto quell’accertamento possa effettivamente rafforzare l’ipotesi di aver individuato il corretto sospettato. Per arrivare a una valutazione corretta, infatti, dobbiamo sapere non solo il valore dell’altezza, ma soprattutto quanto quella stessa caratteristica sia frequente o rara all’interno di una determinata popolazione di riferimento.
Per essere ancora più concreti, se prendiamo in considerazione la popolazione maschile italiana e analizziamo un soggetto con un’altezza di 176 centimetri, questa corrispondenza avrà probabilmente un peso inferiore rispetto al caso in cui, nella stessa popolazione di riferimento, venga individuato un soggetto alto 2 metri e 5 centimetri. Il motivo è che un’altezza molto più rara e meno comune nella popolazione assume un valore informativo maggiore. Proprio il rapporto tra la similarità dei dati osservati e la loro frequenza nella popolazione di riferimento determina quella che viene definita la “forza dell’evidenza”.
Il problema è che non sempre, anche in un caso apparentemente semplice come quello dell’altezza, è possibile calcolare questa forza dell’evidenza attraverso una formulazione matematica analitica immediata. In molti ambiti, infatti, non esiste una formula chiusa che consenta di ottenere direttamente questo valore. Quando questo accade, è possibile ricorrere a un approccio definito score based, cioè basato su un punteggio di similarità. Questo punteggio può essere ottenuto anche attraverso un modello di intelligenza artificiale.
In pratica, si parte da un sistema di IA in grado di calcolare uno score di similarità tra due elementi, come possono essere due volti o due voci, e successivamente questo risultato viene integrato all’interno di un procedimento statistico più ampio che consente di arrivare al calcolo del Likelihood Ratio.
È evidente, però, che un modello di intelligenza artificiale, per sua stessa natura, può essere considerato una “black box”, cioè un sistema del quale non sempre è immediatamente interpretabile ogni singolo processo interno. Da qui nasce la domanda fondamentale: possiamo fidarci di una Likelihood Ratio ottenuta a partire da un modello di questo tipo?
In realtà, il punto centrale non riguarda tanto la natura di “scatola nera” dell’intelligenza artificiale, quanto la valutazione complessiva dell’intero sistema. Ciò che deve essere verificato è se il procedimento nel suo insieme, dal modello di IA fino al calcolo finale della Likelihood Ratio, sia stato correttamente valutato, validato e sottoposto a test adeguati.
Occorre quindi accertare che, rispetto ai dati utilizzati, il sistema sia in grado di produrre risultati affidabili, che il materiale analizzato sia coerente con il modello applicato e che siano stati effettuati tutti gli opportuni controlli statistici e sperimentali. Solo attraverso questo percorso di verifica è possibile stabilire se il risultato ottenuto possa essere considerato realmente attendibile.
Un momento dell'incontro
Come possiamo spiegare e giustificare davanti a un giudice un risultato prodotto da un sistema di intelligenza artificiale non trasparente?
Oggi, per quanto riguarda l’utilizzo dei sistemi di intelligenza artificiale, i risultati ottenuti vengono impiegati prevalentemente, se non quasi esclusivamente, in ambito investigativo e non ancora come elemento utilizzato direttamente in sede dibattimentale. Quello a cui stiamo guardando, quindi, è soprattutto uno scenario futuro, nel quale questi strumenti potrebbero assumere un ruolo anche all’interno del processo.
Attualmente possiamo immaginare un sistema di intelligenza artificiale in grado di calcolare uno score di similarità e, a partire da questo risultato, una serie di ulteriori elaborazioni statistiche che consentano di arrivare alla definizione della forza dell’evidenza, espressa attraverso il valore del Likelihood Ratio.
In un contesto di questo tipo, ciò che dovrebbe essere illustrato al giudice non è soltanto quale modello di intelligenza artificiale sia stato utilizzato, ma soprattutto l’insieme dei parametri e delle condizioni che hanno portato al valore finale del Likelihood Ratio.
Sarebbe quindi necessario indicare quale popolazione di riferimento è stata adottata, verificare se questa sia effettivamente coerente con il materiale analizzato, specificare quali test siano stati eseguiti per dimostrare la compatibilità dei dati utilizzati e riportare i risultati delle verifiche effettuate sulla calibrazione del sistema.
La calibrazione, infatti, rappresenta un aspetto fondamentale perché consente di stabilire se i Likelihood Ratio calcolati siano realmente affidabili e se il sistema sia in grado di associare correttamente il valore numerico alla reale forza dell’evidenza.
In termini più semplici, significa che se il sistema restituisce un’evidenza molto forte a favore di un’ipotesi accusatoria o, al contrario, di un’ipotesi difensiva — ad esempio indicando che due volti o due voci appartengono alla stessa persona oppure a persone differenti — non deve accadere che quel risultato sia poi smentito nella realtà. La capacità del sistema di produrre valutazioni corrette e coerenti viene proprio misurata attraverso la cosiddetta calibrazione.
Oltre a questo, naturalmente, devono essere rese disponibili anche le metodologie attraverso cui si è arrivati al calcolo del Likelihood Ratio: dalle modalità con cui vengono stimate le funzioni di densità di probabilità fino a tutti i dati preliminari che hanno contribuito alla definizione del risultato finale.
L’obiettivo è garantire la massima trasparenza del procedimento, offrendo al giudice, alla difesa e a tutte le parti coinvolte la possibilità concreta di comprendere, verificare ed eventualmente replicare i risultati ottenuti. Solo attraverso questa tracciabilità completa del processo sarà possibile valutare correttamente l’affidabilità di uno strumento basato sull’intelligenza artificiale in ambito forense.
Incontro con i rappresentanti delle aziende
Roberto Murenec. La prova digitale nell’era del cloud e dell’IA: nuove sfide per le indagini forensi
Dalla catena di custodia dei dati alla gestione delle informazioni conservate in cloud, fino alle nuove prospettive aperte dall’intelligenza artificiale: la Digital Forensics è chiamata a confrontarsi con una trasformazione profonda dei metodi investigativi e delle garanzie necessarie in ambito giudiziario.
Ne parla Roberto Mureneс, ispettore della Guardia di Finanza specializzato in Computer Forensics e Data Analysis, tecnico consulente per la Procura della Repubblica ed esperto di acquisizione e analisi delle evidenze digitali. Al centro dell’intervista il valore della prova informatica, il ruolo degli standard internazionali nella tutela dell’integrità dei dati e le opportunità, ma anche i rischi, dell’utilizzo dell’intelligenza artificiale nelle indagini digitali.
Quali sono i requisiti fondamentali per garantire l'ammissibilità e l'affidabilità della prova digitale nel procedimento penale e fiscale, con particolare riferimento alla catena di custodia, all'integrità dei dati e alla ripetibilità delle procedure di acquisizione?
Il procedimento seguito si sviluppa principalmente attraverso due diversi canali operativi. Il primo riguarda l’ambito amministrativo, in particolare il settore fiscale, dove vengono acquisite le cosiddette digital evidence, ovvero le prove digitali presenti nei computer o nei dispositivi informatici delle società o dei soggetti interessati dall’attività di controllo.
Anche in questo contesto è necessario rispettare standard tecnici particolarmente rigorosi, come quelli previsti dalla norma ISO 27037, che disciplina le modalità di acquisizione delle evidenze digitali e garantisce il rispetto della catena di custodia, dell’integrità e dell’inalterabilità dei dati raccolti.
Si tratta di un aspetto particolarmente significativo, perché queste procedure e questi standard sono nati prevalentemente in ambito penale, mentre in questo caso vengono applicati anche all’interno di procedimenti amministrativi. La ragione è legata al fatto che non è sempre possibile sapere in anticipo se quella determinata tipologia di dati acquisiti possa rivelarsi essenziale e se possa successivamente portare all’apertura di un procedimento di natura penale-tributaria.
Il secondo ambito operativo riguarda invece l’attività della polizia giudiziaria, sia quando questa interviene di propria iniziativa, sia quando opera su delega dell’autorità giudiziaria e, in particolare, su disposizione del pubblico ministero. Anche in questo caso il rispetto degli standard ISO assume un ruolo fondamentale.
L’obiettivo è duplice: da un lato garantire la correttezza e la trasparenza dell’attività svolta dagli operatori e dall’amministrazione di appartenenza; dall’altro assicurare il pieno rispetto delle garanzie delle parti coinvolte, in vista di un eventuale procedimento giudiziario.
In definitiva, l’applicazione di queste procedure rappresenta uno strumento indispensabile per assicurare che la raccolta e la gestione delle prove digitali avvengano secondo criteri di affidabilità, tracciabilità e tutela, elementi ormai fondamentali in un contesto nel quale i dati informatici assumono sempre più spesso un valore decisivo nei procedimenti amministrativi e giudiziari.
Un momento della ''lectio'' di Roberto Muramec
In che modo le nuove tecnologie cloud, dispositivi criptati, IoT e sistemi basati sull'intelligenza artificiale stanno modificando le attività investigative digitali e quali sono le principali difficoltà nel garantire il rispetto delle tradizionali regole della digital forensics e delle garanzie delle parti?
Le nuove tecnologie stanno modificando profondamente lo scenario della gestione e dell’acquisizione del dato digitale, creando un vero e proprio punto di rottura rispetto al passato. Questa trasformazione era già iniziata nel momento in cui si è superata l’idea tradizionale secondo cui il dispositivo rappresentava semplicemente lo strumento attraverso il quale conservare e archiviare i dati digitali.
Oggi questa prospettiva è completamente cambiata: uno smartphone, così come qualsiasi altro dispositivo tecnologico, non è più soltanto un contenitore di informazioni, ma diventa un mezzo per accedere al dato, indipendentemente dal luogo fisico in cui esso è effettivamente conservato. Quel dato può trovarsi a livello nazionale, europeo o anche al di fuori dei confini europei, introducendo una serie di nuove complessità operative e giuridiche.
Le difficoltà aumentano in modo particolare quando le informazioni sono archiviate in ambienti cloud, perché in questi casi ci si trova spesso a dover operare all’interno di ordinamenti giuridici differenti. In ambito europeo esiste la possibilità di ricorrere agli strumenti di cooperazione previsti, come l’ordine europeo d’indagine, ma la situazione diventa più complessa quando i dati sono custoditi in Paesi extraeuropei. In questi contesti, infatti, la risposta da parte dello Stato estero non è necessariamente automatica né sempre obbligatoria, soprattutto nel caso in cui il fatto oggetto dell’indagine non rappresenti una fattispecie penalmente rilevante anche nell’ordinamento del Paese interessato.
Il problema, quindi, non riguarda soltanto la possibilità tecnica di raggiungere quel dato, ma anche la concreta possibilità di acquisirlo attraverso la collaborazione dello Stato in cui il dato è conservato.
Anche l’evoluzione dell’intelligenza artificiale e la crescente diffusione di dispositivi criptati stanno introducendo nuove criticità. Da un lato, gli strumenti tecnologici a disposizione, compresi alcuni software commerciali, hanno consentito in diversi casi di superare i sistemi di protezione e accedere a dispositivi criptati; dall’altro, non sempre questa operazione è possibile e non tutti i sistemi di cifratura possono essere aggirati.
L’intelligenza artificiale, però, rappresenta un ulteriore punto di discontinuità, perché sposta il problema su un livello diverso. Non siamo più chiamati soltanto a verificare se un dato possa essere acquisito correttamente, secondo procedure certificate e garantendo la sua integrità, ma dobbiamo andare oltre: occorre analizzare anche ciò che avviene prima dell’acquisizione, verificando come sia stato costruito un determinato dataset, come sia stato generato un file e quali processi abbiano portato alla formazione di quel contenuto.
In altre parole, la questione non riguarda più esclusivamente l’acquisibilità del dato, ma anche la sua qualità, la sua origine e l’affidabilità del processo attraverso cui quel dato è stato prodotto. Con l’intelligenza artificiale, quindi, la sfida futura sarà non solo garantire che il dato sia raccolto correttamente, ma anche comprendere quanto quel dato possa essere considerato autentico, attendibile e realmente rappresentativo della realtà che si vuole analizzare.
Quali opportunità e rischi introduce l'utilizzo dell'intelligenza artificiale nelle indagini digitali, in particolare rispetto a trasparenza, bias degli algoritmi, protezione dei dati personali e responsabilità giuridica delle decisioni supportate da modelli automatizzati?
L’intelligenza artificiale introduce sicuramente nuove opportunità, soprattutto nell’ambito della Digital Forensics. Attualmente, infatti, il suo utilizzo è concentrato prevalentemente nella fase di analisi, che rappresenta uno dei passaggi fondamentali dell’intero processo, insieme alla successiva documentazione dei risultati ottenuti.
In questo ambito l’intelligenza artificiale può offrire un contributo significativo perché consente di accelerare l’elaborazione e l’analisi di grandi quantità di dati. Oggi ci troviamo sempre più spesso a gestire volumi enormi di informazioni, i cosiddetti big data, con la necessità anche di garantire il rispetto della privacy e la corretta gestione di contenuti potenzialmente sensibili. La possibilità di ridurre i tempi di analisi sui dati presenti nei dispositivi rappresenta quindi un vantaggio importante per gli operatori del settore.
Per quanto riguarda invece la fase di acquisizione, si sta lavorando sull’applicazione dell’intelligenza artificiale anche per la selezione dei dati, con l’obiettivo di individuare in modo più rapido ed efficace le informazioni realmente rilevanti. Tuttavia, questo ambito presenta ancora diverse criticità: i meccanismi attuali non sono ancora completamente perfezionati e permane il rischio che, in sede processuale, possano emergere contestazioni legate all’affidabilità e alla correttezza delle procedure utilizzate.
Per questo motivo il percorso è ancora in evoluzione e la strada da percorrere è lunga. L’intelligenza artificiale rappresenta senza dubbio una grande opportunità per la Digital Forensics, ma il suo impiego dovrà essere accompagnato da adeguate verifiche, garanzie e strumenti di validazione capaci di assicurare la piena affidabilità dei risultati ottenuti.