Al Dipartimento di Giurisprudenza giuristi e magistrati a confronto sui temi della innovazione, sovranità e tutela dei diritti
L’intelligenza artificiale può rendere più efficiente la Pubblica amministrazione, ma non può sostituire il giudizio umano, né indebolire le garanzie democratiche.
È questo il messaggio emerso dal convegno “Intelligenza artificiale e Pubblica Amministrazione: un confronto giuridico multidisciplinare”, ospitato nell’aula magna di Villa Cerami e promosso dal Dipartimento di Giurisprudenza dell’Università di Catania in occasione della presentazione del volume Artificial Intelligence and Public Administration. A Journey di Diana-Urania Galetta.
L’incontro ha riunito magistrati, studiosi e rappresentanti delle istituzioni per riflettere sull’impatto dell’IA nei processi decisionali pubblici, tra opportunità di innovazione e necessità di nuove forme di controllo giuridico.
Sebbene l’intelligenza artificiale consenta oggi di elaborare enormi quantità di informazioni e di rendere più efficienti i processi amministrativi, il ruolo dell’uomo resta fondamentale per valutare situazioni complesse, esercitare il giudizio e orientare le decisioni secondo i valori dello Stato di diritto. In un quadro segnato dalla continua innovazione tecnologica, principi come legalità, trasparenza, imparzialità e tutela dei diritti continuano a costituire il fondamento dell’azione pubblica, anche quando questa si avvale di sistemi automatizzati.
Ad aprire i lavori il direttore del Dipartimento di Giurisprudenza, Salvatore Zappalà, che ha sottolineato «l’importanza del tema affrontato, invitando a sviluppare strumenti critici e un approccio autonomo al ragionamento grazie anche alla presenza dei relatori, dei rappresentanti della magistratura e dell’accademia e dei colleghi coinvolti nel progetto di ricerca su “Tecnologie e Diritto”».
Il Presidente del corso di laurea in Giurisprudenza, Orazio Condorelli, invece, ha evidenziato «la grande partecipazione degli studenti come segno di interesse per temi di alto livello scientifico e la presenza di esperti qualificati che rendono l’incontro un’occasione formativa di particolare interesse».
Un momento dell'incontro
Ad introdurre i lavori è stato il prof. Giovanni Fabio Licata, associato di Diritto amministrativo e pubblico all’Università di Catania, che ha collocato «il tema dell’intelligenza artificiale all’interno della storica relazione tra diritto e tecnica».
«Oggi - ha osservato - i giuristi sono chiamati a interrogarsi su quanto spazio debba essere lasciato all’innovazione tecnologica e fino a che punto, invece, il diritto debba intervenire per governarne gli effetti. L’IA non è soltanto uno strumento operativo: è un insieme di sistemi progettati da soggetti privati che, già nella fase di ideazione, acquisizione e implementazione, incorporano scelte capaci di influenzare i processi decisionali successivi».
Per il prof. Licata «il rischio è quello di considerare queste tecnologie come elementi neutri, dimenticando che possono incidere profondamente sulle dinamiche democratiche e sull’esercizio del potere pubblico». «Per questo il diritto amministrativo è chiamato a presidiare tutte le fasi del loro utilizzo, dalla selezione degli strumenti fino all’adozione delle decisioni che ne derivano – ha sottolineato -. L’eventuale ricorso all’intelligenza artificiale deve essere accompagnato da adeguati sistemi di garanzia, meccanismi di partecipazione procedimentale e di controllo, affinché la responsabilità finale rimanga sempre in capo alla persona umana».
Particolarmente significativa la riflessione sul confronto tra i diversi modelli regolatori. «Da un lato l’approccio europeo, orientato a definire diritti, limiti e divieti per prevenire gli usi più invasivi delle tecnologie; dall’altro modelli più permissivi che affidano al mercato un ruolo predominante nello sviluppo dell’innovazione – ha osservato il docente -. In questo contesto emerge la necessità di una vera e propria “sostenibilità regolatoria”: accanto alla sostenibilità energetica richiesta dai sistemi di IA, occorrono regole capaci di contrastare le asimmetrie tecnologiche e di impedire che il potere economico delle grandi piattaforme si trasformi in un potere incontrollato sulle società democratiche».
Un momento dell'intervento del prof. Giovanni Fabio Licata
Il tema della responsabilità è stato ripreso da Maria Rosaria Maugeri, ordinaria di Diritto privato, che ha affrontato la questione della giustizia predittiva e dell’impiego degli algoritmi nell’attività giudiziaria. «Pur riconoscendo le enormi potenzialità offerte dall’intelligenza artificiale nel ridurre tempi e arretrati della giustizia», la docente ha evidenziato «i rischi di una progressiva standardizzazione delle decisioni».
«Già nel 2018 ho proposto una soluzione – ha detto -: utilizzare sistemi algoritmici nelle controversie più semplici e caratterizzate da fattispecie giuridiche chiuse, lasciando alle parti la possibilità di accettare la soluzione automatizzata oppure di chiedere l’intervento del giudice quando emergano elementi innovativi o aspetti non adeguatamente considerati dal sistema. Una prospettiva che consentirebbe di alleggerire il carico degli uffici giudiziari senza sacrificare il ruolo centrale della giurisdizione».
La docente ha però richiamato l’attenzione su un rischio ancora più insidioso: il cosiddetto “effetto gregge”. «Se un magistrato sa che un algoritmo o la maggioranza dei colleghi propende per una determinata soluzione, potrebbe essere indotto ad adeguarsi automaticamente, rinunciando allo sforzo interpretativo e alla responsabilità della decisione – ha detto -. Il pericolo, dunque, non è soltanto tecnologico, ma culturale, perché riguarda il rapporto tra uomo e macchina e la capacità di mantenere vivo il pluralismo interpretativo che alimenta l’evoluzione del diritto».
A sostegno delle sue argomentazioni, la prof.ssa Maria Rosaria Maugeri ha richiamato alcuni casi ormai emblematici nel dibattito internazionale: «Dieci anni fa l'University College London ha creato un algoritmo che ha previsto l’esito dei processi nel 79% dei casi. A Cambridge, un software ha sfidato 112 avvocati nell'ambito del diritto assicurativo e vinse. Tuttavia, gli errori accadono. È noto il caso degli avvocati Schwartz negli Stati Uniti, che hanno utilizzato l’IA per cercare precedenti giurisprudenziali: il software ha letteralmente inventato casi e sentenze inesistenti, portando a multe severe per i legali».
«Si tratta di esperienze che dimostrano come l’intelligenza artificiale rappresenti una risorsa preziosa, ma non può mai essere considerata una fonte autonoma e infallibile di verità giuridica – ha aggiunto -. Da qui la necessità di garantire trasparenza nell’utilizzo degli strumenti algoritmici e una governance capace di evitare che il diritto si fossilizzi sulle soluzioni elaborate dalle macchine».
Un momento dell'intervento della prof.ssa Maria Rosaria Maugeri
Su questo punto il presidente di Sezione del Consiglio di Stato, Michele Corradino, ha richiamato l’attenzione «sui rischi legati all’uso dell’intelligenza artificiale nei procedimenti decisionali, soprattutto in termini di trasparenza, obblighi di informazione e possibili manipolazioni dell’informazione da parte di attori esterni» e ha introdotto il tema della sovranità tecnologica e del potere degli algoritmi.
Su questo tema il prof. Vincenzo Neri, presidente di Sezione del Consiglio di Stato, ha sviluppato un’ampia riflessione sull’evoluzione dell’intelligenza artificiale, «oggi intesa non più come semplice tecnologia, ma come infrastruttura cognitiva che incide profondamente su società, diritto e politica».
Nel suo intervento ha evidenziato la centralità del rapporto tra AI e sovranità: «Il potere tecnologico è sempre più concentrato in attori transnazionali, spesso più forti degli Stati, con effetti rilevanti su economia, sicurezza e democrazia», ha detto, sottolineando «i rischi di manipolazione dell’opinione pubblica e di perdita di controllo sui dati, soprattutto in Europa, e individua alcune direttrici fondamentali: responsabilità etica lungo tutta la filiera dell’AI, sovranità sui dati e sulle infrastrutture, tutela della democrazia e della distinzione tra vero e falso, e necessità di cooperazione multilaterale». «L’amministrazione pubblica – ha concluso - dovrà adattarsi all’AI senza rinunciare al ruolo del decisore umano e alle garanzie procedimentali».
Il moderatore Michele Corradino ha ripreso i lavori evidenziando il legame tra AI, sicurezza e democrazia, richiamando «il rischio di manipolazioni su larga scala attraverso sistemi automatizzati, e introduce il successivo intervento in chiave di diritto internazionale».
Un tema che, nella prospettiva internazionale, è stato affrontato dal prof. Gianpaolo Maria Ruotolo, ordinario di Diritto internazionale dell’Università di Foggia, che ha evidenziato «come l’AI incida ormai direttamente su diritti fondamentali come vita, libertà di espressione, uguaglianza, giustizia e partecipazione politica» richiamando «i rischi connessi a sorveglianza di massa, discriminazioni algoritmiche e cyber-attacchi, sottolineando la necessità di mantenere il controllo umano sulle decisioni automatizzate». «L’AI, pur utile per migliorare l’efficienza decisionale, non è neutrale e può influenzare l’interpretazione delle norme e la tutela dei valori dell’ordinamento internazionale», ha aggiunto.
Il pubblico presente nell'aula magna di Villa Cerami, sede del Dipartimento di Giurisprudenza
Particolarmente incisiva la relazione del presidente del Tribunale di Catania, Mariano Sciacca, che ha offerto, partendo dal libro, una delle analisi più critiche dell’intero confronto. Partendo dalla constatazione che «l’evoluzione tecnologica procede a una velocità molto superiore rispetto a quella del diritto», il presidente Sciacca ha evidenziato come «il vero nodo non sia soltanto l’uso dell’intelligenza artificiale, ma il mutamento profondo del rapporto tra tecnologia, potere e regolazione».
Secondo il magistrato, «la tecnologia contemporanea possiede una forza “prescrittiva”: non si limita a eseguire regole stabilite altrove, ma tende essa stessa a conformare i comportamenti individuali e collettivi». In questo scenario, «il rischio è che la tecnica finisca per sostituire progressivamente il diritto come principale strumento di organizzazione della vita sociale».
«Le piattaforme digitali e i sistemi algoritmici, infatti, incorporano al proprio interno regole, vincoli e meccanismi di esclusione che producono effetti concreti spesso prima ancora dell’intervento del legislatore – ha precisato -. Da qui l’invito a cambiare la narrazione dominante sull’intelligenza artificiale».
Il magistrato Sciacca ha denunciato «il peso crescente del linguaggio promosso dalle big tech, che tende a rappresentare questi strumenti come inevitabili, neutri o addirittura salvifici. Occorre invece sviluppare una maggiore consapevolezza critica e smontare quelle formule comunicative che rischiano di occultare la reale natura dei fenomeni». «Le parole - ha osservato -, non sono mai neutre: contribuiscono a costruire visioni del mondo e rapporti di potere».
Il presidente del Tribunale ha poi insistito sul tema della formazione, indicandolo come «una delle principali sfide per magistrati, funzionari pubblici e professionisti». «Non basta una conoscenza teorica delle nuove tecnologie: serve una formazione pratica, capace di comprendere concretamente il funzionamento degli algoritmi e i rischi che ne derivano – ha aggiunto -. L’esperienza maturata al Tribunale di Catania nell’utilizzo di strumenti di analisi automatica degli atti processuali dimostra, infatti, quanto sia complesso tradurre in pratica principi apparentemente semplici».
Il dott. Mariano Sciacca ha richiamato, inoltre, l’attenzione sugli effetti cognitivi dell’uso massiccio dell’intelligenza artificiale. «L’affidamento acritico alle soluzioni fornite dalle macchine può generare forme di atrofia decisionale e ridurre la capacità di elaborazione autonoma del pensiero – ha detto -. Lo stesso giudice rischia di subire un “bias algoritmico”, adeguandosi inconsapevolmente alle indicazioni suggerite dai software».
Per contrastare questo fenomeno, il presidente Sciacca ha proposto che «gli strumenti di IA siano progettati in modo da mostrare non soltanto una soluzione, ma anche alternative possibili e diversi livelli di probabilità, favorendo così il mantenimento di un approccio critico». «In definitiva - ha concluso -, la risposta non può che risiedere nella responsabilità dell’essere umano e nella capacità delle istituzioni democratiche di costruire regole adeguate alla nuova distribuzione del potere tecnologico».
Un momento dell'intervento del presidente del Tribunale, Mariano Sciacca
A seguire il prof. Antonio Felice Auricchio, ordinario di Diritto tributario dell’Università di Bari, ha sottolineato «l’importanza del nuovo quadro regolatorio sull’intelligenza artificiale come occasione culturale e istituzionale». «L’AI rappresenta una grande opportunità per la pubblica amministrazione e la valutazione scientifica – ha detto -, ma deve sempre essere governata nel rispetto dell’equilibrio tra innovazione e tutela dei diritti fondamentali, mantenendo al centro l’interesse pubblico e la persona».
Le conclusioni del convegno sono state affidate alla prof.ssa Diana-Urania Galetta, ordinaria di Diritto amministrativo e di Diritto amministrativo europeo all’Università di Milano – Statale, direttrice del Centro di Ricerca Interdisciplinare sulla Pubblica Amministrazione e autrice del volume Artificial Intelligence and Public Administration. A Journey (Editoriale Scientifica, collana Sentieri giuridici).
La prof.ssa Diana-Urania Galetta, nel suo intervento, ha invitato a guardare all’intelligenza artificiale con maggiore equilibrio, evitando sia gli entusiasmi acritici sia le visioni catastrofiche e ha rappresentato una sorta di sintesi delle questioni emerse nel corso del pomeriggio, riportando al centro il rapporto tra innovazione, diritto e responsabilità.
L’autrice ha ricordato come «i giuristi siano oggi chiamati a confrontarsi con questioni tecniche sempre più complesse, che richiedono competenze interdisciplinari e una conoscenza minima dei meccanismi che regolano algoritmi e sistemi di machine learning». «Comprendere il funzionamento delle tecnologie è, infatti, il primo passo per poterle disciplinare efficacemente», ha aggiunto.
Un momento dell'incontro
La docente ha però voluto rassicurare il pubblico su un punto essenziale: «L’esperienza umana resta insostituibile – ha detto -. La capacità di provare emozioni, di interpretare il contesto, di assumere decisioni sulla base di valori e relazioni non può essere replicata da alcun sistema artificiale. L’intelligenza artificiale può supportare l’attività umana, ma non sostituire la dimensione più autenticamente umana del giudizio».
La studiosa ha quindi affrontato il tema degli enormi investimenti economici che stanno alimentando lo sviluppo del settore, osservando come il dibattito pubblico sia spesso condizionato da aspettative eccessive.
«Attorno all’intelligenza artificiale si è sviluppata una narrazione che tende a enfatizzarne le potenzialità quasi miracolistiche, mentre i limiti e i costi vengono spesso sottovalutati – ha aggiunto -. Tra questi, particolare attenzione merita l’impatto ambientale: i grandi data center richiedono enormi quantità di energia e acqua, ponendo interrogativi sulla sostenibilità a lungo termine del modello attuale».
Proprio questa consapevolezza ha indotto la Galetta a considerare «l’IA per ciò che realmente è: uno strumento». «Come ogni strumento, può produrre benefici o effetti negativi a seconda delle modalità con cui viene utilizzato – ha detto -. Se impiegata per ampliare le capacità umane, può rappresentare una straordinaria opportunità; se utilizzata come sostituto del pensiero critico, rischia invece di impoverire le competenze e l’autonomia delle persone».
«Sul piano giuridico e istituzionale, la conclusione è netta – ha precisato -: non è realistico affidare alle imprese private il compito di autoregolamentare un fenomeno di tale portata. Servono regole pubbliche forti, capaci di garantire che l’efficienza promessa dall’innovazione non venga pagata al prezzo della riduzione delle libertà e delle garanzie democratiche».
«In questa prospettiva – ha concluso - il modello europeo appare il più avanzato, ma la sua efficacia dipenderà dalla capacità di tradurre i principi normativi in pratiche concrete attraverso investimenti nella formazione, nella cultura giuridica e nella consapevolezza dei decisori pubblici. Solo così sarà possibile governare la rivoluzione tecnologica senza esserne travolti».