Intelligenza artificiale, algoritmo informatico, machine learning, black box, big data. Si tratta di concetti che ormai fanno parte della vita quotidiana dei cittadini. Ma quali sarebbero le conseguenze di una loro applicazione al procedimento amministrativo?
In mancanza di risposte legislative certe, l’interprete è chiamato a riflettere sulla compatibilità degli istituti, tenendo conto anche delle disposizioni di cui alla legge n. 241 del 1990.
A cura di Luigi D’Agostino
Il procedimento amministrativo e le sue funzioni
Il procedimento amministrativo può essere definito come la sequenza di atti ed operazioni tra loro collegati funzionalmente in vista e al servizio dell’atto principale, rappresentato dal provvedimento.
La disciplina del procedimento è contenuta nella legge n. 241/90 e la sua ratio va ricercata nel fatto che l’amministrazione, non agendo per fini propri ma altrui, deve dare conto del suo operato. Pertanto, procedimento e trasparenza sono due facce della stessa medaglia.
Alla nozione di procedimento si è pervenuti dopo un percorso storico sistematico che può essere sintetizzato in quattro tappe: 1) atto amministrativo singolarmente considerato; 2) atto complessivo; 3) atto complesso in senso stretto; 4) procedimento amministrativo.
Il termine procedimento è stato utilizzato per la prima volta nel “Corso di Cammeo” del 1906; tuttavia, in quell’era, non vi era ancora una vera e propria sistemazione organica della materia. Soltanto a partire dal 1940, con la monografia di Sandulli si è delineata una nozione formale di procedimento. Secondo Sandulli, infatti, non tutte le fasi del singolo procedimento si pongono come condizioni di esistenza del procedimento.
A quest’ultima ricostruzione si contrapponeva quella di Benvenuti, il quale concepì il procedimento come manifestazione della funzione, ovvero quale strumento che concretizza il potere della p.a. e che torna ad avere una natura di tipo sostanziale. Dalla duplice nozione attribuita al procedimento amministrativo derivano quelle che, normalmente, sono considerate le sue funzioni, ovverosia: organizzativa e garantistico-partecipativa. Secondo la concezione garantistica, poi recepita anche dal legislatore del ‘90, il procedimento diviene il luogo nel quale al privato è garantita e la rappresentazione e la tutela dei propri interessi.
In altre parole, la funzione di garanzia è lo strumento con il quale è riconosciuto al privato un diritto alla partecipazione, quest’ultimo espressione del principio di “buona amministrazione”, di cui all’articolo 41 della CEDU e implicitamente riconosciuto anche dall’articolo 6 della medesima Convenzione, in materia di equo processo.
Alla luce anche delle conclusioni cui è giunta la giurisprudenza – poi recepite con la legge n. 241/90 – secondo le quali “non esiste un diritto costituzionalmente garantito al giusto procedimento, ma solo al giusto processo”, la partecipazione procedimentale ha assunto una duplice valenza: partecipativa e collaborativa.
Con la prima, si consente al cittadino di far valere le proprie ragioni, anche a procedimento ancora in corso; con la seconda, invece, si mira a perseguire l’efficienza dell’azione della p.a., affinché quest’ultima possa meglio comparare gli interessi coinvolti e, di conseguenza, perseguire l’interesse pubblico primario.
Procedimento amministrativo, intelligenza artificiale e algoritmo informatico
La legge n. 241 del 1990, nella sua originaria impostazione, era una legge di soli principi.
Le diverse riforme che si sono succedute nel tempo hanno contribuito a modificare l’impianto complessivo del testo normativo, connotandolo come legge composta sì da principi, ma anche di regole specifiche.
Nondimeno, sebbene questi interventi abbiano raddoppiato la dimensione originaria della legge, nessun riferimento veniva fatto alla digitalizzazione e all’uso della telematica.
È solo con l’entrata in vigore della legge n. 15/2005 che, attraverso l’introduzione dell’articolo 3-bis, si è realizzato un primo approccio verso l’uso della telematica e dell’informatica nel procedimento amministrativo. Tale norma, all’esito della modifica operata dal d.l. semplificazione n. 76/2020, sancisce, infatti, che “per conseguire maggiore efficienza nella loro attività, le p.a. agiscono mediante strumenti informatici e telematici”.
Stante la presenza di un riferimento solo generico all’intelligenza artificiale, il legislatore ha evidentemente lasciato all’interprete il compito di comprendere i presupposti e i limiti di applicazione dell’intelligenza artificiale al procedimento amministrativo.
Il Consiglio d’Europa ha fornito, però, una nozione di intelligenza artificiale, intendendola come un insieme di scienze, teorie e tecniche, il cui scopo è quello di riprodurre, attraverso la macchina, le capacità cognitive di un essere umano.
È una nozione che ingloba tanto l’algoritmo informatico che l’intelligenza artificiale in senso stretto.
Di diverso avviso è la giurisprudenza amministrativa italiana che, dal canto suo, ha inteso distinguere i due concetti. In particolare, si è posto il dubbio sul se l’amministrazione possa ricorrere nell’adozione dei provvedimenti amministrativi ad algoritmi informatici, ossia a sequenze ordinate di operazioni di calcolo che, in via informatica, siano in grado di valutare e graduare una moltitudine di domande. Sul punto, da ultimo è intervenuto il Tar Campania, che, con la sentenza n. 7003 del 2022, ha definito l’algoritmo come una sequenza finita e ordinata di operazioni elementari e chiare di calcolo che permettono di risolvere, in maniera determinata, un dato problema.
È una procedura che consente, attraverso un insieme di operazioni effettuate in un determinato ordine, partendo da un insieme di dati, di ottenere un risultato atteso. È uno strumento che garantisce la semplificazione, attraverso lo snellimento e l’accelerazione dell’iter procedimentale, e la buona amministrazione. Tradizionalmente, gli algoritmi informatici hanno rappresentato, infatti, lo strumento per correggere le storture e le imperfezioni che caratterizzano i procedimenti cognitivi e le scelte compiute dagli esseri umani.
Ne consegue un enorme vantaggio derivante dal fatto che le decisioni robotizzate, basate su asettici calcoli razionali su dati immessi in un sistema informatico, si caratterizzano per una particolare imparzialità, che si spinge quasi ai limiti della neutralità.
L’ammissibilità degli algoritmi informatici e la posizione della giurisprudenza interna
Sono due ed opposte tra loro le prospettive ermeneutiche che si sono delineate in materia di algoritmo informatico.
Una prima impostazione ritiene che non ci sia spazio per l’adozione di algoritmi informatici da parte della p.a., stante la difficoltà ad applicare a essi determinate norme della legge sul procedimento amministrativo, come quella sulla comunicazione di avvio del procedimento.
Altra ricostruzione ammette, invece, l’utilizzo di tale modulo organizzativo, valorizzando gli effetti benefici dello stesso. Invero, alcuni lo ritengono applicabile solo all’attività vincolata, altri anche a quella discrezionale.
Alla luce degli indubbi vantaggi prodotti dagli algoritmi informatici, la giurisprudenza amministrativa ritiene che tale modulo organizzativo sia del tutto compatibile con il procedimento amministrativo, visto che un elevato livello di digitalizzazione dell’amministrazione pubblica è fondamentale per migliorare la qualità dei servizi resi ai cittadini e agli utenti.
Secondo la giurisprudenza, la decisione robotizzata non deve, tuttavia, rappresentare lo strumento per eludere i principi generali che governano l’azione amministrativa. La regola tecnica che governa ciascun algoritmo resta, infatti, una regola amministrativa generale, costruita dall’uomo e non dalla macchina, ma da quest’ultima applicata in via esclusiva; come tale, essa è soggetta ai principi generali che governano l’azione amministrativa.
La regola algoritmica presenta comunque delle peculiarità: non può lasciare spazi applicativi discrezionali, anzi, deve prevedere con ragionevolezza una soluzione definita per tutti i casi possibili; comporta la necessità che sia sempre l’amministrazione a compiere, ex ante, un ruolo di mediazione e composizione degli opposti interessi, servendosi di costanti test, aggiornamenti e tecniche di perfezionamento dell’algoritmo; impone al giudice di valutare la correttezza del processo automatizzato in tutte le sue componenti.
All’esito di queste considerazioni, la giurisprudenza ha elaborato dei limiti afferenti all’utilizzo degli algoritmi informatici, che si possono sintetizzare come segue: conoscibilità a monte del modulo utilizzato e dei criteri applicati; imputabilità della decisione all’organo titolare del potere che, dal canto suo, deve poter svolgere la necessaria verifica di logicità e legittimità della scelta e degli esiti affidati all’algoritmo.
Il panorama europeo: la Carta della Robotica e le machine learning
In questo contesto si inserisce la Carta della Robotica approvata dal Parlamento Europeo nel 2017, che, in linea con il Regolamento Europeo n. 679 del 2016, sancisce la necessità di individuare un centro umano di imputazione e di responsabilità in grado di verificare sia la legittimità che la logicità della decisione elaborata dall’algoritmo, non potendo ritenersi che sia responsabile il robot.
In particolare, la Carta definisce l’autonomia di un robot come “la capacità di prendere decisioni e metterle in atto nel mondo esterno, indipendentemente da un controllo o un’influenza esterna”.
Ora, nell’ipotesi in cui un robot fosse nella condizione di prendere decisioni autonome, le norme tradizionali non sarebbero sufficienti ad attivare la responsabilità per i danni causati dallo stesso poiché inidonee a determinare il soggetto sul quale incombe la responsabilità del risarcimento o la riparazione dei danni causati.
Da ciò deriva che l’adozione del modulo organizzativo è ammessa purché si rispettino i principi di conoscibilità, comprensibilità, non esclusività della decisione automatizzata, non discriminazione e si preveda sempre l’intervento dell’uomo a monte e a valle del procedimento.
La giurisprudenza amministrativa italiana, recependo le disposizioni euro-unitarie, ha chiarito che l’intelligenza artificiale in senso stretto contempla meccanismi di machine learning, creando un sistema che non si limita soltanto ad applicare le regole software e i parametri preimpostati ma, al contrario, elabora costantemente nuovi criteri di interferenza tra dati e assume decisioni efficienti sulla base di tali elaborazioni, secondo un processo di apprendimento automatico.
Tradizionalmente, l’intelligenza artificiale è di natura auto-esplicante perché rende conoscibili i percorsi cognitivi attraverso i quali la macchina elabora le proprie determinazioni.
All’opposto, quando ha natura non auto-esplicante, non è possibile conoscere tali meccanismi: la presenza delle black box non consente, infatti, di comprendere il procedimento che ha condotto alla determinazione finale.
In quest’ultimo caso, l’uso delle machine learning nel procedimento amministrativo risulta incompatibile con la l. 241 del 90. Del resto, l’I.A., a differenza dell’algoritmo, per esplicare le sue funzioni non si avvale di informazioni specifiche, ma dei c.d. big data, vale a dire di una moltitudine di informazioni contenute in database che potrebbero collidere con le esigenze di riservatezza che caratterizzano il diritto amministrativo.
Considerazioni conclusive
Alla luce di quanto detto, appare evidente, quindi, che l’uso dell’informatica nel procedimento amministrativo presuppone sempre l’adesione umana, meglio intesa come la sussidiarietà dell’uomo rispetto alla macchina.
L’uomo è tenuto, infatti, a presidiare l’attività della macchina, accettandola quando risulta ragionevole; sostituendola con una propria decisione laddove risulti anomala, irragionevole o sproporzionata ovvero occorra intervenire su un caso limite, le cui peculiarità non sono note al legislatore.
Foto copertina: Intelligenza artificiale e procedimento amministrativo