Banca Dati G.A.R.I.

Wednesday 27 October 2021 12:03:08

Normativa  Comunicazione e Innovazione

L’intelligenza artificiale e l’algoritmo a contatto col diritto amministrativo: rischi e speranze

segnalazione del redazionale del Cons. Davide Ponte e Dott. Giulia Pernice pubblicato su Giustizia Amministrativa in data 27.10.2021

L’intelligenza artificiale e l’algoritmo a contatto col diritto amministrativo: rischi e speranze

PRIMA PARTE

L’algoritmo nella burocrazia

Il ruolo del Consiglio di Stato, dinanzi al carattere relativamente giovane del diritto amministrativo e anche per questo così mutevole, nonché all’evoluzione del potere delle Autorità nelle moderne società, assume un rilievo fondamentale anche dinanzi alla capacità dimostrata di tenere il passo con le nuove frontiere del diritto. Ciò viene perseguito inquadrando le nuove sfide nell’ambito dei principi dell’ordinamento, contribuendo contestualmente all’evoluzione ed alla piena vitalità degli stessi, sia in relazione ad ambiti realmente innovativi, sia rispetto all’evoluzione di ambiti già tradizionalmente affrontati e che tuttavia sono chiamati a nuove sfide.

Sul primo versante si colloca la giurisprudenza in materia di utilizzo dell’algoritmo, e più in generale della c.d. intelligenza artificiale, nell’ambito dell’attività amministrativa.

La digitalizzazione della vita privata come di quella pubblica costituisce un dato ormai consolidato. La necessità di convivere con tali dirompenti novità spinge i giuristi alla ricerca dei relativi inquadramenti. D’altronde il diritto è la regolazione dei fenomeni umani e sociali, l’informatizzazione della società è evidente e rapida, quindi il diritto non può che intervenire, specie il diritto dell’autorità.

Un algoritmo è una strategia che serve per risolvere un problema ed è costituito da una sequenza finita di operazioni (dette anche istruzioni) che consente di risolvere tutti i quesiti di una stessa classe. Esso deve essere, cercando un parallelismo col mondo giuridico:

- finito, cioè quando è costituito da un numero finito di istruzioni e presenta una fine(giuridicamente, l’oggetto di esame coincide con le questioni dedotte);

- deterministico, cioè quando partendo dagli stessi dati in input, si ottengono i medesimi risultati in output (per noi giuristi vale il divieto della c.d. alla terza via ed il rispetto della corrispondenza fra chiesto e pronunciato);

- non ambiguo, le operazioni devono poter essere interpretate nello stesso modo da tutti anche se l'esecutore è differente (in termini giuridici può declinarsi nel senso della necessaria chiarezza della decisione);

- generale, cioè quando la soluzione è uguale per tutti i problemi della medesima classe (qui è gioco facile tradurre nella certezza del diritto, che a volte appare una vera e propria ricerca dell’araba fenice).

Il termine algoritmo, come noto, deriva dalla trascrizione latina del nome del matematico persiano al-Khwarizmi, vissuto nel IX secolo d.C., che è considerato uno dei primi autori ad aver fatto riferimento a questo concetto scrivendo il libro Regole di ripristino e riduzione

L’analisi matematica di base conosce varie categorie di algoritmi, che spesso paiono riprodurre problemi di base della nostra attività: ad esempio algoritmi iterativi, ricorsivi, di ordinamento, di ricerca, evolutivi (qui si inseriscono i cc.dd. predittivi, così temuti dai giuristi), swarm intelligence, combinatorio, automodificante, per giungere a quello di compressione (come può qualificarsi quello di cui racconta un noto scrittore, nel libro “Caro Gesù Bambino”, con la storia del cammello che deve passare nella cruna di un ago).

Il «rapporto sui principali problemi dell’amministrazione dello Stato», presentato nel 1979 dall’allora ministro della Funzione pubblica Massimo Severo Giannini , rilevava che gli elaboratorielettronici, in principio adoperati come «apparecchi di semplice registrazione di dati complessi, sono divenuti poi apparecchi di accertamento e verificazione, di calcolo, di partecipazione a fasi procedimentali di istruttoria, e infine di decisione», sicché «i sistemi informatici non servono più alle amministrazioni per fatti di gestione interna, ma servono proprio per amministrare, si proiettano cioè sempre più verso l’esterno».

In altri termini, anche il diritto amministrativo ha visto il progredire e l’affermarsi di strumenti informatici che hanno progressivamente affrancato i pubblici uffici da carta e macchine da scrivere e che, successivamente, hanno dimostrato la capacità di assolvere autonomamente a compiti istruttori e di formulazione di contenuti dei provvedimenti amministrativi.

Prendendo spunto dalle numerose possibili citazioni letterarie, può dirsi che la seconda rivoluzione industriale non si presenta come la prima, con immagini schiaccianti quali presse di laminatoi o colate d’acciaio, ma come i bits d’un flusso d’informazione che corre sui circuiti sotto forma d’impulsi elettronici. Le macchine di ferro ci sono sempre, ma obbediscono ai bits senza peso .

La dottrina, in riferimento al processo evolutivo in atto, ha parlato di “amministrazione 4.0”,o di quarto modello di amministrazione: ove per primo modello è da intendersi quellodell’amministrazione otto-novecentesca totalmente cartacea; per secondo, quello coadiuvato daicomputer, dai programmi di videoscrittura e dalle iniziali forme di telecomunicazione (quali il fax);per terzo modello, quello della prima digitalizzazione e dematerializzazione dei dati, resa possibiledall’impiego di internet nelle normali attività amministrative.

L’amministrazione di “quarta generazione” è, invece, quella denotata da un «alto grado diautomazione e di interconnessione», reso possibile dall’implementazione delle tecniche di scambioe di conservazione dematerializzate delle informazioni, dall’aumento esponenziale della capacità dicalcolo dei processori e dalla predisposizione di programmi informatici sempre più sofisticati. In altre parole, si tratterebbe della “società dell’algoritmo”, ove l’impego di software (o “programmi”) –riconducibili alla c.d. “intelligenza artificiale” – comporta l’affermarsi di moduli operativiautomatizzati, non semplicemente idonei a compiere in poco tempo complesse operazioni di calcolo, bensì muniti della capacità di apprendere dai propri errori e, in qualche misura, di emulare il funzionamento della mente umana.

Il dato riportato appare evidente, essendo molteplici i settori della vita quotidiana in cui gli algoritmi – invero non tutti riconducibili alle più evolute forme d’intelligenza artificiale – siaffiancano all’uomo, semplificandone l’esistenza. Tra questi basti ricordare i software diriconoscimento vocale o visivo e quelli di supporto alla guida di autoveicoli, se non di guidaautonoma. 

Maggiormente incisivi sono poi i programmi “predittivi”, che, sulla base di alcuni dati adisposizione (i cosiddetti inputs), forniscono una soluzione per un certo scenario, sia esso costituitodalle previsioni meteorologiche, ovvero dalla predisposizione di un piano d’investimento per ilcorrentista di un istituto di credito o di una polizza infortunistica per il cliente di una compagnia diassicurazioni. Ciò assume un marcato carattere di “affrancamento” dall’uomo nel momento in cui l’algoritmo è in grado di elaborare non solo i dati messi a disposizione, ma di acquisirne dei nuovi non direttamente conosciuti (o immediatamente conoscibili) dall’operatore umano, mediante il reperimento in rete di aggiornamenti sull’andamento del mercato del credito o sulla circolazione stradale.

L’estensione e l’indubbia utilità ha spinto al relativo utilizzo anche le lente amministrazioni pubbliche, specie a fronte delle diverse potenzialità, anche per la evidente comodità derivante dalla c.d. neutralizzazione della scelta (quello che è stato definito il sogno di ogni funzionario, ormai sempre terrorizzato dai “rischi della firma”).

In tale quadro, se da un canto non può che prendersi atto dell’evoluzione, da un altro canto in ambito giuridico occorre altresì procedere ad inquadrare la stessa evoluzione nell’ambito deiprincipi.

L’emergenza pandemica ha evidenziato ancora di più la spinta in tale direzione. In tale ottica, l’emergenza stessa ha imposto il massimo utilizzo dell’innovazione tecnologica; trattasi di un’occasione da cogliere, ma non per forzare, quanto piuttosto per provare e verificare anche alcune potenzialità ulteriori dell’innovazione.

Da giuristi ci si sente sempre impreparati rispetto ad entrambi i corni del problema: l’emergenza fa pensare a qualcosa in cui le regole ordinarie non bastano; l’innovazione è notoriamente considerata un ossimoro rispetto all’immagine di noi “burocrati” .

Quindi ci troviamo di fronte ad una doppia sfida.

Ma come insegnava la guida galattica per autostoppisti, la nota saga in cui il rapporto fra uomo ed evoluzione tecnologica è oggetto di una visione antesignana, “don’t panic”: i computer sono incredibilmente veloci, accurati e stupidi; gli uomini sono incredibilmente lenti, inaccurati e intelligenti; l’insieme dei due costituisce una forza incalcolabile. E a sostenere ciò abbiamo il conforto di Albert Einstein.

In tale contesto, il versante processuale, attraverso il c.d. PAT (già in vigore da tempo) ha consentito alla giustizia amministrativa di proseguire a svolgere la quasi totalità delle proprie funzioni e potenzialità anche in epoca di lockdown. 

Sul versante procedimentale sempre più spesso ci si imbatte in titoli e nozioni ricorrenti, come “Procedimento e scelte autoritative”. La strada è ancora lunga ma, in fondo il diritto amministrativo – come premesso, un diritto giovane - e l’attività di tutti noi operatori dello stesso, si scontra quotidianamente con il continuo bilanciamento fra interessi e principi che spingono in direzioni opposte; quindi, forse non siamo del tutto impreparati a certe sfide.

È pur vero che anche in tali ambiti ci si appassiona spesso a disquisizioni sottili, come intorno al tema se, a certi fini, l’algoritmo possa definirsi o meno alla stregua di un atto amministrativo;infatti, una volta che viene a far parte della sequenza procedimentale l’algoritmo è elementoconoscibile, nei termini generali dettati dall’ordinamento.

In dottrina è stata giudicata appropriata la scelta di ragionare, dinanzi all’algoritmo nel procedimento, sulla scorta di un «principio di conoscibilità» che si completa e combina con quello di «comprensibilità». All’ostensione pura e semplice della stringa di programmazione e degli atti in cui la stessa è formalizzata, dovrebbero accompagnarsi informazioni significative sulla logica utilizzata, rese in modo da essere agevolmente colte dal cittadino e dall’amministrazione stessa, talvolta soccombente nelle questioni relative alle proprietà del software di cui si dirà.

Ad oggi, infatti, le difficoltà di chiarire e motivare le ragioni che hanno ispirato la statuizioneadottata sulla base di algoritmi auto-apprendenti ha portato alcune corti straniere a limitarne consistentemente le possibilità di utilizzo nello svolgimento di funzioni provvedimentali. In tal senso si è espresso il Conseil Constitutionnel francese, oltre che il Consiglio di Stato olandese.Anche più recentemente, il tribunale distrettuale dell’Aia, con una decisione del 2 febbraio 2020 ha ritenuto illegittimo l’uso di un programma di lotta all’evasione fiscale (SyRI) le cui modalità di funzionamento non erano risultate trasparenti in quanto non potevano essere puntualmente spiegate dai soggetti che ne facevano utilizzo.

Fra le diverse questioni si pone quella, solo apparentemente secondaria, relativa alla proprietà del software. La conoscenza (e la conseguente ostensibilità) del codice sorgente, ancorché necessaria a garantire adeguata trasparenza, è però possibile qualora l’amministrazione stessa sia già in possesso di tale codice: ma questo non sempre accade, e tutte le volte in cui ciò non succeda, appare evidente che una eventuale istanza conoscitiva dei privati che vogliano verificare le modalità di funzionamento del programma rischi di essere concretamente frustrata. Conseguente impatto avrà pertanto sul principio di comprensibilità della decisione adottata. Si realizza dunque l’intersezione problematica dei principi su una questione, come detto, solo apparentemente secondaria.

Ragionando in termini meccanicistici, se pur semplificati, la decisione elettronica sarà adottata «incrociando» le regole indicate da chi realizza il software (o dal programma autonomamente acquisite, nelle ipotesi in cui si adoperino sistemi di self learning), ed i dati successivamente immessi nell’elaboratore. 

Il ruolo del titolare dell’organo competente all’esercizio delle funzioni rischia di essere quindi, quasi secondario, e viene in rilievo solo occasionalmente, nell’eventualità in cui si renda necessario (con intervento spontaneo, o su Testo del Provvedimento (Contenuto Riservato)

Ultime Notizie