Wednesday 27 October 2021 12:03:08

Normativa  Comunicazione e Innovazione

L’intelligenza artificiale e l’algoritmo a contatto col diritto amministrativo: rischi e speranze

segnalazione del redazionale del Cons. Davide Ponte e Dott. Giulia Pernice pubblicato su Giustizia Amministrativa in data 27.10.2021

L’intelligenza artificiale e l’algoritmo a contatto col diritto amministrativo: rischi e speranze

 

PRIMA PARTE

L’algoritmo nella burocrazia

 

Il ruolo del Consiglio di Stato, dinanzi al carattere relativamente giovane del diritto amministrativo e anche per questo così mutevole, nonché all’evoluzione del potere dellAutorità nelle moderne società, assume un rilievo fondamentale anche dinanzi alla capacità dimostrata di tenere il passo con le nuove frontiere del diritto. Ciò viene perseguito inquadrando le nuove sfide nell’ambito dei principi dell’ordinamento, contribuendo contestualmente all’evoluzione ed alla piena vitalità degli stessi, sia in relazione ad ambiti realmente innovativi, sia rispetto all’evoluzione di ambiti già tradizionalmente affrontati e che tuttavia sono chiamati a nuove sfide.

Sul primo versante si colloca la giurisprudenza in materia di utilizzo dell’algoritmo, e più in generale della c.d. intelligenza artificiale, nell’ambito dell’attività amministrativa.

La digitalizzazione della vita privata come di quella pubblica costituisce un dato ormai consolidato. La necessità di convivere con tali dirompenti novità spinge i giuristi alla ricerca dei relativi inquadramenti. D’altronde il diritto è la regolazione dei fenomeni umani e sociali, l’informatizzazione della società è evidente e rapida, quindi il diritto non può che intervenire, specie il diritto dell’autorità.

Un algoritmo è una strategia che serve per risolvere un problema ed è costituito da una sequenza finita di operazioni (dette anche istruzioni) che consente di risolvere tutti i quesiti di una stessa classe. Esso deve esserecercando un parallelismo col mondo giuridico:

finito, cioè quando è costituito da un numero finito di istruzioni e presenta una fine(giuridicamente, l’oggetto di esame coincide con le questioni dedotte);

deterministico, cioè quando partendo dagli stessi dati in input, si ottengono i medesimi risultati in output (per noi giuristi vale il divieto della c.d. alla terza via ed il rispetto della corrispondenza fra chiesto e pronunciato);

non ambiguo, le operazioni devono poter essere interpretate nello stesso modo da tutti anche se l'esecutore è differente (in termini giuridici può declinarsi nel senso della necessaria chiarezza della decisione);

generale, cioè quando la soluzione è uguale per tutti i problemi della medesima classe (qui è gioco facile tradurre nella certezza del diritto, che a volte appare una vera e propria ricerca dell’araba fenice).

Il termine algoritmo, come noto, deriva dalla trascrizione latina del nome del matematico persiano al-Khwarizmi, vissuto nel IX secolo d.C., che è considerato uno dei primi autori ad aver fatto riferimento a questo concetto scrivendo il libro Regole di ripristino e riduzione

L’analisi matematica di base conosce varie categorie di algoritmi, che spesso paiono riprodurre problemi di base della nostra attività: ad esempio algoritmi iterativi, ricorsivi, di ordinamento, di ricerca, evolutivi (qui si inseriscono i cc.dd. predittivi, così temuti dai giuristi), swarm intelligence, combinatorio, automodificante, per giungere a quello di compressione (come può qualificarsi quello di cui racconta un noto scrittore, nel libro Caro Gesù Bambino, con la storia del cammello che deve passare nella cruna di un ago).

Il «rapporto sui principali problemi dell’amministrazione dello Stato», presentato nel 1979 dall’allora ministro della Funzione pubblica Massimo Severo Giannini , rilevava che gli elaboratorielettronici, in principio adoperati come «apparecchi di semplice registrazione di dati complessi, sono divenuti poi apparecchi di accertamento e verificazione, di calcolo, di partecipazione a fasi procedimentali di istruttoria, e infine di decisione», sicché «i sistemi informatici non servono più alle amministrazioni per fatti di gestione interna, ma servono proprio per amministrare, si proiettano cioè sempre più verso l’esterno».

In altri termini, anche il diritto amministrativo ha visto il progredire e l’affermarsi di strumenti informatici che hanno progressivamente affrancato i pubblici uffici da carta e macchine da scrivere e che, successivamente, hanno dimostrato la capacità di assolvere autonomamente a compiti istruttori e di formulazione di contenuti dei provvedimenti amministrativi.

Prendendo spunto dalle numerose possibili citazioni letterarie, può dirsi che la seconda rivoluzione industriale non si presenta come la prima, con immagini schiaccianti quali presse di laminatoi o colate d’acciaio, ma come i bits d’un flusso d’informazione che corre sui circuiti sotto forma d’impulsi elettronici. Le macchine di ferro ci sono sempre, ma obbediscono ai bits senza peso .

La dottrina, in riferimento al processo evolutivo in atto, ha parlato di “amministrazione 4.0”,o di quarto modello di amministrazione: ove per primo modello è da intendersi quellodell’amministrazione otto-novecentesca totalmente cartacea; per secondo, quello coadiuvato daicomputer, dai programmi di videoscrittura e dalle iniziali forme di telecomunicazione (quali il fax);per terzo modello, quello della prima digitalizzazione e dematerializzazione dei dati, resa possibiledall’impiego di internet nelle normali attività amministrative.

L’amministrazione di “quarta generazione” è, invece, quella denotata da un «alto grado diautomazione e di interconnessione», reso possibile dall’implementazione delle tecniche di scambioe di conservazione dematerializzate delle informazioni, dall’aumento esponenziale della capacità dicalcolo dei processori e dalla predisposizione di programmi informatici sempre più sofisticati. In altre parole, si tratterebbe della “società dell’algoritmo”, ove l’impego di software (o “programmi”) –riconducibili alla c.d. “intelligenza artificiale”  comporta l’affermarsi di moduli operativiautomatizzati, non semplicemente idonei a compiere in poco tempo complesse operazioni di calcolo, bensì muniti della capacità di apprendere dai propri errori e, in qualche misura, di emulare il funzionamento della mente umana.

Il dato riportato appare evidente, essendo molteplici i settori della vita quotidiana in cui gli algoritmi – invero non tutti riconducibili alle più evolute forme d’intelligenza artificiale – siaffiancano all’uomo, semplificandone l’esistenza. Tra questi basti ricordare i software diriconoscimento vocale o visivo e quelli di supporto alla guida di autoveicoli, se non di guidaautonoma. 

Maggiormente incisivi sono poi i programmi “predittivi”, che, sulla base di alcuni dati adisposizione (i cosiddetti inputs), forniscono una soluzione per un certo scenario, sia esso costituitodalle previsioni meteorologiche, ovvero dalla predisposizione di un piano d’investimento per ilcorrentista di un istituto di credito o di una polizza infortunistica per il cliente di una compagnia diassicurazioni. Ciò assume un marcato carattere di “affrancamento” dall’uomo nel momento in cui l’algoritmo è in grado di elaborare non solo i dati messi a disposizione, ma di acquisirne dei nuovi non direttamente conosciuti (o immediatamente conoscibili) dall’operatore umano, mediante il reperimento in rete di aggiornamenti sull’andamento del mercato del credito o sulla circolazione stradale.

L’estensione e l’indubbia utilità ha spinto al relativo utilizzo anche le lente amministrazioni pubbliche, specie a fronte delle diverse potenzialità, anche per la evidente comodità derivante dalla c.d. neutralizzazione della scelta (quello che è stato definito il sogno di ogni funzionario, ormai sempre terrorizzato dai “rischi della firma”).

In tale quadro, se da un canto non può che prendersi atto dell’evoluzione, da un altro canto in ambito giuridico occorre altresì procedere ad inquadrare la stessa evoluzione nell’ambito deiprincipi.

L’emergenza pandemica ha evidenziato ancora di più la spinta in tale direzione. In tale ottica, l’emergenza stessa ha imposto il massimo utilizzo dell’innovazione tecnologica; trattasi di un’occasione da cogliere, ma non per forzare, quanto piuttosto per provare e verificare anche alcune potenzialità ulteriori dell’innovazione.

Da giuristi ci si sente sempre impreparati rispetto ad entrambi i corni del problema: l’emergenza fa pensare a qualcosa in cui le regole ordinarie non bastano; l’innovazione è notoriamente considerata un ossimoro rispetto all’immagine di noi “burocrati” .

Quindi ci troviamo di fronte ad una doppia sfida.

Ma come insegnava la guida galattica per autostoppisti, la nota saga in cui il rapporto fra uomo ed evoluzione tecnologica è oggetto di una visione antesignana, don’t panic: i computer sono incredibilmente veloci, accurati e stupidi; gli uomini sono incredibilmente lenti, inaccurati e intelligenti; l’insieme dei due costituisce una forza incalcolabile. E a sostenere ciò abbiamo il conforto di Albert Einstein.

In tale contesto, il versante processuale, attraverso il c.d. PAT (già in vigore da tempo) ha consentito alla giustizia amministrativa di proseguire a svolgere la quasi totalità delle proprie funzioni e potenzialità anche in epoca di lockdown

Sul versante procedimentale sempre più spesso ci si imbatte in titoli e nozioni ricorrenti, come Procedimento e scelte autoritative”. La strada è ancora lunga ma, in fondo il diritto amministrativo – come premesso, un diritto giovane - e l’attività di tutti noi operatori dello stesso, si scontra quotidianamente con il continuo bilanciamento fra interessi e principi che spingono in direzioni opposte; quindi, forse non siamo del tutto impreparati a certe sfide.

È pur vero che anche in tali ambiti ci si appassiona spesso a disquisizioni sottili, come intorno al tema se, a certi fini, l’algoritmo possa definirsi o meno alla stregua di un atto amministrativo;infatti, una volta che viene a far parte della sequenza procedimentale l’algoritmo è elementoconoscibile, nei termini generali dettati dall’ordinamento.

In dottrina è stata giudicata appropriata la scelta di ragionaredinanzi all’algoritmo nel procedimento, sulla scorta di un «principio di conoscibilità» che si completa e combina con quello di «comprensibilità». All’ostensione pura e semplice della stringa di programmazione e degli atti in cui la stessa è formalizzata, dovrebbero accompagnarsi informazioni significative sulla logica utilizzata, rese in modo da essere agevolmente colte dal cittadino e dall’amministrazione stessa, talvolta soccombente nelle questioni relative alle proprietà del software di cui si dirà.

Ad oggi, infatti, le difficoltà di chiarire e motivare le ragioni che hanno ispirato la statuizioneadottata sulla base di algoritmi auto-apprendenti ha portato alcune corti straniere a limitarne consistentemente le possibilità di utilizzo nello svolgimento di funzioni provvedimentali. In tal senso si è espresso il Conseil Constitutionnel francese, oltre che il Consiglio di Stato olandese.Anche più recentemente, il tribunale distrettuale dell’Aia, con una decisione del 2 febbraio 2020 ha ritenuto illegittimo l’uso di un programma di lotta all’evasione fiscale (SyRI) le cui modalità di funzionamento non erano risultate trasparenti in quanto non potevano essere puntualmente spiegate dai soggetti che ne facevano utilizzo.

Fra le diverse questioni si pone quella, solo apparentemente secondaria, relativa alla proprietà del software. La conoscenza (e la conseguente ostensibilità) del codice sorgente, ancorché necessaria a garantire adeguata trasparenza, è però possibile qualora l’amministrazione stessa sia già in possesso di tale codice: ma questo non sempre accade, e tutte le volte in cui ciò non succeda, appare evidente che una eventuale istanza conoscitiva dei privati che vogliano verificare le modalità di funzionamento del programma rischi di essere concretamente frustrata. Conseguente impatto avrà pertanto sul principio di comprensibilità della decisione adottata. Si realizza dunque l’intersezione problematica dei principi su una questione, come detto, solo apparentemente secondaria.

Ragionando in termini meccanicistici, se pur semplificati, la decisione elettronica sarà adottata «incrociando» le regole indicate da chi realizza il software (o dal programma autonomamente acquisite, nelle ipotesi in cui si adoperino sistemi di self learning), ed i dati successivamente immessi nell’elaboratore. 

Il ruolo del titolare dell’organo competente all’esercizio delle funzioni rischia di essere quindi, quasi secondario, e viene in rilievo solo occasionalmente, nell’eventualità in cui si renda necessario (con intervento spontaneo, o su Testo del Provvedimento (Contenuto Riservato)

 

Se hai già aderito:

Entra

altrimenti per accedere ai servizi:    

Sostieni la Fondazione

 

Ultime Notizie

Pubblico Impiego e Responsabilità Amministrativa - Thursday 02 December 2021 16:31:00

SANITA’: Quesito su possibilità di disporre il comando finalizzato all’aggiornamento tecnico scientifico per il personale del comparto Sanità

ARAN Agenzia per la Rappresentanza Negoziale delle Pubbliche Amministrazioni

Pubblico Impiego e Responsabilità Amministrativa - Thursday 02 December 2021 16:29:54

COMPARTO FUNZIONI LOCALI 2016-2018: Quesito su riconoscimento dei compensi per lavoro straordinario a titolari di posizione organizzativa

ARAN Agenzia per la Rappresentanza Negoziale delle Pubbliche Amministrazioni

Sanità e Sicurezza Sociale - Sunday 28 November 2021 11:10:55

Esenzione dall’obbligo vaccinale: il procedimento previsto per il personale sanitario è diverso da quello per l’esenzione dei cittadini

segnalazione del Decreto (cautelare) del Presidente del TRGA di Trento del 23 novembre 2021 n. 62

Sanità e Sicurezza Sociale - Tuesday 23 November 2021 16:23:59

Personale docente e non docente della scuola: non va sospeso l’obbligo di green pass

Green pass – Personale docente e non docente della scuola – Obbligo - Non va sospeso. 

      Non deve esser...

segnalazione della nota redatta dalla Giustizia amministrativa all’ordinanza del Consiglio di Stato Sez. III del 11.11.2021, n. 6098

Patto di Stabliità, Bilancio e Fiscalità - Thursday 18 November 2021 10:19:40

Tassa di soggiorno: scatta sempre per l’albergatore il reato di peculato in caso di omesso versamento

 

La Prima Sezione Penale della Corte di Cassazione con sentenza pubblicata in data 17 novembre 202 (udienza 9.9.2021, Pres. Boni M.-...

segnalazione del Prof. Avv. Enrico Michetti della sentenza della Corte di Cassazione Sez. I sentenza del 17.11.2021, n. 41793

Uso del Territorio: Urbanistica, Ambiente e Paesaggio - Thursday 18 November 2021 09:05:21

Porticati, verande e pergotende: serve il titolo edilizio se vengono installati elementi di chiusura costituiti da lastre di vetro scorrevole anche se chiudibili a “pacchetto”

Interessante sentenza è stata pubblicata dal TAR Trentino-Alto Adige/Südtirol Trento con la quale si ripercorre l’evoluzione...

segnalazione del Prof. Avv. Enrico Michetti sentenza del TAR Trentino-Alto Adige/Südtirol Trento del 2.11.2021 n. 175

Sanità e Sicurezza Sociale - Wednesday 17 November 2021 17:34:03

Il Personale sanitario non vaccinato può svolgere la propria attività in tutti i luoghi diversi da quelli tassativamente indicati dalla legge ma non può contestare la sospensione dall’esercizio della professione disposta dall’Ordine se non impugna l’atto di accertamento dell’Azienda sanitaria

Atti amministrativi – Pandemia da Covid-19 – Personale sanitario – Obbligo vaccinale – Atto di accertamento –...

segnalazione del Decreto (cautelare) del Presidente del TRGA Trentino-Alto Adige/Südtirol Trento del 8.11.2021 n. 59

Contratti, Servizi Pubblici e Concorrenza - Wednesday 17 November 2021 15:59:31

Obblighi informativi verso l’Anac: adempimenti Legge 190/2012 art. 1, comma 32

L'Autorità nazionale Anticorruzione con comunicato del 17 novembre 2021mrende nota che rescano ...

segnalazione del comunicato Anac del 17.11.2021

Uso del Territorio: Urbanistica, Ambiente e Paesaggio - Tuesday 16 November 2021 15:54:50

La conservazione dell’ambiente e del paesaggio è materia di competenza esclusiva dello Stato

In linea generale costante giurisprudenza della Corte costituzionale afferma che la conservazione dell’ambiente e del paesaggio è mate...

segnalazione del Prof. avv. Enrico Michetti della sentenza del Consiglio di Stato Sez. IV del 16.11.2021, n. 7619

Uso del Territorio: Urbanistica, Ambiente e Paesaggio - Tuesday 16 November 2021 15:41:13

Urbanistica: i casi in cui è consentito prescindere dalla formazione del piano attuativo

Per costante giurisprudenza, i casi in cui è consentito prescindere dalla formazione del piano attuativo al quale, in linea di principio, lo...

segnalazione del Prof. avv. Enrico Michetti della sentenza del Consiglio di Stato Sez. IV del 16.11.2021, n. 7620

Copyright © 2016 Gazzetta Amministrativa | All Rights Reserved | Privacy - Note Legali
Via Giovanni Nicotera, 29 - 00195 - Roma.
Partita Iva: 14140491003 - Codice Fiscale: 97910230586
Top