So di non sapere

di Donato Antonucci

Un titolo attira la mia attenzione: pubblicata la prima indagine condotta dall’Agenzia per l’Italia digitale su “L'intelligenza artificiale nella pubblica amministrazione”. Per saperne qualcosa di più vado sul sito dell'AGID usando il link presente nell'articolo e lì trovo la descrizione sommaria dei contenuti dell’indagine.

È una iniziativa rientrante fra le azioni del Piano Triennale per informatica nella PA per il triennio 2024-2026, con un Focus sulle applicazioni intelligenze artificiali che hanno l'obiettivo di supportare le strategie di investimento e di diffusione della AI nel settore pubblico.

L'indagine si è svolta in un paio di settimane – dal 25 settembre al 10 ottobre 2024 – con la somministrazione di un questionario indirizzato a 142 amministrazioni centrali. Di queste, solo 108 hanno risposto e solo 45 hanno dichiarato di avere avviato iniziative nell'ambito della AI.

Si tratterebbe di 120 progetti, alcuni già avviati e in fase di esecuzione, altri solo ad un livello definito “esplorativo”.

Cercando di approfondire, scarico il file in pdf con il testo completo dell’indagine: 22 paginette, compreso copertine e indice, di un sostanziale nulla, perché alla fine nulla di sostanziale dicono.

Quali sono le PA coinvolte? – La loro classificazione è stata effettuata in base alla “tassonomia” dell’iPA (Indice delle Pubbliche Amministrazioni), pur senza alcuna classificazione gerarchica, ed al dichiarato fine “di garantire un’analisi coerente e confrontabile dei soggetti coinvolti”.

Non c’è, però, nessuna individuazione nominativa, ma solo un primo grafico a torta, con indicazioni percentuale, per cui scopriamo che le amministrazioni centrali ammontano, in realtà, al 4 per cento, mentre i rimanenti enti sono: gestori di pubblici servizi (71 per cento), società in conto economico consolidato (13 per cento), enti nazionali di previdenza e assistenza (11 per cento).

Il successivo grafico si riferisce agli ambiti settoriali di applicazione dei progetti, posti in relazione alle competenze dei 45 soggetti. Anche in questo caso non sono forniti specifici chiarimenti e l’indagine si limita a riferire che, pur essendo presenti “i principali settori della Pubblica Amministrazione” (giustizia, sanità, istruzione, cultura, etc.), coloro che hanno avviato progetti di AI operano in gran parte “nell’ambito economico-finanziario, che comprende anche il settore assicurativo”.

Quali sono i progetti? – Anche questi sono descritti in modo sommario e poco chiaro, facendo nuovamente ricorso a grafici a torta e a descrizioni tanto sintetiche, quanto approssimative.

Scopro così che le 120 iniziative sono principalmente rivolte “all’innovazione tecnologica e alla gestione progettuale-operativa” ed i loro obiettivi sarebbero in massima parte orientati al “miglioramento dell’efficienza operativa (42 per cento), al “potenziamento della capacità di gestione e analisi dei dati” (24 per cento) ed al “miglioramento dell’accesso ai servizi da parte di cittadini e imprese” (18 per cento). Residuano progetti volti al “miglioramento della sicurezza” (12 per cento), alla “promozione dell’inclusione sociale/tolleranza/rispetto” (3 per cento) ed al “monitoraggio dell’efficacia della spesa pubblica”.

Oltre un terzo di questi progetti si colloca in una “fase esplorativa”, volta alla elaborazione di prototipi o alla verifica preliminare della fattibilità tecnico-funzionale, mentre la maggior parte dei progetti (il 53 per cento, cioè solo 63,6 progetti) sarebbe già in fase di esecuzione.

Quali sono le tempistiche? – Le iniziative sono state avviate nel biennio 2023-2024, e “per circa un quarto dei progetti” (cioè 16) “è prevista la conclusione tra il 2026 e il 2027”. Si stima una loro durata media di due anni, anche se le incertezze legate agli effettivi tempi di sviluppo e realizzazione delle soluzioni di AI costituisce “un probabile fattore critico rispetto alla scalabilità dei progetti e alla loro piena operatività”.

Quali sono gli obiettivi? – Un ulteriore grafico delinea, sempre con percentuali, i “modelli di impatto” delle iniziative di AI, che dovrebbe tradursi nel “miglioramento dei processi interni” della PA e nell’interazione tra pubbliche amministrazioni, (”modello G2G – Government-to-Government”, per il 65 per cento), nella migliore esperienza dei cittadini nei rapporti con la PA (“modello G2C – Government-to-Citizens”, per il 25 per cento) e nel rafforzamento della collaborazione pubblico-privato (“modello G2B – Government-to-Business”, per il 11 per cento).

Quali sono le tecnologie adottate? – Le iniziative si concentrano in prevalenza sul Natural Language Processing (NLP), cioè quel settore dell'informatica e della AI che si occupa di permettere ai computer di comprendere, interpretare, analizzare, generare e comunicare, utilizzando un linguaggio umano naturale, sia scritto, che verbale. Non è quindi casuale se “oltre il 60 per cento dei progetti analizzati integra funzionalità di IA sotto forma di chatbot e assistenti virtuali”.

Pur facendo ricorso anche a banche dati esterne, nell’addestramento dei modelli di AI le PA utilizzano prevalentemente banche dati interne (documentali, gestionali, di tipo statistico, etc.), operano principalmente con applicativi e piattaforme in cloud e, in misura minore, con sistemi informatici e software basati su infrastrutture locali.

Come compro, cosa compro e quanto costa? – Viene segnalata la “eterogeneità” delle fonti “procurement”, prevalentemente tramite Accordi Quadro e convenzioni CONSIP, ma anche con acquisti sul Me.PA (offerte a catalogo per importi sotto soglia) e tramite SDAPA (gara dinamica lanciata dall’Ente per qualsiasi valore).

Risulta “eterogenea” anche la tipologia di acquisti, con un “uso prevalente di gare generaliste ICT” (circa la metà), quindi non necessariamente mirate all’adozione di specifiche soluzioni di AI, oppure con sperimentazione di proposte provenienti dal mercato. Vi è quindi il rischio sia di acquisire soluzioni non rispondenti alle specifiche esigenze delle PA, sia di “incorrere in fenomeni di vendor lock-in”, cioè la dipendenza da uno specifico operatore, che potrebbe “compromettere la flessibilità, la trasparenza e la sostenibilità nel medio-lungo periodo delle soluzioni implementate”.

I costi non sono certo trascurabili. L’indagine rileva che i contratti hanno in genere durata triennale, con un valore medio che “si attesta attorno ai 19 milioni di euro, evidenziando l’impatto economico significativo delle iniziative in corso”.

Il valore medio dei progetti esaminati sarebbe invece di 3,2 milioni di euro, rientranti prevalentemente nella spesa in conto capitale, e “sostenuti principalmente da fondi di bilancio, a cui si affiancano o si sostituiscono, in misura crescente, i finanziamenti provenienti dal Piano Nazionale di Ripresa e Resilienza (PNRR).

Quali sono le criticità? – Carenza di personale con formazione adeguata, tanto che, pur essendovi competenza interne, “emerge una dipendenza significativa da attori esterni, in particolare società di consulenza e informatica, alle quali viene affidata in media circa la metà delle attività progettuali”.

Limitato coinvolgimento di stakeholder e degli utenti finali e scarsa attenzione agli standard di qualità dei dati, con possibile compromissione dell’affidabilità delle soluzioni di AI adottate, specie “nei contesti in cui l’accuratezza e la coerenza delle informazioni rappresentano un prerequisito essenziale per il corretto funzionamento degli algoritmi”.

Quanto alla tutela della privacy, si richiama il quadro normativo europeo, “volto a garantire che i sistemi di Intelligenza Artificiale siano sviluppati e utilizzati in modo sicuro, etico e trasparente”.

Al riguardo l’indagine segnala una “diffusa aderenza al principio di precauzione” ed evidenzia comunque che ben il 95 per cento dei progetti analizzati non rientra nelle categorie ad alto rischio definite dall’AI Act e che solo la quota marginale del 4 per cento concerne attività che possono comportare forme di profilazione automatica o riguardare “ambiti sensibili, come il lavoro o l’istruzione (1 per cento)”.

Un rilievo finale coinvolge la responsabilità degli organi di indirizzo e di vertice e riguarda il fatto che “per la maggior parte delle iniziative non risultano ancora definiti KPI (indicatori chiave di prestazione) specifici per la misurazione dell’impatto atteso”, presenti solo nel 20 per cento dei progetti esaminati.

Manca, in altri termini, l’individuazione degli indicatori di performance, indispensabili per valutare gli effetti generati dalle iniziative realizzate, il che pone seri dubbi sulla capacità delle PA “di adottare una visione strategica di lungo periodo”, col rischio che le iniziative rimangano isolate, “con scarso potenziale di diffusione e impatto sistemico”, e limitata efficacia degli investimenti.

Purtroppo l’indagine non contiene elementi o rinvio ai dati raccolti, che consentano di dare un nome ai soggetti coinvolti ed individuare i progetti avviati, per cui, a fine lettura, so di non sapere quale sia in concreto lo stato dell’arte sull’intelligenza artificiale nella PA.