Intelligenza artificiale: il ruolo della PA

E’ stato pubblicato il testo finale delle Raccomandazioni sull’utilizzo dell’Intelligenza Artificiale nella Pubblica Amministrazione.

Gli obiettivi che il testo si pone sono:

• favorire l’utilizzo consapevole e giusto dell’intelligenza artificiale da parte della Pubblica Amministrazione;
• mettere la società civile nelle condizioni di essere parte attiva nel monitoraggio dei rischi e nella lottaal le discriminazioni che ne potrebbero derivare.

Le Raccomandazioni promuovono un utilizzo dell’intelligenza artificiale che abbia come principi fondamentali:

• la trasparenza;
• l’equità;
• la responsabilità;
• la partecipazione democratica.

Inoltre, le finalità sono:

• la tutela dei diritti fondamentali;
• la salvaguardia dello spazio civico.

In effetti, è ormai evidente che l’adozione dell’intelligenza artificiale nella sfera pubblica rappresenti una scelta tecnologica necessaria. Tuttavia, i suoi sistemi devono essere governati da competenze adeguate e, di conseguenza, ciò significa munirsi di:

• dati di qualità;
• regole organizzative chiare;
• responsabilità indiscutibili;
• strumenti di controllo pubblico.

In sostanza, l’obiettivo primario è rappresentato dalla prevenzione di:

• discriminazioni;
• decisioni non chiare o equivoche;
• informazioni confuse o contraddittorie;
• nuove forme di esclusione.

Intelligenza artificiale nella PA: analizziamo meglio nel dettaglio le raccomandazioni

Per facilitare la comprensione, il testo delle Raccomandazioni è suddiviso in cinque aree tematiche che vertono su:

• formazione;
• dati;
• sistemi di Intelligenza Artificiale;
• adozione, acquisto e sviluppo di tali sistemi;
• monitoraggio e valutazione degli impatti esterni.

Per quanto riguarda l’area della formazione, è innanzitutto importante che le pubbliche amministrazioni investano risorse in percorsi continui, in modo che siano personalizzati e orientati alla pratica. Inoltre, è bene che tali percorsi coinvolgano sia i profili tecnici che le competenze giuridiche degli enti, senza trascurare le competenze sociali, comunicative e organizzative. Allo stesso tempo, non devono essere mai trascurate le questioni di genere.

In secondo luogo, anche l’area dei dati merita un’attenzione centrale: è, infatti, necessario che essi siano completi, aggiornati e tracciabili. Allo stesso tempo, risulta fondamentale che siano pertinenti, documentati e disaggregati.

In riferimento alla raccolta e alla classificazione dei dati, esse non sono attività neutrali. I linguaggi, le categorie, le fonti disponibili e le narrazioni dominanti, infatti, influenzano gli esiti dei sistemi. Il rischio che si corre è, quindi, che vengano riprodotte disuguaglianze già esistenti.

Infine, per evitare tutto ciò è importante che l’equità dell’algoritmo sia progettata, verificata e monitorata lungo tutto il ciclo di vita dell’Intelligenza Artificiale.