IA, OPPORTUNITÀ DA GESTIRE CON UNA GOVERNANCE STRUTTURATA

Amica o nemica? Quale può essere il vero apporto dell’intelligenza artificiale nella società e nell’economia italiana? Ci troviamo in una di quelle fasi di transizione tecnologica in cui una soluzione inizia a essere adottata prima ancora di essere pienamente indagata, e le cui potenzialità vengono scoperte a mano a mano che l’utilizzo si radica. Il sistema produttivo l’ha già eletta a opportunità per il vantaggio competitivo, soprattutto grazie all’efficientamento dei processi, alla razionalizzazione delle forniture, al miglioramento della relazione con il cliente, alle capacità previsionali, e una prossima frontiera è nella gestione dei rischi. 

Per Valeria Lazzaroli, chairperson of the board Enia (Ente nazionale per l’intelligenza artificiale) e chief risk officer di Arisk (spin off universitario del Politecnico di Torino), l’intelligenza artificiale è certamente un’amica che può portare grandi miglioramenti in tutti i campi, ma che necessita di studi multidisciplinari per ottenere un rapporto fiduciario di lunga durata. “Non dobbiamo averne timore – spiega Lazzaroli – nella misura in cui alziamo il tiro sulla cultura informatica. In Italia c’è l’esigenza di recuperare, alla luce di un indice Desi di alfabetizzazione digitale molto basso, una scarsissima affermazione dell’open innovation e la difficoltà di un trasferimento tecnologico che, spesso, non riesce a valicare le mura accademiche”. Un fiorire di nuovi algoritmi proprietari e made in Italy concorrerebbe allo sviluppo di un’IA come supporto concreto all’economia del nostro paese, un vero booster di accelerazione, “se ciò non dovesse avvenire saremmo destinati alla definitiva affermazione dell’IA straniera, che ci imporrebbe proprie tecnologie, con la perdita della sovranità del dato italiano e quindi dei confini economici”. 

La carenza di IA proprietaria, tanto in ambito pubblico quanto in quello imprenditoriale, è la prima criticità strategica. Un rischio operativo molto serio è rappresentato dalla cosiddetta IA antagonista, che si affianca alle tipiche forme di attacco cyber con il preciso obiettivo di alterare gli algoritmi. Spesso l’effetto non si manifesta nel breve, come un blocco dei sistemi, perché è il prodotto di manomissioni non facilmente individuabili se non quando il danno diventa evidente. Un evento di non facile risoluzione, che può essere mitigato se, grazie a una concreta governance dell’IA, si rende facilmente attuabile il monitoraggio sull’accuratezza degli algoritmi. “Un eventuale problema di questo tipo – osserva Lazzaroli – non si presenta, o può essere individuato in tempo, se l’impresa prevede nella propria governance la necessità di conoscere la tassonomia adottata, il metodo di calcolo e se utilizza dati di cui conosce la qualità della fonte, in modo tale che un output alterato sia subito riconoscibile da personale esperto”.

Un altro potenziale rischio è individuato da Lazzaroli nell’intelligenza artificiale generativa. Se l’IA originaria, che sulla base di modelli implementati su algoritmi matematici e machine learning permette di indagare in maniera approfondita i dati o efficientare i processi - rappresenta una concreta opportunità di miglioramento per le imprese e per la società, “l’IA generativa non consente di valutare l’origine del dato e quali paradigmi sottostanti abbiano consentito la generazione degli output. Quindi vere e proprie blackbox, fino a prova contraria, indicate dall’AI Act come strumenti non spiegabili. Infatti, le attuali possibilità di accesso e di fruizione, seppure immediate, non garantiscono né data quality né data governance. Di conseguenza, l’utente non è in grado di cogliere i falsi positivi e riceve elaborazioni che possono essere prive di valore, quando non fuorvianti, oltre alla già nota questione della tutela del copyright”. Al di là del rischio per l’attività delle imprese, il tema è anche la diffusione di informazioni alterate, false o non veritiere che alimentano distorsioni della realtà e disinformazione.

Le imprese pongono nell’IA grandi aspettative, ma a grandi aspettative corrispondono grandi responsabilità.

Anche in questo caso è necessario fare una distinzione tra grandi imprese e Pmi. Queste rappresentano la grandissima parte del tessuto produttivo italiano, ma difficilmente hanno un risk manager, un data protection officer e in genere un assetto organizzativo in grado di introiettare e trasformare in struttura le indicazioni normative, limitandosi spesso a un’adesione formale. “Il Gdpr – afferma Lazzaroli – è stato un’opportunità per iniziare a trattare il dato e trasformarlo in asset per l’impresa. Ma questo vale per le grandi aziende, che sono strutturate e devono dare conto a investitori e board competenti e indipendenti. Esse hanno le basi per dotarsi di una governance che effettivamente gestisca l’IA ai fini del miglioramento della produttività, della riduzione dei costi fissi aziendali, inclusa la razionalizzazione del personale. In un processo consapevole e responsabile, l’azienda che enuclea l’IA dispone della relativa governance e gestisce l’impatto sul personale, anche in termini di formazione sulle nuove competenze”. Uno strumento ottimale per raggiungere questi obiettivi è lo standard Iso/Iec 42001 che “introduce direttamente all’inserimento dell’IA tra i temi della sostenibilità aziendale, un passaggio che attualmente è previsto nella responsabilità sociale dell’azienda”. 

Se la responsabilità sociale è interpretata come attenzione all’uomo e all’ambiente, va capito in che modo l’IA vi rientri. “Essere sostenibili – riflette Lazzaroli – significa farsi carico di tutto l’orientamento normativo e di quello che è il possibile impatto sull’ambiente e sull’uomo della propria attività e delle scelte strategiche. L’impiego crescente di soluzioni di IA richiede un maggiore ricorso ai data center, accrescendo i propri consumi energetici e le emissioni di CO2 e impattando così in maniera diretta sull’ambiente. Allo stesso modo, l’impiego in determinati settori dell’IA può portare a una riduzione del personale e quindi avere un riflesso sulla vita e sul benessere delle persone”. Dal lato opposto, l’impiego di soluzioni di IA può essere estremamente utile per aumentare la sicurezza sul lavoro, sia attraverso l’analisi dei processi, sia nel controllo diretto tramite monitoraggio e dispositivi.

Un’applicazione di grande valore dell’IA è nella valutazione dei rischi. Grazie all’analisi di diverse fonti di dati, pubbliche o verificate, le aziende possono disporre di numerose informazioni rispetto all’esposizione a rischi fisici e critici, rischio cyber, rischio di default e di governance, oltre a quelle necessarie per il monitoraggio dei rischi ambientali o legati alla transizione energetica. Con questo supporto, algoritmi di IA collegati a un sistema Erp aziendale possono affiancare la funzione del risk manager, o dell’imprenditore, emettendo segnali d’allerta su base predittiva. “In tal modo – commenta Lazzaroli – si contribuisce a rafforzare le imprese e si dà risposta alla responsabilità sociale dell’azienda e ai dettami di sostenibilità, non solo di tipo ambientale o energetica, con un impatto positivo sul territorio. La disponibilità attuale di dati verificati e di qualità è elevata, va invece diffusa maggiormente la capacità di categorizzazione e classificazione per favorire una maggiore accuratezza degli algoritmi. I costi per lo sviluppo e l’applicazione di soluzioni IA per il risk assessment sono sempre più contenuti e quindi accessibili alle aziende”. Un esempio di strumento utile a una concreta strategia di gestione del rischio è l’evoluzione del Bim insieme all’IA, un connubio che consente la disponibilità di tecnologie come l’Extention digital twin, che permette le simulazioni multidimensionali di numerosi scenari ma all’interno della realtà di contesto, consentendo così all’impresa di prevedere al massimo l’esposizione ai rischi.