Gli agenti AI sono già in produzione nel 43% delle organizzazioni italiane intervistate, ma solo il 30% dispone di un sistema di governance progettato per accompagnarne l’adozione su larga scala. È uno dei risultati della ricerca condotta da Censuswide per conto di IBM su 3.221 dirigenti in otto Paesi europei e del Medio Oriente, di cui 510 in Italia.
Il divario emerge anche nella gestione degli incidenti. Il 78% degli intervistati italiani afferma che, nell’ultimo anno, problemi legati all’intelligenza artificiale sono arrivati all’attenzione del consiglio di amministrazione o del top management. Solo il 37% delle organizzazioni interessate, tuttavia, ha modificato di conseguenza le proprie politiche o i quadri di riferimento per il governo della tecnologia.
Gli episodi considerati comprendono malfunzionamenti degli agenti, esposizione di dati, errori nelle decisioni guidate dall’AI e violazioni della sicurezza. Nel campione complessivo, la quota di dirigenti che segnala incidenti giunti ai vertici raggiunge l’80%; quella delle organizzazioni che hanno rivisto le regole si ferma al 40%.
Indice degli argomenti
L’autonomia decisionale attesa entro il 2027
Il 75% dei dirigenti intervistati, l’82% in Italia, si aspetta che entro il 2027 gli agenti AI abbiano un certo livello di autonomia decisionale. L’impiego in produzione riguarda oggi il 35% del campione complessivo, a fronte del 43% italiano. La disponibilità di una governance capace di supportare l’estensione di questi sistemi si attesta invece al 37%, sette punti sopra il risultato nazionale.
Quando l’implementazione procede più rapidamente della preparazione dei framework di governance e conformità, il 56% degli intervistati dichiara di proseguire entro i limiti di rischio accettati, adattando le regole in corso d’opera. In Italia questa quota scende al 44%. Un terzo del campione rinvia completamente il rilascio fino a quando la governance è pronta, una scelta indicata dal 41% dei dirigenti italiani.
«Oggi il dibattito sull’AI non riguarda più soltanto l’adozione, ma tocca i temi di fiducia e responsabilità – spiega Nico Losito, amministratore delegato di IBM Italia – Con il passaggio dagli assistenti agli agenti autonomi, la governance diventa una priorità strategica: deve essere integrata nel loro funzionamento, definendo confini operativi, responsabilità chiare e controlli in tempo reale. Solo così le imprese potranno portare l’AI su scala con fiducia e generare un valore di business concreto e sostenibile».
La responsabilità degli esiti negativi divide i dirigenti
Il 98% dei business leader intervistati ha assegnato formalmente la responsabilità del rischio AI a livello di consiglio di amministrazione. Il 26% dispone di un comitato dedicato all’intelligenza artificiale all’interno del board; in Italia la percentuale è del 21%.
Le risposte risultano più distribuite quando si tratta di individuare chi debba rispondere degli esiti negativi. Il ruolo indicato più frequentemente è quello del responsabile dei sistemi informativi o del responsabile tecnologico, rispettivamente CIO e CTO, scelto dal 17% del campione e dal 25% degli intervistati italiani.
Anche sulla responsabilità legale in caso di danni significativi emergono posizioni diverse. Il 20% dei dirigenti, il 22% in Italia, ritiene che debba essere ripartita proporzionalmente tra utilizzatore e fornitore. Il 19%, con lo stesso risultato nazionale, richiama la necessità di un quadro normativo che considera ancora inadeguatamente definito. Per il 14% del campione, il 15% in Italia, la responsabilità dovrebbe ricadere sul fornitore dell’AI o della tecnologia.
Intervento umano, tracciabilità e arresto degli agenti
In vista di un maggiore impiego di agenti capaci di prendere decisioni senza l’approvazione umana in ogni fase, i dirigenti indicano gli strumenti di cui prevedono di avere bisogno entro il 2027.
Al primo posto figurano quadri giuridici o contrattuali formali che definiscano la responsabilità dei fornitori in caso di malfunzionamento, citati dal 33% del campione e dal 39% degli intervistati italiani. Seguono soglie definite per l’intervento umano, indicate rispettivamente dal 32% e dal 33%.
Il monitoraggio in tempo reale e la tracciabilità delle decisioni e delle azioni degli agenti sono richiesti dal 30% dei dirigenti, il 32% in Italia. La possibilità di interrompere immediatamente l’attività di questi sistemi in tutta l’azienda raccoglie il 29% delle risposte complessive e il 31% di quelle italiane.
Solo il 35% in Italia quantifica formalmente l’esposizione finanziaria
Il 54% delle organizzazioni intervistate gestisce AI generativa e AI agentica come categorie di rischio distinte, adottando quadri di governance separati. In Italia questa impostazione riguarda il 45% del campione. Un ulteriore 38%, che sale al 46% tra i rispondenti italiani, utilizza lo stesso riferimento di base e aggiunge controlli specifici per gli agenti.
La quantificazione economica delle carenze nei sistemi di governo della tecnologia risulta meno diffusa. Solo il 37% del campione dispone di una valutazione formale del rischio finanziario derivante dalle lacune nella governance dell’AI, approvata dal consiglio di amministrazione. Il dato italiano si attesta al 35%.
Le lacune nei controlli sulla supply chain
Il rapporto esamina anche la copertura dei sistemi e dei modelli utilizzati da fornitori, partner tecnologici e altri soggetti della catena di approvvigionamento. Il 54% degli intervistati riconosce lacune o limitazioni nel proprio quadro di governance su questo fronte. In Italia la quota raggiunge il 64%.
Il monitoraggio costante dei rischi legati all’AI di terze parti è praticato dal 21% del campione e dal 24% degli intervistati italiani. Il ricorso a requisiti di verifica o certificazione indipendenti riguarda il 13% in entrambi i casi.
Quanto ai fattori che orientano gli investimenti, nell’Unione europea il 41% dei dirigenti dichiara di accelerare la spesa per la governance in vista degli obblighi dell’AI Act relativi alle attività ad alto rischio. Un ulteriore 35%, il 34% in Italia, procede secondo piani di conformità strutturati.
Nel Regno Unito, il fattore citato più frequentemente è rappresentato dalle aspettative delle autorità di regolamentazione settoriali, indicate dal 27% degli intervistati. In Arabia Saudita e negli Emirati Arabi Uniti prevalgono i requisiti delle strategie nazionali sull’intelligenza artificiale, con il 61%.
L’esperienza di Bertolotti con Gina On-Air
L’azienda riporta anche l’esperienza di Bertolotti, che ha sviluppato la piattaforma Gina On-Air in collaborazione con IBM e Uno Informatica.
«L’intelligenza artificiale rappresenta una leva strategica per l’industria manifatturiera del futuro – afferma Luca Barneschi, CEO e amministratore delegato di Bertolotti S.p.A. – Con Gina On-Air abbiamo scelto di investire in una piattaforma che ci permetta di accelerare l’innovazione, migliorare la produttività e valorizzare il patrimonio di competenze sviluppato in oltre cinquant’anni di attività. Questo progetto, sviluppato in collaborazione con IBM e con Uno Informatica, dimostra come anche realtà industriali altamente specializzate possano integrare l’AI nei propri processi in modo concreto, mantenendo il controllo dei dati e trasformando la tecnologia in un vantaggio competitivo duraturo».
Partecipa alla community