Portare l’intelligenza artificiale in azienda non può trasformarsi in un’alternativa tra automazione e controllo. Mentre le applicazioni AI dispiegano le loro potenzialità, ma mostrano anche i loro rischi, i CIO non vogliono compromessi sulla responsabilità delle persone e la governance dei processi. Questo vale particolarmente con l’affermazione dell’AI agentica, in cui l’autonomia delle decisioni del software sale a livelli più alti.
I CIO sono chiamati a stabilire prima quali decisioni possono essere delegate e quali richiedono un’approvazione esplicita e a garantire una supervisione umana competente. È l’approccio human in the loop, che non significa confermare ciò che produce l’AI, ma avere persone con la capacità di capire, contestare l’operato dell’AI e, se necessario, fermare il sistema e prendere il comando.
«Non è da oggi che conosciamo il valore dello human in the loop perché, qualunque organizzazione, per quanto sia grande e sofisticata, cammina sulle persone», afferma Alessio Panella, CIO South & East Europe di MVHE (presente in Italia con il brand AniCura), una delle maggiori aziende mondiali del Pet Care e Pet Food. «Io faccio sempre un esempio ai miei colleghi: se dai un bisturi mediocre a un chirurgo eccellente, il paziente viene comunque operato e salvato, ma se dai un bisturi eccellente a un chirurgo mediocre, lo aiuterai ad uccidere qualcuno. In pratica: la differenza la fa la persona».
Questo è un dato di fatto che i direttori IT aziendali conoscono relativamente alla cybersecurity, ma l’intelligenza artificiale sottolinea l’urgenza della presenza umana nel processo, perché, prosegue Panella, dell’AI «non conosciamo bene possibilità e limiti e intanto evolve a velocità prima inimmaginabili. Se il CIO non comprende qual è il dominio all’interno del quale sta applicando gli strumenti che propone, oggi rischia molto più che in passato di fare danni all’azienda», afferma il CIO. «Il fattore umano, dunque, sarà determinante non solo per ragioni etiche, ma da un punto di vista operativo. Ciò che i digital tool fanno o possono fare all’interno dei processi di business è ciò che il direttore dell’IT non deve mai perdere di vista».
Se il CIO non comprende qual è il dominio all’interno del quale sta applicando gli strumenti che propone, oggi rischia molto più che in passato di fare danni all’azienda
Alessio Panella, CIO South & East Europe di MVHE
Indice degli argomenti
La vigilanza umana è il nodo critico dell’AI
Più o meno tutte le imprese stanno sperimentando le possibilità dell’AI e nessuna al momento può dire di esserne effettivamente padrone, sottolinea Vincenzo Pensa, Direttore Sistemi informativi e innovazione di ACI. Per questo «Non esistono ricette valide al cento per cento – nemmeno quelle offerte dai cosiddetti esperti – ma solo metodi e principi che aiutano a limitare gli errori. Ciò detto – aggiunge -, human in the loop non è certamente un controllo da aggiungere alla fine del processo. È un modo di stabilire chi è responsabile di ciò che l’AI ha contribuito a produrre».
Human in the loop non è un controllo da aggiungere alla fine del processo. È un modo di stabilire chi è responsabile di ciò che l’AI ha contribuito a produrre
Vincenzo Pensa, Direttore Sistemi informativi e innovazione di ACI
Tra l’altro, sottolinea Pensa, nella Pubblica Amministrazione questo modo di procedere non è una scelta ma un obbligo. La legge 132/2025 stabilisce che l’intelligenza artificiale si usa in funzione strumentale e di supporto all’attività provvedimentale, nel rispetto dell’autonomia e del potere decisionale della persona, che resta l’unica responsabile. In ACI questo principio è stato tradotto nelle Linee Guida sull’IA adottate a luglio: l’algoritmo istruisce la pratica, propone e accelera, ma la decisione resta umana.
Human in the loop è una scelta strategica
Come afferma Stefano Turchetta, Chief AI and Digital Transformation Officer di Proger, una delle principali realtà italiane nel settore dell’ingegneria, non c’è implementazione dell’intelligenza artificiale a sé stante: l’AI è parte di una più ampia trasformazione digitale, perché «Non si tratta soltanto di introdurre una tecnologia, ma di avviare un percorso trasformativo che parte dalle persone e dai processi».
Il programma di AI e Digital Transformation di Proger risponde alla complessità di un gruppo internazionale, articolato in società controllate e diversi settori operativi. Tre gli obiettivi strategici: aumentare la produttività individuale, migliorare la qualità del lavoro e ridurre i rischi operativi, sviluppare nuovi modelli di business e opportunità di ricavo.
«Per noi lo human in the loop riguarda l’intero percorso di trasformazione, a partire dalla definizione della strategia, costruita ascoltando sia il vertice aziendale sia chi opera nelle diverse unità di business e funzioni corporate», racconta Turchetta. «Per questo, ai colloqui con il top management abbiamo affiancato, a luglio 2026, un’indagine interna sull’adozione dell’AI e della digitalizzazione. Sono emerse tre esigenze principali: una formazione pratica, legata ai ruoli e alle attività quotidiane; regole chiare per un utilizzo responsabile dell’AI; strumenti capaci di valorizzare il patrimonio informativo del gruppo. Proger ha oltre cinquant’anni di progetti e opere alle spalle: rendere accessibile questo sapere, custodito anche nell’esperienza delle persone, è una delle sfide della nostra trasformazione».
Un programma aziendale che promuove un’AI umano-centrica
In base a queste indicazioni, Turchetta e il management hanno articolato il programma di AI e Digital Transformation lungo quattro pilastri. Il primo è quello della Cultura, dedicato alla valorizzazione delle persone e delle competenze. Comprende formazione, comunicazione e attivazione: un percorso di change management a 360 gradi.
«La formazione non può essere un’iniziativa una tantum. La tecnologia evolve continuamente, con notevole impatto sui processi, pertanto è fondamentale aggiornare le competenze», chiarisce Turchetta. «Per questo abbiamo definito una rete di referenti interni distribuiti nelle diverse realtà del gruppo, coordinata dalla Direzione AI e Digital Transformation. Il compito è accompagnare l’adozione, offrire supporto al personale, raccogliere riscontri sull’utilizzo degli strumenti e individuare le esigenze di approfondimento o aggiornamento».
La formazione non può essere un’iniziativa una tantum. La tecnologia evolve continuamente, con notevole impatto sui processi, pertanto è fondamentale aggiornare le competenze
Stefano Turchetta, Chief AI and Digital Transformation Officer di Proger
Accanto alla Cultura, il programma comprende altri tre pilastri: Governance, che definisce regole, ruoli e processi; Architettura, che costruisce le fondamenta tecnologiche e informative; e Soluzioni, che traduce la strategia in applicazioni concrete per il business e le funzioni aziendali.
«In ogni caso, il principio human in the loop è rispettato. Ad esempio, lo strumento AI di produttività individuale è stato selezionato con un approccio strutturato e inclusivo», indica Turchetta. «Abbiamo coinvolto oltre 40 colleghi nella valutazione di casi d’uso costruiti sulle loro attività quotidiane. Alle prove sul campo abbiamo affiancato analisi, condotte con il supporto di consulenti esterni, su privacy, sicurezza, compliance e governance. La scelta finale ha tenuto conto sia delle valutazioni dei colleghi sia dei requisiti aziendali».
Gli agenti AI rendono urgente la questione del controllo
Con gli agenti AI il problema cambia. Un agente non suggerisce, ma agisce: richiama strumenti, legge documenti, scrive su sistemi e concatena decine di passaggi in pochi secondi. Nessun essere umano regge a questa velocità e diventa impossibile approvare ogni passaggio.
«Bisogna passare dall’umano dentro il ciclo all’umano sopra il ciclo: la persona deve disegnare i confini e presidiare i punti di non ritorno», osserva Pensa di ACI. «In concreto, anche qui in ACI abbiamo ragionato su alcuni esempi e principi utili. Per esempio, ogni agente ha un’identità propria, con credenziali dedicate e a scadenza breve. Non usa mai l’account di una persona né credenziali condivise; può usare solo gli strumenti esplicitamente autorizzati, nient’altro. Inoltre, ci sono operazioni che non possono essere affidate all’agente in via esclusiva. Pagamenti, invii all’esterno e scritture su un pubblico registro richiedono l’approvazione di una persona, impostata dall’architettura del sistema e non lasciata alle istruzioni date al modello».
Secondo Pensa il rischio principale oggi è una email o un PDF che possono contenere istruzioni nascoste e che l’agente scambia per ordini – la cosiddetta prompt injection. Tutto ciò che arriva dall’esterno va trattato come dato, non come comando, e quello che l’agente produce va controllato prima che venga eseguito.
«Ogni azione dell’agente va registrata in modo da poter ricostruire la catena completa», aggiunge Pensa. «Servono limiti di spesa e di numero di azioni, e un pulsante di arresto provato in esercitazione, non solo scritto in un documento. infine, prima di mettere un agente in produzione lo si attacca deliberatamente per vedere come si comporta, come si fa con qualsiasi applicazione esposta. Con questa consapevolezza ACI ha costruito il Registro dei sistemi di IA dell’Ente: un agente che non compare nell’inventario è un’applicazione non autorizzata e va trattata come tale. Il controllo non sfugge all’improvviso si perde poco alla volta, un’approvazione automatica dopo l’altra», conclude Pensa.
Human in the loop: principi, rischi e soluzioni
Il rischio della supervisione automatica
Il principio dell’human in the loop nasce proprio per assicurare supervisione, responsabilità e capacità d’intervento. Tuttavia, la sua applicazione rischia di diventare problematica quando il numero di operazioni generate dall’AI supera la capacità delle persone di verificarle.
Il risultato può essere un controllo soltanto formale, fatto di approvazioni rapide e verifiche superficiali, nel quale l’intervento umano esiste sulla carta ma perde efficacia nella pratica. Gli esperti la chiamano reviewer fatigue: quando un sistema AI genera decine di richieste di revisione, per esempio modifiche al codice software, il revisore umano rischia di approvarle in modo sempre più automatico. Se la maggior parte dei risultati sembra corretta, anche l’errore più significativo può passare inosservato.
Al tempo stesso, Gartner ha sottolineato come la presenza umana non sia una garanzia sufficiente nella gestione dell’AI. Il nodo è: eliminare progressivamente i livelli di revisione senza adeguate salvaguardie può aumentare i rischi di errore, non conformità e danno reputazionale; mantenere un controllo manuale permanente su ogni operazione può limitare l’autonomia e la scalabilità degli agenti.
La sfida è dunque costruire un modello di supervisione proporzionato al rischio, capace di conciliare efficienza operativa e responsabilità. In termini pratici, questo significa distinguere le attività reversibili e a basso impatto da quelle che possono produrre conseguenze rilevanti per clienti, sistemi, risorse economiche o conformità normativa.
Human in the loop: è davvero attuabile?
Ottenere e mantenere vigilanza umana resta, dunque, uno dei punti più critici dell’implementazione dell’AI. Come nota Pensa, «In teoria è più che possibile attuare il modello human in the loop, ma nella pratica il rischio di ridurlo a mera forma è molto alto. L’operatore umano deve essere davvero in grado di dire no. Se riceviamo 300 proposte al giorno dall’AI e le approviamo tutte senza vigilare, firmando perché ci fidiamo del software per abitudine o convenienza, stiamo rinunciando al controllo. Per evitare questo rischio, la vigilanza va costruita nel sistema, non affidata alla buona volontà».
Per esempio, secondo Pensa ogni proposta dell’AI deve citare le fonti e i dati su cui si basa, così l’operatore controlla il ragionamento e non solo il risultato. Inoltre, sotto una certa soglia il caso deve comunque passare alla supervisione umana; sopra, vanno comunque svolti dei controlli a campione.
«Attuate queste regole, si misura quanto spesso la decisione finale si discosta dalla proposta dell’AI e, se quella percentuale scende vicina allo zero, è un allarme, non un successo», sottolinea Pensa. «In sintesi se nessuno corregge mai l’AI, non vuol dire che sia perfetta, ma che nessuno la sta più guardando».
Come osserva Turchetta: «Nell’utilizzo quotidiano, la sfida è evitare che la familiarità con gli strumenti si trasformi in un eccesso di fiducia nei risultati. Per questo le nostre linee guida si fondano su sei principi per un’adozione responsabile dell’AI e, tra questi, il giudizio professionale ha un ruolo centrale: l’intelligenza artificiale supporta il lavoro, ma non sostituisce la competenza delle persone, a cui resta la responsabilità delle decisioni. Chi ne utilizza i risultati deve verificarli nel merito, adattarli al contesto e validarli con un livello di approfondimento proporzionato al loro impatto», prosegue Turchetta. «Lo human in the loop, del resto, non nasce con l’AI: anche un lavoro ricevuto da un fornitore o da un collega richiede un controllo prima di essere condiviso con il cliente».
Nell’utilizzo quotidiano, la sfida è evitare che la familiarità con gli strumenti di AI si trasformi in un eccesso di fiducia nei risultati
Stefano Turchetta, Chief AI and Digital Transformation Officer di Proger
Una nuova responsabilità per i CIO
Per i CIO, lo human in the loop diventa quindi una componente della governance aziendale, da integrare con cybersicurezza, gestione delle identità digitali, autorizzazioni, tracciabilità delle operazioni e procedure di escalation. È necessario stabilire quali attività gli agenti possano svolgere autonomamente, quali richiedano una verifica indipendente e quali debbano rimanere sotto la responsabilità diretta di una persona.
La parte complicata è trovare un equilibrio: un controllo troppo debole espone l’organizzazione a rischi operativi e di sicurezza; uno troppo rigido vanifica parte dei benefici dell’automazione. Anche la verifica affidata ad altri agenti AI può contribuire a rendere il processo più efficiente, purché non diventi un nuovo livello di fiducia cieca e sia accompagnata da controlli indipendenti, criteri misurabili e responsabilità chiaramente assegnate.
In definitiva, l’obiettivo non è mantenere l’essere umano in ogni singolo passaggio, ma assicurare che sia presente nei momenti in cui il suo giudizio è davvero necessario e che abbia strumenti e autorità per contestare o fermare il sistema. Nell’era dell’AI agentica, il valore dello human in the loop non si misura dal numero di approvazioni richieste, ma dalla qualità delle decisioni che contribuisce a garantire.
Partecipa alla community