Etica, trasparenza e fiducia per un’AI davvero “friendly”. Il parere dei CIO 

pittogramma Zerouno

Attualità

Etica, trasparenza e fiducia per un’AI davvero “friendly”. Il parere dei CIO 

Anche un’integrazione infrastrutturale da manuale richiede un engagement di utenti, dipendenti e C-level. Per i CIO diventa quindi necessario ampliare le sfide IT includendo anche temi etico-filosofici. É questo l’unico modo per vincere quella resistenza che spesso si incontra durante i processi di innovazione. Dietro ai tanti luoghi comuni sul rapporto dell’uomo con la tecnologia, esistono criticità concrete da affrontare. È questo uno dei temi al centro dell’edizione 2022 di CIOsumm.IT & Digital360 Awards. Il percorso di preparazione è iniziato con una riflessione su una delle tecnologie più popolari e discusse: l’intelligenza artificiale.

12 Mag 2022

di Marta Abba'

L’integrazione di nuove tecnologie all’interno di un’azienda non è solo una sfida infrastrutturale. Se questo è l’aspetto che più preoccupa e drena energie e tempo, esiste un tema legato all’impatto a livello sociale e agli effetti trasformativi sulla nostra vita. Le nuove tecnologie, in quanto nuove e in quanto tecnologie, possono anche destabilizzare e fare paura. Per non scatenare un effetto di rigetto, o addirittura “perdere il controllo” del processo di trasformazione digitale, è essenziale che i CIO si preparino a gestire in modo strategico il rapporto tra tecnologia e valori. Una mission resa ancora più complessa dall’attuale contesto, tanto da meritare una riflessione ad hoc all’interno del prossimo CIOsumm.IT & Digital360 Awards, che rappresentano uno dei più importanti spazi di confronto dedicati ai CIO italiani e all’innovazione.

Sempre più sinergiche, le due iniziative in questo 2022 propongono una riflessione sul tema: “Fuori dal Black Mirror: dall’Umanesimo Digitale all’Homo Digitalis”. Al centro del primo incontro tenutosi nel mese di aprile e che proseguirà fino all’evento finale di Lazise a settembre, è stato posto il tema dell’intelligenza artificiale. Un caso esemplare e ancora aperto di come una tecnologia può sollevare entusiasmi, dubbi e paure in modo eccezionalmente potente. L’analisi del tema AI è stato affrontato attraverso una survey in tempo reale che ha coinvolto i partecipanti all’incontro e una serie di tavole rotonde, in cui si è approfondito il tema dell’adozione di tecnologie basate su intelligenza artificiale e del loro impatto.

AI & business, una relazione necessaria per avere il sì del CEO

Per affrontare la sfida legata a una implementazione “umano centrica” dell’intelligenza artificiale è necessario convergere prima di tutto su una definizione concordata dell’AI stessa. La survey proposta ai partecipanti in real time ha dimostrato che l’AI è vista sia come un insieme di tecniche a supporto dell’intelligenza dell’essere umano, sia come una serie di sistemi in grado di emularne alcune capacità tipiche. La maggior parte delle aziende la sta interpretando e presentando al proprio interno in questi termini, spesso declinandola in maniera specifica nel proprio contesto. Diagnosi mediche od offerte clienti personalizzate sono già realtà, e l’AI è spesso sfruttata anche per il raggiungimento degli SDG.

Per evitare che nell’immaginario l’AI finisca per collocarsi in un’area grigia in cui trovano spazio dubbi e timori, è necessario puntare su consapevolezza e trasparenza. Tra le prime aree su cui sperimentare tale approccio, ci sono l’operation, seguita dal marketing. Nel contesto attuale, l’utilizzo dell’intelligenza artificiale si concentra sull’obiettivo è sempre migliorare la produttività e l’efficienza, sgravando per esempio i dipendenti dalle attività a basso valore.

Grandi aspettative si rivolgono anche in direzione della gestione dei livelli di complessità raggiunti dalla supply chain, che richiedono tempo, effort e anche la capacità di analizzare ed elaborare tempestivamente una quantità di dati ingestibile per un essere umano. L’AI diventa anche in questo campo un’alleata indispensabile. Dalla survey poco emerge il suo impatto sull’HR, un campo in cui invece diventa disruptive per le nuove competenze richieste, ma anche per la talent attraction e l’engagement.

Il primo “alto engagement” da conquistare è però quello dei decision maker da cui dipendono gli investimenti. La leva più utile è quella dell’automazione dei processi e dei servizi. Quasi tutti i CIO concordano invece sull’inutilità della risonanza mediatica: “Show me the money” è l‘indicazione da seguire. L’AI va contestualizzata e inscindibilmente collegata agli obiettivi aziendali: solo così potrà portare beneficio economico conquistando l’attenzione di chi definisce il budget per l’innovazione.

Dai bias alla cyberwar: le criticità irrisolte nello sviluppo dell’AI

Più o meno esplicitamente espresse, le paure attorno all’AI e a un suo ingresso in azienda sono numerose. Semplificarle, “banalizzarle” o ignorarle farebbe però perdere preziose opportunità di crescita. Dietro ad alcuni timori apparentemente irrazionali, ci sono infatti tematiche concrete su cui porre l’attenzione e che possono determinare la vita o la morte dell’AI. Il pericolo è infatti che, vendendola progredire, si inizi a pensare che possa sfuggire al nostro controllo.

Per i CIO diventano quindi fortemente necessarie regole condivise perché ciò non si verifichi. Si può premere, facendo sistema con i colleghi, perché ciò avvenga a livello governativo e globale, ma anche iniziare ad agire all’interno delle proprie realtà aziendali. Ad esempio, implementando o potenziando iniziative di data protection e data privacy, oltre che di trasparenza.

La necessità di un’etica digitale è sentita dai CIO soprattutto in relazione ai bias discriminanti e all’Human Control of Technology. Il secondo rappresenta per ora un orizzonte lontano ma che già fa tremare, il primo è invece un problema ben noto, ma ancora irrisolto. La soluzione è sempre mantenere le persone al centro del processo di innovazione, chiedendosi come possono essere coinvolte.

Allargando lo sguardo alla società, i rischi maggiori e più immediati, secondo i CIO, riguardano la cyberwar. Come ripetono da tempo gli esperti di sicurezza informatica, l’utilizzo dell’AI non rimarrà per sempre un’esclusiva dei soggetti che operano nel settore della cyber security. Anche i criminali informatici, in un prossimo futuro, riusciranno a sfruttarne le potenzialità.

Prima di immaginare però come l’AI forgerà la società e il mercato del futuro, la domanda da porsi è su noi stessi come esseri umani. Ci renderà più stupidi, come le calcolatrici hanno creato generazioni incapaci di fare addizioni, sottrazioni e divisioni a mano? I CIO coinvolti nella survey ritengono che l’AI possa supportarci in molte attività e aspetti della nostra vita, ma sarà nostra scelta se porci da spettatori mentre lei “lavora” oppure investire il tempo conquistato in attività più importanti o soddisfacenti. Questa visione positiva e collaborativa del rapporto AI – uomo potrà diffondersi più velocemente anche al resto della società quando si approderà all’Explanaible AI. Sapendo come ragiona, diventerebbe meno criptica, più insospettabile e più “correggibile” in caso di gravi bias, anche se spesso questi derivano proprio da chi la istruisce.

Marta Abba'

Giornalista

Laureata in Fisica e giornalista, per scrivere di tecnologia, ambiente e innovazione, applica il metodo scientifico. Dopo una gavetta realizzata spaziando tra cronaca politica e nera, si è appassionata alle startup realizzando uno speciale mensile per una agenzia di stampa. Da questa esperienza è passata a occuparsi di tematiche legate a innovazione, sostenibilità, nuove tecnologie e fintech con la stessa appassionata e genuina curiosità con cui, nei laboratori universitari, ha affrontato gli esperimenti scientifici.

Argomenti trattati

Approfondimenti

Digital360 Awards

Articolo 1 di 4