Un’intelligenza artificiale davvero pronta a entrare nei processi quotidiani di imprese e istituzioni non può prescindere da fondamenta solide: trasparenza nei processi, rispetto delle normative, equità delle decisioni automatizzate. È su questi pilastri che si gioca la fiducia – e, quindi, il futuro – dell’AI. Non a caso, il dibattito sull’etica dell’intelligenza artificiale è oggi più che mai aperto, e una presa di posizione chiara da parte di aziende e vendor tecnologici non è più un’opzione ma una propria priorità strategica.
Perché la verità è semplice: solo un’AI in cui le persone possono credere e di cui possono fidarsi è un’AI pronta per il futuro.
Un esempio concreto di questo impegno arriva da SAS, tra le prime realtà ad aderire all’AI Pact, l’accordo volontario proposto dalla Commissione Europea per promuovere l’adozione anticipata di misure etiche e di sicurezza IA rispetto all’entrata in vigore dell’EU AI Act.
A raccontarlo durante un recente incontro stampa è Reggie Townsend, Vice President Data Ethics Practice di SAS, che ha condiviso con i giornalisti principi e visione strategica, ma anche modelli e soluzioni che la software house americana ha progettato per garantire l’AI Governance e l’etica by design delle proprie soluzioni.
Indice degli argomenti
Etica dell’intelligenza artificiale e consenso sociale
Per SAS, l’etica nell’AI non è una checklist di vincoli da soddisfare ma piuttosto un processo continuo di allineamento tra tecnologia e valori sociali. “Parliamo di etica dell’intelligenza artificiale in termini di consenso sociale – spiega Townsend –, il che significa che sono i membri di una società o di un gruppo a decidere ciò che è appropriato in un dato momento”.
Da questa premessa deriva un concetto centrale nelle strategie AI di SAS: nessuno in azienda è considerato “in charge” e ha, quindi, la responsabilità manageriale di garantire gli sviluppi etici dell’AI in senso assoluto. Il compito di Townsend è, piuttosto, quello di assicurare che modelli e soluzioni SAS rispettino le normative locali e siano socialmente e culturalmente appropriati in tutte le geografie in cui l’azienda è presente.
Ad aiutarlo in questo compito non certo semplice c’è un team globale con professionisti che hanno un background piuttosto variegato, che spazia dalla tecnologia al legal, alla filosofia.
Un framework per la governance etica dell’AI
“Il nostro approccio di innovazione responsabile – premette il manager – ci impone di chiederci non solo se possiamo fare qualcosa, ma anche se dovremmo farlo. Questo ci permette di anticipare, mitigare e, per quanto possibile, evitare danni non intenzionali, in particolare verso i soggetti più vulnerabili”.
Per trasformare i principi in pratica, SAS ha sviluppato un approccio collaborativo alla governance AI battezzato QUAD, basato su quattro pilastri interrelati.
- Il primo – Oversight (supervisione) – assicura che le tecnologie e i processi basati sull’AI rispettino i principi di etica dei dati attraverso un approccio di tipo consulenziale che è trasversale in azienda.
- Il secondo livello – Control (controllo) – è quello per cui SAS recepisce e interpreta aspettative e richieste per sviluppare soluzioni AI in linea con le esigenze del mercato e la conformità normativa.
- Il terzo, quello delle Operations (operazioni) riguarda gli investimenti in infrastrutture e tecnologie utili a tradurre in pratica i principi di AI etica.
- Infine, il principio denominato Culture (cultura) mira a favorire la creazione in azienda di un ecosistema di champion per promuovere la condivisione di conoscenze e buone prassi coerenti con i principi dell’etica dei dati.
Dall’ideazione alla dismissione: l’intero ciclo di vita dei progetti sotto controllo
L’approccio SAS si fonda su un principio semplice, ovvero che “la fiducia nell’AI deve essere costruita prima ancora di scrivere la prima riga di codice”, osserva Townsend. “Garantire l’etica by design per noi significa analizzare a monte le implicazioni di ogni progetto AI valutando obiettivi, tipologia e qualità dei dati, privacy e sicurezza, BIAS presenti nel dataset”, puntualizza.
L’analisi controfattuale e la tracciabilità delle decisioni che sottendono i comportamenti dei modelli sono pratiche standard nei progetti AI di SAS. “La tecnologia è per definizione agnostica – osserva Townsend – e l’intento d’uso è estremamente più importante del modello stesso. Un modello AI usato lecitamente in fabbrica, per esempio, può creare problemi se applicato a scenari di sorveglianza civile. Da qui nasce l’importanza di una governance che consideri il contesto culturale e normativo di ogni Paese, oltre alle peculiarità dei singoli use case. In SAS controlliamo in modo maniacale che i dati siano raccolti in modo adeguato agli obiettivi, che siano ripuliti, che si possano fare analisi controfattuali per dimostrare che i risultati prodotti sono coerenti con le aspettative… Verifichiamo che i BIAS pericolosi siano identificati e rimossi prima che possano cagionare un danno, e privacy e sicurezza non sono trattate come termini astratti. Tuteliamo al massimo la riservatezza, l’anonimato e la protezione delle informazioni”.
SAS considera ogni fase dello sviluppo di modelli AI, inclusa quella troppo spesso dimenticata della dismissione. “Nessun modello esiste per sempre – spiega –. Mantenere in produzione modelli obsoleti o che non rispondono più bene al contesto nel quale operano è inutile, anzi potenzialmente pericoloso. La cosiddetta deprecazione dei modelli e la gestione dei dati legacy a questi collegati diventano, così, parte integrante della governance, tanto quanto il monitoraggio delle performance dei modelli e la mitigazione dei BIAS”.
Etica dell’intelligenza artificiale: soluzioni operative per un’AI responsabile e governata
SAS non si limita a parlare di intelligenza artificiale etica, ma trasforma questa visione in soluzioni pronte all’uso. Un esempio è SAS Model Risk Management (MRM), un software per la gestione del rischio legato ai modelli analitici di AI e Machine Learning.
SAS MRM consente alle organizzazioni di monitorare l’intero ciclo di vita dei modelli – dalla creazione alla validazione, fino alla dismissione – assicurando trasparenza, conformità normativa e pieno controllo operativo.
Il sistema aiuta a identificare, soppesare e mitigare i rischi associati a modelli critici, garantendo che siano affidabili e continuamente aggiornati per essere in linea con l’evoluzione in atto nel concetto di social consensus.
“Il nostro impegno – conclude Townsend – va ben oltre la compliance. Se lo sviluppo di una tecnologia non rispetta i valori di privacy, sicurezza o inclusione, allora quella è un’area dove SAS non vuole fare business, anche se ci sono delle opportunità”.
