Editoriale

I rischi legati all’AI generativa e gli ammonimenti di Asimov

Con il linguaggio naturale gli utenti usano strumenti di cui ignorano completamente il funzionamento “sotto il cofano”. È una buona idea?

Pubblicato il 24 Ott 2023

Immagine di VLADGRIN su Shutterstock

A quasi un anno dal lancio di ChatGPT, il caotico garbuglio di paure e allarmi lanciati sull’impatto a livello sociale dell’AI generativa si è (almeno parzialmente) dipanato in qualcosa di più comprensibile. Se in ambito business le sue possibili applicazioni sono ancora estremamente variegate e rappresentano sicuramente il settore in cui l’intelligenza artificiale può godere degli orizzonti più ampi di sviluppo ed evoluzione, nel mondo consumer è ormai evidente che il suo impatto maggiore riguarderà pochi e ben definiti ambiti.

Quello più interessante (e più immediato), però, è il modo in cui cambia l’interfaccia uomo/macchina. Con conseguenze che sono tutte da valutare.

Da Alien a Star Trek: col computer si parla

È questione di mesi prima che l’evoluzione del Copilot di Microsoft, probabilmente seguito dalla nuova versione di Siri che Apple ha in cantiere, ci regali la possibilità di interloquire con i nostri dispositivi esattamente come gli sceneggiatori delle serie di fantascienza hanno immaginato qualche decennio fa.

A ben vedere, Copilot potrebbe essere già qualcosa di molto simile a Mother, il computer della Nostromo con cui Ripley cercava di individuare strategie per eliminare lo xenomorfo che stava decimando il suo equipaggio. Quando arriverà anche il supporto per il riconoscimento vocale (e si tratta di un passaggio abbastanza scontato) arriveremo ai livelli di Kirk e Spock.

E qui arriviamo al punto: presto avremo a disposizione un sistema di interfaccia uomo/macchina terribilmente intuitivo e facile da usare. Qualcosa che segna un ulteriore passaggio dopo il touch screen e l’evoluzione delle UI in una chiave di “accesso facile” agli strumenti digitali. Tutto bene, quindi? Forse no…

Attitudine o evoluzione tecnologica?

Qualche giorno fa, chiacchierando con alcuni addetti ai lavori nel corso di una tavola rotonda, mi è capitato di affrontare il tema della “natività digitale”. Naturalmente, presa da una prospettiva decisamente “alternativa”.

Il ragionamento è il seguente: siamo sicuri che la confidenza dei millennials (o della Gen Z) con i dispositivi di nuova generazione sia dovuta a fattori educativi o esperienziali? Non è che questa disinvoltura sia in buona parte frutto dell’evoluzione delle UI?

A suffragio di questa tesi, c’è l’incontrovertibile prova dettata dal fatto che, da quando abbiamo assistito al passaggio a interfacce utente più “friendly” anche persone più “attempate” sono riuscite a entrare in un mondo che prima gli era precluso.

Diciamocelo: gli attuali settanta-ottantenni che oggi usano smartphone e tablet con una naturalezza disarmante non avrebbero mai raggiunto lo stesso livello di confidenza se avessero dovuto avere a che fare con mouse e tastiera.

Insomma, dire che i “giovani” hanno maggiore confidenza con la tecnologia rispetto alle generazioni precedenti per una presunta confidenza con gli strumenti digitali, rischia di essere una forzatura. Mettiamola così: rispetto agli anni Ottanta e Novanta, in cui l’uso dei suddetti strumenti era prerogativa di una nicchia di impallinati, oggi la fruizione è molto più estesa. Questo, però, non significa che le nuove generazioni siano “più tecnologiche”. Nel dettaglio, non è affatto detto che abbiano una maggiore conoscenza degli strumenti tecnologici. È addirittura probabile il contrario.

Isaac il veggente?

Torniamo all’esperienza diretta. Qualche settimana fa mi è capitato di aiutare un’amica a reimpostare la sua casella di posta elettronica su iPhone. Attenzione: non stiamo parlando di una Gen Z, ma comunque di qualcuno su cui, a livello anagrafico, sconto 10-15 anni e che quindi può essere tranquillamente ascritta alla categoria dei “nativi digitali”.

Ecco, quando le ho indicato le impostazioni per IMAP e SMTP, la risposta (su Whatsapp) è stata una serie infinita di punti di domanda. Insomma: una persona che ogni giorno utilizza l’email non ha la minima idea dell’infrastruttura che ne consente il funzionamento.

Altri episodi della mia vita personale hanno confermato, nel tempo, questo paradosso: chi ha maggiore confidenza nell’utilizzo degli strumenti digitali, spesso non ha la minima idea di come funzionino, di quali siano i “dietro le quinte” e di quali siano, di conseguenza, criticità, rischi e ripercussioni nell’uso degli strumenti stessi.

Concetti come i codec di compressione audio/video, l’utilizzo di driver su PC per l’uso di periferiche, la compatibilità tra formati, la stessa logica delle estensioni dei file sembrano essere diventati concetti esoterici, patrimonio di un gruppo di iniziati che vengono generalmente ascritti alla categoria degli “esperti di informatica”. Categoria che, lo dico ammettendo la mia ingenuità, ero convinto sarebbe scomparsa di pari passo alla diffusione dell’uso degli strumenti digitali.

In altre parole: se ho sempre ritenuto “normale” che concetti come l’uso di API o la micro-segmentazione dei servizi in ambiente Kubernetes siano appannaggio di pochi esperti del settore, il fatto che nessun utente di Whatsapp abbia la minima idea di cosa sia un sistema di crittografia end to end, lo ammetto, mi inquieta.

Ed eccoci a Isaac Asimov. Nel suo Ciclo delle Fondazioni, l’autore descrive uno dei “periodi bui” della Galassia come un tempo in cui migliaia di mondi utilizzano tecnologie di cui in realtà non comprendono il funzionamento. Sanno utilizzare i dispositivi, ma non saprebbero replicarli e neanche comprendono la tecnologia che vi sottende. Inutile dire che il giudizio etico di Asimov sul tema, così come traspare dai romanzi, è tutt’altro che positivo. Così come le ripercussioni che ipotizza.

L’impatto dell’AI sulle suggestioni di Asimov

Il nuovo paradigma dettato dall’intelligenza artificiale è destinato ad allargare la forbice. Se un’interfaccia utente accessibile ha provocato una simile voragine a livello di conoscenza, figuriamoci cosa potrà accadere quando diventerà normale affidare al computer dei compiti (per esempio creare una tabella Excel con qualche formula) che oggi ineludibilmente richiedono una qualche conoscenza, per lo meno a livello low code.

Tornando ad Asimov, il rischio è che la conoscenza diventi qualcosa di più simile a un culto mistico (cit: Cronache della Galassia e Prima Fondazione) piuttosto che un sapere condiviso. Qualcosa che, a occhio, non è proprio una bellissima idea.

Soprattutto perché, nel lungo periodo, quel ristretto gruppo di iniziati potrebbe diventare troppo ristretto. E lì comincerebbero i guai…

Valuta la qualità di questo articolo

La tua opinione è importante per noi!

Articoli correlati

Articolo 1 di 4