Alcuni governi, in giro per il mondo, anche tra i più “insospettabili” come Australia e Regno Unito, “punzecchiano” le aziende tech perché avanzino idee e proposte di soluzioni che permettano di ottenere informazioni sui messaggi criptati, anche tramite accesso backdoor.
La necessità e il desiderio di prevenire la diffusione di contenuti abusivi (materiale pedopornografico, reti criminali e traffico di droga, etc) fanno pressing sulle app di messaggistica perché aumentino la moderazione e la sicurezza su ciò a cui permettono di circolare.
La crittografia è “in pericolo” secondo gli esperti di privacy e sicurezza, quella end to end in primis. Ma è, per ora quasi l’unica tecnologia che assicura a un utente di poter inviare un messaggio a un altro, senza che nessun “estraneo” – persona, azienda o autorità – possa decifrarlo. Si basa sulla matematica dei codici e trasforma in testo cifrato ciò che si invia, in modo che solo e soltanto il diretto destinatario possa leggerlo.
Automatic scanning: chi crea il database benchmark?
Forti e comprensibili necessità opposte confluiscono in servizi quotidianamente utilizzati da miliardi di persone: l’ideale sarebbe evitare di innescare l’ennesimo braccio di ferro tra opposte posizioni. Solo l’innovazione tecnologica può indicare una terza via, se diventa in grado di offrire soluzioni che garantiscano la privacy e non infrangano la sicurezza, ma consentano almeno un certo livello di moderazione dei contenuti.
La recente buona notizia è che queste tecnologie ci sono: seppur ancora in piena fase di ricerca, si stanno facendo strada e regalano speranza. Quella che potrebbe soddisfare la necessità di conservare un alto livello di protezione della privacy è l’automatic scanning, che analizza i messaggi sfruttando l’intelligenza artificiale per confrontarli con un database di “materiale discutibile” e valutarne la liceità. In teoria, le aziende di messaggistica potrebbero poi procedere e bloccare il messaggio, o segnalarlo alle forze dell’ordine e al destinatario.
La scansione si può effettuare lato client, per esempio, prima che i messaggi in partenza vengano crittografati e inviati. Tra i problemi c’è quello che la tecnologia alla base richiede una enorme potenza di calcolo e tale esigenza si traduce in grossi problemi di scalabilità.
Esisterebbe anche un forte rischio di falsi positivi, legato alla ancora scarsa accuratezza degli algoritmi di moderazione. Nessuno nega che in futuro potrebbero migliorare, ma nel frattempo possono andarci di mezzo delle persone e dei contenuti innocenti. Tutto ciò fa discutere sulla validità di questa potenziale soluzione, senza contare che servirebbe anche comprendere chi deciderà cosa inserire nel database del materiale discutibile che farebbe da “benchmark”.
Message franking e forward tracking: moderazione in due step
Compare all’orizzonte degli appassionati di crittografia anche una seconda opzione, denominata “message franking & forward tracking”. Si tratta di una combinazione di tecnologie che propongono una procedura in due step.
Il primo mira a produrre segnalazioni verificabili di messaggi dannosi, inserendovi un’etichetta che funziona come una firma elettronica invisibile. L’azienda potrebbe quindi usare questa tag per identificare i contenuti da controllare, utilizzando il forward tracing per tracciarne l’origine.
In teoria, dopo questo iter, si potrebbe anche chiudere o multare gli account che diffondono messaggi non graditi, sempre che sia legale farlo e si riesca a risalire davvero al responsabile. Una missione quasi impossibile, considerando quanto possono rivelarsi “virali” i messaggi virali.
Entrambe le procedure allo studio sembrerebbero due potenziali strade tecnologiche per rendere più solida la moderazione incentrata su utente e community e aumentare la visibilità negli spazi criptati. Con i loro pro e contro, offrono spunti su cui lavorare ma risultano migliorabili – e da migliorare – sia dal punto di vista tecnologico che come approccio legale.
Un contributo alla loro evoluzione potrebbe in futuro arrivare anche dai team di ricerca di alcune Big Tech. Ci sono infatti quelle che, come Meta, hanno promesso di crittografare le proprie applicazioni di messaggistica e, prima o poi, si potrà scoprire su che strada – e su che tecnologia – hanno intenzione di puntare.
