News

Prove di standard per l’AI watermark, sul cloud di Adobe

Un gruppo di grandi aziende statunitensi ha studiato un’icona “portatrice di metadati” che mira a diventare lo strumento universale per contrassegnare le immagini realizzate con l’AI. Gli ostacoli tecnologici e culturali non mancano, ma la prospettiva di opporsi al pericolo deepfake e segnare un passo avanti nella lotta per i diritti degli artisti è allettante

Pubblicato il 25 Ott 2023

Immagine di Zenzeta su Shutterstock

A suon di proteste e di cause legali, vinte o perse che vadano, il mondo degli artisti sta influenzando le modalità con cui l’intelligenza artificiale generativa viene gestita, proposta e imposta dalle Big Tech. Un’ulteriore dimostrazione è rappresentata dall’iniziativa di una coalizione di aziende interessate, provenienti da vari settori, che mira a creare e regalare al mondo lo strumento standard globale per capire sempre e comunque se un’immagine è stata creata da un umano o da una macchina.

Quella che sembrava destinata ad essere la “domanda dei prossimi decenni”, potrebbe trovare risposta in un simbolino tondo. È ciò che alcune aziende, tra cui Adobe, sperano e si stanno dando da fare per avverare questo sogno che li farebbe entrare nella storia dell’AI. E forse anche dell’Arte.

La verità racchiusa in un cerchio cliccabile

Partiamo dal simbolo. Si tratterebbe di una sorta di icona di trasparenza, una “filigrana dell’intelligenza artificiale” con le lettere minuscole “cr” all’interno di una bolla, simile a un segno vocale. Alcune big tech assieme ad altre aziende di altri settori interessati, unite nella Coalition for Content Provenance and Authenticity (C2PA) l’avrebbero creata per fornire un tool che indichi se un’immagine è stata creata da un modello o dall’uomo e come. Dietro c’è un meccanismo che usa i metadati di un’immagine per certificare in modo sicuro e digitale la sua fonte e la storia delle modifiche subite, comprese quelle con l’AI.

Microsoft, Adobe e altri della coalizione vogliono garantire che i loro generatori di AI includano in futuro questi metadati con firma crittografica nelle loro immagini. È essenziale che ciò avvenga affinché le future app compatibili le segnalino come prodotte artificialmente utilizzando il simbolo creato.

Dal punto di vista dei fruitori di immagini, è necessario che ci si munisca di un’applicazione compatibile e che comprenda i metadati delle credenziali di contenuto. A questo punto, diventa possibile riconoscere questi dati all’interno del file e sovrapporre all’immagine in un angolo superiore il simbolo “cr”. Cliccandoci sopra, un widget compare e descrive la fonte e altri dettagli dei metadati.

Il cerchio sembrerebbe chiudersi, basterebbe solo farci l’abitudine, se non fosse che quando un file “etichettato” come “creato con AI” viene aperto in un’applicazione che non supporta l’icona di C2PA, non viene visualizzato alcun simbolo. Anche uno strumento tanto comunemente usato come Chrome, per esempio, non si accorgerebbe di nulla e non avrebbe in ogni caso la possibilità di sovrapporre l’icona.

La complessa strada verso il sogno dello standard

La tecnologia proposta da C2PA fin nei minimi dettagli mostra le potenzialità di diventare uno standard ma con dei grandi “se e ma” ancora da risolvere. Si basa sulla certezza della comprensione e del supporto dei metadati da parte di tutte le applicazioni in uso, cosa al momento non vera e nemmeno immediata da ottenere. Nasconde anche il rischio che qualcuno possa eliminare i metadati, esportando il file in un altro formato senza o facendo uno screenshot da un’applicazione che non sovrappone il simbolo, per poi distribuire l’immagine “nuda”.

Due scogli imponenti, da associare alla forte necessità di un’opera di sensibilizzazione “a tappeto” da effettuare sull’esistenza e sull’uso dell’icona.

Una sfida che in particolare Adobe sembra aver preso sul serio. Ha creato un Content Credentials cloud in cui si caricano i metadati dei file di immagine in modo che quando un file viene condiviso senza i suoi metadati di identificazione, si possano sempre e comunque recuperare. Tutto ciò se c’è una corrispondenza visiva, ma è già un bel passo avanti per far diventare l’icona C2PA uno standard universale. Con l’idea del cloud, infatti, una volta che un contenuto digitale viene firmato con dei Content Credentials, gli vengono associati metadati che “viaggeranno” con esso ovunque vada. E potranno essere recuperati, se eliminati per errore o con volontà di inganno.

Chiaro il meccanismo e i “to do” dal punto di vista tecnico, la parte di awareness e di lobby resta da portare avanti. Le persone devono imparare a conoscere il simbolo e pretendere che le loro applicazioni lo supportino. Gli artisti e i generatori di immagini AI devono fornire sempre i metadati. Gli editori online, i social network e gli altri host di contenuti devono collegarsi al cloud per recuperare quelli potenzialmente mancanti.

Tanti sono quindi gli attori chiamati a fare la propria parte, discreto è il numero di coloro che stanno comprendendo l’importanza dell’intento all’origine dell’iniziativa C2PA e si stanno muovendo. Bing Image Creator punta a rendere disponibile l’icona entro la fine dell’anno e produttori di fotocamere come Leica Camera e Nikon vorrebbero utilizzare le specifiche nelle future apparecchiature, per inserire l’origine delle foto negli scatti dei fotografi.

Se l’icona “cr” diventasse onnipresente come il simbolo del copyright, si tratterebbe di un duro colpo al mondo dei deepfake. Le stesse aziende avrebbero inoltre uno strumento per dimostrarsi trasparenti sull’uso di immagini sintetiche nelle campagne pubblicitarie e di marketing, iniettando una buona dose di fiducia in questo settore tuttora continuamente rivoluzionato dall’intelligenza artificiale.

Valuta la qualità di questo articolo

La tua opinione è importante per noi!

Articoli correlati

Articolo 1 di 4