Come capire se un contenuto è creato con l'IA? La ricerca e gli annunci di Google ne mostreranno l'origine

Google ha appena annunciato l'implementazione nella ricerca e nelle pubblicità di una nuova tecnologia che permettersi di capire se una foto è stata creata o modificata con strumenti di intelligenza artificiale generativa.

L'iniziativa fa parte di un progetto ben più ampio, chiamato C2PA (Coalition for Content Provenance and Authenticity), che raccoglie le più grandi aziende del mondo, tra cui Amazon, Adobe, Intel, OpenAI, ed è intesa a una maggiore trasparenza sui contenuti (non solo le immagini).

Scopriamo come l'annuncio di Google vuole spingerne l'utilizzo, oltre a ricordarvi la nostra guida su come scrivere un prompt efficace per Midjourney.

Il C2PA è un'alleanza fondata da Adobe, Arm, Intel, Microsoft e Truepic, che ne propone uno standard tecnico aperto per fornire a editori, creatori e consumatori la possibilità di tracciare l'origine di diversi tipi di contenuti multimediali.

L'idea è che con l'aumento di strumenti di intelligenza artificiale generativa o comunque applicazioni in grado di modificare o generare contenuti, è necessario fornire distinguere le informazioni fuorvianti da quelle reali attraverso una certificazione che garantisce la fonte e la storia (o la provenienza) dei contenuti multimediali.

Nel concreto, qualsiasi dispositivo o programma che genera o modifica un contenuto dovrebbe inserire i dati C2PA nei metadatiin modo da, idealmente, garantire la fonte e permetterne il riconoscimento da parte di un programma o uno sistema (ad esempio la vostra galleria di immagini o la ricerca Google).

Google è unito al progetto all'inizio del 2024, ma ha subito contribuito al lancio, nell'agosto del 2024, della versione 2.1 dello standard anche grazie alle sue conoscenze nell'ambito del riconoscimento dei contenuti generati da IA.

Per esempio, nel 2023 la GrandeG aveva lanciato SintesiID, un toolkit in grado di incorporare filigrane in audio, testi, immagini o video generati dall'IA ed è in grado di identificare quindi i contenuti generati in quel modo.

C'è però un problema: per quanto lodevole, la certificazione C2PA non sta avendo un grande successo e con un processo che ricorda per certi versi Matter nella domotica, anche se le grandi aziende si sono unite per favorirne lo sviluppo, poi nella realtà non lo stanno adottando.

Il C2PA pone infatti sfide enormi dal punto di vista dell'interoperabilità: per esempio, anche se una macchina fotografica o un telefono aggiungono i dati C2PA all'immagine, non è detto che un sistema o un programma riesca a leggerli.

Facciamo qualche esempio: Leica e Sony supportano lo standard C2PA, aggiungendo i metadati delle impostazioni della fotocamera, oltre ai dati e alla posizione in cui è stata scattata un'immagine. Nikon e Canone si sono entrambi impegnati ad adottare lo standard C2PA, ma non si sa se e quando Mela e Google implementeranno il supporto C2PA negli iPhone e nei dispositivi Android.

Fotoritocco e Luce della stanza di Adobe sono in grado di aggiungere i dati C2PA alle immagini, ma Foto di affinità, Gimp e molte altre no. Non solo, ma una volta aggiunti, questi dati non sono facilmente leggibili, in quanto non vengono aggiunte etichette che consentono di riconoscerli.

Ed è qui che interviene Google.

Con l'annuncio di ieri, la GrandeG ha infatti dichiarato che nei prossimi mesi lo implementerà norma C2PA nella ricerca e nelle pubblicità.

Nella Ricerca, se un'immagine contiene metadati C2PA le persone saranno in grado di utilizzare la funzione “Informazioni su questa immagine“per vedere se è stato Creata lo modificato con strumenti di intelligenza artificiale.

“Informazioni su questa immagine” aiuta a fornire alle persone un contesto sulle immagini che vedono online ed è accessibile in Immagini di Google, Lente e Cerchia e Cerca.

Negli annunci, Google dichiara che i suoi sistemi pubblicitari stanno iniziando a integrarli metadati C2PAcon l'obbiettivo di espanderne sempre più l'adozione e utilizzare i da C2PA per informare su come vengono applicate “la politica chiave“. Questo punto non è chiarissimo, ma immaginiamo che per ogni annuncio si potrà sapere la provenienza dei contenuti.

Inoltre Google ha dichiarato di essere al lavoro per le informazioni C2PA anche a chi visualizza i video su YouTube quando i contenuti vengono registrati con una fotocamera, e condivideranno ulteriori informazioni nel corso dell'anno.

Inoltre la casa di Mountain View assicura che si assicureranno che i dati C2PA siano corretti grazie al Elenco dei trust C2PAche consente alle piattaforme di confermare l'origine del contenuto.

Ad esempio, se i dati mostrano che un'immagine è stata scattata da un modello di fotocamera specificail C2PA Trust List aiuta a convalidare che questa informazione è accurata.

Si spera che l'adozione da parte di Google del C2PA incoraggi altre aziende a implementare etichette simili, ma come ricorda la GrandeG stessa non c'è una soluzione semplice al problema e per questo è necessario che tutti contribuiscano.

Creare immagini contro l'intelligenza artificiale vi incuriosisce? Ecco una serie di strumenti gratuiti che vi consentono di farlo in uomini che non si dica e iniziare a conoscere questo incredibile mondo!