Tempi duri per i “furbetti dell'IA”: Google Foto ci dirà se un'immagine è stata modificata

A breve sarà molto più semplice sapere se stiamo guardando un'immagine modificata con l'IA generativa: Google Foto sta per ottenerne una sezione informativa dedicata.

La diffusione degli strumenti per generare e modificare immagini è cambiata sempre la nostra percezione della realtà, e per questo anche l'Europa si è messa in moto con la legge sull'AI. Ma anche le aziende tecnologiche devono fare la loro parte per rendere il più trasparente possibile l'utilizzo dell'IA: vediamo come funziona la soluzione di Google.

Il funzionamento di questo strumento è tanto semplice quanto, in teoria, efficace. Quando si apre un'immagine in Google Fotoscorrendo verso l'alto si arriva a una sezione chiamata Dettagli, che mostra una serie di informazioni come i dati del dispositivo che l'ha scattata, le dimensioni e se è stata sottoposta a backup.

A partire dalla prossima settimana, verrà aggiunta una nuova voce, chiamata Informazioni sull'IAche mostrerà le dovute informazioni.

La prima, chiamata Credito (non sappiamo come verrà tradotta in italiano), mostrerà se l'immagine è stata modificata con l'intelligenza artificiale.

Come si vede in questo esempio, fornito da Google, si può vedere la scritta “Modificato con Google AI“o”Realizzato da Google AI“, se l'immagine è stata modificata con Pixel Studio e Gemini.

La seconda, chiamata Tipo di sorgente digitalemostrerà Modificato utilizzando l'IA generativaovvero con strumenti come Redattore magico, Gomma Magica e Zoom Migliorato. I primi due si possono trovare su tutti i telefoni, mentre l'ultimo è esclusivo per i telefoni Google, ma tutti includono già i metadati nelle immagini per riconoscerle come modificate con l'IA.

In alternativa, è possibile trovare la scritta Composito di elementi catturati (ancora, non sappiamo come verrà tradotto in italiano), nel caso di modifiche che pur non usando l'IA generativa non catturano un momento reale, come Scatto Migliore e Aggiungimi.

C'è un aspetto importante da tenere presente, ovvero che lo strumento non riconoscerò solo le modifiche apportate dall'IA di Google, ma tutte le immagini che seguono lo standard IPTC.

L'IPTC (International Press Telecommunications Council) è l'organismo standard globale dei media, che ha introdotto uno standard per i metadati relativi alle immagini create o modificate con l'IA (appunto Credito e Tipo di sorgente digitale).

Non solo, ma Google ha già annunciato a settembre una”maggiore trasparenza intorno alle modifiche AI“, tanto che si è unita alla Coalition for Content Provenance and Authenticity (C2PA).

Google ha annunciato che la novità arriverà la la prossima settimana per tutti gli utenti Google Foto.

C'è però un problema, anzi due. Il primo, come si può vedere dall'immagine sopra, è che i metadati possono essere facilmente modificati. Il secondo è lo strumento IA deve includere i metadati secondo lo standard IPTC.

In pratica, se uno sviluppatore non vuole includerli, non si saprà mai che un'immagine è stata modificata o creata con l'IA. In Europa si sta cercando di superare questo limite con la legge sull'AIma anche se è entrato in vigore ad agosto 2024, la sua applicazione completa richiederà ancora due anni.

Ecco perché Apple, che con iOS 18.2 introdurrà Intelligenza visivaalmeno negli Stati Uniti, ha deciso per il momento di tenersi alla larga da funzioni come l'aggiunta di oggetti nelle foto. Mentre la rimozione di oggetti sarà indicato con un tag nell'app Foto ei metadati corrispondenti.

La questione insomma è tutt'altro che risolta, ma la mossa di Google è sicuramente un passo nella giusta direzione.

Il tema della generazione e modifica di immagini con l'IA vi appassiona? Ecco una serie di approfondimenti che potrebbe interessarvi.