OpenAI sa se un testo è stato generato da ChatGPT, ma non vuole smascherare i suoi utenti
Stai a quanto riportato dal giornale di Wall Street, IA aperta ha realizzato un sistema in grado di creare una filigrana digitale per contraddistinguere un testo creato con ChatGPT. Tuttavia, questo sistema ancora non sarebbe stato ancora rilasciato poiché la società non sarebbe convinta della sua utilità, soprattutto perché potrebbe ridurre l'uso del chatbot e di conseguenza i ricavi dell'azienda.
Dall'altro lato, questa filigrana consentirà alle persone di accertare facilmente se un contenuto è stato creato con l'ausilio dell'intelligenza artificiale o meno. Tutto ciò sarebbe utile soprattutto in alcuni ambiti, come quello scolastico.
L'azienda al Wall Street Journal ha ammesso di aver lavorato sulla realizzazione di questa filigrana per il riconoscimento dei testi generati con l'ausilio dell'AI.
Entrando nei particolari, secondo OpenAI questo strumento consentiràbbe di rilevare il testo generato dall'intelligenza artificiale con un'efficacia pari al 99,9%. Dunque, funzionerebbe al meglio anche con un testo che ha subito delle modifiche.
Tra l'altro, sembrerebbe che ci sia un modo per aggirare questo controllo, cioè rielaborando lo stesso testo secondo un modello IA simile.
Tuttavia, come già evidenziato all'inizio, sembra che l'azienda stia ancora valutando il rilascio di questo strumento poiché teme che potrebbe convincere gli utenti a non utilizzare l'IA. A conferma di ciò anche un sondaggio lanciato stesso da OpenAI, che ha “certificato” come il 30% degli utenti avrebbe evitato di utilizzare ChatGPT se questo sistema di riconoscimento fosse applicato ai testi.
In ogni caso, sul proprio blog, OpenAI ha parlato di essere nelle “prima fase” dell'esplorazione sull'incorporamento di metadati. Infine, ha anche aggiunto che è troppo presto per capire con certezza se questa funzione tecnica è davvero oppure può innescare il rischio di creare falsi positivi.
In attesa di sapere come OpenAI scioglierà questo dubbio amletico sul suo strumento per rilevare i testi creati con l'AI, vi consigliamo la lettura di alcune delle nostre guida dedica un ChatGPTtra cui
