Deepfake, ChatGPT può aiutarci a scoprirli, ecco come

L’intelligenza artificiale combatte e smaschera sé stessa, ecco come il chatbot ChatGPT può svelare i deepfake

Negli ultimi mesi abbiamo assistito a diversi scandali relativi a video e immagini generati con Intelligenza Artificiale, talmente realistici da suscitare sgomento.

Di solito i deepfake generati con AI ritraggono persone conosciute e di rilievo mentre svolgono attività sconvenienti o vestono abiti poco consoni al loro ruolo, basti pensare a Papa Francesco in giacca di pelle.

Tuttavia, pare che il migliore deterrente per immagini deepfake sia proprio ChatGPT, l’Intelligenza Artificiale generativa che sta conquistando il mondo grazie alla sua comodità e alla sua semplicità di utilizzo, che da oggi è capace anche di avvisarci se l’immagine che le sottoponiamo è realizzate con tecnologia AI.

ChatGPT svela le bugie delle immagini AI

La manipolazione delle immagini che l’Intelligenza Artificiale consente è sofisticata e difficile da scovare, ecco perché l’unico modo per riuscirci è usare uno altro strumento AI based come ChatGPT. 

Secondo gli ultimi risultati riscontrati, ChatGPT riesce a segnalarci se l’immagine che stiamo sottoponendo alla sua attenzione è un deepfake nell’80% dei casi.

A dimostrarlo sono stati dei ricercatori del’Università di Buffalo, USA, che hanno sottoposto a ChatGPT, Gemini e Copilot, tutti strumenti chatbot di intelligenza artificiale generativa, alcune immagini di volti umani creati artificialmente. 

Il migliore chatbot a rilevare la falsità delle immagini è stato ChatGPT,  questo strumento LLM (Large Language Model) riesce ad analizzare l’immagine più a fondo e con maggiore precisione rispetto agli altri chatbot e l’efficacia all’80% si avvicina parecchio alla percentuale garantita da strumenti nati appositamente per smascherare deepfake.

L’aspetto più interessante è che ChatGPT si lascia andare in una descrizione accurata a parole del perché l’immagine che gli abbiamo sottoposto in realtà è un falso. E lo fa con il linguaggio semplice e comprensibile a cui ci ha abituati da sempre. Gli altri strumenti di rilevamento, invece, si limitano a dirci se è un falso oppure no ciò che carichiamo.

Ecco la parole di Siwei Lyu, uno dei ricercatori del Dipartimento di Informatica e Ingegneria che hanno preso parte allo studio:

“Ciò che distingue gli LLM dai metodi di rilevamento esistenti è la capacità di spiegare le loro scoperte in modo comprensibile per gli esseri umani, come l’identificazione di un’ombra sbagliata o di un paio di orecchini non corrispondenti. “

“Anche gli esseri umani lo fanno: che si tratti di un segnale di stop o di un meme virale, assegniamo costantemente una descrizione semantica alle immagini” ha aggiunto il collega Shan Jai.

Limiti di ChatGPT da superare per una maggiore accuratezza

I migliori algoritmi per smascherare deepfake vantano una precisione del 90%. Perciò, da questo punto di vista, anche ChatGPT può ancora migliorare:

“Gli LLM non sono stati progettati o addestrati per il rilevamento di deepfake, ma la loro conoscenza semantica li rende adatti a questo scopo, quindi ci aspettiamo di vedere maggiori sforzi verso questa applicazione.”

“Si tratta di risultati paragonabili a quelli di precedenti metodi di rilevamento di deepfake, quindi, con una guida tempestiva e adeguata, ChatGPT può fare un lavoro abbastanza decente nel rilevare le immagini generate dall’intelligenza artificiale”

Insomma, ci sono margini di miglioramento che bisogna considerare e ampliare. Soprattutto perché ChatGPT quando non è sicuro di una risposta, preferisce non darla e questo richiede ulteriore lavoro umano per riuscire ad ampliare le capacità di questo strumento che, a quanto pare, riesce addirittura a svelare gli arcani dell’Intelligenza Artificiale a cui lui stesso appartiene.