L’intelligenza artificiale combatte e smaschera sé stessa, ecco come il chatbot ChatGPT può svelare i deepfake
Negli ultimi mesi abbiamo assistito a diversi scandali relativi a video e immagini generati con Intelligenza Artificiale, talmente realistici da suscitare sgomento.
Di solito i deepfake generati con AI ritraggono persone conosciute e di rilievo mentre svolgono attività sconvenienti o vestono abiti poco consoni al loro ruolo, basti pensare a Papa Francesco in giacca di pelle.
Tuttavia, pare che il migliore deterrente per immagini deepfake sia proprio ChatGPT, l’Intelligenza Artificiale generativa che sta conquistando il mondo grazie alla sua comodità e alla sua semplicità di utilizzo, che da oggi è capace anche di avvisarci se l’immagine che le sottoponiamo è realizzate con tecnologia AI.
La manipolazione delle immagini che l’Intelligenza Artificiale consente è sofisticata e difficile da scovare, ecco perché l’unico modo per riuscirci è usare uno altro strumento AI based come ChatGPT.
Secondo gli ultimi risultati riscontrati, ChatGPT riesce a segnalarci se l’immagine che stiamo sottoponendo alla sua attenzione è un deepfake nell’80% dei casi.
A dimostrarlo sono stati dei ricercatori del’Università di Buffalo, USA, che hanno sottoposto a ChatGPT, Gemini e Copilot, tutti strumenti chatbot di intelligenza artificiale generativa, alcune immagini di volti umani creati artificialmente.
Il migliore chatbot a rilevare la falsità delle immagini è stato ChatGPT, questo strumento LLM (Large Language Model) riesce ad analizzare l’immagine più a fondo e con maggiore precisione rispetto agli altri chatbot e l’efficacia all’80% si avvicina parecchio alla percentuale garantita da strumenti nati appositamente per smascherare deepfake.
L’aspetto più interessante è che ChatGPT si lascia andare in una descrizione accurata a parole del perché l’immagine che gli abbiamo sottoposto in realtà è un falso. E lo fa con il linguaggio semplice e comprensibile a cui ci ha abituati da sempre. Gli altri strumenti di rilevamento, invece, si limitano a dirci se è un falso oppure no ciò che carichiamo.
Ecco la parole di Siwei Lyu, uno dei ricercatori del Dipartimento di Informatica e Ingegneria che hanno preso parte allo studio:
“Ciò che distingue gli LLM dai metodi di rilevamento esistenti è la capacità di spiegare le loro scoperte in modo comprensibile per gli esseri umani, come l’identificazione di un’ombra sbagliata o di un paio di orecchini non corrispondenti. “
“Anche gli esseri umani lo fanno: che si tratti di un segnale di stop o di un meme virale, assegniamo costantemente una descrizione semantica alle immagini” ha aggiunto il collega Shan Jai.
I migliori algoritmi per smascherare deepfake vantano una precisione del 90%. Perciò, da questo punto di vista, anche ChatGPT può ancora migliorare:
“Gli LLM non sono stati progettati o addestrati per il rilevamento di deepfake, ma la loro conoscenza semantica li rende adatti a questo scopo, quindi ci aspettiamo di vedere maggiori sforzi verso questa applicazione.”
“Si tratta di risultati paragonabili a quelli di precedenti metodi di rilevamento di deepfake, quindi, con una guida tempestiva e adeguata, ChatGPT può fare un lavoro abbastanza decente nel rilevare le immagini generate dall’intelligenza artificiale”
Insomma, ci sono margini di miglioramento che bisogna considerare e ampliare. Soprattutto perché ChatGPT quando non è sicuro di una risposta, preferisce non darla e questo richiede ulteriore lavoro umano per riuscire ad ampliare le capacità di questo strumento che, a quanto pare, riesce addirittura a svelare gli arcani dell’Intelligenza Artificiale a cui lui stesso appartiene.
Sin dal suo lancio Daylist ha ottenuto un grande successo ed è lo strumento personalizzato…
È ufficiale, i Linkin Park stanno ufficialmente tornando con un nuovo album, un nuovo tour…
Il colosso tech al centro di un'indagine del Dipartimento di Giustizia degli Stati Uniti. E…
Oggi è l’anniversario della nascita di Google, scopriamo di più sul motore di ricerca più…
La famosa serie One Tree Hill sta per tornare con un sequel targato Netflix del…
Le vacanze sono finite e il rientro al lavoro può essere traumatico. Ecco le canzoni…