Nightshade, che cos’è lo strumento che difende gli artisti dall’IA

Gli artisti avranno a disposizione un “veleno” per le IA. Si chiama Nightshade, ecco come funziona.

Da quando l’intelligenza artificiale generativa ha cominciato a diffondersi al grande pubblico, gli artisti grafici sono stati tra i lavoratori più colpiti dal suo impatto. Non solo per il rischio di sostituzione, ma anche a causa del modo in cui questi algoritmi imparano a creare immagini. Per addestrare i bot ci si basa infatti su opere di artisti che spesso non hanno acconsentito all’utilizzo dei loro disegni come materiale di addestramento. Ma ora è stato creato un modo per difendersi da questa pratica: Nightshade.

Artisti contro l’IA

L’Intelligenza artificiale generativa è ormai entrata a far parte delle vite di molti. Da ChatGPT a Midjourney, molti software che solo un anno fa erano sperimentali e conosciuti da una nicchia, hanno oggi migliaia di utenti. In particolare l’IA grafica, in grado di creare immagini partendo da indicazioni testuali, è apprezzata dagli utenti quanto è disprezzata dagli artisti.

Non si tratta soltanto di concorrenza sleale. L’IA permette sicuramente di creare immagini in pochi minuti, che richiederebbero ore, se non giorni di lavoro a un artista. Il problema che i professionisti del settore hanno con questi sistemi però non è soltanto la paura della sostituzione. Per funzionare infatti questi bot devono essere addestrati.

Si chiama Large Language Model, ed è il sistema su cui si basa ChatGPT, ma anche StableDiffusion e DALL-E, alcuni dei più conosciuti software di generazione di immagini. In parole semplici, un algoritmo è incaricato di sottoporre a moltissimi altri algoritmi immagini, chiedendo loro di riprodurle o modificarle. Il primo robot, l’”insegnante”, sceglie gli algoritmi che hanno prodotto il risultato migliore e elimina gli altri, per poi passare a compiti più complicati.

In questo modo si creano le intelligenze artificiali, ma questo richiede di sottoporre ai bot una mole enorme di dati. Questi dati sono anche opere di artisti e grafici che non hanno mai dato il loro consenso all’utilizzo dei propri disegni per questi scopi. Fino ad oggi era impossibile però difendersi da questa pratica, se non facendo causa alle società che la utilizzano. Ora però è nato un software in grado di difendere le opere degli artisti dall’occhio dell’IA.

Cos’è Nightshade

Si chiama Nightshade e potrebbe essere la nuova arma degli artisti contro l’IA. Il software non aiuta a competere con le macchine, ma a evitare che le proprie opere siano “rubate” per addestrarle. Nightshade modifica i pixel, i singoli punti di colore di cui è composta un’immagine, in modo completamente impercettibile all’occhio umano. L’IA però nota questa modifica e ne rimane confusa, non riuscendo a estrarre i dati di cui ha bisogno.

Il modello è stato provato su StableDiffusion, una delle IA generative più utilizzate per creare immagini. Il risultato è stato molto soddisfacente. Dopo soltanto 50 immagini sottoposte all’algoritmo, iniziavano i problemi. Con 300 immagini, il sistema rimaneva completamente confuso e cominciava a disegnare gatti quando gli erano stati chiesti cani.

Non si tratta però soltanto di difendere la propria arte. La diffusione su larga scala di questo “veleno” per le intelligenze artificiali potrebbe porre fine alla pratica di utilizzare opere d’arte altrui per addestrare i robot. Se infatti la maggior parte degli artisti lo usassero, i processi di addestramento delle IA diventerebbero pericolosi per le aziende, che rischierebbero di non avere i risultati sperati.

Il codice di Nightshade è open source, quindi tutti possono utilizzarlo. Il suo nome deriva da un veleno, la belladonna, perché il modo in cui agisce contro l’IA, tramite qualcosa di cui si “ciba”, ricorda la somministrazione di una tossina. Con questa arma gli artisti hanno una possibilità in più di difendersi contro l’AI.