DeepNude: l’IA di nudo eliminata poco dopo il suo lancio

In WEB by Sharon SantarelliLeave a Comment

DeepNude è un app che ha destato non poche polemiche e perplessità, tanto che, poco dopo il suo lancio ufficiale è stata eliminata ed il suo download era praticamente impossibile da qualsiasi piattaforma. L’app era stata sviluppato in modo da poter creare deepfake di donne nude, partendo da un’immagine nella quale quest’ultime apparivano vestite. Orripilante. “Abbiamo creato questa app per far divertire gli utenti. Non immaginavamo che sarebbe diventata virale e che non saremmo stati capaci di controllare il traffico”, hanno scritto i creatori di DeepNude, l’applicazione in questione, in un post su Twitter. “La possibilità che le persone ne abusino è troppo alta”. Due le versioni: una gratis ed una premium, a pagamento. L’utilizzo era talmente semplicistico da essere anch’esso preoccupante: bastava caricare una foto, ed il sistema creava, grazie all’intelligenza artificiale, un doppione in cui la persona ritratta nell’immagine appariva senza vestiti. Quello che faceva era, essenzialmente, sostituire i vestiti con un seno ed una vagina abbinati al corpo dall’intelligenza artificiale. Inoltre era possibile creare solo deepfake di donne, ma non di uomini. Ah, il sessismo… quello vero!

Le foto create dalla versione gratuita della app presentava una filigrana che copriva parte dell’immagine. Una specie di segno di riconoscimento a dire: “guardate che usato un trucchetto, questa non è certa la foto della mia collega d’ufficio nuda!”. In quelle trasformate grazie alla versione a pagamento, compariva invece la scritta “FAKE” in alto a sinistra. Peccato che chiunque con un minimo di conoscenza informatica e un po’ di Photoshop, avrebbe potuto togliere sia la filigrana sia la scritta senza problemi, per poi diffondere il deepfake online. In questo istante immagino già qualcuno darsi arie per aver conquistato la ragazza bellissima con la quale tanto ambiva ad uscire ma che non se lo filava di striscio. Il tutto contornato da una bella foto nuda della protagonista. Questa cosa è pressoché assurda. Non ci voleva certo un genio per capire i pericoli di DeepNude: chiunque poteva caricare l’immagine di una persona, ottenere un corrispettivo in cui appariva nuda, violare la sua privacy e danneggiare la sua immagine e la sua reputazione.
Probabilmente sarebbe meglio utilizzare le proprie energie e le proprie risorse per inventare qualcosa che aiuti il prossimo, una tecnologia che possa alleggerire le nostre vite e migliorarle, non certo cercare di “distruggerle”.