Prima di tutto la definizione: per deepfake si intende, come spiega la Treccani che ha inserito il vocabolo come parte della lingua corrente, un "filmato che presenta immagini corporee e facciali catturate in Internet, rielaborate e adattate a un contesto diverso da quello originario tramite un sofisticato algoritmo". I fake creati con le apposite app sono già sempre più diffusi e fatti passare come veri in rete; un deepfake di Emma Watson che si fa una doccia insieme a un’altra ragazza è stato ricaricato su CelebJihad, un sito porno che raccoglie foto e video di celebrità e che posta regolarmente immagini sottratte alle celebrità stesse, così come una scena hard di una pornostar a cui è stata messo il volto di Daisy Ridley de Gli ultimi jedi. Anche la pop star più famosa al mondo Taylor Swift ha subito il reato di deepfake porn: a gennaio di quest'anno ha visto pubblicate e diffuse delle sue immagini sessualmente esplicite, alcune anche di tipo pornografico, che sono subito diventate virali su X, dove hanno ottenuto milioni di views. Una in particolare è arrivata a 47 milioni prima della sua rimozione. In Italia la stessa cosa è toccata a Rose Villain, ma insieme ai famosi c'è tutto un sommerso di persone vittime di quello che è un crimine molto complesso da prevenire. Tanto che qualche mese fa il popolare sito Mashable ha definito il deepfake, senza spazi "l'ultima crisi morale di internet", offrendo anche una definizione tecnologica puntuale del fenomeno: "Un nuovo tipo di video con face-swap (scambi di viso) realistici". In breve, si legge che si tratta di elaborazioni basate su di un software che cerca un "terreno comune" tra due volti per incollare poi l'uno sull'altro, in modo dinamico. Il risultato è spesso credibile in modo sconcertante.
Negli ultimi anni siti web e le app che diffondono pornografia deepfake non consensuale, sono cresciuti a un ritmo allarmante, causando danni incalcolabili a migliaia di vittime. E l'avanzata di questo gioco perverso, che spesso porta guadagni a chi lo attua, sta impegnando alcuni governi a trovare soluzioni che siano realmente efficaci. Come quello britannico, che a luglio ha annunciato di voler introdurre una nuova legge che renderà la creazione di deepfake non consensuali un reato. Il ministero della Giustizia ha inasprito le norme che regolano la condivisione di deepfake porno, illegale nel paese. “Chi crea queste immagini orribili senza consenso rischia la fedina penale e una multa illimitata. Se l'immagine viene poi condivisa in modo più ampio, i colpevoli potrebbero finire in carcere”, ha dichiarato il ministero, annunciando che la sola creazione tramite l'AI di contenuti sessualmente espliciti, che coinvolgono persone reali, sarà considerata un reato a tutti gli effetti. Anche se non si ha l'intenzione di condividerli, ma “si vuole solo causare allarme, umiliazione o angoscia alla vittima”. Lo stesso sta succedendo oggi in Corea del Sud. Il presidente Yoon Suk Yeol ha infatti annunciato che metterà in campo nuovi strumenti per reprimere l'epidemia di crimini sessuali digitali che stanno prendendo di mira donne e ragazze, vittime inconsapevoli di pornografia deepfake.
L'allarme in Corea del Sud è altissimo. Secondo uno studio pubblicato dal portale di settore Home Security Heroes la pornografia deepfake costituisce il 98% di tutti i video falsi online. Non solo. Il 94% delle persone presenti in questi video lavorano nel settore dell'intrattenimento e, in particolare, quelle più prese di mira sono cantanti e attrici sudcoreane, con una quota del 53% delle persone ritratte in questi video. Il presidente Yoon, alla luce di questi numeri, ha principalmente mosso pesanti critiche contro l'uso dell'app di messaggistica Telegram, il cui fondatore, il russo Pavel Durov, è stato da poco arrestato in Francia. Le accuse francesi sono che Telegram non sia, appunto, riuscita a contrastare l'uso del servizio a fini criminali, tra cui la diffusione di materiale pedopornografico. L'inchiesta riguarda reati legati a transazioni illecite, abusi sessuali su minori, frode e rifiuto di comunicare informazioni alle autorità. Il mandato di arresto è stato emesso dall'OFMIN, un'agenzia francese per la protezione dell'infanzia, come ha affermato il segretario generale del gruppo in un post su LinkedIn. In una dichiarazione di domenica, Telegram ha affermato che Durov "non aveva nulla da nascondere" e che "è assurdo affermare che una piattaforma o il suo proprietario siano responsabili dell'abuso di tale piattaforma". Sta di fatto che l'effetto domino sembra essere partito. E così in Corea del Sud, anche sulla scia di questo arresto, è stato annunciato che la polizia perseguiterà "aggressivamente" le persone che realizzano e diffondono il materiale deepfake in una campagna che durerà sette mesi e che inizierà mercoledì 28 agosto, concentrandosi su coloro che sfruttano bambini e adolescenti. Dopo una lunga lotta per sradicare il molka , ovvero materiale di natura sessuale filmato di nascosto, la Corea del Sud si trova ora a combattere un'ondata di immagini deepfake."I video deepfake che prendono di mira individui non specificati si stanno diffondendo rapidamente sui social media", ha detto Yoon a una riunione del gabinetto, il cui contenuto è stato reso pubblico dal suo ufficio. "Molte vittime sono minorenni e la maggior parte degli autori sono stati identificati come adolescenti". Secondo l'agenzia di polizia del paese, nei primi sette mesi dell'anno sono stati segnalati 297 casi di crimini deepfake di natura sessuale, in aumento rispetto ai 180 dell'anno scorso e quasi il doppio rispetto al 2021, quando i dati hanno iniziato a essere raccolti. Delle 178 persone accusate, 113 erano adolescenti.
Ma si ritiene che il problema sia più grave di quanto suggeriscano le cifre ufficiali. Una chatroom di Telegram ha attirato circa 220.000 membri che creano e condividono immagini deepfake ritoccando fotografie di donne e ragazze. I media sudcoreani hanno affermato che le vittime includono studentesse universitarie, insegnanti e personale militare. "Gli autori hanno utilizzato foto di soldatesse in uniforme per trattarle esclusivamente come oggetti sessuali", ha affermato il Centro per i diritti umani militari in Corea, un'organizzazione di consulenza, come riportato dall'agenzia di stampa Yonhap. Sempre secondo quanto riferito, i criminali hanno utilizzato piattaforme di social media come Instagram per salvare o catturare schermate delle foto delle vittime, che vengono poi utilizzate per creare materiale pornografico deepfake. Un'analisi condotta dal quotidiano sudcoreano Hankyoreh ha evidenziato che i canali Telegram venivano utilizzati per condividere deepfake di studentesse universitarie e di studentesse delle scuole superiori e medie. Il sindacato coreano degli insegnanti e dei lavoratori dell'istruzione ha affermato di essere venuto a conoscenza di deepfake a sfondo sessuale che coinvolgevano studentesse e di aver chiesto al ministero dell'Istruzione di indagare. Si prevede che l'indagine sulle immagini deepfake sessualmente esplicite potrebbe danneggiare ulteriormente la reputazione di Telegram in Corea del Sud, dove l'app è stata effettivamente utilizzata per gestire un'organizzazione di ricatti sessuali online. Nel 2020, il capo dell'organizzazione criminale, Cho Ju-bin, è stato condannato a 42 anni di carcere per aver ricattato almeno 74 donne, tra cui 16 adolescenti, costringendole a inviare immagini sessuali degradanti e talvolta violente che le ritraevano. Secondo la legge sudcoreana, la creazione di deepfake sessualmente espliciti con l'intenzione di distribuirli è punibile con cinque anni di carcere o una multa di 50 milioni di won (37.500 dollari). Il problema, tuttavia, non è tanto la cosiddetta punizione esemplare o l'intervento su crimini già in essere, quanto la prevenzione. Sul tema, infatti, c'è un vuoto legislativo, anche in Italia. La norma sul revenge porn non prevede espressamente che siano punite anche le manipolazioni virtuali. Questo però non vuol dire che creare deepfake di questo tipo sia lecito. Potrebbe per esempio integrare il reato di diffamazione, in altri casi quello di molestie o atti persecutori. Può diventare estorsione se si minaccia di non divulgare le immagini o i video dietro richiesta di un compenso. Trattandosi di una forma di abuso, potrebbe essere in alcuni casi ipotizzabile anche il reato di violenza privata. Ma, come si dice spesso, non bisogna rinunciare a denunciare. Nonostante il vuoto legislativo, gli autori di questi falsi non restano impuniti: il nostro ordinamento, infatti, prevede delle norme in cui è possibile far rientrare il fenomeno del deepfake pornografico. Le pene, per chi si crea file simili con l'AI possono arrivare fino a 8 anni di reclusione, se si tratta di minorenni. Per chi condivide immagini o filmati senza averli creati la pena può superare i tre anni. Nel caso di maggiorenni, invece si applica il reato di diffamazione aggravata che prevede la pena della reclusione fino a tre anni. Se chi crea il contenuto lo condivide i reati si applicano in concorso tra di loro. Qualora, invece, dovesse configurarsi il reato di estorsione la pena può arrivare fino a 10 anni.
