Le app Deepfake sono in grado di falsificare i contenuti multimediali con l’aiuto dell’intelligenza artificiale. Ad esempio, possono sostituire le voci e i volti di foto e video esistenti o addirittura generare un volto completamente nuovo. Le conseguenze di questo approccio possono essere fatali. Soprattutto se il deepfake non è inteso come uno scherzo, ma è stato generato a scopo di frode o ricatto. In questo articolo scoprirete come vengono generati i deepfake, quali rischi e pericoli nascondono e come potete proteggervi dal rischio di diventare vittime di un attacco deepfake.
Creare deepfake non è un gioco da ragazzi, ma non è una sfida troppo ardua per chi ha competenze informatiche medio-buone. Nel frattempo, su Internet sono disponibili numerosi strumenti per computer e telefoni cellulari, con i quali è possibile sperimentare e creare i propri deepfake anche da profani.
La creazione di deepfakes non è illegale, purché non vi sia una violazione dei diritti personali generali, del diritto d’autore o del diritto alla propria immagine (ad esempio sotto forma di calunnia, diffamazione o diffamazione). In caso contrario, possono essere minacciate sanzioni o i fatti possono addirittura sfociare in azioni civili o penali.
Ci sono vari approcci che si possono adottare per impedire che il deepfake si diffonda ulteriormente. Tra i possibili approcci vi è l’invocazione del GDPR o della tutela dell’onore personale e professionale. Inoltre, è ovviamente possibile intentare una causa per molestie, diffamazione, violazione del copyright o della privacy. Tuttavia, un eventuale danno alla reputazione non può essere evitato in questo modo.
Indice dei contenuti
1. cos’è un deepfake?
Il termine“deepfake” è una combinazione dei termini “deep learning” (un metodo di apprendimento automatico) e “fake” e si riferisce all’alterazione e alla falsificazione di contenuti mediatici con l’aiuto dell’intelligenza artificiale. A questo scopo vengono utilizzate reti neurali artificiali, con l’aiuto delle quali i falsi possono essere generati anche in modo ampiamente autonomo.
Ciò significa che anche i non addetti ai lavori senza conoscenze specialistiche sono in grado di creare deepfakes di alta qualità. Grazie alla crescente potenza di calcolo e alle IA sempre più potenti, i contenuti creati in questo modo appaiono estremamente autentici e spesso è difficile o impossibile riconoscerli come falsi.
2 Quali sono i tipi di deepfake?
Uno dei tipi più noti di deepfakes è il “face swapping”, che viene utilizzato per scambiare i volti in sequenze video al fine di far parlare le persone mostrate con testi estranei o cambiare i loro movimenti. Allo stesso modo, ilvoice swappingè un modo per cambiare il contenuto audio in modo da mettere in bocca a sconosciuti testi arbitrari o addirittura voci.
Un’altra forma di video deepfakes è chiamata“body puppetry“. In questo caso, singoli movimenti o sequenze complete di movimenti vengono trasferiti ad altre persone. Poiché l’intelligenza artificiale deve ricostruire automaticamente lo sfondo e allenarsi con il materiale di partenza prima di modificare il contenuto, questo tipo di deepfake è ancora considerato il più complicato. Altri metodi (come il face swapping o il voice swapping), invece, funzionano anche in tempo reale.
Come si crea un deepfake?
Creare deepfake non è un gioco da ragazzi, ma non è una sfida troppo ardua per chi ha competenze informatiche medio-buone. Nel frattempo, numerosi strumenti (i cosiddetti deepfake creator) sono disponibili per il download su Internet per iOS, Android e Windows. Anche i non professionisti possono utilizzarli per sperimentare e creare i propri deepfake. Uno strumento di questo tipo è Puzzle Deepfake per Android, che si può scaricare gratuitamente dal Google Play Store. È sufficiente caricare una foto nell’app, applicare un filtro e – voilà – l’app crea automaticamente un deepfake rudimentale in pochi secondi.
Buono a sapersi: Nel 2019 ha fatto scalpore l’app Deepfake Zao, con la quale era possibile creare montaggi video ingannevolmente reali a partire da una sola foto su iPhone. Tuttavia, lo strumento era disponibile solo in Cina e da allora è stato interrotto.
I professionisti lavorano in modo diverso e creano deepfake con le cosiddette GAN (Generative Adversarial Networks), in cui due algoritmi di apprendimento automatico competono tra loro. Mentre uno di essi genera un’immagine falsa, l’altro cerca di riconoscerla. Se il falso viene riconosciuto, l’AI migliora il risultato per evitare che venga identificato di nuovo.
Allostesso tempo, anche il secondo algoritmo apporta miglioramenti in modo da poter riconoscere anche i falsi migliori. Il processo si ripete fino a quando l’IA che riconosce supera l’IA che produce e il contenuto appare così ingannevolmente autentico. Per utilizzare uno strumento GAN, tuttavia, non sono necessari solo i mezzi finanziari, ma anche un computer molto potente.
4 Quali sono i rischi e i pericoli di Deepfake?
I deepfake comportano molti rischi molto gravi e rappresentano un pericolo per la società, i dipendenti sociali e persino l’economia. Ad esempio, i deepfake possono essere sfruttati in modo eccellente per frodi di ampia portata sotto forma di campagne di phishing. Dopo tutto, chi si insospettirebbe se sentisse la voce del proprio superiore in un messaggio vocale che ordina un bonifico bancario?
Le possibili conseguenze di un deepfake sono fatali. In passato, le donne sono state spesso ricattate con registrazioni pornografiche falsificate.
Un pericolo ancora maggiore rispetto ai contenuti mediatici falsi, tuttavia, è rappresentato dall’uso dei deepfake nelle campagne di diffamazione e di character assassination. Non sorprende quindi che la maggior parte dei deepfakes si trovi nel campo della pornografia, oltre che delle frodi dei colletti bianchi. Ad esempio, il software DeepNude per iOS e Android, rilasciato nel 2019, era in grado di generare un’immagine di nudo da una foto di una persona vestita, ma solo su corpi femminili. Sebbene lo strumento non sia più disponibile legalmente, è sicuramente ancora in circolazione da qualche parte come download sul World Wide Web.
Le possibili conseguenze di un simile deepfake sono fatali. Non sono solo le celebrità a dover temere che qualche pazzo metta il proprio volto sul corpo di un’attrice porno e poi distribuisca il video in mezzo mondo tramite WhatsApp, Telegram, TikTok e simili. Improvvisamente, nella chat di classe circolano false foto di ragazze nude del sesto anno o il capo dipartimento impopolare viene denigrato come imbroglione in un’e-mail circolare anonima. In passato, le donne sono state spesso ricattate con false registrazioni pornografiche .
Come posso riconoscere i deepfakes e proteggermi da essi?
La capacità e la rapidità di riconoscere un falso dipende dalla qualità del risultato. Contrasti sfocati, emozioni facciali innaturali, movimenti labiali inappropriati o un’illuminazione non corretta possono essere indizi di un deepfake. D’altra parte, anche un volto troppo perfetto e che non sembra più naturale può essere indice di un deepfake.
Inoltre, controllate sempre se il contenuto logico ha senso. Se il vostro attore preferito appare improvvisamente in un video con un atteggiamento completamente diverso o se certe affermazioni non hanno più senso nel contesto generale, anche questo può essere un segno di un deepfake.
Buono a sapersi: I dati utilizzati per generare i deepfake provengono spesso dai social network. Pertanto, riflettete sempre attentamente su quali informazioni volete condividere su quali canali.
Per smascherare un deepfake professionale, tuttavia, di solito è necessario uno strumento speciale con cui è possibile verificare l’autenticità del contenuto mediatico. Uno strumento gratuito di questo tipo è il DeepFake-o-meter, sviluppato dagli informatici dell’Università di Buffalo.
Alla fine, tuttavia, i mezzi più importanti nella lotta contro i deepfake sono sempre il buon senso e la capacità di cogliere determinati fatti in un contesto generale (più ampio) . Richieste sorprendenti o improvvise (ad esempio l’ordine di trasferimento da parte del vostro superiore) dovrebbero farvi drizzare le orecchie. In questo caso, tali frodi possono essere contrastate in modo semplice e facile con l’aiuto dell’autenticazione a più fattori.
Perché in questo caso, per accedere ai vostri dispositivi, i truffatori non dovrebbero solo imitare la vostra voce e il vostro volto, ma anche essere in grado di riconoscere i codici delle lettere o dei numeri, ad esempio. All’interno dell’azienda devono essere definite chiare linee guida che indichino quali persone e gruppi possono accedere a determinate informazioni, quando e in quali circostanze.