di Edoardo Caruso – Vi sarà capitato di vedere video stranianti e virali di persone che dicono di non essere “prompt”, si tratta di deepfake generati dalle ultime tecnologie di intelligenza artificiale lanciate di recente.
Dal 2017 si è diffuso il fenomeno dei deepfake, ovvero video che riproducono qualcuno che fa qualcosa di diverso da quello che farebbe la fonte originale.
Il che non sarebbe un problema se le persone si limitassero a creare dei contenuti creativi, prosociali o pubblicamente utili come spesso accade.
Infatti il fenomeno deepfake è conosciuto proprio per il suo uso malevolo e illegale.
Un’implicazione molto importante è anche il disturbo che viene creato alla democrazia da parte del deepfake e delle fake news. Un esempio sono le campagne di disinformazione messe in atto durante la Brexit e durante le presidenziali americane del 2016, con notizie polarizzanti diffuse per ottenere determinati risultati politici. La lista dei casi è però molto più lunga.
In relazione alla possibile difesa personale contro le fake news si può pensare di adottare un approccio “zero trust” all’informazione come nella cybersecurity, filtrando e verificando le fonti delle notizie che si ricevono, anche se risulta in realtà difficile, visto il bombardamento mediatico a cui siamo sottoposti ogni giorno.
Però conoscendo il fenomeno possiamo imparare a riconoscerne le manifestazioni e difenderci.
Un concetto che aiuta e che può servire come ulteriore filtro per leggere la realtà odierna è quello della “post verità” che vuole indicare un mondo in cui l’influenza sulle persone può nascere da fatti anche non reali.
Partendo dall’inizio, però, il termine deepfake nasce proprio in contesto pornografico, con i deepnudes, ovvero video che ritraggono persone in atti sessuali che non hanno mai compiuto.
Se la creazione di opere artistiche prendendo come spunto l’arte di altri da parte delle intelligenze artificiali, è una zona ancora grigia, con le proteste degli artisti, e le rivendicazioni degli ‘”AI artist” quella del deepfake è molto più delicata.
La nostra fisionomia è parte fondamentale della nostra identità e ci identifica in quanto individui, almeno per ciò che riguarda il nostro esterno, e questo tipo di tecnologia se usata male può fare dei danni.
Tipologie di reati
Ai sensi della legge italiana ed europea il deepfake rientra in sette macro-classi di violazioni della legge:
- reati contro la persona;
- reati contro la privacy;
- reati contro il patrimonio e la fede pubblica;
- reati informatici;
- responsabilità civile e danno patrimoniale;
- violazione di diritto europeo;
- violazione di ambiti specifici.
Tipologie di tecniche per creare deepfake
Le tecnologie abilitanti al deepfake video sono in origine le Reti Avversarie Generative che permettono di creare video sempre più realistici e credibili.
Le tipologie di deepfake in letteratura si identificano come:
- face swapping, o scambio di volti. Il volto di una persona viene scambiato con quello di un’altra;
- face reenactement, ovvero le espressioni di un volto che vengono trasferite sul volto di qualcun altro;
- lip syncing, una manipolazione delle labbra per sembrare che stia dicendo parole specifiche;
- body puppeteering o controllo del corpo, si spiega da sé, ovvero è possibile far muovere una persona e fargli fare quello che si vuole in video;
- entire person synthesis: tutto il corpo è generato dall’Ia ed è usato per creare avatar realistici;
- identity swap, permette di impersonare un’altra persona;
- style transfer, ovvero l’applicazione di uno stile visivo su un volto mantenendo l’identità;
- generated synthetic faces, che permette la creazione di volti inventati e mai esistiti.
In particolare colpisce il sottotesto perturbante di molti video. Sigmund Freud definiva perturbante ciò che è familiare ma ha qualcosa di diverso dall’originale ed è per questo che ci spaventa.
Questo video ne è proprio l’esempio. I personaggi che “dovrebbero essere umani” fanno finta di essere veri, negando di essere nati da dei prompt di intelligenza artificiale, come nei peggiori scenari di un delirio paranoide, trasferendoci un senso di inquietudine di fondo, come se quello che vediamo non dovesse essere lì, e fosse contro il naturale stato dell’essere delle cose del mondo. Il nostro intuito ce lo segnale finché ne è in grado.
Come difenderci dalle fake news e dai deep fake se la creazione di questi video è ora alla portata di tutti?
Ci sono diversi modi per riconoscere un video grazie all’informatica:
- si possono analizzare dati e meta-dati, la compressione dei file, e altri tipi di traccia lasciati dai programmi di generazione di falsi;
- si può utilizzare il machine learning per cogliere incoerenze nei video, analizzare l’illuminazione, il movimento oculare, l’asse di inclinazione della testa, la sincronizzazione del labiale e l’incoerenza tra i fotogrammi;
- si possono fare poi analisi audio, analisi temporali dei frame;
- vi sono poi le analisi biometriche come l’analisi del volto;
- approcci innovativi come l’analisi delle firme digitali, il watermark, e la blockchain si possono utilizzare per capire la fonte dei contenuti.
Ma come possiamo noi persone comuni renderci conto del fatto che un video è falso ed è stato generato con l’intelligenza artificiale, da un prompt, utilizzando il pensiero critico e i nostri sensi?
Per comprendere se un contenuto è falso, qualora ci interessi e finché possibile, ci possiamo affidare ad un insieme delle nostra abilità analogiche.
Una cosa molto importante da comprendere è che l’intelligenza artificiale generativa ha delle difficoltà a riprodurre e replicare il concetto di contesto: questo è il motivo per il quale aveva difficoltà fino a qualche tempo fa a creare delle mani umane verosimili nel contesto specifico.
L’espressività delle mani è molto legata ai gesti e al nostro modo di esprimerci, e anche legata al resto del linguaggio corporeo, e all’espressione del volto in un insieme visivo che per gli esseri umani dovrebbe essere per lo più incontrovertibilmente comprensibile, insieme ad alcune informazioni contestuali che indicano cosa sta succedendo.
Comprendendo questo comportamento chiave poi si può applicare la logica insieme all’osservazione attenta dei movimenti facciali, inclinazioni della testa, asimmetrie particolari, sincronizzazione labiale, illuminazione incoerente, artefatti fisici non congruenti con ciò che è fisicamente possibile.
Un altro spunto importante è il fattore degli occhi, gli occhi dei personaggi dei video deepfake sono spesso aperti e non si chiudono.
Anche l’incongruenza rispetto al soggetto conosciuto e reale del video in questione è un segnale. Si può poi valutare l’affidabilità della fonte su altri canali e valutare se il video è stato realizzato in concomitanza di eventi importanti.
Un’ultima cosa: possiamo affidarci al nostro intuito. Se un video ci sembra effettivamente troppo strano e non riusciamo a identificare il perché possiamo ricorrere ai metodi sopra indicati fino a trovare il neo che ci fa capire se è falso.
Grazie per aver letto questo articolo. Se vuoi restare aggiornato sulle nostre belle notizie ti invitiamo a seguirci sui nostri social o a iscriverti alla newsletter mensile cliccando qui
