“Deepfaker”, I capibastone del XXI

Il deepfake è la manipolazione di media digitali (immagini o video) per sostituire realisticamente il volto di una persona con un altro volto. | Pixabay

Scegliere il livello di lettura:

STANDARD

“Deepfaker”, I capibastone del XXI

Scritto da Laura Casamitjana

L'intelligenza artificiale è diventata un potente strumento di diffusione della disinformazione, con particolare importanza nei contesti elettorali. Gli algoritmi di IA possono generare materiali deepfake (audio, video e immagini) che alterano l'aspetto, la voce o le azioni delle persone.

I deepfake, noti anche come “media sintetici”, sono video, immagini o audio generati che imitano l’aspetto e il suono di una persona. Questa tecnologia è così convincente nella sua simulazione della realtà che può ingannare sia le persone che gli stessi algoritmi. Sono comunemente applicati nei video o in elementi quali filtri per la realtà aumentata.

Il termine deepfake deriva dalla combinazione di “deep learning” (apprendimento profondo) e “fake” (falso), che si riferisce a qualcosa di falso prodotto dalla tecnologia di apprendimento profondo. Sebbene esistano applicazioni di grande consumo che impiegano questa tecnologia a scopo di intrattenimento, come FaceSwap, la sua crescente disponibilità, popolarità e aumento dell’accuratezza e delle risorse sollevano preoccupazioni circa il suo potenziale uso malevolo.

Manipolazione dei candidati, manipolazione del popolo

Stati Uniti, 2024. I candidati stanno prendendo posizione. Tra questi, si profila l’ombra di Trump, sostenuto dai suoi classici seguaci, adepti di teorie del complotto. Anche stavolta il loro obiettivo è la democratica Hillary Clinton: i trumpiani viralizzano e danno credibilità a un deepfake in cui si vede la Clinton sostenere il repubblicano Ron DeSantis. “I sostenitori di Donald Trump si sono presi il merito di aver prodotto un falso video in cui si vede Hillary Clinton appoggiare Ron DeSantis per la presidenza”, ha dichiarato l’Osservatorio politico dell’OCSE.AI, etichettando il video come una bufala.

Il deepfake in contesto elettorale è diventato uno dei principali usi malevoli che lo strumento può avere. Non è la prima volta che si assiste a un fenomeno del genere, la disinformazione attraverso questo metodo sta diventando sempre più comune, minando così la fiducia dei cittadini nelle istituzioni, oltre a costituire un’ampia risorsa per la manipolazione. Mario García, direttore generale per la Spagna e il Portogallo di Check Point Software, aggiunge come precedente l’esempio che nelle elezioni slovacche sono state diffuse sui social network registrazioni deepfake di un leader di partito che si spacciava per un candidato liberale e parlava di manipolare le elezioni, influenzando potenzialmente i risultati. Con la stessa tecnica, nel gennaio 2024, è stata diffusa una telefonata automatica in cui si sentiva la voce falsa di Joe Biden, attuale presidente degli Stati Uniti e nuovamente candidato alle elezioni, che esortava i cittadini del New Hampshire a non votare.

Lo scenario preferito della disinformazione

I processi elettorali rappresentano il picco del deepfake: in periodo elettorale si registra un notevole aumento dell’utilizzo di account falsi per diffondere disinformazione o fake news, con un incremento fino all’80% secondo Meta (Facebook, Instagram e WhatsApp). Questi account fraudolenti stanno diventando sempre più difficili da identificare sia per le piattaforme che per gli utenti, soprattutto grazie all’uso dell’intelligenza artificiale. Lo sottolinea Mario García, che spiega che l’azienda di tecnologie per la sicurezza informatica ha analizzato più di 36 campagne elettorali in tutto il mondo e ha scoperto che un terzo di esse include materiale audio e video generato dall’IA: “Ciò evidenzia un’evoluzione verso la disinformazione e la manipolazione dei processi democratici. La sofisticazione e l’accessibilità delle tecnologie di IA hanno raggiunto un punto in cui possono essere facilmente utilizzate per influenzare il processo democratico”.

Citando un rapporto di Check Point Research, si sottolinea che i mercati criminali di Internet stanno assistendo a un aumento dell’uso di strumenti sofisticati che incorporano funzionalità di intelligenza artificiale per creare deepfakes e gestire account sui social media.

Un caso paradigmatico è una piattaforma offerta su un forum underground russo che utilizza l’IA per automatizzare la distribuzione di contenuti attraverso profili falsi su Instagram e Facebook. Questa piattaforma è in grado di gestire centinaia di account, di creare post giornalieri ed è particolarmente abile nelle campagne di influenza elettorale su larga scala.

Google, Microsoft e Meta hanno recentemente concordato di limitare i deepfake elettorali, ma non li metteranno al bando. Oltre alla creazione di contenuti falsificati, l’IA agisce come coordinatore dei rilasci di disinformazione di massa, come osserva Mario García, “i social network hanno un ruolo cruciale nell’amplificazione di contenuti falsi e manipolati grazie alla loro capacità di distribuire rapidamente informazioni a un vasto pubblico”.

Lo yin e lo yang dell’IA

In questo caso vale il detto che da un grande potere derivano grandi responsabilità. L’intelligenza artificiale è una risorsa potente che ha un forte impatto e una reale capacità di influenzare. Tra lo yin e lo yang, l’uso improprio dell’IA per i deepfake elettorali può essere contrastato dal buon uso dell’IA per il fact checking. “È possibile utilizzare modelli avanzati di IA per costruire strumenti in grado di rilevare le informazioni false. Grazie alle caratteristiche di questi modelli, come il multilinguismo o la loro capacità di considerare il contesto e la semantica del linguaggio, possono offrire soluzioni laddove alcune barriere, come la lingua, si stemperano”, si legge nel rapporto “Fighting disinformation through artificial intelligence” del Progetto CIVIC. In merito all’aumento esponenziale della qualità e dell’efficienza che l’intelligenza artificiale apporta al fact checking, il rapporto aggiunge che “questo tipo di strumenti sono e saranno un supporto fondamentale per le organizzazioni di fact checking, ampliando il loro raggio d’azione e la loro copertura, essendo in grado di analizzare una maggiore quantità di disinformazione che circola sui social network e su altri media”.

Attività complementari

FACILE

“Deepfaker”, I capibastone del XXI

Scritto da Laura Casamitjana

L’intelligenza artificiale è diventata un potente strumento di diffusione della disinformazione, con particolare importanza nei contesti elettorali. Gli algoritmi di IA possono generare materiali deepfake (audio, video e immagini) che alterano l’aspetto, la voce o le azioni delle persone.

I deepfake, noti anche come “media sintetici”, sono video, immagini o audio generati che imitano l’aspetto e il suono di una persona. Questa tecnologia è così convincente nella sua simulazione della realtà che può ingannare sia le persone che gli stessi algoritmi. Sono comunemente applicati nei video o in elementi come i filtri per la realtà aumentata.

Il termine deepfake deriva dalla combinazione di “deep learning” (apprendimento profondo) e “fake” (falso), e riflette il fatto che si riferisce a qualcosa di falso prodotto dalla tecnologia di apprendimento profondo. Sebbene esistano applicazioni per i consumatori che impiegano questa tecnologia a scopo di intrattenimento, come FaceSwap, la sua crescente disponibilità, popolarità e l’aumento dell’accuratezza e delle risorse suscitano preoccupazioni per il suo potenziale uso malevolo.

Manipolazione dei candidati, manipolazione del popolo

Negli Stati Uniti, nel 2024, i candidati stanno prendendo posizione per le elezioni. Tra questi, riappare l’ombra di Trump, sostenuto dai suoi seguaci che credono nelle teorie del complotto. Anche stavolta, il loro obiettivo è Hillary Clinton: i seguaci di Trump stanno diffondendo e dando credibilità a un deepfake che mostra la Clinton appoggiare il repubblicano Ron DeSantis. L’Osservatorio politico dell’OCSE.AI ha definito il video un falso.

L’uso di deepfake per scopi politici durante le elezioni è diventato un problema sempre più comune. La disinformazione attraverso questa tecnica mina la fiducia nelle istituzioni e diventa un’ampia risorsa per la manipolazione. Mario Garcia, direttore generale per la Spagna e il Portogallo dell’azienda di tecnologia per la sicurezza informatica Check Point Software, ricorda che nelle precedenti elezioni in Slovacchia sono circolati sui social network dei deepfakes in cui il leader di un partito fingeva di essere un candidato liberale, influenzando potenzialmente i risultati. Nel gennaio 2024 è stata diffusa una robo-call con la falsa voce di Joe Biden, attuale presidente degli Stati Uniti e candidato alla rielezione, che invitava i residenti del New Hampshire a non votare.

Lo scenario preferito della disinformazione

Durante le elezioni, l’uso di deepfake raggiunge un picco. Si registra un aumento significativo dell’uso di account falsi per diffondere disinformazione o fake news, con un incremento fino all’80% secondo Meta (Facebook, Instagram e WhatsApp). Questi account fraudolenti sono sempre più difficili da identificare sia per le piattaforme che per gli utenti, soprattutto grazie all’uso dell’intelligenza artificiale (AI).

Mario Garcia, dell’azienda di tecnologia per la sicurezza informatica Check Point Software, afferma di aver analizzato più di 36 campagne elettorali a livello globale e di aver scoperto che un terzo di esse include materiale audio e video generato dall’intelligenza artificiale. Ciò sottolinea l’evoluzione verso la disinformazione e la manipolazione dei processi democratici. La sofisticazione e l’accessibilità delle tecnologie AI hanno raggiunto un punto tale da poter essere facilmente utilizzate per influenzare il processo democratico.

Secondo un rapporto di Check Point Research, nei mercati criminali online si osserva un aumento dell’uso di strumenti sofisticati che incorporano l’IA, soprattutto per la creazione di deepfakes e la gestione di account sui social media.

Un esempio è una piattaforma offerta su un forum underground russo, che utilizza l’intelligenza artificiale per automatizzare la distribuzione di contenuti attraverso profili falsi su Instagram e Facebook. Questa piattaforma è in grado di gestire centinaia di account e pubblicare post ogni giorno, risultando particolarmente abile nelle campagne di influenza elettorale su larga scala.

Sebbene Google, Microsoft e Meta abbiano recentemente concordato di limitare i deepfake elettorali, non li metteranno al bando. Oltre a creare contenuti falsi, l’intelligenza artificiale agisce come coordinatore dei rilasci di disinformazione di massa. I social media svolgono un ruolo cruciale nell’amplificare i contenuti falsi e manipolati grazie alla loro capacità di distribuire rapidamente le informazioni a un vasto pubblico.

Lo yin e lo yang dell’IA

In questo caso vale il detto che da un grande potere derivano grandi responsabilità. L’intelligenza artificiale è una risorsa potente che ha un forte impatto e una reale capacità di influenzare. Tra lo yin e lo yang, l’uso improprio dell’IA per i deepfake elettorali può essere contrastato dal buon uso dell’IA per il fact checking. “È possibile utilizzare modelli avanzati di IA per costruire strumenti in grado di rilevare le informazioni false. Grazie alle caratteristiche di questi modelli, come il multilinguismo o la loro capacità di considerare il contesto e la semantica del linguaggio, possono offrire soluzioni laddove alcune barriere, come la lingua, si stemperano”, si legge nel rapporto “Fighting disinformation through artificial intelligence” del Progetto CIVIC. In merito all’aumento esponenziale della qualità e dell’efficienza che l’intelligenza artificiale apporta al fact checking, il rapporto aggiunge che “questo tipo di strumenti sono e saranno un aiuto fondamentale per le organizzazioni di fact checking, ampliando il loro raggio d’azione e la loro copertura, essendo in grado di analizzare una maggiore quantità di disinformazione che circola sui social network e su altri media”.

☑️ Test your knowledge

Quiz sulla comprensione della lettura. “Deepfaker”, I capibastone del XXI

Passo 1 di 3

Quali rischi comporta, secondo il testo, l’uso di deepfake durante i processi elettorali?
salta al contenuto