“Deepfakers”, os chefes do século XXI

Deepfake é a manipulação de meios digitais (imagens ou vídeos) para substituir de forma realista o rosto de uma pessoa por outro rosto | Pixabay

Escolha o seu nível de leitura:

PADRÃO

“Deepfakers”, os chefes do século XXI

Escrito por Laura Casamitjana

A Inteligência Artificial (IA) tornou-se numa ferramenta poderosa para espalhar desinformação, com particular importância em contextos eleitorais. Os algoritmos de IA podem gerar materiais "deepfake" (áudio, vídeo e imagens) que alteram a aparência, a voz ou as ações das pessoas.

Os deepfakes, também conhecidos como “media sintéticos”, são vídeos, imagens ou áudios gerados que imitam a aparência e o som de uma pessoa. Esta tecnologia é tão convincente na sua simulação da realidade que pode enganar tanto as pessoas como os próprios algoritmos. São normalmente aplicados em vídeos ou elementos como filtros de realidade aumentada.

O termo deepfake vem da combinação de deep learning e fake, refletindo que se refere a algo falso produzido pela tecnologia de Deep Learning. Existem aplicações dirigidas aos consumidores que utilizam esta tecnologia para fins de entretenimento, como o FaceSwap, mas a sua crescente disponibilidade, popularidade e aumento da precisão e dos recursos suscitam preocupações quanto ao seu potencial para utilização maliciosa.

Manipulação de candidatos, manipulação da população

Estados Unidos da América, 2024. Os candidatos estão a tomar posições. Entre eles, a sombra de Trump está a pairar, apoiada pelos seus clássicos seguidores que acreditam em conspirações. Desta vez, o alvo é, mais uma vez, a democrata Hillary Clinton: os trumpistas viralizaram e deram credibilidade a um deepfake em que Clinton é vista a apoiar o republicano Ron DeSantis. “Os apoiantes de Donald Trump assumiram o crédito pela produção de um vídeo falso que mostra Hillary Clinton a apoiar Ron DeSantis para presidente”, afirmou o Observatório de Políticas de IA da OCDE (OCDE.AI), classificando o vídeo como um embuste.

O Deepfake no contexto das eleições políticas tornou-se numa das principais utilizações maliciosas que a ferramenta pode ter. Não é a primeira vez que se assiste a um fenómeno deste tipo, a desinformação através deste método está a tornar-se cada vez mais comum, minando assim a confiança das pessoas nas instituições, além de ser um amplo recurso de manipulação. Mario García, diretor-geral para Espanha e Portugal da Check Point Software, acrescenta como precedente o exemplo de que, nas eleições eslovacas, circularam nas redes sociais gravações deepfake de um dirigente partidário que se fazia passar por candidato liberal e falava em manipular eleições, influenciando potencialmente os resultados. Utilizando a mesma técnica, em janeiro de 2024, foi distribuída uma chamada telefónica automatizada em que se ouvia a voz falsa de Joe Biden, o atual presidente dos Estados Unidos e novamente candidato às eleições, a exortar as pessoas de New Hampshire a não votarem.

A fase preferida da desinformação

Os processos eleitorais são o pico do deepfake: na altura das eleições, há um aumento notável na utilização de contas falsas para espalhar desinformação ou notícias falsas, representando um aumento de até 80% de acordo com a Meta (Facebook, Instagram e WhatsApp). Estas contas fraudulentas estão a tornar-se cada vez mais difíceis de identificar, tanto para as plataformas como para os utilizadores, em grande parte devido à utilização da Inteligência Artificial. Mario García explica que a empresa de tecnologia de segurança informática analisou mais de 36 campanhas eleitorais em todo o mundo e descobriu que um terço delas inclui material áudio e vídeo gerado por IA: “Isto evidencia uma evolução no sentido da desinformação e da manipulação dos processos democráticos. A sofisticação e a acessibilidade das tecnologias de IA chegaram a um ponto em que podem ser facilmente utilizadas para influenciar o processo democrático”.

Citando um relatório da Check Point Research, destaca o facto de os mercados criminosos da Internet estarem a assistir a um aumento da utilização de ferramentas sofisticadas que incorporam funcionalidades de IA para criar deepfakes e gerir contas de redes sociais.

Um caso paradigmático é uma plataforma oferecida num fórum clandestino russo que utiliza a IA para automatizar a distribuição de conteúdos através de perfis falsos no Instagram e no Facebook. Esta plataforma pode gerir centenas de contas, fazer posts diários e é particularmente adepta de campanhas de influência eleitoral em grande escala.

A Google, a Microsoft e a Meta concordaram recentemente em limitar os deepfakes eleitorais, mas não os vão proibir. Para além da criação de conteúdos falsificados, a IA atua como coordenadora de divulgações maciças de desinformação, como observa Mario Garcia, “as redes sociais desempenham um papel crucial na amplificação de conteúdos falsos e manipulados devido à sua capacidade de distribuir informações rapidamente a um grande público”.

O yin e o yang da IA

O ditado que diz que com grande poder vem grande responsabilidade aplica-se nesta situação. A Inteligência Artificial é um recurso poderoso que tem um forte impacto e uma capacidade real de influenciar. Entre o yin e o yang, a má utilização da IA para o deepfake eleitoral pode ser contrariada pela boa utilização da IA para a verificação dos factos. “É possível utilizar modelos avançados de IA para criar ferramentas de deteção de informações falsas. Graças às características destes modelos, como a multilinguagem ou a sua capacidade de considerar o contexto e a semântica da linguagem, podem oferecer soluções onde algumas barreiras, como a linguagem, são diluídas“, diz o relatório “Combater a desinformação através da inteligência artificial” do Projeto CIVIC. Sobre o aumento exponencial de qualidade e eficiência que a IA traz ao fact-checking, o relatório acrescenta que “este tipo de ferramentas são e serão uma ajuda fundamental para as organizações de fact-checking, alargando o seu raio de ação e cobertura, sendo capazes de analisar uma maior quantidade de desinformação que circula nas redes sociais e outros meios de comunicação”.

Actividades complementares

FACIL

“Deepfakers”, os chefes do século XXI

Escrito por Laura Casamitjana

A Inteligência Artificial (IA) tornou-se numa ferramenta poderosa para espalhar desinformação, com particular importância em contextos eleitorais. Os algoritmos de IA podem gerar materiais “deepfake” (áudio, vídeo e imagens) que alteram a aparência, a voz ou as ações das pessoas.

Os deepfakes, também conhecidos como “media sintéticos”, são vídeos, imagens ou áudios gerados que imitam a aparência e o som de uma pessoa. Esta tecnologia, tão convincente na sua simulação da realidade, pode enganar tanto as pessoas como os próprios algoritmos. São normalmente aplicados em vídeos ou elementos como filtros de realidade aumentada.

O termo deepfake vem da combinação de deep learning e fake, refletindo que se refere a algo falso produzido pela tecnologia de Deep Learning. Embora existam aplicações dirigidas a consumidores que utilizam esta tecnologia para entretenimento, como o FaceSwap, a sua crescente disponibilidade, popularidade e aumento da precisão e dos recursos suscitam preocupações quanto à sua potencial utilização maliciosa.

Manipulação de candidatos, manipulação da população

Nos Estados Unidos da America, em 2024, os candidatos estão a tomar posições para as eleições. Entre eles, a sombra de Trump está a reaparecer, apoiada pelos seus seguidores que acreditam em teorias da conspiração. Desta vez, o seu alvo é novamente Hillary Clinton: os seguidores de Trump estão a espalhar e a dar credibilidade a um deepfake que mostra Clinton a apoiar o republicano Ron DeSantis. O Observatório Político da OCDE.AI classificou o vídeo como falso.

A utilização de deepfakes para fins políticos durante as eleições tornou-se um problema cada vez mais comum. A desinformação através desta técnica mina a confiança nas instituições e torna-se um amplo recurso de manipulação. Mario Garcia, diretor-geral para Espanha e Portugal da empresa de tecnologias de segurança informática Check Point Software, refere que, em eleições anteriores na Eslováquia, circularam nas redes sociais deepfakes em que o líder de um partido se fazia passar por um candidato liberal, influenciando potencialmente os resultados. Em janeiro de 2024, foi distribuída uma chamada robô com a voz falsa de Joe Biden, atual presidente dos EUA e candidato à reeleição, que incentivava os residentes de New Hampshire a não votar.

A fase preferida da desinformação

Durante as eleições, a utilização de deepfakes atinge o seu pico. Há um aumento significativo na utilização de contas falsas para espalhar desinformação ou notícias falsas, representando até 80% mais de acordo com a Meta (Facebook, Instagram e WhatsApp). Estas contas fraudulentas são cada vez mais difíceis de identificar, tanto pelas plataformas como pelos utilizadores, principalmente devido à utilização da Inteligência Artificial (IA).

Mario Garcia, da empresa de tecnologia de segurança informática Check Point Software, afirma que analisou mais de 36 campanhas eleitorais a nível mundial e descobriu que um terço delas inclui material áudio e vídeo gerado por IA. Este facto sublinha uma evolução no sentido da desinformação e da manipulação dos processos democráticos. A sofisticação e a acessibilidade das tecnologias de IA chegaram a um ponto em que podem ser facilmente utilizadas para influenciar o processo democrático.

De acordo com um relatório da Check Point Research, está a observar-se um aumento na utilização de ferramentas sofisticadas que incorporam IA nos mercados criminosos online, especialmente para criar deepfakes e gerir contas de redes sociais.

Um exemplo é uma plataforma oferecida num fórum clandestino russo, que utiliza a IA para automatizar a distribuição de conteúdos através de perfis falsos no Instagram e no Facebook. Esta plataforma pode gerir centenas de contas, fazer posts diários e é particularmente adepta de campanhas de influência eleitoral em grande escala.

Embora a Google, a Microsoft e a Meta tenham concordado recentemente em limitar os deepfakes eleitorais, não os vão proibir. Para além de criar conteúdos falsos, a IA atua como coordenadora de divulgações de desinformação em massa. As redes sociais desempenham um papel crucial na amplificação de conteúdos falsos e manipulados devido à sua capacidade de distribuir informações rapidamente a um grande público.

O yin e o yang da IA

O ditado que diz que com grande poder vem grande responsabilidade aplica-se nesta situação. A Inteligência Artificial é um recurso poderoso que tem um forte impacto e uma capacidade real de influenciar. Entre o yin e o yang, a má utilização da IA para o deepfake eleitoral pode ser contrariada pela boa utilização da IA para o fact-checking. “É possível utilizar modelos avançados de IA para criar ferramentas de deteção de informações falsas. Graças às características destes modelos, como a multilinguagem ou a sua capacidade de considerar o contexto e a semântica da linguagem, podem oferecer soluções onde algumas barreiras, como a língua, são diluídas“, diz o relatório “Combater a desinformação através da inteligência artificial” do Projeto CIVIC. Sobre o aumento exponencial de qualidade e eficiência que a IA traz ao fact-checking, o relatório acrescenta que “este tipo de ferramentas são e serão uma ajuda fundamental para as organizações de fact-checking, alargando o seu raio de ação e cobertura, sendo capazes de analisar uma maior quantidade de desinformação que circula nas redes sociais e outros meios de comunicação”.

☑️ Teste os seus conhecimentos

Questionário de compreensão de leitura. "Deepfakers", os chefes do século XXI

Passo 1 de 3

De acordo com o texto, que riscos apresenta a utilização de deepfakes durante os processos eleitorais?
saltar para o conteúdo