“Deepfakers”, los caciques del siglo XXI

El deepfake es la manipulación de medios digitales (imágenes o vídeos) para sustituir el rostro de una persona por otro de manera realista | Pixaba

Escoge tu nivel de lectura:

ESTÁNDAR

“Deepfakers”, los caciques del siglo XXI

Escrito por Laura Casamitjana

La Inteligencia Artificial se ha convertido en una herramienta poderosa para difundir desinformación, con especial importancia en los contextos electorales. Los algoritmos de IA pueden generar materiales deepfake (audio, video e imágenes) que alteran la apariencia, voz o acciones de las personas

Los deepfakes, también conocidos como «medios sintéticos», son vídeos, imágenes o audios generados que imitan la apariencia y el sonido de una persona. Esta tecnología tan convincente en su simulación de la realidad puede engañar tanto a personas como a los propios algoritmos. Son aplicados comúnmente en vídeos o elementos como filtros de realidad aumentada.

El término deepfake surge de la combinación de «deep learning» y «fake», reflejando que se refiere a algo falso producido por la tecnología de aprendizaje profundo. Existen aplicaciones de consumo que emplean esta tecnología para el entretenimiento, como FaceSwap, pero su creciente disponibilidad, popularidad y cada vez mayor precisión y recursos, plantea preocupaciones sobre su potencial uso malicioso.

Manipular a los candidatos, manipular a la población

Estados Unidos, 2024. Los postulantes a candidatos van tomando posiciones. Entre ellos, la sombra de Trump asoma apoyado por sus clásicos seguidores creyentes de la conspiración. En esta ocasión su objetivo ha vuelto a ser la demócrata Hillary Clinton: los trumpistas viralizan y dan credibilidad a un deepfake dónde se ve a Clinton apoyar al republicano Ron DeSantis. “Los partidarios de Donald Trump se han atribuido el mérito de producir un video falso que muestra a Hillary Clinton respaldando a Ron DeSantis para la presidencia”, se ha pronunciado la OECD.AI Policy Observatory catalogando el vídeo como bulo.

El deepfake en contexto electoral político se ha convertido en uno de esos principales usos maliciosos que la herramienta puede tener. No es la primera vez que se ve un fenómeno así, la desinformación a través de este método es cada vez más habitual, mermando así la confianza de las personas en las instituciones además de ser un recurso amplio de manipulación. Mario García, director general para España y Portugal de la tecnológica de seguridad informática Check Point Software añade como precedentes el ejemplo de que en las elecciones en Eslovaquia, circularon en redes sociales grabaciones deepfake del líder de un partido haciéndose pasar por un candidato liberal y hablando de manipular elecciones, lo que influía potencialmente en los resultados. Mediante esta misma técnica, en enero de 2024, se distribuyó una llamada automática en la que se escuchaba la voz falsa de Joe Biden, el actual presidente de EE. UU. y candidato de nuevo a las elecciones, en la que incitaba a los habitantes de New Hampshire a no votar.

El escenario favorito de la desinformación

Los procesos electorales son el peak del deepfake: en épocas de elecciones hay un notable incremento en la utilización de cuentas falsas para difundir desinformación o noticias falsas, llegando a representar hasta el 80% de aumento según contabilizó Meta (Facebook, Instagram y WhatsApp). Estas cuentas fraudulentas se vuelven cada vez más difíciles de identificar tanto para las plataformas como para los usuarios, en gran medida debido al empleo de la Inteligencia Artificial. Así puntualiza Mario García, que explica que desde la tecnológica de seguridad informática han analizado más de 36 campañas electorales a nivel mundial y han descubierto que una tercera parte de ellas incluye material de audio y video generado por IA: “esto destaca una evolución hacia la desinformación y manipulación de los procesos democráticos. La sofisticación y accesibilidad de las tecnologías de IA han llegado a un punto en el que pueden usarse fácilmente para influir en el proceso democrático”.

Citando un informe de Check Point Research, incide en el hecho de que en los mercados criminales de Internet se está viendo un aumento en el uso de herramientas sofisticadas que incorporan funcionalidades de IA para crear deepfakes y administrar cuentas de redes sociales.

Un caso paradigmático es el de una plataforma que se ofrece en un foro clandestino ruso y que utiliza IA para automatizar la distribución de contenidos a través de perfiles falsos en Instagram y Facebook. Esta plataforma puede manejar cientos de cuentas, realizar publicaciones diarias y es especialmente hábil en campañas de influencia electoral a gran escala.

Google, Microsoft y Meta han acordado recientemente limitar los deepfakes electorales, pero no los prohibirán. Además de la creación de contenido falseado, la IA actúa como coordinadora de lanzamientos masivos de desinformación, como apunta Mario Garcia, “las redes sociales desempeñan un papel crucial en la amplificación de contenido falso y manipulado debido a su capacidad para distribuir información rápidamente a una gran audiencia”.

El yin y el yang de la IA

Aquello de que un gran poder conlleva una gran responsabilidad es aplicable en esta situación. La Inteligencia Artificial es un recurso de gran potencia que tiene un fuerte impacto y una capacidad real de influencia. Entre el yin y el yang, el mal uso de la IA en caso de deepfake electoral, se puede contrarrestar con el buen uso de la IA para el fact checking. “Es posible el empleo de modelos avanzados de IA para construir herramientas encaminadas a detectar información falsa. Gracias a las características de estos modelos, como la multilingualidad o su capacidad para considerar el contexto y la semántica del lenguaje, permiten ofrecer soluciones donde algunas barreras, como la del idioma, se diluyen”, apunta el informe “Luchando contra la desinformación mediante la inteligencia artificial” del Proyecto CIVIC. Sobre el aumento exponencial de calidad y eficiencia que la IA aporta al fact checking, el informe añade que “este tipo de herramientas suponen y supondrán una ayuda fundamental para organizaciones de fact checking, ampliando su rango de acción y cobertura, pudiendo analizar una mayor cantidad de desinformación que circula por redes sociales y otros medios de comunicación”.

ACTIVIDADES COMPLEMENTARIAS

FÁCIL

“Deepfakers”, los caciques del siglo XXI

Escrito por Laura Casamitjana

La Inteligencia Artificial se ha convertido en una herramienta poderosa para difundir desinformación, con especial importancia en los contextos electorales. Los algoritmos de IA pueden generar materiales deepfake (audio, video e imágenes) que alteran la apariencia, voz o acciones de las personas.

Los deepfakes, también conocidos como «medios sintéticos», son vídeos, imágenes o audios generados que imitan la apariencia y el sonido de una persona. Esta tecnología tan convincente en su simulación de la realidad puede engañar tanto a personas como a los propios algoritmos. Son aplicados comúnmente en vídeos o elementos como filtros de realidad aumentada.

El término deepfake surge de la combinación de «deep learning» y «fake», reflejando que se refiere a algo falso producido por la tecnología de aprendizaje profundo. Aunque existen aplicaciones de consumo que emplean esta tecnología para el entretenimiento, como FaceSwap, pero su creciente disponibilidad, popularidad y cada vez mayor precisión y recursos, plantea preocupaciones sobre su potencial uso malicioso.

Manipular a los candidatos, manipular a la población

En Estados Unidos, en el 2024, los candidatos están tomando posiciones para las elecciones. Entre ellos, la sombra de Trump reaparece, respaldado por sus seguidores creyentes en teorías conspirativas. En esta ocasión, su objetivo nuevamente es Hillary Clinton: los seguidores de Trump están difundiendo y dando credibilidad a un deepfake donde se ve a Clinton apoyando al republicano Ron DeSantis. La OECD.AI Policy Observatory ha calificado el video como falso.

El uso de deepfakes con fines políticos durante las elecciones se ha convertido en un problema cada vez más común. La desinformación a través de esta técnica mina la confianza en las instituciones y se convierte en un recurso amplio de manipulación. Mario García, director general para España y Portugal de la tecnológica de seguridad informática Check Point Software, menciona que en elecciones anteriores en Eslovaquia, circularon deepfakes en redes sociales donde el líder de un partido se hacía pasar por un candidato liberal, influyendo potencialmente en los resultados. En enero de 2024, se distribuyó una llamada automática con la voz falsa de Joe Biden, actual presidente de EE. UU. y candidato a la reelección, instando a los habitantes de New Hampshire a no votar.

El escenario favorito de la desinformación

Durante las elecciones, el uso de deepfakes alcanza su punto máximo. Se observa un importante aumento en el empleo de cuentas falsas para difundir desinformación o noticias falsas, representando hasta un 80% más según Meta (Facebook, Instagram y WhatsApp). Estas cuentas fraudulentas son cada vez más difíciles de identificar tanto para las plataformas como para los usuarios, principalmente debido al uso de la Inteligencia Artificial (IA).

Mario García, de la tecnológica de seguridad informática Check Point Software, señala que han analizado más de 36 campañas electorales a nivel mundial y descubrieron que una tercera parte de ellas incluye material de audio y video generado por IA. Esto subraya una evolución hacia la desinformación y manipulación de los procesos democráticos. La sofisticación y accesibilidad de las tecnologías de IA han llegado a un punto en el que pueden ser fácilmente utilizadas para influir en el proceso democrático.

Según un informe de Check Point Research, se está observando un aumento en el uso de herramientas sofisticadas que incorporan IA en los mercados criminales de Internet, especialmente para crear deepfakes y administrar cuentas de redes sociales.

Un ejemplo es una plataforma ofrecida en un foro clandestino ruso, que utiliza IA para automatizar la distribución de contenido a través de perfiles falsos en Instagram y Facebook. Esta plataforma puede manejar cientos de cuentas, realizar publicaciones diarias y es especialmente hábil en campañas de influencia electoral a gran escala.

Aunque Google, Microsoft y Meta recientemente han acordado limitar los deepfakes electorales, no los prohibirán. Además de la creación de contenido falso, la IA actúa como coordinadora de lanzamientos masivos de desinformación. Las redes sociales desempeñan un papel crucial en la amplificación de contenido falso y manipulado debido a su capacidad para distribuir información rápidamente a una gran audiencia.

El yin y el yang de la IA

Aquello de que un gran poder conlleva una gran responsabilidad es aplicable en esta situación. La Inteligencia Artificial es un recurso de gran potencia que tiene un fuerte impacto y una capacidad real de influencia. Entre el yin y el yang, el mal uso de la IA en caso de deepfake electoral, se puede contrarrestar con el buen uso de la IA para el fact checking. “Es posible el empleo de modelos avanzados de IA para construir herramientas encaminadas a detectar información falsa. Gracias a las características de estos modelos, como la multilingualidad o su capacidad para considerar el contexto y la semántica del lenguaje, permiten ofrecer soluciones donde algunas barreras, como la del idioma, se diluyen”, apunta el informe “Luchando contra la desinformación mediante la inteligencia artificial” del Proyecto CIVIC. Sobre el aumento exponencial de calidad y eficiencia que la IA aporta al fact checking, el informe añade que “este tipo de herramientas suponen y supondrán una ayuda fundamental para organizaciones de fact checking, ampliando su rango de acción y cobertura, pudiendo analizar una mayor cantidad de desinformación que circula por redes sociales y otros medios de comunicación”.

 

☑️ Comprueba tus conocimientos

Cuestionario de comprensión lectora. “Deepfakers”, los caciques del siglo XXI

Paso 1 de 3

¿Qué riesgos plantea el uso de deepfakes durante procesos electorales según el texto?
ir al contenido