Vídeos manipulados con Inteligencia Artificial suplantan a periodistas para lanzar mensajes políticos

A simple vista parecen reales. Presentadores conocidos, rostros familiares de la televisión, mensajes directos a cámara. Pero algo no encaja: el mensaje. Se trata de vídeos manipulados con inteligencia artificial que suplantan la identidad de presentadores como Vicente Vallés, Matías Prats o Susanna Griso, para difundir mensajes políticos en redes sociales.

Usan tecnología deepfake

En los vídeos, lanzados en YouTube pero que ya circulan por todas las redes, los supuestos presentadores lanzan mensajes como “Pedro Sánchez dimisión” o “no crees que te hemos sufrido ya bastante, convoca elecciones”. Pero ellos nunca han pronunciado esas palabras, las imágenes han sido generadas o alteradas con tecnología deepfake , mediante técnicas de clonación de voz y recreación facial. Este tipo de tecnología permite replicar con gran precisión los rasgos faciales, los gestos e incluso la entonación de una persona a partir de material audiovisual previo. El resultado puede ser lo suficientemente convincente como para engañar a primera vista, especialmente cuando el vídeo se consume de forma rápida en redes sociales.

Cómo detectar la manipulación

Por eso, te enseñamos en qué tienes que fijarte para no caer en el engaño. Para empezar, en algunos casos aparecen marcas de agua de las herramientas utilizadas para generar el contenido. En otros, se detectan ligeras descoordinaciones entre el movimiento de los labios y el audio, cambios en la iluminación o movimientos de manos y accesorios muy pocos naturales. También el pelo, sobre todo en las mujeres, suele ser poco realista y aparecer con mechos difuminados.

Algo muy útil es pausar la imagen porque, como cuenta Sergio Teleña, CEO de SciTheWorld, esto sirve para "entender cómo funciona el algoritmo, cómo la IA trabaja por grupos, los ojos, la nariz, la boca y luego lo junta todo". Es muy importante, también fijarse en el contenido, eso nos puede dar también muchas pistas. "Hay que ir a la fuente original y comprobarlo, verificarlo para saber si eso existe o no" nos recuerda Patricia Escalona, Social Media Manager en Antena 3 Noticias, donde trabajamos contra la desinformación y los bulos a través de nuestra iniciativa #VerificaA3N.

"Vicente Vallés le pide a Pedro Sánchez lo que todo el mundo quiere"

de Freaking AI!

Circulan vídeos en redes sociales, alojados en un canal de YouTube, utilizando la voz e imagen de presentadores de Antena 3 Noticias, como Susanna Griso, Vicente Vallés y Matías Prats. Son vídeos manipulados con inteligencia artificial que suplantan la identidad de estos presentadores para difundir mensajes políticos en redes sociales.

Falso

Se han difundido en redes vídeos creados con tecnologíadeepfakeen los que aparentes presentadores lanzan mensajes como “Pedro Sánchez dimisión” o “convoca elecciones ya”, aunque en realidad nunca dijeron esas palabras. Las imágenes y voces han sido generadas o manipuladas mediante clonación de voz y recreación facial. En las imágenes fakes que circulan podemos ver claramente la marca de agua de las herramientas utilizadas para generar este contenido.

Síguenos en nuestro canal de WhatsApp y no te pierdas la última hora y toda la actualidad en nuestro perfil de Google.

El sector del automóvil alerta de la pérdida de competitividad en Europa y reclama protección industrial para el coche eléctrico