¿Què es un deepfake y cómo se crean? 3 ejemplos de deepfakes reales

Un deepfake es cualquier contenido multimedia (imágenes, vídeos o audios) que haya sido generado con IA con el propósito de imitar falsamente a una persona. La tecnología de los deepfakes no es tan nueva como podría pensarse. 

De hecho, es famoso el caso de Fast and Furious 7, que recurrió a la CGI (imágenes generadas por ordenador, en español) para volver a dar vida temporalmente a Paul Walker, famoso actor que falleció en 2013 en un accidente de coche.

Sin embargo, cuando hablamos de deepfakes no nos referimos a efectos a especiales o a simulaciones de otras personas en videojuegos o series de televisión, sino a falsificaciones de dudosa moralidad a las que subyacen malas intenciones, como propagar fake news o engañar a las personas por mera diversión.

¿Cuáles son los propósitos de los deepfakes?

Como puedes sospechar, se pueden crear deepfakes para una variedad de fines, y ninguno especialmente bueno:

• Difamación y desprestigio: Crear videos falsos para desacreditar a personas, conocidas públicamente o no, poniendo en su boca palabras que nunca han dicho o achacándoles acciones que nunca realizaron.
• Extorsión y chantaje: Generar contenido falso para extorsionar o chantajear a individuos, amenazándolos con la publicación de dicho contenido embarazoso si no cumplen con ciertas demandas.
• Desinformación (fake news): Difundir información falsa para manipular la opinión pública, influir en elecciones o generar caos social con acontecimientos que nunca ocurrieron.
• Pornografía: Crear videos pornográficos falsos utilizando la imagen de una persona sin su consentimiento, lo que puede causar un daño considerable a su reputación y bienestar emocional.
• Fraude y estafas: Suplantar la identidad de alguien con deepfakes en transacciones financieras, entrevistas de trabajo o cualquier situación en la que se requiera verificación de identidad.
• Falsificación de pruebas: Generar extractos visuales o auditivos que sirvan como pruebas en un proceso penal para incriminar a alguien falsamente por un delito con graves consecuencias legales y personales.

¿Cómo se crean los deepfakes?

Crear deepfakes es relativamente complicado, ya que hay que tener conocimientos algoritmos de aprendizaje profundo y saber implementarlos correctamente. En primer lugar, hay que recopilar una gran cantidad de imágenes o videos de la persona que se quiere imitar. Estas imágenes sirven como datos de entrenamiento para un modelo de IA, específicamente una red neuronal.

La red neuronal más popular para generar deepfakes se llama red generativa adversarial (GAN, por sus siglas en inglés). Una GAN consta de dos partes: un generador y un discriminador. El generador crea imágenes falsas basadas en el conjunto de datos de entrenamiento, mientras que el discriminador evalúa estas imágenes y las compara con las reales para determinar su autenticidad.

A medida que el proceso de entrenamiento y retroalimentación bidireccional avanza, el generador va creando imágenes falsas que se van pareciendo cada vez más a las originales, y el discriminador se vuelve más eficiente en distinguir entre las imágenes falsas y las auténticas.

Una vez que el modelo está lo suficientemente entrenado y afinado, se pueden crear videos falsos superponiendo el rostro de la persona falsa en el cuerpo de otra persona.

¿Cómo saber si estoy ante un deepfake?

Si bien la inteligencia artificial ha mejorado sus resultados y sigue evolucionando a un ritmo vertiginoso, no es perfecta. Es por eso que muchos deepfakes pueden contener ciertos defectos, algunos más evidentes y otros más imperceptibles, que podemos detectar para saber si estamos ante un deepfake:

• Presta atención al rostro: Parpadear es algo que nos sale naturalmente a los seres humanos. Sin embargo, la IA a veces falla en mostrar un parpadeo natural, por lo que es un signo en el que nos podemos fijar. A su vez, el audio y el movimiento de los labios suelen estar descoordinados. Las miradas de los deepfakes pueden parecer perdidas o desorientadas.
• Calidad de la piel: Muchas veces la IA crea texturas demasiado perfectas. Por norma general, las personas no solemos presentar una piel 100% tersa y homogénea, especialmente con el paso del tiempo, por lo que un cutis impecable o con apariencia plástica puede ser indicador de un deepfake.
• Coordinación cabeza-cuerpo: La anatomía y la psicomotricidad es compleja, y la IA debe tener demasiados factores en cuenta como para que todo cuadre a la perfección. En ocasiones, los deepfakes muestran defectos en la alineación de la cabeza con el resto del cuerpo en movimiento.
• Sombras y claros: En los vídeos de IA, las sombras y los claros se ubican en sitios en los que no deberían estar.
• Los dedos: Para un ilustrador o dibujante, los dedos, especialmente de las manos, son lo más complicado de dibujar. Si hemos generado imágenes por inteligencia artificial, nos daremos cuenta pronto de lo raras que resultan las manos generadas por inteligencia artificial.

Ejemplos de deepfakes

Si bien todavía no ha habido ningún escándalo oficial por un deepfake que haya tenido graves consecuencias, sí se han viralizado varios deepfakes que han confundido a las personas por su chocante realismo.

This Person Does Not Exist

Se trata del sitio web https://thispersondoesnotexist.com/, en la que, a través de un algoritmo propio llamado StyleGAN2, se genera el rostro de una persona que, literalmente, no existe. Estos rostros imaginarios con diferentes fondos se generan a partir de un algoritmo entrenado con una base de datos colosal de rostros de personas.

Una anécdota que se viralizó hace un par de años en mitad de la pandemia fue el engaño de Miguel Lacambra.

Esta persona era, supuestamente, un periodista que publicaba artículos en un medio digital y que comentaba sucesos de actualidad en Twitter. Al poco tiempo, unos usuarios de Twitter destaparon que el susodicho Miguel Lacambra no existía y que su foto había sido generada en This Person Does Not Exist.

Putin, la película

Patryk Vega, un director de cine polaco, lanzó en su canal de YouTube el tráiler de Putin, una película autobiográfica del presidente ruso. Sin embargo, el protagonista no es un actor parecido a Putin y, evidentemente, no es el mismísimo Vladímir Putin, sino un deepfake generado por inteligencia artificial. No sabemos cómo reaccionarán en el Kremlin, pero, por lo que hemos podido ver en el tráiler, va a ser un bombazo.

Fotos falsas de políticos y del Papa

Si escarbamos, son varios los deepfakes que se han viralizado y que han superado las barreras de la incredulidad de la audiencia. Si bien dicho vídeo ya está borrado de Facebook, se popularizó un vídeo de la política estadounidense Nancy Pelosi hablando como si estuviera borracha en cámara. Sin embargo, más tarde denunciaron a la plataforma para que borrara el vídeo por tratarse de un burdo deepfake.

Otros momentos anecdóticos que nos han dado algunos deepfakes más populares han sido los de Donald Trump siendo arrestado y los del Papa. En concreto, los de Donald Trump causaron gran conmoción porque muchos creyeron que las imágenes eran reales por lo bien conseguidas que estaban. Sin embargo, no tardó en expandirse la verdad.

El deepfake del Papa que se hizo popular a nivel mundial fue una foto de él con un abrigo acolchado muy vistoso. No es de extrañar que, al poco tiempo, el Pontífice sugiriera implantar una regulación adecuada para abordar las amenazas de la inteligencia artificial.