No solo los periodistas de los principales noticieros estadounidenses ya han prestado atención a la tecnología de ultrafalso (de inglés – deepfake), sino también los analistas de las tecnologías de la información, que alertan y consideran a esta tecnología como uno de los inventos más peligrosos de los últimos años. El peligro de esta tecnología fue expresado por varios senadores de los Estados Unidos, que la calificaron comouna amenaza para la seguridad nacional de los Estados Unidos.
¿Qué es ultrafalso y cuándo se creó esta tecnología?
El nombre deepfake es un término inglés que significa “falsedad profunda”. Además, el usuario que publicó el primero de este tipo de vídeos falsos en 2017 tenía el apodo Deepfakes. Fue un vídeo para adultos en el cual los rostros fueron reemplazados por los de personajes famosos. La primera víctima de la tecnología ultrafalso fue la actriz Gal Gadot, cuya foto el mismo usuario de Reddit agregó al vídeo pornográfico. Este hecho provocó una discusión muy activa entre los usuarios de Reddit; sin embargo, el vídeo se eliminó relativamente rápido de las páginas de servicio. Más tarde, otras actrices, como Scarlett Johansson, Taylor Swift, Emma Watson y Katy Perry, fueron víctimas de esta tecnología.
Más tarde apareció el famoso vídeo falsificado con Barack Obama.
Otro ejemplo con Donald Trump.
RGA o cómo la competencia de las redes neuronales ayuda a crear una falsificación perfecta
La tecnología ultrafalso es un método para sintetizar una imagen humana utilizando inteligencia artificial (IA). Los vídeos Deep fake combinan imágenes o vídeos en la base de otros vídeos. Para esta superposición, se utiliza una técnica de aprendizaje automático llamada GAN (generative adversarial network), la red generativa antagónica que ya mencionamos en nuestros materiales. Las RGA son una clase de algoritmos de inteligencia artificial que se utilizan en el aprendizaje no supervisado, implementadas por un sistema de dos redes neuronales que compiten mutuamente en una especie de juego de suma cero.
El trabajo del algoritmo RGA puede compararse con el trabajo de dos personas. El primero se dedica a falsificaciones, como las falsificaciones de billetes o pinturas, y el segundo trata de distinguir estas falsificaciones de los originales. Si el primer algoritmo ofrece un fake obvio, el segundo lo determinará de inmediato, luego de lo cual el primero mejorará su trabajo y propondrá una falsificación más realista. Como resultado aparece un vídeo falsificado.
Para esto, Deep fake utiliza muchos ejemplos de fotografías de una persona: desde diferentes ángulos, posturas y con diferentes expresiones faciales. Tras analizar estas imágenes las RGA genera las imágenes y luego las combinan en un vídeo falso.
En realidad los algoritmos RGA se usan por muchas compañías e instituciones científicas. Por ejemplo, los científicos nucleares los usan para predecir el comportamiento de las partículas y los médicos, para mejorar la calidad de las imágenes.
Curiosamente, hace cinco años, Google presentó TensorFlow , un conjunto de herramientas de software disponibles al público que ayudan a capacitar redes neuronales generativas y antagónicas y que, respectivamente, también se utilizan para crear Deep fake videos.
Además, ya saben utilizar no solamente las imágenes y los vídeos, sino también manipular con voces. Las compañías Lyrebird y iSpeech ya generan audios utilizando las voces de gente real. Estos programas pueden obtener una grabación de voz, analizarla y crear una copia realista, pero ya con otras frases.
FakeApp: Ultrafalsos para todos
El principal peligro de la tecnología deepfake es que las herramientas que le permiten hacer todo esto están disponibles para la gente común. La herramienta principal para crear vídeos deepfake es la aplicación FakeApp. A pesar de que la bloquean junto con el sitio web de la aplicación www.fakeapp.org, tanto como referencias y discusiones sobre su uso, muchos logran bajarla a través de los sitios-espejo.
Así son los ejemplos del uso de FakeApp con las imágenes de Barack Obama.
Otra falsificación con la imagen de Mark Zuckerberg.
Sin embargo, el proceso de tal creación lleva tiempo y, según el periodista del New York Times Kevin Roose, tal generación duró por lo menos 8 horas con más de 400 imágenes del mismo periodista y más de mil fotos del actor Ryan Gosling. Al final el vídeo salió medio borroso.
Deep fakes son demasiado peligrosos: fakes para la nueva generación
Con tales falacias será muy difícil distinguir la verdad de la falsificación. No solamente se trata de la propaganda política o comercial, Deep fake es también una herramienta potente para la manipulación con la opinión pública, fácilmente puede provocar odio, miedo o pánico, la pueden utilizar para desacreditar a su rival y oponente.
Sin embargo, en este momento ya existen algunas técnicas para determinar un ultrafalso y, más recientemente, han aparecido herramientas para identificarlas. En una de las siguientes notas vamos a informaros sobre cómo podéis identificar vídeos creados sobre la base de ultrafalso, así como nuevas herramientas para determinar vídeos de ultrafalso.
Existe un programa que enseña distinguir los rostros reales de los rostros creados con deepfake.
Por Nadiya Balovsiak, para Stopfake.org.
