Desde la aparición de la fotografía ha existido la necesidad o inquietud de las personas por modificar las imágenes para reflejar una realidad inexistente, engañar o mejorar la experiencia del observador. Con la llegada de las computadoras, la digitalización de imágenes y la fotografía digital se facilitó esta actividad; programas como Adobe Photoshop, utilizado para la edición de imágenes digitales, popularizaron el término “Photoshopear”, refiriéndose a la alteración de una imagen con fines mercadológicos, por diversión o incluso para engaños.
A partir de la década de 1990 se ha dado una evolución exponencial en términos de las Tecnologías de Información, cada año salen al mercado nuevas computadoras más pequeñas, más rápidas, con mayor almacenamiento y con poder de procesamiento superior; esto ha permitido el estudio, desarrollo y evolución de la inteligencia artificial, las redes neuronales y el aprendizaje profundo automático.
El término “Deepfake” es una contracción de los términos en inglés “Deeplearning” (Aprendizaje profundo automatizado) y “Fake” (Falso) dando a entender que mediante la IA se creó algo falso a partir de algo real y es utilizado para la creación de audios y videos digitales falsos a partir de muestras de audios y videos reales. Este término nació en 2017 en la comunidad digital Reddit de un grupo de usuarios que comenzaron a utilizar los estudios académicos en modificación de medios digitales a través de IA para reemplazar el rostro de las personas en videos pornográficos por los de actrices de Hollywood.
En al ámbito académico, institutos como el MIT y la universidad de California, Berkley, se han dado a la tarea de realizar investigación y desarrollo con IA, ML, DL y RN para mejorar tanto los métodos de generación de estos llamados “Deepfakes” como para detectarlos en el caso de que sean usados de forma malintencionada.
En el caso de Hollywood, se ha comenzado a utilizar para “revivir” a ciertos actores o rejuvenecerlos si es que el papel que representan en la película así lo requiere. Podemos ver ejemplos en las mas recientes películas de Disney y Marvel, en donde actores como Robert Downey Jr. Y Samuel L. Jackson son mostrados 20 o 30 años mas jóvenes, o en el caso de la difunta actriz Carrie Fisher, la podemos ver en su papel de Princesa Leia de los años 70 en la
película Rogue One de 2018, en este último caso se utilizó tecnología Deepfake no solo para sobreponer el rostro de la actriz sobre el de una modelo, sino también para recuperar su voz de antiguas grabaciones.
Credibilidad y autenticidad
Aunque las fotos falsas han existido por mucho tiempo y todos hemos aprendido a detectarlas de una u otra forma, las películas falsas son más difíciles de detectar y la presencia de deepfakes aumenta la complejidad para clasificar los videos como genuinos o no. El investigador deinteligencia artificial Alex Champandard ha dicho que la gente debe saber qué tan rápido se pueden corromper las cosas con la tecnología deepfake y que el problema no es técnico, sino que debe resolverse mediante la confianza en la información y el periodismo. Los deepfakes pueden aprovecharse para difamar, suplantar y difundir desinformación. El problema principal es que la humanidad podría caer en una época en la que ya no se puede determinar si el contenido de un medio corresponde a la verdad.
De manera similar, el profesor asociado de ciencias de la computación Hao Li de la Universidad del Sur de California, afirma que los deepfakes creados para uso malicioso, como las noticias falsas, serán aún más dañinos si no se hace nada para difundir la tecnología deepfake. Li predijo que los videos genuinos y los deepfakes se volverían indistinguibles en tan solo medio año, a partir de octubre de 2019, debido al rápido avance en inteligencia artificial y gráficos por computadora.
Las consecuencias de un deepfake no son lo suficientemente importantes como para desestabilizar todo un sistema de gobierno; sin embargo, los deepfakes poseen la capacidad de dañar tremendamente a entidades individuales. Esto se debe a que los deepfakes a menudo están dirigidos a una persona y/o sus relaciones con otros, con la esperanza de crear una narrativa lo suficientemente poderosa como para influir en la opinión o las creencias públicas.
Implicaciones positivas
Pero no todo es negativo en el uso de esta tecnología, un ejemplo es la aplicación Synthesia, que utiliza tecnología deepfake para generar avatares personalizados para crear videos de capacitación empresarial.
Microsoft ha desarrollado una aplicación llamada “Seeing AI” que utiliza inteligencia artificial y tecnología deepfake para narrar el entorno que rodea a una persona y ayudar a las personas ciegas o con baja visión. Con la tecnología deepfake, esta aplicación puede narrar texto en documentos, escanear productos y códigos de barras, reconocer a las personas y sus emociones, describir la ubicación y el entorno a su alrededor, identificar monedas y billetes y comunicar
estas características en diferentes idiomas en un volumen y tono que es ajustado al entorno.
Detección
La mayor parte de la investigación académica que rodea a Deepfake busca detectar los videos que han sido alterados o generados por esta tecnología. La técnica más popular es utilizar algoritmos similares a los que se utilizan para construir el deepfake para detectarlos, reconocer los patrones con los que
fueron creados y desarrollar un nuevo algoritmo capaz de detectar inconsistencias sutiles entre los fotogramas. Los investigadores han desarrollado sistemas automáticos que examinan los videos en busca de errores, como patrones de iluminación parpadeantes irregulares.
El Deepfake Detection Challenge, organizado por una coalición de empresas tecnológicas líderes, espera acelerar la tecnología para identificar contenido manipulado.
Otras técnicas utilizan Blockchain para verificar la fuente de los medios, los videos deberán verificarse a través del libro mayor antes de que se muestren en las plataformas de redes sociales; con esta tecnología, solo se aprobarían videos de fuentes confiables, lo que reduciría la propagación de medios Deepfake
posiblemente dañinos.
Referencias
- Brandon, John (16/02/2018). “Terrifying high-tech porn: Creepy ‘deepfake’ videos are on the rise”. Fox News.
- “Prepare, Don’t Panic: Synthetic Media and Deepfakes”. witness.org.
- Schwartz, Oscar (12/11/2018). “You thought fake news was bad? Deep fakes are where truth goes to die”. The Guardian. PhD, Sven Charleer (17/05/2019). “Family fun with deepfakes. Or how I got my wife onto the Tonight Show”. Medium.
- “What Are Deepfakes & Why the Future of Porn is Terrifying”. Highsnobiety. 20/02/2018. Harwell, Drew (12/06/2019). “Top AI researchers race to detect ‘deepfake’ videos: ‘We are outgunned'”. The Washington Post.
- Porter, Jon (2/09/2019). “Another convincing deepfake app goes viral prompting immediate privacy backlash”. The Verge.
- “What is a Deepfake and How Are They Made?”. Online Tech Tips. 23/05/2019. “TUM Visual Computing: Prof. Matthias Nießner”. www.niessnerlab.org.
- “Full Page Reload”. IEEE Spectrum: Technology, Engineering, and Science News. “Contributing Data to Deepfake Detection Research”. Zucconi, Alan (14/03/2018). “Understanding the Technology Behind DeepFakes”. Alan Zucconi.
- “These New Tricks Can Outsmart Deepfake Videos—for Now”. Wired. Zoe, Freni (24/11/2019). “Deepfake Porn Is Here To Stay”. Medium.
- Winick, Erin. “How acting as Carrie Fisher’s puppet made a career for Rogue One’s Princess Leia”. MIT Technology Review.
- “High-Resolution Neural Face Swapping for Visual Effects | Disney Research Studios”.
- “Disney’s deepfake technology could be used in film and TV”. Blooloop. A, Jon Lindley (2 July 2020). “Disney Ventures Into Bringing Back ‘Dead Actors’ Through Facial Recognition”. Tech Times.
- Damiani, Jesse. “A Voice Deepfake Was Used To Scam A CEO Out Of $243,000”. Forbes. “Seeing AI App from Microsoft”. www.microsoft.com.
- “Deepfake Detection Challenge Results: An open initiative to advance AI”. ai.facebook.com.
- “The Blockchain Solution to Our Deepfake Problems”. Wired.
