El término deepfake nació de la unión de dos conceptos: el deep learning, como se conoce al aprendizaje profundo de sistemas de inteligencia artificial y la palabra fake, falso. Según The Economist, la palabra se acuñó en un foro de Reddit, cuando se hicieron virales videos en que, supuestamente, algunas celebridades tenían relaciones sexuales.
A partir de ahí, empezó a extenderse su uso hasta superponer el rostro de una persona en un video donde sale otra persona, igualando gestos para hacerle creer a quien lo ve que quien sale en el video es alguien más.
Los ‘deepfakes’ han despertado la alarma entre los expertos, que creen que esta tecnología podría usarse para la suplantación de identidad de una manera casi indetectable. No solo se pude robar la imagen de alguien, también la voz (‘deepvoice’) y a veces se realizan llamadas falsas para poder conseguir estas muestras de audio. También se han usado los Deep fakes en grabaciones pornográficas para dañar la imagen de una persona y durante campañas electorales con fines políticos. Los técnicos en ciberseguridad trabajan constantemente para detectar estas falsificaciones que van mucho más allá que las fake news
Pero hay quienes saben ver el potencial de este tipo de tecnología y los usos que podremos darle: desde el doblaje de actores hasta la restauración de fotografías. Este tipo de debate se ha planteado desde el inicio de la historia de la humanidad: siempre que la sociedad avanza el miedo a los cambios y a las posibles consecuencias nos impide ver las oportunidades. Y, como siempre, la clave no está en el invento en sí, sino en el uso que le damos. Por el momento, podemos respirar tranquilos sabiendo que estos ‘deepfakes’ siguen siendo imperfectos y aprovecharnos de ellos para hacer lo que mejor se nos da: reírnos.
SU USO PARA UN ABUSO EN LAS REDES SOCIALES.
Pero la tecnología ha ido más allá y en TikTok se han hecho famosos dos filtros. Uno te permite sacarte una fotografía con esa persona que ya no está para que parezca que estaban juntos. El otro hace que te veas mayor y te parezcas a alguno de tus padres, lo que ha hecho que muchos lo hayan empleado para volver a ver a su progenitor fallecido.
Los Deep fakes también han tomado un aspecto entre enternecedor y estremecedor al “revivir” a nuestros seres queridos fallecidos. Con ‘deep nostalgia’ podemos animar cualquier fotografía antigua que tengamos y de esta manera veremos cómo se mueve esa persona ligeramente, como preparándose para ser fotografiado.
Una cuenta de ‘deep fakes’ de Tom Cruise y el ‘deep nostalgia’ para revivir las fotos antiguas de tus seres queridos fallecidos. Esto es lo que ha reavivado la moda de los ‘deep fakes’ en redes sociales y el debate sobre el uso de las IA para generar desinformación. En ‘Cuando No Era Viral’ te contamos todos los detalles de esta tecnología que cada vez avanza más para difuminar la línea entre lo real y lo falso.
Imitadores de Tom Cruise ha habido muchos, pero ninguno como el de @deeptomcruise de TikTok. No solo por su parecido físico, su forma de vestir o sus gestos, sino porque combina todo eso con la tecnología de los ‘deep fakes’. El resultado es tan asombroso, que muchos usuarios dudaban de si era el verdadero Tom Cruise o no. Sin embargo, por muy logrado que esté, siempre hay algún fallo técnico, ya sea en la voz o en la imagen, que nos indica que no estamos ante la estrella de Hollywood.
Es posible que desees verificar dos veces al influencer que acaba de seguir en Twitter; en realidad, podría ser una persona falsa.
O al menos ese fue el caso del usuario de Twitter @azusagakuyuki, quien engañó a sus seguidores haciéndoles creer que eran una joven entusiasta de las motos, pero en realidad resultó ser un japonés de 50 años llamado Zonggu que usaba tecnología deepfake, según la BBC.
El hombre detrás de la cuenta de Twitter confesó sus engaños en un programa de televisión japonés Monday Late Show, diciendo que usó FaceApp y otras herramientas de edición para crear su personalidad femenina. Aquí hay una imagen del programa del Zonggu falso y el Zonggu real uno al lado del otro:
¿LISTOS?
“Nadie leerá lo que es un hombre de mediana edad normal, cuidando su motocicleta y tomando fotos fuera de las publicaciones de su cuenta”.
Zonggu explicó a los productores del programa que estaba luchando por encontrar una audiencia cuando publicaba como él mismo, asi fue como decidió trabajar con las aplicaciones deepfake como FaceApp.
“Primero lo intenté, luego resultó ser bastante bonito”, ahora obtengo hasta 1000 ‘likes’, aunque antes solía estar por debajo de 10″.
Lamentablemente no parece que la revelación haya afectado negativamente a los seguidores de Zonggu. Al momento de su confesión, tenía alrededor de 19.000 seguidores en Twitter. Desde entonces, se ha disparado a más de 24.000 seguidores al momento de informar esto.
Este es solo otro ejemplo de las fascinantes y a menudo extrañas aplicaciones de la tecnología deepfake. Si bien la broma de este hombre fue relativamente inofensiva, la tecnología puede tener implicaciones realmente aterradoras y peligrosas, especialmente cuando se pone en las manos equivocadas.
En un mundo en donde las nuevas generaciones (millenials, cristal, etc.) esta hambrienta de contenido y a las que no les interesa el contexto en el cual se está aplicando o desarrollando la misma, los ejemplos mostrados anteriormente se apegan a la frase dicha por Paul Gillin “Mediante la creación de contenido irresistible, te puedes convertir en una celebridad”.
Referencias
Reino Antia, Cuando No Era Viral Los ‘deep fakes’ y el debate sobre la suplantación de identidad con el uso de IA vuelven con fuerza a las redes sociales, rtve.es 2021, recuperado: https://www.rtve.es/noticias/20210321/deep-fakes-debate-suplantacion-identidad-inteligencia-artificial/2082845.shtml
Tran, Tony, Una joven estrella de twitter resulta ser un hombre de 50 años que usa Deepfakes, futurism.com/the byte SRTN a través de la BBC, 2021, recuperado: https://futurism.com/the-byte/young-female-twitter-star-turns-out-50-year-old-man-using-deepfakes
Pulgarín, Jovan, ¿Qué es un deepfake y por qué deberíamos saberlo?, cnet.com 2019, recuperado: https://www.cnet.com/es/noticias/que-es-deepfake-como-hacer-peligro-videos-manipulacion-apps/
