Captura de pantalla del video deepfake de Rashmika Mandanna (izquierda) y el video real (derecha) de ... [ ] Instagram.

Twitter / InstagramSe ha revelado que un video viral que muestra lo que parece ser la actriz Rashmika Mandanna entrando a un ascensor es un deepfake. El video es extremadamente convincente para el consumidor promedio de redes sociales, pero hay algunas señales reveladoras de falsificación si se observa de cerca.

El video deepfake ha sido visto millones de veces, incluyendo al menos 2.4 millones de veces en X, la plataforma de redes sociales anteriormente conocida como Twitter. Abhishek Kumar, un periodista de India, rastreó el origen del video falso y pidió nuevos marcos "legales y reguladores" para lidiar con las imágenes falsas en línea.

El video original fue publicado en Instagram el 8 de octubre y presenta a una mujer llamada Zara Patel. No hay evidencia de que Patel haya estado involucrada en la creación de la versión deepfake del video. No está claro quién creó la versión falsa ni por qué lo hizo, pero celebridades de diversas industrias han visto videos falsos de ellas mismas en los últimos años.

Como se puede ver en esta comparación del video falso y real, la cara de Patel se puede ver al comienzo de ambos.

Captura de pantalla del video deepfake (izquierda) y el video real (derecha), que muestran el rostro original de la mujer antes de entrar al ascensor.

Twitter / InstagramPero después de aproximadamente un segundo, el rostro se transforma en el de Rashmika Mandanna, una popular actriz del cine indio que obtuvo reconocimiento en 2016 y ha ganado numerosos premios.

Captura de pantalla del video deepfake (izquierda) y el video real (derecha)

Twitter / InstagramY aunque la falsificación puede parecer obvia cuando los dos videos se reproducen lado a lado, no está para nada claro que este deepfake sea artificial cuando se ve rápidamente en el feed de redes sociales de alguien. Después de todo, los humanos no están diseñados para aplicar escepticismo a literalmente cada foto y video que vemos. Estar constantemente alerta ante imágenes falsas puede ser mentalmente agotador y va en contra de por qué las personas usan las redes sociales en primer lugar, como una forma de relajarse y disfrutar de los medios de todo el mundo.

Internet siempre ha tenido imágenes falsas, pero el surgimiento de los videos deepfake ha sido un verdadero problema en los últimos años. Las herramientas deepfake permiten que prácticamente cualquier persona cree videos convincentes utilizando el rostro de otra persona y colocarlos en situaciones que en realidad nunca experimentaron. Como informó el Wall Street Journal la semana pasada, se ha abierto una investigación en una escuela secundaria de Nueva Jersey después de que los estudiantes crearon imágenes falsas de desnudos de sus compañeros utilizando tecnología asistida por IA.

Pero incluso la falsificación relativamente mundana que ahora inunda sitios web como X, Facebook, TikTok e Instagram es un verdadero problema para nuestra capacidad de confiar en lo que ven nuestros ojos

Y con las elecciones presidenciales de 2024 a solo un año de distancia, es probable que aumenten las falsificaciones políticas, especialmente a medida que el candidato presunto del Partido Republicano, Donald Trump, adopta imágenes generadas por IA de sí mismo en Truth Social.

Una vez más, la falsificación no es algo nuevo y incluso precede a la existencia de internet. Una famosa foto de Teddy Roosevelt montando en un alce fue creada por primera vez en 1912 y todavía engaña a los usuarios de internet hasta el día de hoy. Pero las herramientas para crear imágenes falsas están avanzando a un ritmo acelerado. Realmente no puedes confiar ni siquiera en tus propios ojos en estos días.