Preocupaciones sobre la tecnología deepfake

En la Universidad de St. Thomas, el profesor de Ciencia de Datos Chih Lai está utilizando imágenes de embriones de peces para enseñar a sus estudiantes sobre inteligencia artificial y deepfakes.

"Así que, el de la izquierda es el real, el de la derecha es el falso", dice, señalando dos imágenes ampliadas. "Es muy interesante para muchas personas crear algo solo por diversión al principio".

La imagen de la derecha, generada por un programa de inteligencia artificial que el profesor creó él mismo.

Algunas partes están ligeramente borrosas, lo que Lai llama "una imagen reflejo de la realidad".

"La inteligencia artificial intenta hacer algo similar a lo real", dice. "Pero definitivamente no es tan real".

No es difícil encontrar deepfakes en internet.

Una publicación de deepfake muestra un video generado por inteligencia artificial del actor Morgan Freeman, explicando lo que estás viendo.

"Lo que ves no es real, al menos en términos contemporáneos, no lo es", declara el avatar. "¿Y si te dijera que no soy un ser humano, me creerías?"

Ese viejo adagio de "ver para creer" se ha vuelto del revés.

"Cuando no podemos confiar en nuestros propios sentidos, en lo que vemos y en lo que escuchamos, podría no ser real, eso es increíblemente desestabilizador para la sociedad", dice la senadora Erin Maye Quade (DFL-Apple Valley).

Los deepfakes ya forman parte del panorama político.

Una publicación muestra al ex presidente Donald Trump luchando con la policía en la ciudad de Nueva York, algo que nunca ocurrió.

Otra, con el presidente Biden cantando "Baby Shark", también es falsa.

"La tecnología cae en manos de actores malintencionados", explica Manjeet Rege, director del Centro de Inteligencia Aplicada. "Existen imágenes falsas y también videos falsos, y ambos terminan teniendo un impacto similar en las personas. Ellos confían en la información y la creen".

En Minnesota y en todo el país, la carrera está en marcha para establecer salvaguardias en la inteligencia artificial, la tecnología utilizada para crear deepfakes.

El presidente Biden se reunió recientemente con líderes de la industria, quienes acordaron restricciones voluntarias, incluyendo pruebas de seguridad y medidas de transparencia para identificar materiales generados por IA.

Rege teme que muchos votantes consideren los deepfakes como una fuente precisa de información.

"Las personas tienen que tomar una decisión sobre, digamos, dos candidatos que se postulan para un cargo", dice. "Y no tienen suficiente tiempo para llegar a la conclusión de que esta información no es verídica acerca de uno de los candidatos".

Recientemente, el gobernador Tim Walz firmó una nueva ley que prohíbe compartir imágenes deepfake sexuales sin consentimiento o utilizar deepfakes para interferir en una elección 60 días antes de que se abran las urnas.

"Puedes hacer que cualquier persona aparezca diciendo cualquier cosa. Imagina lo que una persona con intenciones maliciosas podría hacer", dice Maye Quade, una de las patrocinadoras de la medida. "No estoy hablando de un ciudadano común en Minnesota, sino de un país internacional que no tiene buenas intenciones, o hacer que los líderes digan cosas que no querían decir".

Lai dice que hay preocupaciones sobre el uso de deepfakes en campañas políticas.

"Creo que todos saben que las elecciones pueden causar mucho daño a los candidatos políticos", señala.

Los infractores de la ley de deepfakes de Minnesota podrían enfrentar hasta cinco años de prisión y $10,000 en multas.

Lai sugiere que si estás tratando de detectar un deepfake, debes ralentizar el video.

Los avatares falsos, dice, a menudo no parpadean en absoluto, y si miras de cerca, los movimientos de los labios a menudo no coinciden con su voz.

Lai dice que cree que restringir el uso de los deepfakes es un paso en la dirección correcta.

Pero le preocupa que a medida que la tecnología se vuelva más avanzada, será más difícil distinguir lo que es real.

"Sinceramente, no creo que haya una buena herramienta en este momento que las personas puedan usar para detectar los deepfakes", declara Lai. "Así que creo que utilizar la ley es una forma de desalentar este tipo de comportamiento delictivo. No digo que se pueda prevenir completamente que ocurran los deepfakes, pero eso es un paso en la dirección correcta".