Una familia de Arizona se aterrorizó hace unos meses cuando lo que pensaban que era una llamada de secuestro y rescate resultó ser una estafa total creada por inteligencia artificial, según informó CNN. A medida que aumentan los informes de llamadas fraudulentas que suenan idénticas a las de seres queridos, muchos temen que la IA pueda ser utilizada como arma para amenazar a las personas con una tecnología de fácil acceso que solo requiere una pequeña tarifa, varios minutos y una conexión a Internet estable.

Jennifer DeStefano recibió una llamada anónima una tarde de enero mientras su hija de 15 años estaba fuera de la ciudad en una carrera de esquí. DeStefano escuchó a su hija responder al teléfono, entrar en pánico y gritar, seguida rápidamente por la voz de un hombre que amenazaba con drogar y secuestrar a la hija de DeStefano a menos que le enviaran $1 millón. Pocos minutos después, DeStefano logró contactar a su hija, quien estaba bien y confundida por lo que había sucedido, ya que no había sido secuestrada ni estaba involucrada en la llamada del rescate. Los servicios de emergencia ayudaron a la familia a identificar la llamada como un engaño que utiliza IA.

"Aunque los datos sobre qué tan prevalentes son las se estafas telefónicas con IA son limitados, este año han surgido constantemente historias de incidentes similares en TikTok y otras plataformas sociales, lo que provoca temor y riesgo por el potencial dañino de la IA", según CNN. La clonación de voz de la IA se establece a través del clonaje de voz. Una vez que un estafador encuentra un clip de audio de la voz de alguien en línea, puede cargarlo fácilmente en un programa en línea que replica la voz. Tales aplicaciones surgieron hace unos años, pero bajo el auge de la IA generativa, las aplicaciones han mejorado, se han vuelto más accesibles y son relativamente baratas de usar. Murf, Resemble y Speechify son algunas empresas populares para estos servicios. La mayoría de los proveedores ofrecen periodos de prueba gratuitos y varían en las tarifas de suscripción mensuales desde menos de $15 para planes básicos hasta más de $100 para opciones premium.

La Comisión Federal de Comercio recomienda que si recibe una llamada preocupante de un ser querido en problemas, llame a la persona que supuestamente lo contactó de vuelta a su número regular y verifique la historia. Si el llamante solicita dinero a través de canales cuestionables difíciles de rastrear, como la transferencia de dinero por cable, criptomoneda o tarjetas de regalo, eso podría ser una señal de estafa. Los expertos en seguridad recomiendan establecer una palabra clave con sus seres queridos que se pueda usar en caso de una emergencia real y para distinguir una estafa.

La clonación de voz de la IA también se ha extendido al ámbito musical, donde las personas usan la tecnología para crear canciones con voces que suenan idénticas a las de artistas populares. Este mes, una canción con la simpatía de Drake y The Weeknd se volvió viral en línea, aunque ninguno de los artistas estuvo involucrado en su creación. La empresa de gestión que representa a ambos artistas pudo hacer que la canción fuera eliminada de los servicios de transmisión, solo por una muestra de audio ilegal, no por las voces de la IA. Drake comentó: "Este es el colmo de la IA", después de que una pista generada por IA de él rapeando "Munch" de Ice Spice también se volviera viral este mes.

Otros artistas como la músico canadiense Grimes están mirando hacia el futuro donde dicha tecnología podría continuar creciendo y cambiar la forma en que opera la industria musical. "Dividiré las regalías al 50% de cualquier canción generada con éxito con IA que use mi voz", tuiteó Grimes la semana pasada. "Siéntete libre de usar mi voz sin penalización". Las personas pueden escribir canciones ellos mismos, pero grabarlas con las voces de cantantes famosos para llamar la atención. Hasta ahora, no hay sanciones legales para los deepfakes musicales, pero The New York Times informa que plantean riesgos de infringir las reputaciones de los artistas, privar a los vocalistas de ganancias y apropiarse culturalmente de los artistas de color.

Contáctenos en [email protected] para conocer más sobre las últimas noticias y el contorno de los acontecimientos.