Una actualización de los términos de servicio de Zoom, el popular software de videoconferencia, permite a la empresa utilizar los datos de los clientes para entrenar su inteligencia artificial. La actualización ha hecho que algunos usuarios se detengan, lo que lleva a la empresa a afirmar que no utilizará realmente los datos sin permiso.

Según informa Gizmodo, una actualización de los términos de Zoom en marzo indicaba que la empresa se reservaba el derecho de entrenar su inteligencia artificial con los datos de los usuarios. No hay una forma clara de optar por no participar.

A medida que la actualización continuaba implementándose, más personas comenzaron a expresar preocupaciones sobre la privacidad, especialmente en relación con el uso del software en ámbitos como la terapia y asuntos legales.

Sin embargo, en una entrada de blog publicada por Zoom el lunes, la empresa afirmó que en realidad no está entrenando a su inteligencia artificial con las videollamadas de los clientes, a pesar de que los nuevos términos de servicio indican que puede hacerlo.

"Nuestra intención era asegurarnos de que, si proporcionábamos servicios de valor añadido (como grabaciones de reuniones), tendríamos la capacidad de hacerlo sin preguntas sobre el uso de derechos", dijo el blog de la empresa. "En cuanto a la inteligencia artificial, no utilizamos contenido de audio, video o chat para entrenar nuestros modelos sin el consentimiento del cliente".

Cabe destacar que muchas plataformas de video y audio, incluyendo Google Meet y Teams Premium, ya se basan en tecnología de inteligencia artificial para ofrecer servicios de subtitulados en directo.

Si esto sucedió en marzo, ¿por qué se está hablando de ello ahora? A pesar de ello, la entrada de blog de Zoom que intenta aclarar las preocupaciones parece haber generado una nueva atención hacia las actualizaciones de los términos.

En las redes sociales, los usuarios especularon que las grandes empresas no querrían arriesgarse a posibles filtraciones de contenido interno.

El escritor de televisión y cine John Rogers sugirió que esto podría llevar a problemas relacionados con la ley HIPAA en el campo médico (aunque algunos proveedores de atención médica utilizan Zoom, muchos ya usan plataformas internas u otras alternativas diseñadas específicamente para el ámbito) así como a que los estudios de televisión y cine dejen de utilizar el servicio.

El Writers Guild of America y el gremio de actores, SAG-AFTRA, están en huelga, lo que ha paralizado prácticamente Hollywood, debido a problemas en las negociaciones de contratos, incluyendo preocupaciones sobre el uso de la inteligencia artificial.

¿Qué dicen exactamente los nuevos términos de servicio? Los términos actualizados, presentados a los usuarios de Zoom en letra pequeña, entraron en vigor el 27 de julio.

Dan a Zoom el derecho a utilizar algunos elementos de los datos de los clientes para entrenar su inteligencia artificial, lo cual es un movimiento bastante común para las empresas tecnológicas en la actualidad, según CNBC.

Los términos dicen que los clientes otorgan su consentimiento para el acceso, uso, recopilación, creación, modificación, distribución, procesamiento, compartición, mantenimiento y almacenamiento de los Datos Generados por el Servicio por parte de Zoom para cualquier propósito, en la medida y de la manera permitida por la Ley aplicable, incluido el aprendizaje automático o la inteligencia artificial (incluidos los fines de entrenamiento y ajuste de algoritmos y modelos).

Sin embargo, la compañía reiteró en su blog el lunes que no utilizará contenido de audio, video o chat para entrenar sus modelos sin el consentimiento del cliente.

"Seguimos comprometidos con la transparencia y nuestro objetivo es proporcionarte las herramientas que necesitas para tomar decisiones informadas sobre tu cuenta de Zoom", dijo la publicación del blog. "Valoramos tu privacidad y estamos trabajando continuamente para mejorar nuestros servicios respetando tus derechos y preferencias".

Conversaciones más amplias sobre el entrenamiento de servicios de IA

Según CNBC, el discurso sobre la actualización de Zoom se produce en medio de un creciente debate sobre cómo se debería entrenar a los servicios de IA y la ética que lo rodea.

Los artistas han expresado preocupaciones sobre los generadores gráficos de IA y cómo la tecnología puede utilizar trabajos existentes para entrenarse a sí misma, además de su potencial para reemplazar el trabajo humano.

"Es una batalla difícil porque parece divertido e inofensivo, pero creo que esto podría ser y de muchas maneras ya es el comienzo de algunos problemas graves en todos los campos creativos", dijo Nicole Saltzer, diseñadora gráfica e ilustradora con sede en Filadelfia.

Y no solo son las herramientas de generación de imágenes las que levantan dudas. Los chatbots, como ChatGPT y Bard de Google, se entrenan con texto de internet, lo que lleva a un escrutinio sobre lo que está en juego y quién está en riesgo.

En junio, Zoom presentó dos nuevas funciones de IA gratuitas. Una resume las reuniones y la otra compone mensajes de chat. El usuario debe habilitar las funciones. Si optan por participar, se les pide que firmen un formulario de consentimiento que permite a Zoom entrenar sus modelos de IA utilizando el contenido del cliente (que puede incluir su video, audio y transcripciones de chat).

"Tu contenido se utiliza únicamente para mejorar el rendimiento y la precisión de estos servicios de IA", dijo la publicación del blog de Zoom.

Un portavoz de la compañía le dijo a Gizmodo que el poder está en manos de los usuarios de Zoom.

"Los clientes de Zoom deciden si habilitar las funciones de IA generativa", dijeron, refiriéndose a las dos nuevas funciones de IA, "y por separado deciden si compartir el contenido del cliente con Zoom con fines de mejora del producto". La compañía se negó a responder a las preguntas de Gizmodo sobre su uso de "Contenido Generado por el Servicio", que incluye datos analíticos y cualquier cosa además del contenido del cliente ya detallado.

Gizmodo también señaló que el historial de Zoom en cuanto a cómo cumple sus promesas sobre la privacidad es dudoso.

En 2020, la compañía dijo que solo ofrecería cifrado de extremo a extremo a los clientes que pagaran. Una demanda afirmaba que Zoom dijo que ya ofrecía ese tipo de privacidad a todos los usuarios. La plataforma terminó corrigiendo la discrepancia y fortaleciendo su cifrado para los usuarios básicos. Un año después, la compañía aceptó un acuerdo de millones después de compartir datos con Google y Facebook sin informar a los clientes.