La floreciente industria de la IA acaba de alcanzar otro hito importante, con dos nuevas demandas colectivas que cuestionan si esta tecnología viola los derechos de privacidad, utiliza propiedad intelectual sin consentimiento y afecta negativamente al público en general. Los expertos consideran que estas demandas son probablemente las primeras de una ola de desafíos legales a las empresas que trabajan en este tipo de productos.

Ambas demandas fueron presentadas el miércoles y tienen como objetivo a OpenAI, un laboratorio de investigación que consta de un brazo sin fines de lucro y una corporación, en relación con el software ChatGPT, un "modelo de lenguaje grande" capaz de generar respuestas parecidas a las de los seres humanos a partir de texto de entrada. Una de las demandas, presentada por Clarkson, una firma de abogados de interés público, es amplia e invoca la amenaza potencialmente "existencial" de la IA en sí misma. La otra, presentada por Joseph Saveri Law Firm y el abogado Matthew Butterick, se centra en dos autores reconocidos, Paul Tremblay y Mona Awad, quienes afirman que sus libros fueron parte de los entrenamientos de ChatGPT, lo cual constituiría una violación de derechos de autor, según la queja. (Saveri y Butterick están llevando a cabo acciones legales separadas contra OpenAI, GitHub y Microsoft por GitHub Copilot, un producto de codificación basado en IA al que argumentan que "parece lucrar con el trabajo de programadores de código abierto violando las condiciones de sus licencias de código abierto").

OpenAI no respondió a una solicitud de comentarios sobre las diversas demandas.

La extensa presentación de Clarkson, que incluye más de una docena de demandantes anónimos, comienza citando al fallecido físico teórico Stephen Hawking, quien dijo que "el surgimiento de una IA poderosa será lo mejor o lo peor que le pueda suceder a la humanidad". Advertiendo sobre el potencial de "colapsos civilizacionales" si las empresas tecnológicas no prestan atención a los riesgos de la inteligencia artificial, argumenta que las herramientas públicamente disponibles de OpenAI, que incluyen no solo varias iteraciones de ChatGPT, sino también el producto de creación de imágenes Dall-E, han robado información privada e incluso personalmente identificable de "millones de usuarios de internet", incluidos niños, "sin su consentimiento o conocimiento informado". La demanda solicita una congelación temporal del acceso comercial y el desarrollo de los productos de OpenAI hasta que se implementen una serie de salvaguardias.

La última demanda de Saveri y Butterick acusa a OpenAI de infracción directa de derechos de autor, así como de violaciones de la Ley de Derechos de Autor del Milenio Digital (DMCA). Tremblay (autor de la novela "The Cabin at the End of the World") y Awad (autora de "13 Ways of Looking at a Fat Girl" y "Bunny") son los representantes de una clase propuesta de demandantes que buscarían daños y también medidas cautelares en forma de cambios en ChatGPT. La presentación incluye las respuestas detalladas de ChatGPT a preguntas de los usuarios sobre la trama de los libros de Tremblay y Awad, lo cual, según los abogados, demuestra que OpenAI está obteniendo beneficios indebidos de materiales infringidos que fueron recopilados por el bot de chat.

Aunque las demandas se adentran en un territorio legal desconocido, fueron más o menos inevitables, según aquellos que investigan tecnología de IA y privacidad o ejercen la abogacía en torno a estos problemas.

"[Las empresas de IA] deberían haber esperado y probablemente esperaron este tipo de desafíos", dice Ben Winters, abogado principal del Centro de Información de Privacidad Electrónica y jefe del Proyecto de IA y Derechos Humanos de la organización. Señala que el CEO de OpenAI, Sam Altman, mencionó algunas demandas previas "frívolas" contra la compañía durante su testimonio en el Congreso sobre inteligencia artificial en mayo. "Siempre que se crea una herramienta que implica tanto datos personales y puede ser utilizada tan ampliamente para fines personales dañinos y de otra índole, me sorprendería que no se esperaran llamas legales", dice Winters. "Especialmente porque permiten este tipo de acceso ilimitado para que terceros integren sus sistemas, terminan obteniendo más información personal y en vivo que no está disponible públicamente, como pulsaciones de teclas y actividad en el navegador, de formas que los consumidores no podrían anticipar en absoluto".

Ari Lightman, profesor de medios digitales que enseña sobre tecnologías emergentes en el Heinz College de la Universidad Carnegie Mellon, dice que otra razón importante por la que estamos viendo acciones legales contra OpenAI es que pasó de ser una organización sin fines de lucro a convertirse en una corporación enormemente valiosa con fines de lucro en 2019. (De hecho, la demanda de Clarkson argumenta que los presuntos daños a sus demandantes son resultado directo de esta transición). "Tan pronto como dices: "Tenemos un valor de $30 mil millones", que es lo que todos tus relaciones públicas van a decir, la gente te mirará diciendo: "OK, ahora tienes un objetivo en tu espalda", dice Lightman. "Va a ser un festín para los abogados, tanto para el lado demandante como para el demandado", agrega, prediciendo que los equipos legales "usarán todos los recursos posibles" para abordar el asunto mientras luchan por establecer precedentes en un área legal actualmente ambigua.

"Pensamos que es realmente importante establecer cuáles son los derechos aquí", dice Saveri a Rolling Stone. "Y claramente, las empresas no pidieron permiso, ya saben, ni siquiera están pidiendo perdón. Creo que en cierto grado, nunca pensaron que personas como nosotros diríamos: 'Espera un momento'".

En una declaración que se refiere a su demanda colectiva como un caso federal "histórico", Ryan Clarkson, socio gerente del bufete de abogados de interés público Clarkson, dejó claro que la presentación es una advertencia sobre la IA en general. "OpenAI y Microsoft admiten que no comprenden completamente la tecnología en el centro de la guerra de armamentos que han desatado", dijo en un comunicado. "La han liberado en el mundo de todos modos, y está entrelazándose rápidamente en todos los aspectos de nuestras vidas." (Microsoft ha invertido miles de millones en OpenAI, que también cuenta con millones en respaldo financiero de uno de sus cofundadores, Elon Musk.)

Mehtab Khan, miembro residente en la Facultad de Derecho de Yale y líder de la Iniciativa de Yale/Wikimedia sobre intermediarios e información, dice que no está claro si las empresas detrás de los modelos de lenguaje grandes están adecuadamente preparadas para la magnitud de los problemas legales que les esperan. "Creo que la práctica general de desarrollar LLMs ha ignorado en gran medida las implicaciones de derechos de autor y aún no ha desarrollado medidas sólidas para tener en cuenta los derechos de los usuarios y las preocupaciones de derechos de autor", dice. Sin embargo, ella duda de la demanda de Clarkson, que, según ella, "parece agrupar" muchos problemas distintos y actuales en una sola queja. Ella espera más demandas por derechos de autor y otras relacionadas con la Ley de Fraude y Abuso Informático, que "prohíbe el acceso intencional a una computadora sin autorización o en exceso de la autorización". Luego, dice, probablemente surgirán preguntas sobre la inmunidad de OpenAI bajo la Sección 230 (que protege a los proveedores de servicios de Internet de la responsabilidad por lo que los usuarios dicen o publican en sus plataformas), así como acusaciones de difamación.

En cuanto a la demanda por derechos de autor presentada por Saveri y Butterick, Khan considera que la afirmación de que los libros de los demandantes fueron incluidos en el material fuente de ChatGPT es "tenue", diciendo que es "una imagen incompleta de cómo se desarrollan y se capacitan los conjuntos de datos". Reconoce que OpenAI ha revelado muy poco sobre estos conjuntos de datos, pero dice que los autores tendrán que demostrar tanto que se infringió su escritura como la "similitud sustancial entre sus obras y el resultado generado por el chatbot".

Noah Downs, abogado de propiedad intelectual y socio de Premack Rogers, dice que ambos demandas "parecen bastante condenatorias", pero le da mejores chances de éxito a Clarkson que a Saveri y Butterick, "principalmente porque la ley y la regulación de privacidad son un tema candente y altamente regulado, con medidas bastante objetivas para las violaciones". Por otro lado, la denuncia por derechos de autor es "más incierta" y es un "argumento teórico". Él y Khan anticipan que OpenAI optará por una "defensa clásica de uso legítimo" en ese asunto, que Downs explica que "normalmente se reclama cuando un acusado ha utilizado material protegido por derechos de autor sin permiso, pero con el propósito de comentar, criticar o educar a otros sobre las obras subyacentes". Sin importar los méritos variables de los dos argumentos, él señala que "hay suficientes reclamaciones en cada caso que anticipa que OpenAI no podrá superarlas todas y terminará siendo responsable al menos en un cargo en cada uno".

En cuanto a la privacidad, Winters dice que las grandes empresas de tecnología han evadido responsabilidades por prácticas invasivas de datos debido a la falta de fuertes protecciones de privacidad en Estados Unidos. "Es probable que utilicen las protecciones de la Primera Enmienda en cuanto a la extracción y uso de datos personales", junto con la Sección 230, para negar responsabilidad, dice él. Lightman coincide en que los ciudadanos estadounidenses están más expuestos en este sentido, ya que no tienen una regulación de protección de datos generales tan sólida como la de la Unión Europea, y OpenAI puede argumentar que solo está utilizando información en línea de acceso público.

"Sin embargo, para una empresa que haga esto y proporcione acceso a esta información de una manera a la que no consintieron, los abogados de los demandantes argumentarán que eso viola las leyes de privacidad, invasión de la privacidad", dice Lightman. Lo compara con lo que vimos con gigantes de las redes sociales como Facebook. "En términos de cómo acceden a los datos y utilizan el capitalismo de vigilancia, es exactamente lo mismo una vez más", observa, "donde la innovación está sucediendo tan rápido que no se toma un descanso, lo cual es lo que muchas personas están pidiendo".

Si bien no falta ángulos desde los cuales atacar a OpenAI, Butterick, un diseñador y programador de Hollywood que volvió a ejercer la abogacía debido a los problemas planteados por la IA, dice a Rolling Stone que defender la propiedad de los creativos es un enfoque valioso. "Cuando empiezas a hablar de personas que ingresan datos a un sitio web y de privacidad, hay problemas relacionados con los términos de uso", dice él. "Legalmente, los autores del libro no tienen un acuerdo con OpenAI. Sabemos que ellos ponen sus libros en el mundo, los publican, OpenAI los encontró en alguna parte, los trajo y los entrenó. No es legal. Yo diría, hablando legalmente, que es un conjunto de hechos bonito y claro".

Él y Saveri dudan en predecir una avalancha de demandas contra empresas de IA, aunque perciben un cambio en el estado de ánimo nacional, con Butterick mencionando cómo el espectro de esta tecnología ha galvanizado un movimiento de huelga en la industria del entretenimiento. Saveri se ríe cuando se le recuerda que el CEO de OpenAI desestimó su queja anterior en GitHub, aunque un juez del tribunal de distrito federal había decidido que era suficiente para proceder, como infundada. "Es un poco descortés, ¿verdad? Un poco, ya sabes, despectivo", dice él. "Hay una pequeña desconexión".

"Se siente como si hubiera cambiado mucho" desde su primera demanda contra OpenAI, dice Saveri, aunque fue hace apenas medio año. "Realmente estábamos en territorio inexplorado". Desde entonces, señala, ha habido muchas más discusiones públicas, audiencias del Congreso estadounidense y un impulso creciente para aprobar regulaciones de IA en Europa. "Y a medida que las personas piensan en eso y están preocupadas al respecto, han llegado a nuestra puerta".