El presidente Joe Biden emitió una amplia orden ejecutiva el lunes que tiene como objetivo protegerse de las amenazas planteadas por la inteligencia artificial, asegurando que los actores malintencionados no utilicen la tecnología para desarrollar armas devastadoras o montar ciberataques supercargados.
El movimiento establece un papel para el gobierno federal en una industria de casi medio billón de dólares en el centro de una feroz competencia entre algunas de las mayores compañías del país, incluyendo Google y Amazon.
La administración de Biden también insta al Congreso a aprobar legislación sobre privacidad de datos, un logro que ha eludido a los legisladores durante años a pesar de múltiples intentos.
La orden ejecutiva supervisa las pruebas de seguridad que las empresas utilizan para evaluar los bots de conversación como ChatGPT e introduce estándares industriales como marcas de agua para identificar productos impulsados por IA, entre otras regulaciones.
El conjunto de reformas equivale a "el conjunto de acciones más fuerte que cualquier gobierno en el mundo haya tomado sobre la seguridad, la seguridad y la confianza en la inteligencia artificial", dijo Bruce Reed, jefe adjunto de personal de la Casa Blanca, en un comunicado.
Esto es lo que contiene la orden ejecutiva que busca controlar la IA:
Las empresas de IA deben realizar pruebas de seguridad y compartir los resultados con el gobierno federal
Una regla clave establecida en la orden ejecutiva exige que las empresas de IA realicen pruebas de algunos de sus productos y compartan los resultados con funcionarios del gobierno antes de que las nuevas capacidades estén disponibles para los consumidores.Las pruebas de seguridad realizadas por los desarrolladores, conocidas como "red teaming", garantizan que los nuevos productos no representen una amenaza importante para los usuarios o el público en general.
Si una evaluación de seguridad arroja resultados preocupantes, el gobierno federal podría obligar a una empresa a mejorar el producto o abandonar una iniciativa determinada.
Los nuevos poderes gubernamentales están permitidos por la Ley de Producción para la Defensa, una ley promulgada hace tres cuartos de siglo que otorga a la Casa Blanca un amplio papel en la supervisión de industrias vinculadas a la seguridad nacional, según afirmó la administración Biden.
"Estas medidas garantizarán que los sistemas de IA sean seguros, seguros y confiables antes de que las empresas los hagan públicos", añadió la Casa Blanca.
El presidente Joe Biden, a la izquierda, habla en la Sala Roosevelt de la Casa Blanca con Adam Selipsky, director ejecutivo de Amazon.com Inc.
Servicios Web (AWS), de izquierda a derecha, Greg Brockman, presidente y co-fundador de OpenAI, Nick Clegg, vicepresidente de asuntos globales y comunicaciones de Meta Platforms Inc., Mustafa Suleyman, director ejecutivo de Inflection AI, y Dario Amodei, co-fundador y director ejecutivo de Anthropic, el 21 de julio de 2023.Yuri Gripas/Abaca/Bloomberg via Getty Images
Un nuevo conjunto de normas establece estándares de la industria de IA
La orden ejecutiva establece un conjunto amplio de normas de la industria con la esperanza de crear productos transparentes y seguros frente a resultados peligrosos, como material biológico originado por IA o ciberataques.Un nuevo estándar de gran prominencia codificaría el uso de marcas de agua que alertan a los consumidores cuando se encuentran con un producto habilitado por IA, lo cual podría limitar la amenaza planteada por contenido impostor como los deepfakes.
Otra norma garantizaría que las empresas de biotecnología tomen precauciones adecuadas al utilizar IA para crear o manipular material biológico.
La guía de la industria funcionará como sugerencias en lugar de mandatos, permitiendo que las empresas ignoren las recomendaciones gubernamentales.
El gobierno federal utilizará su influencia como principal financiador de la investigación científica para abogar por el cumplimiento de la advertencia sobre el material biológico, según afirmó la Casa Blanca en un comunicado. Para fortalecer el impulso de las marcas de agua, por otro lado, la Casa Blanca requerirá que las agencias federales las utilicen al implementar productos de IA.
Sin embargo, la orden ejecutiva corre el riesgo de presentar una visión ambiciosa para el futuro de la IA pero insuficiente poder para lograr un cambio a nivel de toda la industria, afirmó Sarah Kreps, profesora de gobierno y directora del Instituto de Política Tecnológica de la Universidad de Cornell.
"La nueva orden ejecutiva adopta el tono adecuado al reconocer tanto las promesas como los peligros de la IA", afirmó Kreps. "Lo que falta es un mecanismo de ejecución e implementación. Está solicitando muchas acciones que probablemente no recibirán una respuesta".
Las agencias gubernamentales enfrentarán una estricta supervisión en su uso de la IA
La orden ejecutiva instruye a una amplia gama de agencias gubernamentales a implementar cambios en su uso de la IA, elevando a las instituciones federales como ejemplo de prácticas que la administración espera que finalmente sean adoptadas por el sector privado.Por ejemplo, los programas de beneficios federales y los contratistas tomarán medidas para garantizar que la IA no empeore el sesgo racial en sus actividades, afirmó la Casa Blanca. De manera similar, el Departamento de Justicia establecerá reglas sobre la mejor manera de investigar los abusos de los derechos civiles relacionados con la IA.
Mientras tanto, el Departamento de Energía y el Departamento de Seguridad Nacional tomarán medidas para abordar la amenaza que la IA representa para la infraestructura crítica.
Robert Weissman, presidente del grupo de defensa del consumidor Public Citizen con sede en Washington D.C., elogió la orden ejecutiva al tiempo que reconoció sus limitaciones.
"La orden ejecutiva de hoy es un paso vital por parte de la administración de Biden para comenzar el largo proceso de regular la tecnología de la IA en rápida evolución", afirmó Weissman. "Pero es solo el primer paso".
