BLETCHLEY PARK, Inglaterra, 2 de noviembre (Reuters) - Los principales desarrolladores de IA acordaron trabajar con los gobiernos para poner a prueba nuevos modelos frontera antes de que sean lanzados para ayudar a gestionar los riesgos de la tecnología en rápido desarrollo, en un "logro histórico" que concluyó la cumbre de inteligencia artificial del Reino Unido.
Algunos líderes tecnológicos y políticos han advertido que la IA plantea grandes riesgos si no se controla, que van desde la erosión de la privacidad del consumidor hasta el peligro para los seres humanos y la posibilidad de una catástrofe global, y estas preocupaciones han despertado una carrera por parte de los gobiernos e instituciones para diseñar salvaguardias y regulaciones.
En una Cumbre Inaugural sobre Seguridad de la IA en Bletchley Park, hogar de los descifradores de códigos británicos de la Segunda Guerra Mundial, líderes políticos de Estados Unidos, la Unión Europea y China acordaron el miércoles compartir un enfoque común para identificar los riesgos y formas de mitigarlos.
El Primer Ministro británico, Rishi Sunak, dijo que esta declaración, la acción sobre las pruebas y una promesa de establecer un panel internacional sobre riesgos, "inclinaría la balanza a favor de la humanidad".
Dijo que Estados Unidos, la UE y otros países "afines" habían acordado un "acuerdo histórico" con ciertas empresas trabajando en la vanguardia de la IA, en el que se establece que los modelos deben ser rigurosamente evaluados antes y después de ser implementados.
Yoshua Bengio, reconocido como el padrino de la IA, ayudará a presentar un informe sobre el "Estado de la Ciencia" para construir una comprensión compartida de las capacidades y riesgos futuros.
"Hasta ahora, las únicas personas que han probado la seguridad de los nuevos modelos de IA han sido las propias empresas que las desarrollan", dijo Sunak. "No deberíamos depender de ellos para corregir sus propios deberes, como muchos de ellos están de acuerdo".
EL CAMINO A SEGUIR
La cumbre ha reunido a alrededor de 100 políticos, académicos y ejecutivos tecnológicos para trazar el camino a seguir en una tecnología que podría transformar la forma en que las empresas, las sociedades y las economías operan, con la esperanza de establecer un organismo independiente para proporcionar supervisión a nivel global.En un hecho sin precedentes en los esfuerzos occidentales para gestionar el desarrollo seguro de la IA, un viceministro chino se unió a otros líderes políticos el miércoles en la cumbre centrada en modelos de IA generalizados altamente capaces llamados "IA frontera".
[1/6]El Ministro de Economía francés, Bruno Le Maire, el Ministro de Economía y Clima de Alemania, Robert Habeck, la Presidenta de la Comisión Europea, Ursula von der Leyen, la Vicepresidenta de los Estados Unidos, Kamala Harris, el Primer Ministro británico, Rishi Sunak, el Primer Ministro de Italia, Giorgia Meloni, las Naciones Unidas... Adquirir derechos de licencia. Leer más.
Wu Zhaohui, vice ministro de ciencia y tecnología de China, firmó una "Declaración de Bletchley" el miércoles, pero China no estuvo presente el jueves y no puso su nombre en el acuerdo sobre las pruebas.
Sunak fue criticado por algunos legisladores de su propio partido por invitar a China, después de que muchos gobiernos occidentales redujeran su cooperación tecnológica con Beijing, pero Sunak dijo que cualquier esfuerzo en materia de seguridad de la IA debía incluir a los principales actores".
También afirmó que esto mostraba el papel que Gran Bretaña podría desempeñar al reunir a los tres grandes bloques económicos de Estados Unidos, China y la Unión Europea.
"No fue una decisión fácil invitar a China, y muchas personas me criticaron por ello, pero creo que fue la decisión correcta a largo plazo", dijo Sunak en una rueda de prensa.
OpenAI respaldada por Microsoft, Anthropic, Google DeepMind, Microsoft (MSFT.O), Meta (META.O) y xAI asistieron a las sesiones de la cumbre el jueves, junto con líderes como la Presidenta de la Comisión Europea, Ursula von der Leyen, la Vicepresidenta de Estados Unidos, Kamala Harris, y el Secretario General de las Naciones Unidas, António Guterres.
Von der Leyen dijo que los algoritmos complejos nunca pueden ser probados exhaustivamente, por lo que "por encima de todo, debemos asegurarnos de que los desarrolladores actúen rápidamente cuando ocurran problemas, tanto antes como después de que sus modelos se lancen al mercado".
El empresario Elon Musk les dijo a los asistentes el miércoles que los gobiernos no deberían apresurarse a implementar legislación sobre IA, según dos fuentes.
En cambio, sugirió que las empresas que utilizan la tecnología estaban mejor situadas para descubrir problemas y podrían compartir sus hallazgos con los legisladores encargados de redactar nuevas leyes.
El multimillonario fue el encargado de dar las últimas palabras sobre la IA después de que la cumbre terminara en una conversación con Sunak que se emitiría más tarde el jueves en X de Musk, la plataforma anteriormente conocida como Twitter.
"Vivimos en los tiempos más interesantes", dijo. "Y creo que esto tiene un 80% de posibilidades de ser bueno y un 20% de ser malo, y si estamos conscientes y tenemos cuidado con la parte mala, en general será el futuro que deseamos".
Información de Paul Sandle, Martin Coulter y Alistair Smout; Información adicional de William James y Jan Strupczewski; Edición de Emelia Sithole-Matarise, Susan Fenton y Richard Chang
Nuestros estándares: Los Principios de Confianza de Thomson Reuters.
