SANTA CRUZ - Una de las tecnologías de mayor desarrollo en el mundo no solo está generando nueva información textual, imágenes y sonidos. También ha creado una mezcla de emoción y alarma entre los gobiernos de todo el mundo y los líderes locales están tomando medidas para tratar de anticiparse a la curva.

La Junta de Supervisores del Condado de Santa Cruz instruyó a su personal la semana pasada para comenzar a desarrollar políticas con respecto al uso de inteligencia artificial, comúnmente conocida como "IA", por su fuerza laboral.

Después de la aprobación unánime el martes de la junta, los funcionarios del condado comenzaron el proceso de establecer un grupo de trabajo que tiene como objetivo desarrollar políticas que incluyan consideraciones éticas, riesgos, privacidad de datos y oportunidades asociados con el uso de la IA que guiarán los usos internos y externos, según un comunicado del condado.

El presidente de la Junta y patrocinador de la directiva, Zach Friend, dijo en la reunión de la junta que la IA era "indudablemente una tecnología transformacional", con posibilidades y desafíos significativos.

"Creo que será uno de los mayores cambios que ha ocurrido dentro del gobierno local desde el correo electrónico y algunos otros avances tecnológicos", dijo Friend. "Pero está sucediendo a un ritmo tal que claramente necesita alguna idea interna para ver cómo ponemos algunas barreras de protección a su alrededor. Sin embargo, creo que será un beneficio neto a medida que avancemos".

La Iniciativa Nacional de Inteligencia Artificial, creada por el Congreso en 2020 para garantizar el liderazgo de los EE. UU. en la investigación y desarrollo de IA, define la IA como "un sistema basado en máquinas que puede, para un conjunto dado de objetivos definidos por humanos, hacer predicciones, recomendaciones o decisiones que influyen en entornos reales o virtuales".

Una herramienta de IA que ha recibido una avalancha de atención en los últimos meses es un chatbot llamado "ChatGPT", conocido como un "modelo de lenguaje grande". El chatbot puede generar respuestas escritas originales a preguntas de usuario en cuestión de segundos tomando de una enorme base de datos de libros digitales, escritos en línea y otros medios, según un informe de la Associated Press.

Los usuarios pueden pedirle al chatbot que escriba un poema original o que componga un correo electrónico, por ejemplo.

Aquí en el Condado de Santa Cruz, Friend cree que algunas herramientas de IA podrían ser utilizadas para analizar complejos escritos jurídicos, crear solicitudes de propuestas largas en un corto periodo de tiempo o permitir a las brigadas de obras públicas ver instantáneas generadas por la IA en tiempo real para determinar los daños causados por las tormentas sin tener que estar físicamente en el lugar dañado.

Sin embargo, reconoció que puede haber problemas con la veracidad de algunas de las informaciones producidas por los modelos, lo que hace que sea urgente una política del condado.

Pero las preocupaciones no se detienen ahí.

En marzo, más de 1.000 científicos de la computación, investigadores y líderes de la industria tecnológica firmaron una carta pidiendo una pausa de seis meses en el desarrollo de IA, advirtiendo que los sistemas de IA "pueden plantear riesgos profundos para la sociedad y la humanidad".

Según el comunicado del condado, la política abordará como mínimo:

  • • Privacidad y seguridad de datos, incluyendo abstenerse de compartir información confidencial y sensible con interfaces de IA hasta que se determine que los sistemas estén operando en cumplimiento con la ley federal que restringe la divulgación de información médica (bajo la Ley de Portabilidad y Responsabilidad del Seguro Médico).
  • • Transparencia, asegurando que el uso de la IA sea comprensible para los usuarios.
  • • Responsabilidad, incluyendo evaluaciones para asegurar que los sistemas de IA sean precisos y/o estén funcionando adecuadamente.
  • • Equidad y prejuicios, asegurando que la IA no discrimine por motivos de raza, sexo y otras clases protegidas.
  • • Consentimiento informado, asegurando que los usuarios estén informados y puedan optar por no utilizar la IA.
  • • Responsabilidad, incluyendo el desarrollo de pautas éticas para el uso de tecnologías de IA.

Los supervisores Manu Koenig y Justin Cummings estuvieron de acuerdo con Friend, con Koenig repitiendo el sentimiento de que la tecnología puede ayudar con la eficiencia al mismo tiempo que señalaba que la agenda de la junta tenía más de 2.000 páginas esta semana.

"Pero, por supuesto, debemos proporcionar barreras de protección mientras exploramos esas oportunidades y creo que algunas de las que se establecen aquí incluyen asegurarnos de evitar cualquier prejuicio en el producto producido por la IA y también asegurarnos de que no compartimos ninguna información personal confidencial", dijo Koenig.

La junta pidió a su personal que regrese con una actualización de progreso en tres meses con el objetivo de desarrollar pautas provisionales para el uso de IA mientras se avanzan en políticas más completas. Mientras tanto, el condado está alentando a su personal a experimentar adecuadamente con el uso de la IA, según el comunicado.

Friend dijo que el Condado de Santa Cruz es uno de los primeros gobiernos locales en todo el estado en considerar la creación de una política de IA, pero agregó que el proceso está destinado a evolucionar con el tiempo.

"Es un proceso iterativo", dijo Friend. "Cada vez que realizamos un cambio, ya estará desactualizado en una política como esta, por lo que en realidad estamos dando un marco basado en valores sobre cómo operar utilizando esta tecnología en el futuro. Me alegra ver que estamos liderando en eso".