Basado en mi experiencia trabajando tanto en la industria tecnológica como en el gobierno de los Estados Unidos, propongo una nueva forma de avanzar en valores compartidos mientras se preserva el motor innovador: poner un Representante Ciudadano en la sala donde ocurre la IA.

Esta semana, Sam Altman, el CEO de OpenAI, testificó ante el Senado y pidió una nueva agencia federal para regular la IA. Esta no es la primera vez que solicita la participación pública para lograr un objetivo ampliamente compartido: un equilibrio entre la innovación sostenida y los valores comunes. Una nueva agencia podría ayudar, aunque los procesos de formulación de normas federales lucharán por mantenerse al día con el ritmo de la tecnología. De manera más contundente, sin embargo, una propuesta de una nueva agencia reguladora continúa con el mismo viejo marco adversarial en el que las empresas son presentadas como problemáticas y necesitan ser vigiladas por el gobierno. Lo que propongo es una forma de respetar el ritmo y la promesa de la innovación, al mismo tiempo que se incorporan las voces ricas y diversas del público en la sala.

Imagina que el Congreso aprobara legislación que requiriera que toda empresa que lance un producto de IA que tenga al menos 10 millones de usuarios tenga un Representante Ciudadano incrustado en la empresa.

Este Representante Ciudadano, elegido por el público, sería pagado por la empresa, se uniría al equipo de liderazgo senior de la empresa y tendría un presupuesto proporcional al tamaño de la empresa, incluyendo personal incrustado en equipos de productos. Por ley y aplicado por los reguladores, el Representante Ciudadano y su personal tendrían acceso al desarrollo interno del producto y participarían en las decisiones críticas de la empresa. Dentro de los límites necesarios para proteger la propiedad intelectual y la privacidad, el Representante Ciudadano podría comunicarse con el público sobre las consideraciones y elecciones de la empresa y solicitar comentarios públicos. Los líderes de la empresa no tendrían que tomar las recomendaciones del Representante Ciudadano, pero tomarían esa decisión a la vista de todos.

La influencia del Representante Ciudadano tendría múltiples formas. La primera es la oportunidad de una asociación productiva que establece una agenda positiva que prioriza los valores públicos. Las decisiones a las que se enfrentan las empresas de tecnología son difíciles y cada vez más difíciles, y la opinión pública asegurará que las empresas no tengan que tomar estas decisiones solas. De hecho, el Representante Ciudadano puede otorgar cobertura a una empresa para hacer lo correcto (especialmente dado que también habría Representantes Ciudadanos en cada competidor). Este tipo de voz "adicional" en la sala se basa en el precedente de los equipos de productos que integran un asesor legal para orientar sobre el cumplimiento. En una cultura corporativa madura, un miembro del equipo del Representante Ciudadano se convertiría en un socio de confianza que ayudaría al equipo a hacer su mejor trabajo. Además, siempre existe la amenaza de una regulación más onerosa y trabajar en estrecha colaboración con el Representante Ciudadano ayudaría a mantenerla a raya.

Otra forma de influencia es la transparencia y el diálogo. Las empresas de tecnología están bajo escrutinio constante, con menos y menos observadores dispuestos a tomar las misiones y los principios declarados de las empresas como algo cierto. La presencia de los Representantes Ciudadanos puede ayudar a las empresas a identificar y abordar más rápidamente las preocupaciones públicas, especialmente si las personas elegidas para desempeñar el papel de Representante Ciudadano son individuos que tienen una gran experiencia en la aplicación de valores sociales a la tecnología. Si es necesario, el Representante Ciudadano podría utilizar su plataforma de alto perfil para incluir al público y a los responsables políticos en la toma de decisiones de la empresa.

El verdadero poder del Representante Ciudadano, sin embargo, es más que las acciones específicas que toma o la información que proporciona. Es el impacto positivo en la cultura de una empresa. Con el tiempo, después de que el Representante Ciudadano y su equipo hayan hecho sentir su presencia en la empresa, la cuestión de cómo una elección particular - lanzar un producto, agregar una característica, invertir en mejores salvaguardas - se alinea con los valores públicos se convertiría en una parte más transparente y estructurada de cada decisión de la empresa.

Los Representantes Ciudadanos pueden parecer una solución modesta, en el sentido de que esta propuesta deja las decisiones en manos de los mismos actores privados que las toman hoy. Pero esta solución cambiaría radicalmente la relación del público con la tecnología. Hoy en día, las decisiones sobre IA y otras tecnologías críticas son opacas al público. Los Representantes Ciudadanos darían a las empresas y al público una mayor comprensión de las ambiciones del otro.

En el contexto de la tecnología actual, las burocracias tradicionales serían un instrumento demasiado tosco para avanzar tanto en la innovación sostenida como en los valores compartidos. En cambio, la IA de hoy requiere un tipo de supervisión más ágil, el "poder blando" de los representantes cuya participación y percepción hacen posible que entreguen consejos ágiles e independientes. Así como los bancos centrales dependen de la coordinación, las relaciones y el conocimiento compartido para regular el sector financiero altamente complejo, los Representantes Ciudadanos pueden influir mejor en el sector tecnológico altamente complejo a través de la participación diaria, la persuasión y la transparencia.

Eventualmente, los Representantes Ciudadanos podrían desempeñarse bien en otras industrias con grandes impactos en el bienestar público. Sin embargo, la IA tiene sentido como lugar para introducirlos, dada la novedad e importancia del espacio y la apertura de la industria a la retroalimentación pública.

La IA lleva el potencial tanto de triunfo como de tragedia. A medida que su impacto en nuestras vidas continúa creciendo, nosotros, como pueblo, podemos avanzar mejor nuestros valores compartidos, incluyendo un compromiso con la innovación, si estamos allí cada día – atentos, alertas y activos – en la habitación donde sucede.