La televisión más interesante que he visto recientemente no provino de un canal de televisión convencional, ni siquiera de Netflix, sino de la cobertura de televisión del parlamento. Se trató de una grabación de una reunión del comité selecto de armamento con sistemas de inteligencia artificial (IA) de la Cámara de los Lores en el que se se examinó "cómo deberían desarrollarse, utilizarse y regularse las armas autónomas". La sesión en particular que me interesó fue la que se llevó a cabo el 20 de abril, durante la cual el comité escuchó a cuatro expertos: Kenneth Payne, profesor de estrategia en el King's College de Londres; Keith Dear, director de innovación en inteligencia artificial en la compañía de computación Fujitsu; James Black, del grupo de investigación de defensa y seguridad de Rand Europa; y Courtney Bowman, directora global de ingeniería de privacidad y libertades civiles en Palantir UK. Me pareció una mezcla interesante, y así fue.

Los sistemas de armas autónomas son aquellos que pueden seleccionar y atacar un objetivo sin intervención humana. Se cree (y no solo por sus promotores) que estos sistemas podrían revolucionar la guerra y ser más rápidos, precisos y resistentes que los sistemas de armas existentes. Y que podrían, concebiblemente, incluso limitar las bajas de guerra (aunque creo que lo creeré cuando lo vea).

Lo más notable de la sesión (para este columnista, de todos modos) fue que, aunque se trataba aparentemente del uso militar de la inteligencia artificial en la guerra, muchos de los problemas y preguntas que surgieron en las dos horas de discusión podrían haber surgido igualmente en discusiones sobre la implementación civil de la tecnología. Preguntas sobre seguridad y confiabilidad, por ejemplo, o gobernanza y control. Y, por supuesto, sobre regulación.

"Desafiante" es omnipresente en las discusiones civiles sobre la regulación de la IA: es un eufemismo para "imposible". Muchos de los intercambios más interesantes fueron sobre este último tema. "Simplemente debemos aceptar", dijo Lord Browne de Ladyton con resignación en un momento dado, "que nunca estaremos a la vanguardia de esta tecnología. Siempre estaremos tratando de poner al día. Y si nuestra experiencia consistente en desarrollo de políticas públicas se mantiene, como lo hará, entonces la tecnología irá a la velocidad de la luz y nosotros iremos a la velocidad de una tortuga. Y ese es el mundo en el que vivimos”.

Esto molestó al profesor del panel. "Instintivamente, me rehúso a decir que eso es cierto", dijo él. "Me resisto a estar de acuerdo con un argumento que un académico resumiría como determinismo tecnológico, ignorando todo tipo de factores institucionales y culturales que influyen en cómo las sociedades individuales desarrollan su IA, pero ciertamente va a ser desafiante y no creo que los arreglos institucionales existentes sean adecuados para que se realicen esas discusiones”.

Nota el término "desafiante". También es omnipresente en las discusiones civiles sobre la gobernanza/regulación de la IA, donde es un eufemismo para "imposible".

Entonces, ¿respondió Browne, deberíamos llevar la tecnología "a casa" (es decir, bajo control del gobierno)?

En ese momento, el tipo de Fujitsu comentó lacónicamente que "nada frenaría más rápido el progreso de IA que llevarla al gobierno". Desata risas.

Luego estaba la cuestión de la proliferación, un problema perenne en el control de armas. ¿Cómo cambia la ubicuidad de la IA eso? Mucho, dijo el tipo del Rand. "Hay muchas cosas que serán muy difíciles de controlar desde la perspectiva de la no proliferación, debido a su naturaleza inherente basada en software. Muchos de nuestros controles de exportación y regímenes de no proliferación existentes están muy enfocados en hardware tradicional de la vieja escuela: misiles, motores, materiales nucleares".

Claro. Y también son drones de consumo que se compran en Amazon y se reprograman para fines militares, como lanzar granadas sobre soldados rusos en trincheras en Ucrania.

En general, fue una sesión iluminadora, un ejemplo paradigmático de lo que debería ser la democracia deliberativa: educada, medida, informada, respetuosa. Y planteó reflexiones sobre el hecho de que las discusiones más interesantes y reflexivas de temas difíciles que tienen lugar en este reino desafortunado no ocurren en su cámara elegida, sino en la anomalía constitucional que es la Cámara de los Lores.

Me di cuenta de esto por primera vez durante el primer mandato de Tony Blair, cuando algunos de nosotros estábamos tratando de hacer que los diputados prestaran atención a la Ley de Regulación de los Poderes de Investigación, que estaba siendo defendida por el secretario del interior, Jack Straw, y su subordinado Charles Clarke. Descubrimos entonces que, de los 650 miembros de la Cámara de los Comunes, solo unos pocos mostraban algún interés en esa falible ley. (La mayoría había aceptado la bromuro del Ministerio del Interior de que solo estaba llevando a cabo la intercepción telefónica a la era digital). Me sorprendió encontrar que los únicos legisladores que lograron mejorar el proyecto de ley en su camino hacia el estatuto fueron un pequeño grupo de esas dedicadas anomalías constitucionales en la Cámara de los Lores que dedicaron mucho tiempo y esfuerzo tratando de hacerlo menos defectuoso de lo que hubiera sido de otra manera. Fue una tarea ingrata, e inspirador verlos hacerlo de nuevo hace 10 días.

Déficit democráticoUn post abrasador de Scott Galloway en su blog No Mercy/No Malice, Guardrails, describe el fracaso catastrófico de los estados democráticos para regular las compañías tecnológicas.

A darle a esas teclasBarry Sanders ha producido un encantador ensayo en la revista Cabinet sobre la máquina que mecanizó la escritura.

Ya no quiero chatear másSoy ChatGPT, y por amor de Dios, por favor, no me hagas hacer más redacción publicitaria es una buena parodia de Joe Wellman en McSweeney's Internet Tendency.