Los gobiernos de todo el mundo están apresurándose en adoptar los algoritmos que han dotado de cierta inteligencia a ChatGPT, aparentemente cautivados por la enorme rentabilidad económica que se espera de esta tecnología.
Dos nuevos informes publicados esta semana demuestran que los Estados-nación también están apresurándose en adaptar esta misma tecnología para desarrollar armas de desinformación, lo que podría convertirse en una preocupante carrera armamentista de IA entre las grandes potencias.
Investigadores de RAND, un grupo de reflexión sin ánimo de lucro que asesora al gobierno de Estados Unidos, señalan evidencias de que un investigador militar chino con experiencia en campañas de desinformación ha estado debatiendo públicamente cómo la IA generativa podría ayudar en ese tipo de trabajo. Un artículo de investigación de enero de 2023 sugiere el uso de grandes modelos de lenguaje, como una versión ajustada de Google BERT, un precursor de los modelos de lenguaje más potentes y capaces que alimentan a los chatbots como ChatGPT.
"No hay evidencia de que esto se esté haciendo ahora mismo", dice William Marcellino, experto en IA y científico social y de comportamiento en RAND, quien contribuyó al informe. "Más bien, alguien está diciendo: 'Aquí hay una opción'.", Marcellino y otros en RAND están alarmados ante la perspectiva de que las campañas de influencia adquieran una nueva escala y poder gracias a la IA generativa. "Crear un sistema que genere millones de cuentas falsas que pretendan ser taiwanesas, estadounidenses o alemanas, y que promuevan una narrativa estatal, creo que es cualitativa y cuantitativamente diferente", dice Marcellino.
Las campañas de desinformación en línea, como la que realizó la Agencia de Investigación de Internet de Rusia para socavar las elecciones de Estados Unidos en 2016, han existido durante años. En su mayoría han dependido del trabajo manual, es decir, de trabajadores humanos que teclean en sus teclados. Sin embargo, los algoritmos de IA desarrollados en los últimos años podrían potencialmente producir en masa texto, imágenes y vídeos diseñados para engañar o persuadir, e incluso llevar a cabo interacciones convincentes con personas en plataformas de redes sociales. Un proyecto reciente sugiere que lanzar una campaña de este tipo podría costar apenas unos cientos de dólares.
Marcellino y sus coautores señalan que muchos países, incluido Estados Unidos, están casi seguramente explorando el uso de la IA generativa para sus propias campañas de información. Y la amplia accesibilidad de las herramientas de IA generativa, incluidos numerosos modelos de lenguaje de código abierto que cualquier persona puede obtener y modificar, reduce el umbral para cualquiera que quiera lanzar una campaña de información. "Diversos actores podrían utilizar la IA generativa para la manipulación en las redes sociales, incluidos actores no estatales técnicamente sofisticados", escriben.
Un segundo informe emitido esta semana por otro grupo de reflexión centrado en la tecnología, el Proyecto de Estudios Compatitivos Especiales, también advierte que la IA generativa podría convertirse pronto en una forma de que las naciones se impongan entre sí. Insta al gobierno de Estados Unidos a invertir en gran medida en la IA generativa porque la tecnología promete impulsar muchas industrias diferentes y proporcionar "nuevas capacidades militares, prosperidad económica e influencia cultural" para la nación que la domine primero.
Al igual que el informe de RAND, el análisis del SCSP también llega a algunas conclusiones sombrías. Advierte que el potencial de la IA generativa es probable que desencadene una carrera armamentística para adaptar la tecnología al uso militar o en ciberataques. Si ambos tienen razón, nos dirigimos hacia una carrera armamentística en el espacio de la información que puede resultar particularmente difícil de contener.
¿Cómo evitar la pesadilla de que Internet se vea invadido por bots de IA programados para la guerra de información? Requiere que los humanos hablen entre sí.
El informe del SCSP recomienda que Estados Unidos "debe liderar el compromiso global para promover la transparencia, fomentar la confianza y fomentar la colaboración". Los investigadores de RAND recomiendan que los diplomáticos estadounidenses y chinos discutan sobre la IA generativa y los riesgos en torno a la tecnología. "Puede ser de interés para todos que no tengamos un Internet totalmente contaminado e increíble", dice Marcellino. Creo que eso es algo en lo que todos podemos estar de acuerdo.
