El director ejecutivo de OpenAI, creador de ChatGPT, expresó su decepción por una filtración que reveló la investigación de la Comisión Federal de Comercio de los Estados Unidos sobre su empresa, para determinar si infringió las leyes de protección al consumidor al recopilar datos públicos y publicar información falsa a través de su chatbot.
"Es muy decepcionante ver que la solicitud de la FTC comienza con una filtración y no ayuda a construir confianza", dijo Sam Altman en Twitter.
"Dicho esto, para nosotros es súper importante que nuestra tecnología sea segura y a favor del consumidor, y confiamos en que cumplimos con la ley. Por supuesto, trabajaremos con la FTC".
Hasta el momento, la FTC no ha comentado ni publicado ninguna declaración en su sitio web respecto a la investigación.
The Washington Post, que informó sobre la investigación, publicó la petición de investigación civil (CID, por sus siglas en inglés) de 20 páginas de la FTC, que detalla el enfoque de la investigación.
En ella, la FTC exige que OpenAI se comunique con el asesor legal de la agencia gubernamental para una reunión telefónica en un plazo de 14 días y ordena a la empresa que se abstenga de "procedimientos habituales de destrucción de documentos y [que] tome medidas para evitar la destrucción de documentos" relevantes para la investigación.
El documento de la FTC muestra que el enfoque principal de la investigación es determinar si OpenAI ha "incurrido en prácticas de privacidad o seguridad de datos injustas o engañosas, o en prácticas injustas o engañosas relacionadas con los riesgos de daño para los consumidores, incluido el daño reputacional, en violación de la Sección 5 de la Ley FTC".
— Sam Altman (@sama) Julio 13, 2023
La tecnología, especialmente la IA, está en un punto de inflexión. A medida que los modelos de lenguaje amplios se vuelven más omnipresentes y sofisticados, los expertos están alertando sobre los posibles peligros.
Desde finales del año pasado, cuando OpenAI lanzó su plataforma de IA generativa ChatGPT, atrayendo a más de 100 millones de usuarios en menos de unos meses, las empresas están compitiendo por llevar productos impulsados por IA al mercado.
Los inversores han invertido más de $4.2 mil millones en startups de IA generativa en 2021 y 2022 a través de 215 acuerdos, después de un aumento en el interés en 2019, según datos recientes de CB Insights.
La tecnología ha estado en manos de los consumidores durante más de una década y hay preocupaciones de que no se pueda regular.
Los críticos de la tecnología dicen que si bien las herramientas de IA y la tecnología de automatización pueden crear texto, música, imágenes y código informático similares a los humanos, lo que puede aumentar la productividad y hacer que las empresas sean más eficientes, también plantean numerosos riesgos.
Los detractores de la IA han dicho que la tecnología podría usarse para reemplazar trabajadores, causar despidos, así como crear imágenes y videos falsos que perpetúen la desinformación, lo que puede influir en las elecciones.
A nivel mundial, la IA generativa podría costar el equivalente a 300 millones de empleos a tiempo completo en automatización en las principales economías, según un informe de Goldman Sachs en marzo. Los abogados y el personal administrativo estarían entre los más propensos a quedar obsoletos.
En mayo, científicos y líderes de la industria tecnológica de Microsoft y Google, incluido el Sr. Altman y Geoffrey Hinton, considerado el padrino de la IA, fueron algunos de los cientos de figuras destacadas que firmaron una declaración advirtiendo sobre los peligros de la IA para la humanidad.
A principios de año, más de 1,000 investigadores y expertos en tecnología, incluido Elon Musk, firmaron otra carta que pedía una pausa de seis meses en el desarrollo de la IA, diciendo que planteaba "riesgos profundos para la sociedad y la humanidad".
En mayo, el Sr. Altman le dijo a un panel del Senado de Estados Unidos que regular la inteligencia artificial era "crítico" y instó al Congreso a imponer nuevas normas a las grandes tecnológicas.
El presidente de Estados Unidos, Joe Biden, ha dicho que su país necesita abordar las preocupaciones sobre la IA, mientras que varios gobiernos de todo el mundo, incluidos los estados de la Unión Europea, han manifestado su deseo de regular la tecnología que está emergiendo rápidamente antes de que sea demasiado tarde.
El mes pasado, el Sr. Biden convocó a un grupo de líderes tecnológicos para debatir lo que él dijo eran los "riesgos y enormes promesas" de la IA.
La demanda civil de investigación de la FTC pide a OpenAI que liste cada sitio web o aplicación móvil que posee o opera.
También busca descubrir qué terceros tienen acceso a los modelos de lenguaje grandes de la compañía y especificar si su acceso es remunerado o no remunerado.
La demanda civil de investigación también exige que OpenAI liste a sus diez principales clientes o licenciatarios y explique cómo retienen y utilizan la información del consumidor, cómo obtienen información para entrenar sus modelos de lenguaje grande y qué algoritmos se utilizan para procesar y comprender el lenguaje natural.
El documento también solicita a la compañía que enumere las medidas que ha tomado para evaluar o mitigar los riesgos y cómo aborda las declaraciones sobre "personas reales que son falsas, engañosas o difamatorias".
