el 22 de junio de 2023 a la 1:00 pm
Las credenciales de ChatGPT de alrededor de 100.000 cuentas han sido descubiertas en mercados en línea ilegales conocidos como la dark web, según un informe de la empresa de investigación de ciberseguridad con sede en Singapur, Group-IB. La información de inicio de sesión guardada de ChatGPT fue recopilada por software malicioso a lo largo de un año por el mismo tipo de software que roba contraseñas de correo electrónico y otra información personal, lo que demuestra la popularidad del chatbot de IA generativa tanto por parte de los usuarios como por parte de aquellos que explotarían sus datos.
Dark ChatGPT
Como se puede ver en el gráfico anterior, el número de inicios de sesión de ChatGPT descubiertos en datos robados aumentó rápidamente de 74 en junio del año pasado a casi 27.000 en mayo. La región de Asia-Pacífico fue la fuente general más alta de las credenciales de ChatGPT vendidas en la dark web, con alrededor del 40%, seguida de Europa. En cuanto a cómo fueron robados, Group-IB identificó tres tipos de malware como los principales perpetradores: Raccoon, Vidar y Redline, aunque Raccoon representó casi el 80% de los robos. Una vez que estos ladrones de información obtienen las credenciales, se venden en mercados en línea que requieren software ilícito para acceder a ellos.
"Muchas empresas están integrando ChatGPT en su flujo operativo. Los empleados ingresan correspondencias clasificadas o utilizan el bot para optimizar el código patentado", dijo el jefe de inteligencia de amenazas de Group IB, Dmitry Shestakov. "Dado que la configuración estándar de ChatGPT conserva todas las conversaciones, esto podría ofrecer inadvertidamente un tesoro de inteligencia delicada a los actores de amenazas si obtienen las credenciales de la cuenta. En Group-IB, estamos monitoreando continuamente las comunidades subterráneas para identificar rápidamente dichas cuentas".
La filtración de credenciales no se debe a ninguna brecha en la seguridad de OpenAI, aunque probablemente atraerá más escrutinio a los sistemas de seguridad del desarrollador de IA generativa. OpenAI realizó varias actualizaciones en su infraestructura de seguridad después de que un experto en seguridad descubriera una vulnerabilidad de ChatGPT que permitía a algunos usuarios ver los títulos de las conversaciones de otras personas con la IA. Una resolución relativamente rápida no pudo evitar más escrutinio por parte de los reguladores gubernamentales y una breve prohibición de ChatGPT en Italia. También llevó a OpenAI a establecer un programa de "recompensa por errores" que paga hasta $20.000 a los usuarios que informan a la empresa sobre problemas de seguridad.
El robo acelerado de inicios de sesión de ChatGPT destaca cuánto las herramientas de IA generativas y las cuentas que las personas usan para ellas se están convirtiendo en parte del portafolio de información personal de un usuario de Internet. Las cuentas de correo electrónico, las contraseñas bancarias y otros datos privados y críticos requieren información de inicio de sesión cada vez más compleja y actualizada regularmente. Por esa razón, OpenAI puede necesitar establecer políticas similares, según reconoció la compañía.
"Los hallazgos del informe de inteligencia de amenazas de Group-IB son el resultado de malware de commoditie en los dispositivos de las personas y no una violación de seguridad de OpenAI", dijo OpenAI en un comunicado. "Actualmente estamos investigando las cuentas que han sido expuestas. OpenAI mantiene las mejores prácticas de la industria para autenticar y autorizar a los usuarios a servicios, incluido ChatGPT, y alentamos a nuestros usuarios a utilizar contraseñas fuertes e instalar solo software verificado y confiable en sus computadoras personales".
Seguir a @voicebotaiSeguir a @erichschwartz
OpenAI soluciona la vulnerabilidad de seguridad de ChatGPT que causó una larga interrupción
OpenAI otorgará $1M para Programas de Seguridad Cibernética Generados por IA
OpenAI, la empresa de investigación de inteligencia artificial, anunció una competencia que premiará con $1 millón a los programas de seguridad cibernética generados por inteligencia artificial más efectivos. La intención de OpenAI es motivar la creación de nuevos sistemas que brinden una mejor seguridad en línea contra ciberataques. Los interesados pueden inscribirse desde ahora hasta el 30 de septiembre.
OpenAI pagará hasta $20 K por encontrar errores en ChatGPT
OpenAI también ha establecido un programa de recompensa de errores que pagará hasta $20,000 a quienes encuentren vulnerabilidades en su modelo de lenguaje natural conocido como ChatGPT. Este programa incentiva a los investigadores a probar los sistemas de inteligencia artificial y ayudar a mejorarlos. Las recompensas pueden variar según la gravedad del error encontrado.
Eric Hal Schwartz es el Jefe de Escritura y Productor de Podcasts para Voicebot.AI. Eric ha sido un escritor y editor profesional por más de una docena de años, especializándose en historias sobre cómo la ciencia y la tecnología se intersectan con los negocios y la sociedad. Eric se encuentra en la ciudad de Nueva York.
