El modelo de lenguaje basado en inteligencia artificial (IA), ChatGPT, ha ganado mucha atención recientemente, y con razón. Es posiblemente la innovación técnica más popular desde la introducción de los altavoces inteligentes ahora ubicuos en nuestros hogares, que nos permiten hacer una pregunta y recibir una respuesta instantánea.
Pero, ¿qué es y por qué es relevante para la ciberseguridad y la protección de datos?
¿Qué es ChatGPT?
Las siglas "GPT" en ChatGPT significan "Transformer Preentrenado Generativo". Es un modelo de Procesamiento de Lenguaje Natural (NLP, por sus siglas en inglés) de última generación desarrollado por OpenAI, basado en una arquitectura de aprendizaje profundo llamada "Transformer", introducida por investigadores de Google en 2017.A grandes rasgos, ChatGPT funciona tomando una secuencia de palabras como entrada y prediciendo la siguiente palabra en la secuencia basada en el contexto de las palabras anteriores. Esto se hace utilizando una técnica llamada autorregresión, donde el modelo genera una palabra a la vez y la alimenta de vuelta al modelo para generar la siguiente palabra.
Para entrenar a ChatGPT, OpenAI utilizó una técnica llamada aprendizaje no supervisado, donde se entrenó al modelo con una gran cantidad de datos de texto de internet. Esto permite que el modelo aprenda patrones y relaciones entre palabras y frases, que puede usar para generar texto coherente y natural.
Una de las características clave de ChatGPT es su capacidad para generar texto contextualmente relevante y coherente, lo que ha llevado a un profesor de periodismo a describirlo como "Google en esteroides". Esto se debe a que, en lugar de enfocarse en toda la cadena, el mecanismo de atención permite que el modelo se centre en diferentes partes de la secuencia de entrada según el contexto. El contexto no se considera al realizar una búsqueda general en la mayoría de los motores de búsqueda.
Aunque aún está en etapas tempranas de desarrollo, ChatGPT es una innovación revolucionaria que promete cambiar el mundo de muchas maneras. Como modelo de lenguaje basado en IA, tiene el potencial de revolucionar la forma en que nos comunicamos, aprendemos e interactuamos con la tecnología. Sin embargo, al igual que toda tecnología, conlleva grandes oportunidades y amenazas, no solo a nivel individual sino también a nivel social.
Una posible oportunidad que puede aprovechar ChatGPT es la mejora de la comunicación.
ChatGPT tiene el potencial de revolucionar la forma en que nos comunicamos entre nosotros. Sus capacidades avanzadas de procesamiento del lenguaje permiten una comprensión y respuesta precisas al lenguaje humano. Esto puede llevar a una comunicación más eficiente y efectiva entre personas, sin importar las barreras lingüísticas o las diferencias dialectales. Pídale a una aplicación de traducción típica que traduzca una carta y lo hará bien, pero ChatGPT es como tener un intérprete a su lado.
Las organizaciones ya están utilizando la IA para mejorar los chatbots para que puedan interactuar con clientes de todo el mundo sin invertir en servicios de traducción. Esto puede mejorar el servicio al cliente al responder en tiempo real con una eficiencia y calidad sin precedentes. Las empresas pueden usar ChatGPT para interactuar con los clientes de manera personalizada, proporcionando soluciones rápidas y prácticas a sus consultas sin intervención humana.
También puede mejorar el aprendizaje, ya que puede procesar, contextualizar y comprender el lenguaje y, por lo tanto, explicar cosas de manera compleja y sencilla.
¿Tiene dificultades para explicar qué es la criptografía? Pregúntele a ChatGPT "Explique qué es la criptografía como si le estuviera hablando a un niño de diez años y explique la importancia de la tecnología".
Sin embargo, como toda tecnología, también hay riesgos. A pesar de todos los aspectos positivos de ChatGPT y la IA, debemos recordar que es imperfecta y puede ser utilizada por personas cuyos motivos pueden no ser tan benignos como los suyos, o por personas que no entienden las implicaciones y limitaciones de la tecnología.
Las amenazas a las que nos enfrentamos
Ya hemos escuchado cómo ChatGPT puede ayudar a analizar el código de programación, y aunque esto es positivo, es importante tener en cuenta que, aunque se pueden identificar errores en el código subido, ChatGPT solo puede responder a lo que se le muestra. A menos que vea todo el código, puede introducir un error debido a una falta de acceso más amplio. ¿Es la respuesta cargar todo el código en ChatGPT? Probablemente no, ya que cualquier cosa que se cargue en el sistema de OpenAI se convierte técnicamente en parte de su base de conocimientos generativos. Esto tiene serias implicaciones cuando se trabaja con propiedad intelectual.Pero estas preocupaciones ocurren a nivel micro; ¿qué pasa con el cambio social? ChatGPT y otras herramientas de IA acelerarán muchos procesos, lo que posiblemente lleve a la pérdida de empleos. ¿Quieres contenido para tu sitio web? ¡No hay problema! Dile a ChatGPT qué haces y pídele que escriba 200 palabras explicando cómo puede beneficiar a tus clientes. Los redactores ya están viendo una disminución en su trabajo. ¿Quieres una imagen para tu sitio? ¡Tampoco hay problema! Pide una idea a otras herramientas de IA, y crearán algo único y gratuito para usar.
Por supuesto, el cibercrimen siempre está al acecho, y el crimen organizado ha identificado la IA como la próxima gran cosa. Han creado múltiples herramientas que dicen ser herramientas de IA y extensiones de navegador que son, en realidad, spyware o malware.
Pero de todos los riesgos que enfrentamos, los riesgos más significativos que las herramientas de IA, como ChatGPT, plantean son prejuicios inherentes, uso ético y nuestra confianza y dependencia de la tecnología. Como modelo basado en IA, ChatGPT puede exhibir prejuicios que reflejan los de sus creadores y entrenadores (ya que aprende de internet). Esto puede llevar a resultados discriminatorios, especialmente en áreas de contratación donde ChatGPT puede excluir a candidatos específicos en función de su raza, género u otras características.
Desde un punto de vista ético, existe el riesgo de que se utilice con fines malintencionados, como la creación de "deepfakes" por diversas razones, desde el ciberacoso hasta la propaganda.
Es esencial tener marcos éticos y regulaciones sólidos para garantizar que la IA se utilice para el beneficio de la sociedad.
Conclusión: la confianza es todo
Recuerda que, para entrenar a ChatGPT, OpenAI utiliza una técnica llamada aprendizaje no supervisado. Si colocaras a un niño en una biblioteca y le permitieras tener un aprendizaje no supervisado, ¿qué tan confiable sería esa educación? ¿Cuánto confiarías en él? ChatGPT ha demostrado también que se equivoca. Si le pides que te diga quién es William Shakespeare, es probable que sea increíblemente preciso, ya que hay mucha información académica sobre él. Pero preguntar quién es Kim Kardashian, Joe Biden o Boris Johnson resultará en una mezcla de mitos e información errónea de internet. ChatGPT está aprendiendo de internet.
ChatGPT es un cambio de juego que tiene el potencial de transformar la forma en que nos comunicamos, aprendemos e interactuamos con la tecnología. Sin embargo, sus capacidades avanzadas también traen amenazas y desafíos que debemos abordar. Si el propósito de ChatGPT es para el beneficio de la sociedad, debemos desarrollar marcos éticos y regulaciones sólidos que prioricen la privacidad, la seguridad y la equidad. También debemos invertir en educación y capacitación para garantizar que las personas tengan las habilidades y la comprensión necesarias para usar esta asombrosa tecnología.
Sobre el Autor: Gary Hibberd es "El Profesor de Comunicación Cibernética" en Cyberfort, y es un especialista en ciberseguridad y protección de datos con 35 años en TI. Es un autor publicado, bloguero habitual y orador internacional sobre todo, desde la "Dark Web" hasta la ciberseguridad y la psicología cibernética. Puedes seguir a Gary en Twitter aquí.
Nota del Editor: Las opiniones expresadas en este artículo de autor invitado son únicamente las del contribuyente y no necesariamente reflejan las de Tripwire.
