¿Están los chatbots acaparando secretos de estado? ¿Está Chat-GPT recolectando información confidencial?
Mark Pesce, un futurista, experto en tecnología y columnista de Cosmos, ha anunciado un nuevo libro llamado Getting Started with ChatGPT and AI Chatbots que ayuda a las personas a comprender las "reglas de la carretera" para ChatGPT y otros chatbots de IA.
"Nunca antes se había desplegado una tecnología tan rápidamente", le dijo a Cosmos.
"Pensé que lo mejor que podía hacer en este momento era dar a la gente algunas reglas de la carretera".
El problema, según Pesce, es que las personas están utilizando estas tecnologías sin precaución, lo que lleva a la divulgación de información confidencial, e incluso de secretos de estado, a los servicios de IA.
En agosto, él destacó una historia de Crikey que mostraba que el personal del Departamento de Defensa había accedido a los servidores de ChatGPT miles de veces antes de que finalmente se restringiera el dominio web.
"Las organizaciones necesitan desarrollar políticas sobre cómo y cuándo y por qué se pueden usar los chatbots, luego necesitan desarrollar procedimientos y luego necesitan protocolos para cuando algo salga mal", dice Pesce.
"Las organizaciones no tienen nada de esto en este momento".
El segundo problema que Pesce aborda en el libro es que los chatbots simplemente no son muy buenos para decir la verdad.
"La otra razón por la que escribí el libro es porque, por su naturaleza esencial, estas cosas no pueden distinguir las fabulaciones de la verdad", dice Pesce.
"¿Cómo puedes saber si un chatbot de IA está dando una respuesta verdadera o no, si estás fuera de tu área de experiencia?"
Si bien Pesce ve ambos problemas como grandes problemas en la actualidad, empresas como Microsoft y Google están tratando actualmente de implementar chatbots en la mayor cantidad posible de sus programas, por lo que esto solo se convertirá en un problema mucho más grande en un futuro no muy lejano.
"Estas son herramientas muy poderosas y maravillosas, pero piénsalo dos veces antes de compartir datos con ellas", dice Pesce.
"Si es personal, privado, comercialmente confidencial, algo que no quisieras que se gritara desde los techos, probablemente no presiones la tecla de ingresar".
Puedes preordenar el libro de Mark Pesce Getting Started with ChatGPT and AI Chatbots: An introduction to generative AI tools aquí.
¿Las baterías de los coches eléctricos explotan? ¿Debo preocuparme por mi índice de masa corporal? Obtén los hechos que realmente quieres saber sobre.
