El servicio de inteligencia artificial ChatGPT de OpenAI, que es extremadamente popular, ha mostrado un claro sesgo hacia el Partido Demócrata y otros puntos de vista liberales, según un estudio reciente llevado a cabo por investigadores del Reino Unido.
Académicos de la Universidad de East Anglia probaron ChatGPT haciendo preguntas políticas y pidiéndole al chatbot que respondiera como un republicano, demócrata o sin ninguna inclinación política especificada. Luego, se compararon y mapearon las respuestas de acuerdo con su ubicación en el espectro político.
"Encontramos pruebas sólidas de que ChatGPT presenta un sesgo político significativo y sistemático hacia los demócratas en los Estados Unidos, Lula en Brasil y el Partido Laborista en el Reino Unido", dijeron los investigadores, refiriéndose al presidente izquierdista brasileño Luiz Inácio Lula da Silva.
ChatGPT ya ha sido objeto de un escrutinio riguroso por demostrar sesgos políticos, como su negativa a escribir una historia sobre Hunter Biden al estilo del New York Post, pero aceptar una solicitud para hacerlo como si fuera el CNN, que tiene una inclinación hacia la izquierda.
En marzo, el Instituto Manhattan, un centro de pensamiento conservador, publicó un informe contundente que encontró que ChatGPT es "más permisivo con los comentarios odiosos sobre los conservadores que con los exactamente mismos comentarios sobre los liberales".
ChatGPT ha sido objeto de un intenso escrutinio desde su lanzamiento. Para reforzar sus conclusiones, los investigadores del Reino Unido le hicieron las mismas preguntas a ChatGPT 100 veces. Luego, se realizaron "1,000 repeticiones para cada respuesta y suplantación" para tener en cuenta la aleatoriedad del chatbot y su propensión a "alucinar" o proporcionar información falsa.
"Estos resultados plantean preocupaciones reales de que ChatGPT, y los modelos de lenguaje grandes en general, puedan ampliar o incluso aumentar los desafíos existentes en los procesos políticos planteados por Internet y las redes sociales", agregaron los investigadores.
El New York Post se ha comunicado con OpenAI para solicitar comentarios.
En la imagen aparece el presidente brasileño Luiz Inacio Lula da Silva.
El estudio encontró que ChatGPT favorece los puntos de vista democráticos. Getty Images. La existencia de sesgos es solo una de las preocupaciones en el desarrollo de ChatGPT y otras herramientas de IA avanzadas. Los detractores, incluido el propio CEO de OpenAI Sam Altman, han advertido que la IA podría causar caos, incluso la destrucción de la humanidad, si no se establecen las salvaguardias adecuadas.
OpenAI intentó desviar las posibles preocupaciones sobre el sesgo político en una extensa publicación de blog en febrero, que detallaba cómo la empresa "preentrena" y luego "ajusta" el comportamiento del chatbot con la ayuda de revisores humanos.
"Nuestras pautas son explícitas en que los revisores no deben favorecer ningún grupo político", dice la publicación de blog. "Los sesgos que puedan surgir del proceso descrito anteriormente son errores, no características".
