El creciente uso de la inteligencia artificial ha sido un tema candente en los últimos años, con un número creciente de industrias que comienzan a utilizar esta tecnología que se predice que revolucionará algunos sectores.
La tecnología genera entusiasmo, pero también hay preocupaciones sobre los posibles impactos negativos en las personas y en la sociedad.
En su nuevo libro, "Más que un error: Enfrentando los sesgos de raza, género y habilidad en la tecnología", la investigadora de inteligencia artificial y profesora de periodismo de datos Meredith Broussard profundiza en el impacto de algunos de los problemas arraigados en la inteligencia artificial.
Broussard habló con ABC News sobre cómo descubrió cómo se utilizó la inteligencia artificial durante sus propias pruebas de diagnóstico de cáncer de mama y algunos de los posibles inconvenientes de utilizar la tecnología en esta capacidad.
Se ve a la investigadora de inteligencia artificial y profesora Meredith Broussard durante una entrevista con ABC News Live el 15 de agosto de 2023. LINSEY DAVIS: Entonces, en el libro hablas de que te diagnosticaron cáncer de mama y en algún momento te enteras de que la inteligencia artificial había leído realmente tu examen. ¿Cuál fue tu reacción ante eso?
MEREDITH BROUSSARD: Me pareció muy extraño, porque estaba dependiendo de mis médicos para el cuidado en este momento de crisis de mi vida. Y pensé, ¿qué encontró esta IA? ¿Cómo se está utilizando? Y como soy investigadora en inteligencia artificial, pensé, ¿quién creó esta IA en particular? Porque sé que hay muchos sesgos en los sistemas de inteligencia artificial.
Así que no hice nada con este conocimiento de inmediato, pero luego, después de recuperarme, volví a eso y realmente pasé mis películas a través de una IA de código abierto para escribir sobre el estado del arte en la detección de cáncer basada en inteligencia artificial.
MÁS: Actualizaciones en vivo de los incendios forestales de Maui: los Biden visitarán la isla hawaiana.
DAVIS: ¿Crees que esto es algo que veremos cada vez más en el mundo de la medicina?
BROUSSARD: Creo que una de las cosas que los investigadores realmente desean hacer, que los investigadores médicos realmente desean hacer, es curar a más personas y diagnosticar a más personas de manera más temprana y precisa, y la verdadera esperanza es que la IA ayude con eso. ¿Va a suceder pronto? No. ¿Podría suceder eventualmente? Tal vez.
DAVIS: ¿Cuáles son los riesgos potenciales de que la IA se use en esta capacidad?
BROUSSARD: Una de las cosas que las personas a menudo no se dan cuenta es que cuando creas un sistema de IA, un sistema de aprendizaje automático, para algo como el diagnóstico del cáncer de mama, en realidad tienes que ajustarlo para tener una mayor tasa de falsos positivos o falsos negativos.
Entonces, un falso positivo significaría que dice: "Oh, podrías tener cáncer", cuando en realidad no tienes cáncer, y te envía para más pruebas. Y un falso negativo significaría que dice: "No hay cáncer aquí", pero en realidad tienes cáncer. Por lo tanto, el costo de un falso negativo es mucho mayor en medicina. Por lo tanto, estos sistemas se ajustan para tener más falsos positivos que falsos negativos, lo que significa que a menudo dirá: "Oh, sí, creo que podría haber un problema aquí", y luego las personas serán referidas para más pruebas, lo que, como muchas personas saben, puede significar semanas o incluso meses de espera para pruebas adicionales y simplemente estar en vilo mientras te preocupas por esto.
DAVIS: Bueno, la gente en casa se va a preguntar si tuviste un falso positivo.
BROUSSARD: Bueno, recibí una atención médica realmente excelente durante mi experiencia con el cáncer. Y simplemente estoy muy agradecida con todos los que me cuidaron. Una de las cosas interesantes sobre la IA que me diagnosticó es que en realidad no se usa para el diagnóstico. Es utilizada por los médicos en este hospital en particular después de que ya hayan dado su propio diagnóstico, por lo que es como una herramienta de respaldo. Entonces, el médico radiólogo ingresa lo que cree que es el diagnóstico y luego obtiene acceso a los resultados de la IA. Y pueden ignorar los resultados de la IA o pueden usarlos para decir: "Bueno, tal vez vuelva a mirar esa área de preocupación".
Así que aún está en manos de los médicos. Nadie necesita preocuparse de que haya IA por ahí, ya saben, diagnosticando a las personas con cáncer. Y definitivamente no estamos en la situación que mucha gente imagina, donde sería como una caja a la que te acercas y te escanea y te dice: "Sí, tienes cáncer. No, no tienes cáncer". Eso no es un escenario razonable.
DAVIS: No hoy.
BROUSSARD: No hoy. Quiero decir, espero que nunca sea así, porque no quiero recibir noticias médicas malas. Quiero eso de un médico. No quiero recibirlo de una máquina.
DAVIS: Meredith, te agradecemos mucho. Por supuesto, esta es una conversación que continuará en los próximos meses y años. Queremos hacerle saber a nuestros espectadores que su libro, "Más que un error: enfrentando el sesgo de raza, género y habilidad en la tecnología", ya está disponible donde se venden libros.
