Inteligencia artificial y humanos
Obtuve el asistir y moderar una sesión durante la conferencia Momentum de Reuters Thompson en Austin, Texas, recientemente. Mi sesión trató sobre la exageración versus el miedo: gestionando las percepciones del consumidor y las experiencias con IA. Durante la conferencia se abordaron muchos temas, incluyendo las tendencias de inversión y empleo impulsadas por la IA, qué cosas hace bien la IA actualmente y cómo la utilizarán las personas en sus trabajos diarios, y por supuesto, qué debemos tener en cuenta en relación con la IA.
En mi sesión de debate participaron Sandeep Dave, Director Digital y Tecnológico de la empresa de bienes raíces comerciales CBRE, Lauren Kunze, CEO de la compañía de IA ICONIQ AI, Sri Shivananda, Vicepresidente Ejecutivo y Director de Tecnología de Paypal, y el Dr. Jesse Ehrenfeld, Presidente de la Asociación Médica Estadounidense. Yo moderé la sesión en representación del IEEE.
Al comenzar, señalé que muchas personas en el IEEE trabajan en IA y sus aplicaciones, y que el IEEE organiza muchas conferencias y publicaciones que se centran en la operación técnica y práctica de la IA. Además, la Asociación de Normas del IEEE (SA) ha organizado varias actividades relacionadas con la Ética de la IA. En 2016, el SA del IEEE publicó la primera edición de un informe sobre el Diseño Éticamente Alineado de Sistemas Autónomos e Inteligentes. La última actualización de este informe se publicó en 2019. A continuación se muestra un historial de las actividades del IEEE en relación con el uso de la IA.
Actividades de normativas del IEEE sobre Ética e IA
Resúmenes del SA del IEEE
El IEEE ha estado trabajando con legisladores de todo el mundo para establecer el uso adecuado de la IA. Se han creado o están en proceso de creación varios estándares del IEEE que abordarán el uso ético de la IA. Estos incluyen normas sobre privacidad de datos, sesgos algorítmicos, gobierno de datos de niños y estudiantes y transparencia de sistemas autónomos, entre muchos otros temas. El SA del IEEE también está buscando colaborar con terceros en la certificación de prácticas de IA consistentes con las normas de IA en evolución.
Aquí están algunos comentarios de los otros miembros del panel. Sandeep Dave dijo que la IA/ML no es algo nuevo, ya hemos implementado el aprendizaje automático en diversos ámbitos del ciclo de vida de bienes raíces para lograr mejoras en la eficiencia, hacer predicciones (por ejemplo, movimientos del mercado, fallas de activos) y pronósticos. Vemos una gran ventaja de la IA a lo largo de todo el ciclo de vida de los bienes raíces, desde hacer las cosas de manera diferente (es decir, obtener beneficios significativos en productividad) hasta hacer cosas diferentes (por ejemplo, diseño generativo iterativo hacia una meta deseada, una combinación de GenAI y capacidades de visualización para 'experimentar' un espacio antes de construirlo).
Lauren Kunze dijo que la IA generativa está sobrevalorada en el sentido de que las empresas todavía necesitan reglas. Muchas empresas cometerán costosos errores debido a que no entienden qué puede y qué no puede hacer la IA. También dijo que la IA alterará la forma en que trabajamos y los trabajos del futuro. Como ejemplo, mencionó un estudio de caso realizado por su empresa en colaboración con H&M, una empresa de moda femenina, que trabajó con Meta para utilizar un creador virtual, Kuki (@kuki_ai) de ICONIQ AI en Instagram para promocionar productos de moda reales.
Sri Shivananda dijo que el miedo, la incertidumbre y la duda son reales y continúan. Afirmó que la IA es una herramienta y un medio, pero no es el resultado en sí. Será necesario confiar para optimizar los resultados utilizando la IA y la verdadera innovación surgirá de dos agendas opuestas: primero, aprovechar el poder y, en segundo lugar, hacerlo humano.
El Dr. Jesse Ehrenfeld dijo que la Asamblea de Delegados de la AMA desarrollará principios y recomendaciones sobre los beneficios y las consecuencias imprevistas del asesoramiento médico generado por la IA. Afirmó que los médicos aceptan las tecnologías emergentes, pero no pueden ignorar las preocupaciones sobre la confiabilidad, la regulación y las políticas públicas. También dijo que las herramientas más avanzadas y habilitadas por IA aún no pueden diagnosticar ni tratar enfermedades.
También se deben tener en cuenta otras consideraciones en relación con el uso de modelos de IA complejos y modernos. Sandeep Dave destacó que existe un costo real asociado con la implementación y que el acceso empresarial puede volverse costoso rápidamente, lo que dificulta el retorno de la inversión. Además, dijo que el uso de GenAI puede ser contrario a los objetivos de sostenibilidad de una organización debido a la energía consumida en el entrenamiento de estos modelos.
Uno de los temas discutidos en el panel fue la confianza en la IA cuando los métodos de su funcionamiento no están claros. Muchos algoritmos de IA desarrollan modelos ponderados complejos basados en el reconocimiento de patrones en los datos. Estos modelos no siguen los métodos del razonamiento humano común y esto puede generar desconfianza en lo que están haciendo y en la utilidad de los resultados finales.
Parece claro que un mayor conocimiento de lo que hace y cómo toma decisiones una IA ayudará mucho a asegurarnos de comprender qué es posible y qué no lo es con la IA, lo que nos permitirá utilizarla de manera ética.
