Soy uno de esos profetas del apocalipsis criticados por Tim Ritchie, presidente del Museo de Ciencias, en "La predicación fatalista sobre la IA es contraproducente" (Ideas, 23 de julio). Firmé la declaración del Centro de Seguridad de la IA "Mitigar el riesgo de extinción causado por la IA debería ser una prioridad global junto con otros riesgos a escala social como las pandemias y la guerra nuclear", precisamente porque me preocupa que los sistemas de inteligencia artificial puedan convertirse en (en palabras de Ritchie) "seres autónomos e independientes... amorales".

Teniendo en cuenta que ya existe un GPT-4 autónomo (Auto-GPT), parece claro que debemos lidiar con aplicaciones autónomas de la IA y nadie ha descubierto cómo dotar a la IA de un sentido moral. ¿Son seres independientes? El problema aterrador es que nadie lo sabe. En un artículo de opinión del Globe en mayo, "¿Cómo pueden los humanos mantener el control sobre la IA - por siempre?" el investigador de IA Stuart Russell escribió que le preguntó al desarrollador de GPT Sébastien Bubeck si GPT-4 había desarrollado sus propios objetivos internos, y Bubeck dijo que no tenía ni idea.

Ritchie cita a Marc Andreessen: "La IA es un programa informático como cualquier otro... Pertenece a personas y está controlada por personas". ¿Puede ChatGPT pensar por sí mismo? No lo sabemos. ¿Será una IA posterior más inteligente? Probablemente. ¿Construiremos finalmente una IA más inteligente que nosotros? Parece probable, y entonces es difícil imaginar que las personas podrán controlarla.

No deberíamos entrar en pánico, pero tampoco deberíamos negar estos riesgos.

Ken Olum

Sharon

En su comentario de Ideas, el presidente del Museo de Ciencias, Tim Ritchie, nos aconseja "ser prácticos respecto a lo que nos preocupa" acerca de la IA, pero también "celebrar lo bueno" que tiene ("La predicación fatalista sobre la IA es contraproducente"). Uno de los aspectos preocupantes que identifica es que la potencia informática necesaria para alimentar la IA podría aumentar el calentamiento global. Así que aquí va mi sugerencia: la primera tarea para la cual los científicos deberían emplear la IA es descubrir cómo usarla sin aumentar el calentamiento global o, aún mejor, cómo reducirlo. Entonces, comenzaré a celebrar su bondad. Y si puede hacer lo mismo por la industria de las criptomonedas que consume mucha energía, duplicaré mis aclamaciones.

Rick Blum

Bedford