La IA avanza rápido, pero un experto nos pide calma: ¿qué significa esto para el futuro?

El pasado 9 de septiembre un investigador británico de 27 años, Jacob Coxon, anunció a través de su cuenta de X que había resignado a su trabajo en Anthropic ya que, en sus palabras, tanto dicha empresa como OpenAi, «está actuando de manera responsable. Se dirigen a toda velocidad hacia una superinteligencia capaz de automejorarse y están jugando con nuestras vidas», aseguró. La preocupación de este extrabajador de la mencionada compañía tecnológica es compartida por su exjefe en la compañía Evan Hubinger, que aunque considera «el riesgo de los modelos actuales es bajo», ha mostrado su preocupación por lo que pueda venir en los modelos futuros, especialmente por «la superinteligencia surgida de la automejora recursiva, que está ocurriendo más rápido de lo que pensábamos» y que hace referencia a la capacidad de la IA pueda automejorarse por mi misma, lo que puede derivar en una progresión tecnológica extremadamente rápida. I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below. — Jacob Coxon (@hilbertspaess) September 9, 2026 Sin embargo, hay voces que, aunque no niegan de forma tajante las preocupaciones de Coxon, son más prudentes a la hora de vaticinar la evolución de la IA. Tal es el caso de Pablo Moreno, vicerrector de Investigación y Transferencia de la Universidad Internacional de La Rioja (UNIR), Pablo Moreno, que ha pedido no interpretar desde una perspectiva «totalmente catastrofista» las advertencias sobre el riesgo de que la inteligencia artificial (IA) pueda llegar a acabar con los humanos en la próxima década, aunque ha reconocido que existen riesgos reales y ha situado el «alineamiento» de los futuros sistemas como uno de los principales desafíos. ¿Hay riesgos en una inteligencia artificial cada vez más avanzada? El catedrático de Computación e IA ha explicado a Europa Press Televisión que estas previsiones se basan en los sistemas actuales y tratan de anticipar qué podría ocurrir cuando las futuras generaciones de inteligencia artificial empiecen a utilizar los modelos anteriores para desarrollar otros sistemas todavía más avanzados. Moreno ha aclarado que no se trata de un peligro asociado a los modelos que existen actualmente, sino a cómo podrían evolucionar en los próximos años. «No es un riesgo de los modelos que usamos hoy, sino de cómo podrían llegar a ser los modelos dentro de unos años», ha señalado. En este sentido, ha recordado que «muchas cosas tienen que pasar para llegar a eso» y que todavía existen posibilidades para controlar y reducir estos riesgos. El experto distingue entre dos grandes tipos de amenazas. La primera está relacionada con el «mal uso» de la inteligencia artificial. Aunque esta tecnología puede servir para mejorar procesos, facilitar el acceso a la información o incrementar la productividad, también puede utilizarse para «hacer mejores armas», llevar a cabo ciberataques o atacar a empresas y países. El segundo riesgo tiene que ver con el llamado «riesgo…

Fuente original: elplural.com