Nadie está listo para lo que viene, con la AI

Exinvestigador de OpenAI alerta: “Hay un 70% de probabilidad de que la IA provoque una catástrofe existencial”

Daniel Kokotajlo, exinvestigador de OpenAI y fundador del AI Futures Project, lanzó una de las advertencias más contundentes hasta la fecha sobre el futuro de la inteligencia artificial. En una extensa entrevista, explicó por qué decidió abandonar OpenAI, renunciar a un acuerdo de confidencialidad valorado en 2 millones de dólares y hablar públicamente sobre los riesgos que, según él, enfrenta la humanidad.

Kokotajlo asegura que la inteligencia artificial avanza mucho más rápido de lo que la mayoría del público cree. Según su visión, existe una alta probabilidad de que la Inteligencia Artificial General (AGI) llegue antes de que termine esta década y que, poco después, evolucione hacia una superinteligencia capaz de superar ampliamente las capacidades humanas.

Uno de los momentos más impactantes de la entrevista llega cuando estima que existe un 70% de probabilidad de una catástrofe existencial relacionada con la IA si el desarrollo continúa sin mecanismos de control suficientes. Se trata de una valoración personal basada en su experiencia y en los escenarios que ha desarrollado junto a otros investigadores, no de un consenso científico.

El exinvestigador también afirma que, durante su paso por OpenAI, observó de cerca la velocidad del progreso tecnológico y concluyó que las capacidades de los modelos estaban aumentando más deprisa de lo que esperaba incluso la propia industria. Esa experiencia fue una de las razones que lo llevó a abandonar la compañía.

En la entrevista también aborda el impacto económico de la IA. Sostiene que una gran parte del trabajo cognitivo podría automatizarse durante la próxima década, transformando profesiones enteras y obligando a replantear el mercado laboral, la educación y la distribución de la riqueza.

Pese a sus advertencias, Kokotajlo no cree que todo esté perdido. Presenta una propuesta recogida en su escenario “AI 2040: Plan A”, que plantea una cooperación internacional, mayores medidas de seguridad, supervisión rigurosa y una gobernanza global de la IA para reducir los riesgos y aprovechar sus beneficios.

Además, analiza cuestiones que ya empiezan a preocupar a gobiernos y empresas: si la IA podría influir en elecciones, convertirse en la principal fuerza económica del planeta o incluso desplazar a los humanos como especie dominante desde el punto de vista intelectual.

Su mensaje final no es pedir detener la inteligencia artificial, sino acelerar su desarrollo de forma responsable. Para Kokotajlo, los próximos años podrían definir el futuro de la civilización.

Fuente: Entrevista con Daniel Kokotajlo publicada en The Diary of a CEO.

Comments

comments