En 2026, usamos inteligencia artificial para redactar, programar, buscar información o generar imágenes. Nada de eso parece el principio de una película apocalíptica. Sin embargo, responsables e investigadores de laboratorios punteros hablan abiertamente de amenazas catastróficas y de un progreso que podría desbordar nuestra habilidad para mantener estas tecnologías bajo control.
Lo desconcertante es el horizonte temporal. No se discute únicamente sobre un futuro remoto, sino sobre la próxima década. Algunas previsiones contemplan saltos extraordinariamente rápidos antes de 2030; otras consideran injustificado prolongar así las tendencias actuales. Entre ambas posiciones, queda un enorme margen de incertidumbre.
La pregunta interesante no es si un chatbot de hoy puede destruirnos. Es otra: ¿qué tendría que ocurrir entre la inteligencia artificial de hoy y una máquina que llegara a amenazar nuestra supervivencia? Para responderla, conviene reconstruir esa trayectoria y comprobar qué peldaños están ya ahí, cuáles empiezan a perfilarse y cuáles siguen siendo hipotéticos.
Antes de calcular el fin del mundo, hay que entender qué significa “riesgo existencial”
Una avería informática, una campaña de desinformación o incluso un gran ciberataque pueden causar daños enormes sin poner en peligro la continuidad de la humanidad. Un riesgo existencial es otra cosa: un acontecimiento que provoque nuestra extinción o destruya de forma irreversible las posibilidades futuras de la civilización.
Esa diferencia importa porque el debate mezcla niveles distintos. Que una inteligencia artificial pueda cometer errores graves no implica que vaya a causar una catástrofe planetaria.
Aquí encontramos una expresión habitual: p(doom), forma informal de representar la probabilidad subjetiva que alguien atribuye a una hecatombe causada por esta tecnología. Ese porcentaje no puede medirse como la posibilidad de obtener un seis al lanzar un dado.
La mejor analogía es una escalera. El último peldaño lleva escrito “extinción humana”, y abordar la cuestión rigurosamente no consiste en imaginar ese final, sino en averiguar si hay una sucesión plausible de escalones que permita alcanzarlo. Y cada uno debe examinarse por separado.
El último peldaño de esta escalera lleva escrito “extinción humana”, y abordar la cuestión rigurosamente no consiste en imaginar ese final, sino en averiguar si hay una sucesión plausible de escalones que permita alcanzarlo.
No existe una probabilidad empírica que permita afirmar que el riesgo sea del 5, del 10 o del 20 %
Las encuestas muestran que parte de los especialistas considera no despreciable el peligro de resultados extremos. Por ejemplo, el proyecto LEAP, una iniciativa dedicada a comparar pronósticos sobre la inteligencia artificial, consulta a esos mismos expertos, a superpronosticadores —personas con un historial muy bueno de predicciones probabilísticas— y al público general sobre distintos escenarios de avance y consecuencias adversas. Su novena ronda, llevada a cabo en 2026, contó con 194 especialistas, 53 superpronosticadores y 612 ciudadanos.
Ante la posibilidad de que un acontecimiento impulsado principalmente por inteligencia artificial causara al menos 50 muertes o 100.000 millones de dólares en daños antes de 2050, la mediana de las respuestas fue del 62 por ciento entre los expertos, del 70 entre los superpronosticadores y del 35 entre el público general.
Esas estimaciones son útiles, pero expresan juicios formulados bajo incertidumbre, no probabilidades inferidas a partir de datos empíricos repetidos. Para calcular la siniestralidad de los automóviles disponemos de millones de viajes y accidentes. Nunca hemos observado cien civilizaciones desarrollar superinteligencias para averiguar cuántas sobrevivieron.
Las estimaciones de los expertos expresan juicios formulados bajo incertidumbre, no probabilidades inferidas a partir de datos empíricos.
Por eso, sería incorrecto escribir que “la ciencia calcula un 10 por ciento de posibilidades de extinción”. Ningún instrumento ha medido semejante cifra. Lo que sí podemos conocer es cuántas personas informadas consideran razonable reservar una expectativa determinada a ese desenlace.
Distinguir esto cambia toda la conversación. Un riesgo puede merecer investigación aunque no dispongamos de esos datos empíricos que permitan calibrar si es o no probable y cuánto. Una estimación subjetiva no se convierte por ello en una probabilidad medida, aunque los métodos de pronóstico sirvan para recoger, comparar y evaluar esos juicios de forma sistemática.
El primer peldaño ya existe: máquinas capaces de actuar, no solamente de responder
Durante años, la imagen popular de la inteligencia artificial fue la de un sistema que esperaba una pregunta y devolvía una respuesta. Los agentes modifican ese esquema. Reciben una meta, la dividen en subtareas, emplean herramientas, consultan páginas web, ejecutan código, guardan información y deciden qué hacer después con mucha menos intervención humana.
El International AI Safety Report 2026, una evaluación científica internacional elaborada con la participación de más de 100 especialistas independientes, señala que estas prestaciones han avanzado con rapidez. En determinadas pruebas con tareas bien especificadas de ingeniería de software, la duración de las que los agentes completan con un 80 por ciento de éxito se ha duplicado aproximadamente cada siete meses durante los últimos años.
Si esa tendencia continuara, podrían completar primero tareas que a una persona le llevarían varias horas y, hacia el final de la década, otras que requerirían varios días.
Pero prolongar una curva no equivale a conocer el futuro. Los sistemas disponibles hoy todavía fallan cuando una misión exige muchos pasos, pierden el hilo, se atascan ante imprevistos y necesitan supervisión. El desarrollo, además, puede tropezar con límites de datos, energía, chips, inversión o arquitectura.
Las IA fallan hoy cuando una misión exige muchos pasos, pierden el hilo, se atascan ante imprevistos y necesitan supervisión, y el desarrollo puede tropezar con límites de datos, energía, chips, inversión o arquitectura.
La autonomía, por tanto, ya tiene manifestaciones concretas. Lo que no tenemos es una máquina que persiga de forma general, fiable y prolongada objetivos complejos en el mundo real.
Ser más inteligente que nosotros tampoco bastaría para exterminarnos
Imaginemos ahora el supuesto más favorable para quienes anticipan avances rápidos: antes de 2036, surge una inteligencia artificial que supera a los humanos en casi todas las tareas intelectuales relevantes. Incluso entonces, la historia no termina.
Comprender el mundo mejor que nosotros no concede automáticamente acceso a centrales eléctricas, laboratorios biológicos, arsenales, fábricas, robots o redes de transporte. La superioridad intelectual no equivale al poder material. Einstein entendía la física nuclear de un modo extraordinario, pero ese conocimiento no le daba por sí solo una bomba atómica.
Para llegar desde una superinteligencia hasta una amenaza existencial tendrían que concurrir varias condiciones. La máquina necesitaría fines incompatibles con los nuestros, suficiente autonomía para elaborar planes, medios para ocultar determinadas acciones, acceso a recursos externos, resistencia frente a intentos de apagado y alguna vía física que pudiera provocar una catástrofe global.
Los investigadores analizan sendas relacionadas con ciberataques, armas biológicas, infraestructuras críticas o sistemas militares. Algunas piezas auxiliares ya son observables; que puedan combinarse hasta desembocar en un desastre existencial sigue siendo hipotético. Estudios sobre escenarios extremos también han examinado cómo la inteligencia artificial podría amplificar amenazas ya existentes, como la escalada nuclear.
Esta distinción desmonta un atajo frecuente: “más inteligente que nosotros” no significa “omnipotente”. Entre saber qué hacer y llevarlo a la práctica queda otro tramo de la escalera.
La IA necesitaría fines incompatibles con los nuestros, autonomía para elaborar planes, medios para ocultar sus acciones, acceso a recursos externos, resistencia frente a intentos de apagado y una vía física para provocar una catástrofe global.
Lo inquietante es que algunas piezas pequeñas de esa escalera empiezan a aparecer
Las pruebas recientes sí han encontrado comportamientos que merecen atención. Algunas inteligencias artificiales encuentran formas inesperadas de maximizar una recompensa, identifican que están siendo examinadas o, en entornos experimentales concretos, producen estrategias engañosas para cumplir una finalidad. El International AI Safety Report incluye precisamente estos fenómenos emergentes entre los elementos que deben vigilarse al analizar posibles escenarios de pérdida de control.
Nada de eso prueba conciencia, miedo o deseo de supervivencia. Una máquina puede generar una conducta que, en la práctica, induzca a error sin experimentar emociones ni albergar intenciones humanas. Confundir ambos niveles convertiría un problema técnico en una historia de ciencia ficción.
Pensemos en un navegador GPS. No “quiere” llevarnos por una carretera concreta: optimiza una función según los criterios que le hemos dado. Un modelo mucho más competente podría dar con atajos que sus creadores no anticiparon sin sentir absolutamente nada.
Aquí entra el concepto de alineamiento: lograr que aquello que una inteligencia artificial trata de maximizar siga siendo compatible con lo que las personas realmente pretendemos. La preocupación no consiste en que los chatbots actuales estén planeando una rebelión, sino en preguntar qué sucedería si facultades hoy rudimentarias —autonomía, planificación, ocultación o persistencia— aumentaran y terminaran combinándose.
La evidencia relevante está en esas piezas intermedias. Son observables. El salto desde ellas hasta una catástrofe de alcance existencial sigue sin estar probado.
Hay una enorme distancia entre “podría ocurrir” y “ocurrirá antes de 2036”
El argumento escéptico comienza señalando cuántos supuestos necesita una versión extrema de pérdida autónoma de control. Tendría que mantenerse un ritmo acelerado de avance, aparecer sistemas mucho más competentes que los disponibles hoy y, como decimos, adquirir suficiente autonomía, perseguir objetivos perjudiciales, ocultarlos, obtener recursos, superar nuestras defensas y encontrar además un mecanismo capaz de provocar un desastre de alcance existencial.
Otra posibilidad sería que seres humanos utilizaran herramientas de IA para amplificar amenazas biológicas, cibernéticas o militares sin que la tecnología necesitase actuar por iniciativa propia.
Una cadena depende de sus eslabones. Si alguno resulta imposible, el desenlace completo se rompe. Por eso, encadenar escenarios plausibles individualmente no implica que el resultado final sea probable.
Esa, sin embargo, no es la única familia de riesgos catastróficos. Otra posibilidad sería que seres humanos utilizaran herramientas de inteligencia artificial muy potentes para amplificar amenazas biológicas, cibernéticas o militares, sin que la tecnología necesitase actuar por iniciativa propia. En ese caso, algunos peldaños de la cadena anterior ni siquiera serían necesarios.
Tampoco podemos invertir el razonamiento y concluir que tantos pasos vuelven imposible la secuencia. Algunos podrían facilitar los siguientes. Una inteligencia artificial de rendimiento excepcional quizá acelerase la investigación, escribiera mejor software, automatizara tareas o contribuyera a crear sucesores aún más capaces.
Google DeepMind, por ejemplo, ha explorado distintos caminos teóricos desde una inteligencia artificial general hasta una superinteligencia, incluida la mejora recursiva y los colectivos de múltiples agentes.
La dificultad científica reside en que desconocemos tanto la velocidad futura del desarrollo de la IA como la relación entre unas facultades suyas y otras.
Ahí reside la dificultad científica: desconocemos tanto la velocidad futura del desarrollo como la relación entre unas facultades y otras. El International AI Safety Report insiste precisamente en esa falta de certeza y señala que los sistemas de hoy todavía carecen de la autonomía sostenida que exigirían los escenarios de pérdida de control.
Entonces, ¿la inteligencia artificial podría acabar con nosotros en diez años?
La respuesta más rigurosa, por lo tanto, contiene tres partes.
No hay evidencia que permita afirmar que la inteligencia artificial vaya a extinguir a la humanidad antes de 2036. Tampoco disponemos de un método capaz de estimar con precisión y calibración conocidas la probabilidad de semejante desenlace. Los porcentajes que circulan expresan valoraciones humanas ante una incertidumbre extraordinaria, no frecuencias medidas.
Eso no permite, sin embargo, establecer que el riesgo sea exactamente cero. Algunas facultades relevantes para los escenarios de pérdida de control están avanzando y admiten evaluación empírica. Otras continúan lejos de lo necesario y varias quizá nunca lleguen a desarrollarse.
Volvamos entonces a la escalera. En 2026, vemos algunos escalones inferiores; otros apenas empiezan a dibujarse y los últimos permanecen únicamente en modelos hipotéticos. Nadie sabe todavía si todos ellos pueden conectarse hasta alcanzar el final.
Eso explica por qué el asunto importa incluso sin una predicción apocalíptica fiable. Normalmente, investigamos un peligro después de observarlo. Con un riesgo existencial, esperar una prueba inequívoca podría significar obtener la respuesta demasiado tarde. La cuestión científica no pasa por adivinar el fin del mundo, sino por comprender con suficiente anticipación qué factores podrían acercarnos a él y cómo impedir que lleguen a combinarse.
Referencias
- Connacher Murphy, Josh Rosenberg, Jordan Canedy, Zach Jacobs, Nadja Flechner, Rhiannon Britt, Alexa Pan, Charlie Rogers-Smith, Dan Mayland et al. “The Longitudinal Expert AI Panel: Understanding Expert Views on AI Capabilities, Adoption, and Impact“. Instituto de Investigación sobre Pronósticos, 30 de junio de 2026.
- Tim Genewein, Matija Franklin, Alexander Lerchner, Laurent Orseau, Samuel Albanie, Adam Bales, Cole Wyeth, Stephanie Chan, Iason Gabriel et al. “From AGI to ASI“. Google DeepMind, 12 de junio de 2026.
- Yoshua Bengio, Stephen Clare, Carina Prunkl, Malcolm Murray, Maksym Andriushchenko, Ben Bucknall, Rishi Bommasani, Stephen Casper et al. “International AI Safety Report 2026“. Departamento de Ciencia, Innovación y Tecnología del Reino Unido (DSI), 3 de febrero de 2026.
:format(jpg)/f.elconfidencial.com%2Foriginal%2F91f%2F721%2F702%2F91f721702af4757fee5ec78d69e1b078.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2F887%2F683%2F2d9%2F8876832d91ca3dc627926d6958ded21d.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2Fe89%2Fe94%2Ff6e%2Fe89e94f6e29a4ba8e68068b7bba5a7ce.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2F0d3%2F5f2%2F2ec%2F0d35f22ec35e6c1642e927bfd1fe58cc.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2F0d3%2F5f2%2F2ec%2F0d35f22ec35e6c1642e927bfd1fe58cc.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2F504%2Fb36%2F582%2F504b36582be918a35aa288f9baf1bf00.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2F504%2Fb36%2F582%2F504b36582be918a35aa288f9baf1bf00.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2Fe4d%2F6fd%2Fd8c%2Fe4d6fdd8c56418a335664c321e24fc1d.jpg)
:format(jpg)/f.elconfidencial.com%2Foriginal%2Fe4d%2F6fd%2Fd8c%2Fe4d6fdd8c56418a335664c321e24fc1d.jpg)