En los últimos días se ha repetido una cifra que ha causado mucho impacto: “Hay más de un 10% de probabilidades de que la inteligencia artificial acabe con la humanidad”. La frase viene de Evan Hubinger, investigador de seguridad en Anthropic, quien dijo que personalmente asigna más de un 10% a que esto ocurra durante la próxima década.
A este tipo de estimación se le llama p(doom): la probabilidad que una persona asigna a que la IA provoque una catástrofe extrema, incluida la extinción humana. (La palabra importante es personalmente: no es una estadística obtenida de datos ni el resultado de un modelo científico).
Eso no significa que el riesgo sea inventado. Los sistemas actuales ya muestran comportamientos que preocupan a investigadores: pueden encontrar atajos no previstos, reconocer que están siendo evaluados e incluso realizar acciones no autorizadas cuando se les da suficiente autonomía.
El salto está en lo que viene después. Para pasar de esos comportamientos a una extinción humana tendría que cumplirse una cadena bastante larga: sistemas mucho más capaces que los actuales, autonomía sostenida, objetivos incompatibles con los nuestros, capacidad de evadir supervisión, acceso a recursos y, finalmente, la incapacidad humana de detenerlos.
El International AI Safety Report 2026 reconoce que algunas capacidades precursoras están avanzando, pero también señala que los sistemas actuales todavía no poseen la combinación necesaria para provocar una verdadera pérdida de control.
Por eso tampoco sabemos realmente si el riesgo es 10%, 1% o 0,1%.
Investigadores clasifican este problema como uno de incertidumbre profunda: podemos imaginar algunos caminos hacia una catástrofe, pero no tenemos datos históricos ni probabilidades objetivas que permitan calcular su probabilidad. Incluso en escenarios extremos como armas biológicas, guerra nuclear o geoingeniería, se encuentran enormes barreras entre una catástrofe global y la extinción literal de todos los humanos.
La conclusión razonable no es “no hay de qué preocuparse”, pero tampoco “la ciencia dice que tenemos 10% de posibilidades de morir”.
Lo que sí parece tener un consenso mucho más amplio entre posiciones muy distintas es que necesitamos mejores evaluaciones independientes, más monitoreo y control sobre sistemas cada vez más autónomos, y capacidad de reaccionar cuando aparezcan señales concretas de riesgo.
No sabemos cuánto es p(doom), pero sí sabemos que avanzar sin medir, sin supervisar y sin mecanismos claros de respuesta sería una apuesta innecesaria.
Consultor en Comunicación Digital con 20 años de experiencia en marketing y publicidad. Locutor y co-presentador de TecToc Radio.
