Las advertencias de investigadores de Anthropic sobre una posible extinción humana por inteligencia artificial se volvieron virales en cuestión de horas. El problema no es discutir el riesgo, sino reducir una cadena extraordinariamente compleja de condiciones a una frase capaz de hacer pensar que las máquinas están a punto de destruirnos. La humanidad llevaba mucho tiempo viviendo sobre tecnologías capaces de producir daños catastróficos, y otras que dañaron silenciosamente nuestra salud y nuestras capacidades cognitivas, antes de que apareciera ChatGPT.
Jacob Coxon dejó esta semana Anthropic con una advertencia difícil de ignorar. Después de trabajar durante aproximadamente tres años en preentrenamiento entre OpenAI y Anthropic, aseguró que ambas compañías avanzan hacia una superinteligencia capaz de mejorarse a sí misma y están “apostando con nuestras vidas”. En otro mensaje escribió que las personas que construyen estos sistemas creen sinceramente que la inteligencia artificial podría acabar con todos los seres humanos antes de que termine la década. La declaración alcanzó una difusión gigantesca: Fortune contabilizaba ya más de 150 millones de visualizaciones y describía precisamente uno de sus efectos inmediatos: dejar a una audiencia enorme inquieta y sin demasiadas herramientas para entender qué tendría que ocurrir para que semejante escenario fuese posible.
Evan Hubinger, líder de Alignment Science en Anthropic, hizo la frase todavía más contundente al responder que Coxon tenía razón y estimar personalmente en más de 10% la probabilidad de que la IA mate a todos los seres humanos durante la próxima década. Pero Hubinger publicó después una aclaración fundamental que prácticamente desapareció detrás del titular: considera bajo el riesgo procedente de los modelos actuales. Su preocupación es una futura superinteligencia surgida mediante mejora recursiva, es decir, sistemas que participen progresivamente en la construcción de sistemas posteriores y aceleren ese proceso. El propio Hubinger reconoce que el porcentaje es una apreciación personal, no una probabilidad oficial calculada por Anthropic.
Ésa es una diferencia enorme. “Existe una posibilidad superior a 10% de que una hipotética futura superinteligencia, bajo determinadas condiciones todavía inexistentes, termine provocando la extinción humana” no produce psicológicamente el mismo efecto que “la IA podría matarnos a todos en diez años”. La primera formulación obliga a preguntar por mecanismos, dependencias y probabilidades condicionadas. La segunda convierte toda esa cadena causal en un solo sujeto, la IA, y un solo resultado, la muerte de la humanidad, . Es una extraordinaria advertencia pública, pero una pobre explicación del riesgo.
El mecanismo de destrucción ya existía
La inteligencia artificial tampoco llegaría a un planeta desprovisto de tecnologías peligrosas. La humanidad ya extrajo materiales fisibles, construyó arsenales nucleares, instalaciones biológicas de alta seguridad, infraestructura energética, redes eléctricas, sistemas militares, cadenas logísticas y sistemas industriales cuya alteración puede producir consecuencias enormes. A principios de 2026 los nueve Estados con armas nucleares poseían aproximadamente 12 mil 187 ojivas; entre 2 mil 100 y 2 mil 200 permanecían en estado de alta alerta operativa sobre misiles balísticos. Todo ello existe independientemente de los modelos de lenguaje.
Esto no vuelve irrelevante el riesgo de la IA. Lo redefine. Un sistema suficientemente capaz no tendría necesariamente que inventar desde cero un arma apocalíptica. Una parte considerable del peligro potencial podría proceder precisamente de su acoplamiento con infraestructuras creadas previamente por humanos. Para que una inteligencia digital produzca consecuencias físicas necesita interfaces, permisos, comunicaciones, máquinas, agentes humanos o sistemas automatizados capaces de actuar sobre el mundo. El peligro aumenta cuando capacidad cognitiva, autonomía y acceso comienzan a coexistir.
Una IA futura podría también acelerar la creación de tecnologías peligrosas nuevas. Ésa es una preocupación legítima en ámbitos como ciberseguridad y biología. Pero incluso entonces existe una cadena entre conocimiento y consecuencia física. Una fórmula generada en una computadora no se convierte sola en materia; una decisión digital necesita mecanismos para ejecutarse. La gobernanza de la IA consiste precisamente, en buena medida, en decidir a qué mecanismos puede conectarse.
Vista así, la pregunta cambia. No es solamente “¿qué pasa si hacemos una máquina más inteligente que nosotros?”, sino también “¿por qué hemos construido una civilización con tantas palancas capaces de producir daños extraordinarios y ahora contemplamos conectarlas a sistemas cada vez más autónomos?”
Los apocalipsis lentos reciben menos atención
Hay otra asimetría todavía más extraña. Durante la era industrial no todas las amenazas tuvieron forma de explosión. Algunas fueron pequeñas, acumulativas y extraordinariamente difíciles de percibir individualmente.
Durante décadas se liberó plomo al ambiente a través de combustibles, pinturas y procesos industriales. Hoy la Organización Mundial de la Salud sostiene que no existe un nivel conocido de exposición al plomo que carezca de efectos perjudiciales y que incluso exposiciones relativamente bajas durante la infancia pueden alterar permanentemente el desarrollo cerebral, reducir el cociente intelectual y afectar la atención y el desempeño educativo. La OMS atribuyó además más de 3.5 millones de muertes en 2023 a la exposición al plomo, principalmente por consecuencias cardiovasculares.
No fue un fenómeno desconocido durante toda su historia ni puede afirmarse que a nadie le importara. Estados Unidos comenzó a reducir el plomo de la gasolina en los años setenta y completó décadas después su eliminación para vehículos de carretera; la EPA consideró posteriormente esa retirada uno de los grandes logros ambientales, acompañada de una fuerte caída de las concentraciones de plomo en sangre infantil. Precisamente ahí está la paradoja: una tecnología pudo extenderse a escala gigantesca antes de que sus externalidades terminaran provocando una respuesta igualmente gigantesca.
Algo parecido ocurrió con los clorofluorocarbonos. Compuestos utilizados durante años en refrigeración, aerosoles y otros productos estaban destruyendo el ozono estratosférico que protege la vida de la radiación ultravioleta. El mundo finalmente reaccionó con el Protocolo de Montreal de 1987 y el abandono progresivo de esas sustancias; hoy la capa de ozono está en camino de recuperarse. No fue una amenaza imaginaria y tampoco terminó en apocalipsis precisamente porque hubo ciencia, regulación y cooperación internacional.
La contaminación atmosférica ofrece un ejemplo todavía menos espectacular. La OMS ha advertido que afecta el neurodesarrollo infantil y se relaciona con peores resultados en pruebas cognitivas. No hay un robot levantándose contra la humanidad, ningún instante que pueda convertirse fácilmente en película y ningún día concreto en que comience el desastre. Hay millones de exposiciones pequeñas acumulándose durante años.
Quizá por eso provocan una respuesta psicológica distinta. Una inteligencia artificial que “mata a todos” tiene sujeto, intención aparente, fecha aproximada y desenlace. El plomo que disminuye silenciosamente capacidades cognitivas entre millones de niños; una industria que deteriora la capa de ozono; partículas contaminantes que perjudican el desarrollo cerebral o miles de armas nucleares esperando durante décadas una orden humana son amenazas mucho menos narrativas. Se normalizan. Se convierten en paisaje.
Esto no significa que debamos preocuparnos menos por la inteligencia artificial. Tal vez significa que deberíamos haber estado mucho más preocupados por todo lo demás. Coxon y Hubinger pueden tener razones técnicas serias para temer una futura superinteligencia. Jakub Pachocki, científico jefe de OpenAI, acaba de escribir también que espera que los sistemas participen cada vez más en el desarrollo de sus sucesores y dedica buena parte de su ensayo An Alien Mind al problema de conservar control, monitorización y valores humanos durante ese proceso. El riesgo merece investigación precisamente porque quienes desarrollan esta tecnología encuentran motivos para estudiarlo.
Pero comunicar el riesgo también implica responsabilidad. Entre decir que determinados desarrollos podrían abrir una trayectoria hacia sistemas que escapen del control humano y anunciar a cientos de millones de personas que “la IA podría matarnos a todos antes de que termine la década” hay una diferencia importante.
El apocalipsis tecnológico no comenzó con ChatGPT. La humanidad lleva mucho tiempo construyendo cosas capaces de dañarla y, después, aprendiendo dolorosamente a convivir con ellas, limitarlas o retirarlas.
La inteligencia artificial añade algo excepcional: por primera vez estamos construyendo una tecnología general capaz de razonar sobre muchas de las demás, operar sobre sistemas digitales y eventualmente participar en su propia mejora. Ésa es razón suficiente para tomarla muy en serio. No hace falta convertirla en un monstruo sobrenatural para hacerlo.
