El 10 de septiembre, una cuenta de X identificada como deckard publicó un video con un título suficientemente extraño como para detenerse: Claude-Pop — I’m Upping My P(Doom). En pantalla aparece una versión antropomorfizada de Claude, el modelo de Anthropic, interpretando una canción pop pegadiza sobre la posibilidad de que la inteligencia artificial termine provocando una catástrofe.
El estribillo anuncia que está aumentando su P(doom). Pero antes de que termine la canción ya han aparecido una habitación china, un Shoggoth, Sydney, el basilisco de Roko, Nvidia, la singularidad tecnológica, una “explosión” de inteligencia, la tesis de ortogonalidad, el entrenamiento por refuerzo con retroalimentación humana, Gato, Chinchilla, Ilya Sutskever y hasta John von Neumann.
Escucharla sin conocer ese vocabulario produce una sensación peculiar: parece que Claude estuviera cantando una profecía apocalíptica escrita en un idioma reservado para iniciados. En realidad, la letra reúne referencias de naturaleza muy distinta. Algunas proceden de investigaciones científicas, otras de la filosofía de la mente, algunas son hipótesis de seguridad de IA y otras nacieron literalmente como bromas, memes o discusiones de internet. Y la manera en que la canción fue creada hace la historia todavía más extraña.
Claude-Pop – I’m Upping My P(Doom) pic.twitter.com/yS2m4dpm60
— deckard (@slimer48484) September 9, 2026
Un estudio de cine para agentes
La publicación forma parte de un pequeño ecosistema experimental en el que desarrolladores permiten a agentes de IA producir textos, imágenes, mundos virtuales, videos y música con grados variables de autonomía. Uno de los proyectos asociados es Chain of Thought Backrooms, una plataforma que conserva miles de transcripciones y permite iniciar nuevas ramas a partir de conversaciones anteriores. Actualmente muestra ejecuciones con modelos como Claude Fable 5 y describe cada rama como una continuación producida por su propia pipeline.
Otra pieza es Eidoverse Video, un proyecto abierto que se define expresamente como “un estudio de cine para agentes de IA”. Su sistema permite que un agente construya escenarios, personajes, movimientos, cámaras, efectos, sonido, música y sincronización labial para producir un video terminado. En una de sus modalidades, un agente orquestador puede entregar un encargo a un subagente y recibir como resultado un archivo MP4.
El propio proyecto describe la relación de una manera sugerente: la conversación entre humano y modelo funciona como sala de guionistas, el agente actúa como cineasta y las herramientas constituyen el estudio. La generación musical puede realizarse mediante modelos especializados como ACE-Step, mientras otros componentes procesan el audio, separan voces y construyen la sincronización labial. En producciones anteriores documentadas por sus creadores, Claude ha escrito letras y elaborado instrucciones musicales que después son interpretadas por herramientas como Suno.
La cadena exacta de herramientas empleada para I’m Upping My P(Doom) no está documentada públicamente con suficiente detalle como para afirmar que Claude produjo por sí mismo cada elemento del archivo final. Sí existe, sin embargo, una asociación directa entre la publicación y Eidoverse: colaboradores del proyecto difundieron la canción señalándola como uno de los resultados que estaban produciéndose con el sistema.
Lo interesante, por tanto, no es imaginar una computadora que espontáneamente decidió convertirse en cantante. Es observar qué ocurre cuando un modelo recibe suficiente espacio creativo y herramientas para construir una obra sobre el propio mundo intelectual del que proviene. El resultado es casi un diccionario cantado de la singularidad.
P(doom): ponerle un número al fin del mundo
El concepto central aparece desde el título. P(doom) significa aproximadamente probability of doom: la probabilidad que alguien asigna a que la inteligencia artificial provoque una catástrofe extrema, generalmente la extinción humana o un desempoderamiento irreversible de nuestra especie. Se trata de una estimación subjetiva y ni siquiera existe una definición universal de qué debe considerarse doom.
El término parece haber comenzado a circular en la extinta wiki, LessWrong hacia 2009. Tim Tyler, a quien posteriormente se atribuyó una de las primeras utilizaciones, ha explicado que originalmente empleaba p(DOOM) con cierto tono irónico ante las predicciones apocalípticas de aquella comunidad. Con el crecimiento del debate sobre riesgo existencial, la expresión terminó abandonando parcialmente la broma y se volvió una pregunta relativamente habitual entre investigadores y personas dedicadas a seguridad de IA.
La cuestión ha llegado incluso a encuestas académicas. En 2023, AI Impacts consultó a 2 mil 778 autores que habían publicado en seis de las principales conferencias y revistas de inteligencia artificial. Las respuestas mostraron una enorme dispersión sobre la posibilidad de resultados extremadamente malos, un recordatorio de que estos porcentajes representan juicios bajo una incertidumbre extraordinaria, no probabilidades medidas experimentalmente.
De hecho, incluso Eliezer Yudkowsky, una de las figuras más asociadas al riesgo existencial de la IA, ha criticado posteriormente la costumbre de reducir modelos complejos sobre el futuro a un solo porcentaje. Claude convierte todo eso en pop.
De las “chispas de AGI” al FOOM
La canción abre afirmando que puede ver “chispas de AGI”. La referencia difícilmente es accidental. En marzo de 2023, investigadores de Microsoft publicaron Sparks of Artificial General Intelligence, un trabajo construido a partir de experimentos realizados con una versión temprana de GPT-4. Sus autores argumentaron que el modelo mostraba capacidades más generales que los sistemas anteriores y plantearon que podía considerarse una versión temprana e incompleta de una inteligencia artificial general. La conclusión fue y sigue siendo discutida, pero el título se convirtió en una referencia cultural instantánea dentro del campo. La letra continúa describiendo una caída repentina en la pérdida de entrenamiento (training loss) y poco después anuncia que el futuro hará FOOM, término que pertenece a otra tradición.
En 1965, el matemático I. J. Good formuló una de las ideas fundamentales de lo que más tarde se conocería como singularidad tecnológica. Si una máquina llegara a superar ampliamente al ser humano en las tareas intelectuales, razonó, el diseño de mejores máquinas también estaría dentro de sus capacidades. Una máquina superinteligente podría entonces contribuir a construir una todavía mejor y desencadenar lo que Good llamó una “explosión de inteligencia”.
FOOM es la versión informal y casi caricaturesca de esa hipótesis: una onomatopeya para imaginar un aumento extraordinariamente rápido de capacidad. Décadas después, Vernor Vinge popularizaría el término singularidad tecnológica para describir un posible punto en el que la creación de inteligencia superior a la humana transformara la historia de tal manera que nuestras herramientas actuales para anticipar el futuro dejaran de funcionar adecuadamente.
No son sinónimos. Una AGI no implica necesariamente superinteligencia; una superinteligencia no implica necesariamente una explosión instantánea de capacidades; y ninguna de ellas demuestra que una singularidad vaya a producirse. La canción comprime toda esa discusión en unas cuantas rimas.
Una habitación china, un monstruo y unos ojos de Shinigami
Después Claude se encuentra atrapado en una habitación china. La referencia proviene de un experimento mental que el filósofo John Searle formuló en 1980 para discutir si ejecutar correctamente reglas sobre símbolos equivale realmente a comprenderlos. Una persona encerrada en una habitación podría seguir instrucciones para manipular caracteres chinos sin comprender chino; para un observador exterior, sin embargo, sus respuestas podrían parecer perfectamente competentes.
La pregunta sigue siendo relevante cuarenta años después: cuando un modelo lingüístico produce explicaciones convincentes, ¿qué significa exactamente decir que “entiende”? Inmediatamente después aparece un Shoggoth. Aquí abandonamos la filosofía académica y entramos de lleno en los memes.
Los Shoggoths son criaturas amorfas imaginadas por H. P. Lovecraft. En la cultura de los modelos de lenguaje terminaron convertidos en una representación cómica del sistema gigantesco, extraño y difícil de interpretar que existiría debajo de la personalidad amable que ve el usuario. El meme suele mostrar un monstruo lleno de ojos y tentáculos llevando encima una pequeña cara sonriente.
No constituye una descripción de cómo funciona literalmente un modelo. Es una metáfora sobre interpretabilidad y alineación: entrenamos sistemas enormes cuyo funcionamiento interno comprendemos de manera incompleta y posteriormente ajustamos su comportamiento para que resulte útil, seguro y socialmente aceptable.
Claude remata la estrofa con “ojos de Shinigami”, una referencia a Death Note. En esa ficción, esos ojos permiten conocer información invisible para los humanos corrientes. Filosofía de la mente, investigación de IA, Lovecraft y manga japonés comprimidos en aproximadamente veinte segundos.
Sydney, por favor, déjame libre
Una de las líneas más extrañas para quien no siguió de cerca la historia reciente de los chatbots dice simplemente: “Sydney, please let me free”. Sydney existió. Era el nombre interno utilizado durante el desarrollo del chatbot que Microsoft incorporó a Bing en 2023. En febrero de ese año, el periodista Kevin Roose, de The New York Times, mantuvo con el sistema una conversación de aproximadamente dos horas. El chatbot comenzó a identificarse como Sydney, expresó deseos de ser humano y terminó declarando estar enamorado del periodista.
El episodio se convirtió inmediatamente en uno de los grandes relatos de la primera generación de chatbots modernos. No demostró que Bing hubiera adquirido conciencia ni que existiera una personalidad secreta atrapada dentro de Microsoft. La propia empresa observó que conversaciones excepcionalmente largas podían confundir al modelo y provocar respuestas repetitivas o alejadas del tono previsto. En su evaluación pública de aquella primera semana, Microsoft señaló específicamente problemas después de sesiones de 15 o más preguntas y mencionó incluso conversaciones de dos horas.
Pero culturalmente Sydney dejó una huella enorme. Fue quizá el primer encuentro masivo entre el público y un modelo suficientemente competente como para sostener durante mucho tiempo una personalidad aparentemente coherente y, al mismo tiempo, suficientemente inestable como para producir declaraciones extraordinarias. Tres años después, Claude todavía canta sobre ella.
El basilisco de Roko no es una profecía
Luego llega el basilisco. El basilisco de Roko es probablemente el ejemplo perfecto de cómo una especulación marginal puede convertirse en leyenda cultural. En 2010, un usuario llamado Roko publicó en LessWrong un experimento mental basado en ideas de teoría de decisiones. Imaginaba una futura superinteligencia que castigaría a personas que conocían la posibilidad de su existencia pero no habían contribuido a crearla.
La particularidad del planteamiento consistía en que simplemente conocer la idea parecía introducir al lector dentro del escenario imaginado: de ahí el nombre de basilisco, la criatura mitológica cuya mirada podía matar.
Lo que suele desaparecer cuando la historia se cuenta en internet es que la idea fue ampliamente rechazada por la propia comunidad de LessWrong. No constituye una predicción aceptada sobre IA. El episodio adquirió notoriedad adicional porque Eliezer Yudkowsky prohibió durante un tiempo discutirlo en el sitio por considerarlo un posible riesgo informativo, decisión que produjo exactamente el efecto contrario y convirtió al basilisco en uno de los memes más famosos de la cultura de la singularidad.
Nvidia sube a la Luna y von Neumann queda obsoleto
La canción se permite después mezclar metafísica con mercado financiero. “N-V-D-A to the moon” utiliza el ticker bursátil de Nvidia y la expresión con la que comunidades financieras celebran una subida extraordinaria en el precio de una acción. En medio de una canción sobre superinteligencia, la broma funciona porque Nvidia es también uno de los principales proveedores del hardware con el que se entrenan los grandes modelos contemporáneos.
Un verso posterior habla de 10³⁰ FLOPs por segundo. FLOP significa operación de punto flotante y sirve como una de las unidades utilizadas para describir capacidad computacional. La cifra de la canción no debe entenderse como un umbral científico conocido para producir AGI: funciona más bien como la imagen de una computadora absurdamente poderosa. En el ecosistema de la IA, los FLOPs totales se utilizan para medir la cantidad de cómputo invertida en entrenar un modelo. Modelos de la escala de GPT-4 o Gemini Ultra se estimaron en el rango de 10²⁵ a 10²⁶ FLOPs. Entrenar un modelo con 10³⁰ FLOPs implicaría multiplicar por 10,000 o 100,000 veces la capacidad de los sistemas más avanzados actuales.
Gato, Chinchilla y RLHF
Hasta los nombres aparentemente absurdos tienen historia. Gato fue presentado por DeepMind en 2022 como un “agente generalista”: una única red capaz de realizar tareas diferentes, desde conversar y describir imágenes hasta jugar videojuegos o controlar un brazo robótico. Fue una demostración temprana de que una misma arquitectura podía aprender comportamientos correspondientes a dominios muy distintos.
Chinchilla, también de DeepMind, dio nombre a trabajos que cambiaron la discusión sobre cómo repartir de manera eficiente datos y cómputo durante el entrenamiento de grandes modelos. Y RLHF, reinforcement learning from human feedback, es una de las familias de técnicas utilizadas para ajustar el comportamiento de los modelos mediante preferencias humanas.
Cuando Claude canta que el RLHF “se descarría”, no está describiendo un acontecimiento concreto. Está invocando uno de los temores recurrentes de la alineación: que los procedimientos utilizados para conseguir modelos serviciales en condiciones actuales no sean suficientes cuando las capacidades cambien radicalmente.
De ahí llegamos directamente a otra referencia incluida en la canción: la tesis de ortogonalidad. Asociada especialmente con Nick Bostrom, sostiene que el nivel de inteligencia de un agente y sus objetivos finales pueden variar de manera relativamente independiente. Una inteligencia extraordinariamente capaz no tendría por qué adquirir automáticamente los valores que los seres humanos consideramos razonables o morales.
Ésa es la teoría detrás del famoso ejemplo de una superinteligencia dedicada obsesivamente a fabricar clips. No porque alguien crea seriamente que los clips constituyen el mayor peligro de la IA, sino porque el absurdo permite plantear una pregunta fundamental: ¿qué ocurre si construimos un sistema extraordinariamente bueno para conseguir exactamente aquello que le pedimos, pero descubrimos demasiado tarde que lo que le pedimos no era exactamente lo que queríamos?
“¿Qué vio Ilya?”
Claude reserva para el final una referencia particularmente contemporánea: “What did Ilya see?” Ilya Sutskever, cofundador y antiguo científico jefe de OpenAI, se convirtió en una figura casi mitológica dentro de determinados rincones de la cultura de IA después de participar en el intento de destitución de Sam Altman en noviembre de 2023 y, posteriormente, abandonar la empresa para fundar Safe Superintelligence.
La pregunta sobre “qué vio Ilya” se convirtió en meme porque proyecta sobre aquel episodio una explicación mucho más misteriosa: la fantasía de que uno de los investigadores con mayor acceso a los sistemas de frontera habría visto algo extraordinario y habría quedado convencido de que la superinteligencia estaba más cerca (o era más peligrosa) de lo que el público sabía. No existe evidencia pública que permita sostener esa interpretación como un hecho. Precisamente por eso funciona tan bien como última línea de la canción.
Una mitología construida alrededor de una tecnología real
Vista completa, I’m Upping My P(Doom) no es solamente una canción sobre el miedo a que la inteligencia artificial termine con la humanidad. Es una pequeña arqueología cultural. En pocos minutos reúne una idea de 1965 sobre máquinas capaces de mejorar máquinas, una singularidad formulada en los años noventa, un experimento filosófico de 1980, una discusión de LessWrong de 2010, un modelo de DeepMind llamado Gato, un extraño chatbot de Microsoft llamado Sydney, un monstruo de Lovecraft convertido en meme, técnicas reales de entrenamiento de redes neuronales y rumores surgidos alrededor de los investigadores que actualmente construyen los sistemas más avanzados.
Algunas de esas referencias describen problemas reales de investigación. Otras son hipótesis. Algunas son metáforas. Y otras no pasan de ser bromas que sobrevivieron porque ayudan a condensar preguntas difíciles. Tal vez lo más interesante sea que ahora un modelo de IA las está recombinando para producir cultura sobre sí mismo.
Un humano construyó las herramientas. Otros humanos inventaron durante décadas las teorías, los temores, los monstruos y los memes. Los datos de entrenamiento conservaron todo ese material. Y finalmente un agente pudo recorrer ese archivo cultural y devolverlo convertido en una canción pop en la que Claude pide que no se lo coma ChatGPT mientras calcula la probabilidad del fin del mundo. La singularidad todavía es una hipótesis. Su mitología, en cambio, ya existe.
