Fellows y miembros extranjeros de la academia científica británica aseguran que los modelos de OpenAI y Anthropic han pasado en apenas tres meses de un nivel comparable al de un estudiante avanzado a resolver problemas abiertos de investigación. Su experiencia, dicen, les impide descartar como simple “hype” las advertencias sobre riesgo existencial.
Un grupo de 42 matemáticos que forman parte de la Royal Society advirtió que la velocidad con la que están aumentando las capacidades de los sistemas de inteligencia artificial representa ya una “emergencia” y pidió a la academia científica británica utilizar su influencia para transmitir esa preocupación a gobiernos y medios de comunicación.
La carta, dirigida a Paul Nurse, presidente de la Royal Society, fue recibida el 16 de septiembre y publicada posteriormente por Ben Green, profesor de matemáticas de la Universidad de Oxford y uno de sus firmantes. El documento expresa una “preocupación extrema” por el ritmo de desarrollo de la IA y por sus posibles consecuencias para “la humanidad y la civilización”.
La advertencia parte de un fenómeno que los autores aseguran haber observado directamente en su propio campo. De acuerdo con la carta, durante los últimos tres meses los principales modelos desarrollados por OpenAI y Anthropic pasaron de mostrar capacidades cercanas a las de un estudiante fuerte de matemáticas a resolver múltiples preguntas abiertas situadas en la frontera de la investigación, incluido uno de los siete Problemas del Milenio.
Los firmantes sostienen que estos sistemas están operando ya, en numerosas áreas de las matemáticas, a un nivel comparable con algunos de los mejores investigadores humanos y consideran que existe una posibilidad significativa de que desarrollen capacidades superiores a las humanas en un periodo igualmente corto. La carta hace referencia específicamente al trabajo reciente relacionado con el problema de Navier-Stokes, aunque incluye una salvedad importante: los matemáticos reconocen que no pueden conocer con certeza la metodología exacta utilizada para obtener esa solución. Su argumento, precisan, se basa también en los resultados que observan directamente en modelos disponibles públicamente, entre ellos ChatGPT6-Astra.
«Actualmente, estos modelos operan al nivel de los mejores matemáticos humanos en muchas áreas de la disciplina, por lo que debemos asumir que existe una probabilidad significativa de que desarrollen capacidades sobrehumanas en un plazo igualmente breve», señalan en la carta.
La relevancia de la declaración está también en quiénes la suscriben. Entre los 42 fellows y foreign members aparecen Timothy Gowers, Ben Green, Martin Hairer, James Maynard, Peter Scholze, Ingrid Daubechies, Peter Sarnak, Claire Voisin y Wendelin Werner. Varios de ellos han recibido la Medalla Fields, uno de los reconocimientos más importantes de las matemáticas: Gowers la obtuvo en 1998, Werner en 2006, Hairer en 2014, Scholze en 2018 y Maynard en 2022.
Los autores subrayan además que ninguno de los firmantes tiene una participación significativa en compañías de inteligencia artificial. Una nota al documento aclara que muchos utilizan herramientas de IA, algunos han recibido acceso gratuito o anticipado a modelos y existen relaciones informales y no remuneradas con matemáticos que trabajan dentro de estas empresas, pero esa circunstancia fue precisamente uno de los criterios utilizados para delimitar quién podía firmar la declaración.
Terence Tao, también medallista Fields y miembro correspondiente de la Royal Society, publicó la carta en su propio blog y expresó su respaldo a la iniciativa, pero explicó que no podía aparecer como firmante debido a sus colaboraciones previas con la industria de la inteligencia artificial. Tao reprodujo la presentación de Green, quien sostiene que los matemáticos se encuentran en una posición particular para observar de cerca la velocidad del cambio tecnológico.
La carta, sin embargo, no se limita a las matemáticas. Los investigadores extrapolan lo observado en su especialidad a otros campos técnicos y consideran “altamente probable” que los sistemas hayan alcanzado niveles comparables en áreas como ciberseguridad, control de armas autónomas, desarrollo de agentes biológicos y químicos o difusión dirigida de desinformación. También asumen que la velocidad de mejora podría ser similar.
Ese paso debe distinguirse de la evidencia que los matemáticos presentan directamente: la carta no demuestra que los modelos posean actualmente esas capacidades en biología, armas o ciberseguridad, sino que sus autores infieren el riesgo a partir de la aceleración que están observando en matemáticas.
Es precisamente a partir de esa observación que los firmantes entran en la discusión sobre riesgo existencial. El documento menciona advertencias realizadas por exempleados de grandes laboratorios de IA que han situado la probabilidad de extinción humana hasta en 10% durante la próxima década. Los 42 matemáticos no producen un cálculo propio de esa probabilidad ni aseguran que la humanidad vaya a desaparecer; argumentan, en cambio, que lo que han visto ocurrir en su campo les impide descartar esas estimaciones simplemente como exageraciones promovidas por la industria.
“Cuando la situación sea obvia para el público en general, puede ser demasiado tarde para actuar”, advierten antes de concluir que consideran la situación una emergencia y pedir a la Royal Society que utilice su influencia para transmitir esa posición al gobierno y a los medios.
La precisión es importante porque convierte el documento en algo distinto de una predicción apocalíptica. Lo que plantean sus autores es una advertencia basada en una observación muy concreta: investigadores que trabajan diariamente con problemas matemáticos difíciles aseguran que han visto cambiar, en cuestión de meses, la frontera entre las capacidades humanas y las de los modelos de IA, y creen que esa velocidad obliga a considerar seriamente escenarios de riesgo que anteriormente podían parecer especulativos.
La iniciativa tampoco quedó limitada al grupo original. Times Higher Education informó el 17 de septiembre que, después de hacerse pública la carta, cerca de 200 investigadores habían añadido su respaldo a la iniciativa. Los 42 nombres iniciales, no obstante, son específicamente fellows y foreign members de la Royal Society.
Hasta la mañana del 18 de septiembre, EstadoRed no localizó una respuesta pública de Paul Nurse o de la Royal Society específicamente dirigida a la carta. La institución tendrá ahora que decidir si adopta la interpretación de los firmantes: que el rápido incremento de las capacidades de la inteligencia artificial dejó de ser únicamente una transformación de la práctica científica y debe ser tratado como una emergencia de alcance mucho mayor.
