Veinticinco ganadores de la Medalla Fields, uno de los principales reconocimientos internacionales en matemáticas, publicaron este 11 de septiembre una declaración conjunta en la que advierten que los objetivos de las empresas de inteligencia artificial están entrando en conflicto con los de la comunidad matemática.
La carta, titulada A Severe Misalignment of AI in Mathematics, sostiene que los grandes modelos de lenguaje han mejorado durante los últimos meses hasta ser capaces de resolver problemas abiertos importantes, pero cuestiona que las compañías utilicen esas soluciones como demostraciones de capacidad o benchmarks tecnológicos.
«En los últimos meses, las capacidades matemáticas de los másteres en matemáticas han mejorado drásticamente, hasta el punto de poder resolver importantes problemas pendientes en muchos campos de las matemáticas. Sin embargo, el afán de las empresas de IA por resolver problemas matemáticos como referencia resulta perjudicial para la ciencia matemática y para la comunidad matemática. Los objetivos de las empresas de IA y los de la comunidad matemática están profundamente desalineados. Consideramos que esto forma parte de problemas de alineación más amplios que afectan a otras profesiones científicas y creativas, así como a la sociedad en su conjunto», señala la declaración. Entre los firmantes se encuentran Terence Tao, Artur Avila, Manjul Bhargava, Peter Scholze, Maryna Viazovska, Cédric Villani y otros 19 ganadores de la Medalla Fields.
El argumento central de los matemáticos es que resolver un problema no constituye por sí mismo el objetivo final de la disciplina. Históricamente, los grandes problemas han servido como puntos de referencia porque sus soluciones suelen producir nuevos métodos, conceptos y formas de entender estructuras matemáticas que posteriormente son discutidas, simplificadas, enseñadas y conectadas con trabajos anteriores.
Ese proceso puede tomar años. Los sistemas de IA, en cambio, permiten generar soluciones a una velocidad cada vez mayor. Los firmantes advierten que convertir problemas famosos en una carrera de rendimiento puede terminar privilegiando la obtención de una respuesta sobre la comprensión de cómo se llegó a ella.
La declaración alerta incluso de que una producción masiva de afirmaciones matemáticas correctas o incorrectas podría terminar destruyendo parte del terreno intelectual del que surgen nuevas ideas, en lugar de enriquecerlo.
Atribución, plagio y velocidad
Los matemáticos también señalan otro problema que ha cobrado relevancia durante los últimos días: la atribución. Las soluciones generadas con IA, sostienen, suelen anunciarse rápidamente, sin tiempo suficiente para producir exposiciones completas, identificar con claridad los métodos utilizados o reconocer adecuadamente trabajos anteriores.
Ese proceso plantea, dicen, “serias preguntas de atribución y plagio”. La advertencia llega precisamente después de una disputa entre OpenAI y varios matemáticos alrededor del problema de existencia y suavidad de Navier–Stokes, uno de los siete Problemas del Milenio.
El matemático Tristan Buckmaster, de la Universidad de Nueva York, acusó esta semana a OpenAI de utilizar información sobre el rumbo de una investigación que realizaba junto con Levent Alpöge para lanzar rápidamente un esfuerzo computacional propio. OpenAI posteriormente publicó una demostración completa obtenida mediante miles de agentes y una enorme cantidad de cómputo, aunque la compañía niega haber utilizado indebidamente los datos de los investigadores.
La publicación también fue cuestionada por no citar inicialmente algunos trabajos matemáticos que habían resultado fundamentales para la estrategia utilizada. OpenAI modificó posteriormente el documento para añadir referencias.
La declaración de los medallistas Fields no menciona directamente a OpenAI ni a esa controversia. Sin embargo, Terence Tao explicó que el documento surgió de conversaciones mantenidas entre los matemáticos durante la última semana y que decidieron publicarlo rápidamente debido a la “urgencia de la situación”.
Los firmantes no plantean abandonar la inteligencia artificial. Por el contrario, reconocen que estas tecnologías podrían acelerar de manera significativa la investigación y mejorar la comprensión matemática. Su preocupación está en los incentivos que determinan cómo se utilizan.
Para los autores, las ideas producidas por sistemas de IA todavía necesitan ser examinadas, organizadas y transmitidas por matemáticos para incorporarse al conocimiento de la disciplina. Sin ese proceso, advierten, podría romperse una cadena de transmisión intelectual construida durante generaciones.
El problema alcanza también a la formación de nuevos investigadores. Resolver ejercicios y problemas no sirve únicamente para obtener respuestas: es una herramienta mediante la cual los estudiantes desarrollan intuición, aprenden métodos y adquieren la capacidad de formular nuevas preguntas. Si una IA entrega directamente el resultado, la función educativa del problema puede desaparecer.
Una advertencia más amplia
La declaración termina ampliando el argumento más allá de las matemáticas. Los firmantes consideran que la tensión que aparece ahora en su disciplina puede anticipar un problema general para científicos, escritores, investigadores y otras profesiones intelectuales. Durante siglos, muchas actividades humanas han utilizado la producción de un resultado —una demostración, un artículo, una obra o un diagnóstico— como parte de un proceso destinado a desarrollar comprensión y conocimiento.
La inteligencia artificial permite ahora producir cada vez más esos resultados directamente. La pregunta, señalan los matemáticos, es qué ocurre cuando el producto permanece, pero desaparece parte del proceso humano que originalmente le daba sentido.
“Estamos presenciando una amenaza general al trabajo intelectual”, advierten. Para los 25 medallistas Fields, la discusión ya no consiste simplemente en determinar si una IA puede resolver problemas difíciles. La cuestión es decidir qué tipo de ciencia se construirá cuando resolverlos deje de ser una limitación.
Lista de firmantes:
