Mientras los líderes de la inteligencia artificial discuten si deben desacelerar, Estados Unidos se niega a perder la carrera con China y científicos cuestionan el relato apocalíptico, el rey Carlos III convocará en Escocia a representantes de OpenAI, Anthropic, Google DeepMind y Nvidia para intentar encontrar un mínimo común denominador: que el desarrollo de la IA permanezca al servicio de las personas.
La discusión sobre quién debe decidir la velocidad de la inteligencia artificial acaba de adquirir una dimensión inesperadamente diplomática. Carlos III reunirá esta semana en Dumfries House, Escocia, a representantes de algunas de las compañías más importantes de la industria con el propósito de impulsar un conjunto compartido de principios para el desarrollo de la tecnología y mantenerla orientada hacia “el bien de la humanidad”.
Según The Times, entre las empresas representadas estarán Nvidia, Anthropic, Google DeepMind y OpenAI. La reunión incluirá además funcionarios públicos y representantes de organizaciones vinculadas al rey, y sus participantes discutirán un borrador de carta con principios relacionados con dignidad humana, bienestar social y protección del planeta.
La iniciativa llega en un momento difícilmente más oportuno. En apenas unos días, Dario Amodei, director ejecutivo de Anthropic, pidió moderar la velocidad de los modelos de frontera; Sam Altman respaldó la propuesta; Elon Musk dijo que Amodei tenía razón y Demis Hassabis consideró que el planteamiento avanzaba en la dirección correcta. El presidente estadounidense Donald Trump respondió rechazando una desaceleración que pudiera reducir la ventaja de Estados Unidos frente a China, mientras David Sacks advirtió que una regulación diseñada por los laboratorios dominantes podría convertirse en captura regulatoria. Al mismo tiempo, investigadores como Yann LeCun cuestionan abiertamente el diagnóstico apocalíptico y desde el ecosistema de código abierto Julien Chaumond lanzó otra dificultad: “open source won’t pace”, al código abierto no le van a marcar el ritmo.
La reunión de Dumfries House aparece así justo cuando empieza a quedar claro que no existe una sola respuesta a la pregunta de cómo gobernar una tecnología que sus propios desarrolladores aseguran que está acelerándose.
NEW: President Trump reacts to recent, concerning reports about AI and answers whether the industry should be more regulated.
«We’re leading China in AI, we’re the most sophisticated country in the world. And frankly, I want to keep it that way because whoever wins AI, wins.» pic.twitter.com/rcNKR8SYFI
— Fox News (@FoxNews) September 13, 2026
Una mesa extraña para un problema extraño
Las primeras informaciones sobre el encuentro aparecieron días antes. Politico reportó que alrededor de 30 figuras de alto nivel habían sido invitadas y señaló entre los asistentes previstos a Jensen Huang, director ejecutivo de Nvidia; Demis Hassabis, fundador de Google DeepMind; y Paolo Benanti, sacerdote franciscano y especialista en ética que asesora al Vaticano en inteligencia artificial. También fueron invitados ministros británicos.
La selección ya revela la naturaleza del encuentro. En una misma mesa podrían coincidir quienes construyen los modelos, quienes producen los chips necesarios para entrenarlos, representantes gubernamentales y una de las instituciones religiosas que con mayor fuerza ha comenzado a preguntarse qué límites debería tener la inteligencia artificial.
El encuentro será organizado por la Ditchley Foundation, una institución británica especializada desde hace décadas en reunir discretamente a dirigentes políticos, empresariales y académicos para discutir cuestiones internacionales complejas. El formato suele privilegiar conversaciones privadas y pequeñas sobre declaraciones públicas y comunicados formales.
El lugar tampoco es casual. Dumfries House, una propiedad del siglo XVIII en Ayrshire que Carlos ayudó a preservar en 2007, funciona actualmente como sede de The King’s Foundation, organización dedicada a proyectos de educación, sostenibilidad, comunidades y medio ambiente.
El rey no puede regular la IA
Carlos III tiene, sin embargo, una limitación fundamental: no puede convertir ninguna conclusión de la reunión en política pública. Como monarca constitucional, no establece las reglas tecnológicas del Reino Unido ni puede ordenar a una compañía que retrase un entrenamiento.
Un funcionario real describió anteriormente su papel de manera deliberadamente cuidadosa: el rey pretende “convocar, participar, escuchar y fomentar el debate”, no presentar una posición política propia. Su poder aquí no es regulatorio, sino de convocatoria.
Eso vuelve especialmente interesante la información publicada ahora sobre el borrador de principios. No se trataría de un tratado, una legislación ni un compromiso jurídicamente vinculante. La intención sería encontrar suficiente terreno común entre actores con posiciones cada vez más divergentes para establecer principios generales sobre la finalidad de los sistemas más avanzados.
Según The Times, la propuesta parte de una idea sencilla: que el desarrollo de la IA debe preservar la dignidad humana y producir beneficios para las personas y el planeta. Parece una aspiración suficientemente vaga para que nadie pueda oponerse. Pero este fin de semana demostró que acordar incluso cómo llegar hasta allí puede ser extraordinariamente complicado.
¿Quién tiene derecho a pisar el freno?
Amodei sostiene que las capacidades de los modelos comienzan a avanzar más deprisa que las herramientas disponibles para comprenderlas y controlarlas. Su propuesta de pacing the frontier busca precisamente reducir temporalmente esa diferencia mediante evaluadores externos, coordinación entre laboratorios y eventualmente acuerdos entre países.
Trump observa el mismo tablero desde otra dirección. Para él, la carrera no puede separarse de China: Estados Unidos está delante y debe conservar esa posición porque “quien gane la IA, gana”. LeCun cuestiona algo anterior a ambas posiciones: que exista suficiente evidencia para justificar el relato de una catástrofe próxima. Sacks acepta que OpenAI y Anthropic pueden ver peligros que el resto no conoce, pero considera que eso no les otorga automáticamente el derecho de construir reglas que obliguen también a sus competidores.
Y el código abierto introduce un problema adicional: incluso si cuatro grandes laboratorios alcanzaran mañana un pacto para reducir su velocidad, no existe una autoridad central capaz de ordenar a miles de investigadores, empresas y desarrolladores distribuidos por distintos países que hagan lo mismo.
En otras palabras, el problema que llegará a Dumfries House no consiste únicamente en ponerse de acuerdo sobre si la IA debe ser segura. Consiste en definir quién decide qué significa segura, quién verifica que lo sea y quién tiene autoridad para detener a quien no esté de acuerdo.
Del laboratorio a la diplomacia
La presencia de Hassabis resulta especialmente relevante porque el responsable de DeepMind lleva meses proponiendo una institución internacional capaz de establecer estándares para los modelos de frontera. Un encuentro privado entre laboratorios, gobiernos y otros actores globales ofrece precisamente el tipo de espacio donde una idea semejante puede discutirse antes de transformarse, si alguna vez ocurre, en una propuesta formal.
También importa la presencia prevista de Jensen Huang. Nvidia se encuentra en una posición diferente a la de los laboratorios: vende gran parte de la infraestructura utilizada para construir los sistemas cuyo ritmo ahora se discute. Huang acaba, además, de declarar que la AGI “ha llegado” mientras Nvidia y sus clientes preparan cantidades todavía mayores de capacidad de cómputo.
Sentar al proveedor del acelerador junto a quienes comienzan a pedir un freno resume bastante bien la contradicción del momento.
Y la inclusión de Paolo Benanti introduce otra dimensión. El debate deja de limitarse al rendimiento de los modelos, los chips o la ciberseguridad y empieza a incorporar preguntas sobre dignidad, autonomía humana y los objetivos para los que debería utilizarse una inteligencia superior a la humana.
No es casualidad que precisamente ahora aparezca la pregunta sobre para qué se quiere construirla.
Del P(doom) Weekend al salón de Dumfries House
En cuestión de días, la discusión pasó de investigadores calculando probabilidades subjetivas de extinción a directores ejecutivos proponiendo desacelerar, un presidente estadounidense negándose a perder la carrera, científicos burlándose del apocalipsis, defensores del código abierto avisando que no obedecerán un ritmo centralizado y, finalmente, un monarca reuniendo a algunos de los protagonistas para buscar principios comunes.
Eso no significa que estemos cerca de un acuerdo. De hecho, la privacidad del encuentro impone otra limitación: no existe una agenda pública completa, no se ha confirmado oficialmente toda la lista de participantes y un foro organizado bajo el estilo de Ditchley puede terminar sin comunicado detallado sobre lo discutido.
Pero que el encuentro ocurra ya dice algo sobre la transformación del problema. Durante años, la gobernanza de inteligencia artificial fue presentada como una cuestión fundamentalmente técnica: cómo reducir sesgos, proteger datos, impedir usos ilegales o evaluar modelos antes de publicarlos. Después llegaron sistemas capaces de utilizar herramientas, actuar mediante agentes, encontrar vulnerabilidades y participar en la investigación que produce generaciones posteriores de IA.
Ahora los desacuerdos abarcan poder militar, competencia con China, código abierto, concentración empresarial, posibles riesgos existenciales y la autoridad que deberían tener las propias compañías para decidir cuándo detenerse.
En ese contexto, Carlos III no puede resolver el problema y Dumfries House no producirá un gobierno mundial de la inteligencia artificial. Pero la reunión sí constituye una señal. Cuando para discutir el futuro de una tecnología empiezan a necesitarse en la misma mesa laboratorios, gobiernos, fabricantes de chips, instituciones internacionales, religiosos y un jefe de Estado, probablemente ya no estamos ante una simple industria tecnológica. Estamos ante un problema de gobernanza internacional.
