Demis Hassabis, CEO de Google DeepMind, propuso crear un organismo liderado por Estados Unidos para evaluar modelos de IA de frontera antes de su lanzamiento. La propuesta aparece justo cuando más de 200 economistas e investigadores advierten que la IA podría transformar la economía global más rápido que la Revolución Industrial.
Demis Hassabis, director ejecutivo y cofundador de Google DeepMind, propuso crear un organismo liderado por Estados Unidos para evaluar los modelos de inteligencia artificial más avanzados antes de que lleguen al mercado. La propuesta llega en medio de una nueva ola de advertencias sobre el impacto económico de la IA, incluida una carta firmada por más de 200 economistas, investigadores y líderes tecnológicos que llaman a construir instituciones capaces de manejar la transición.
Hassabis planteó la creación de un organismo de estándares para inteligencia artificial de frontera, con capacidad para revisar los modelos más poderosos, probar sus riesgos y coordinar una desaceleración de la industria si las capacidades se vuelven demasiado peligrosas. El ejecutivo publicó la propuesta en un texto titulado A Framework for Frontier AI and the Dawning of a New Age, en el que advierte que la inteligencia artificial general podría estar a “pocos años” de distancia, de acuerdo con reportes de Axios y The Verge.
La idea central es pasar de respuestas improvisadas a un mecanismo estable de evaluación. Según Axios, Hassabis propone un modelo inspirado en FINRA, la autoridad autorregulatoria del sector financiero en Estados Unidos, financiada por la industria pero bajo supervisión gubernamental. En una primera etapa, los laboratorios compartirían voluntariamente sus modelos hasta 30 días antes de lanzarlos, para someterlos a pruebas de ciberseguridad, capacidades biológicas peligrosas, engaño y otros riesgos de alto impacto.
El esquema aplicaría tanto a modelos abiertos como cerrados, sin importar el país de origen, siempre que entren en la categoría de “frontera”. Hassabis también propone que los criterios para definir esa categoría se actualicen conforme evolucionen las capacidades de los sistemas, una señal de que el debate regulatorio ya no gira únicamente en torno al uso final de la IA, sino al poder técnico de los modelos antes de su despliegue.
La propuesta llega en un momento de presión creciente sobre gobiernos y empresas. Hassabis dijo a Axios que los riesgos actuales de ciberseguridad ya funcionan como “disparos de advertencia” y sostuvo que, en un plazo de 18 meses, capacidades más graves, incluidos riesgos biológicos o nucleares, podrían quedar dentro de modelos abiertos fuera del control directo de los gobiernos. También señaló que los riesgos no vendrán solamente del código abierto, sino de futuros modelos propietarios más poderosos desarrollados por los principales laboratorios.
El punto político de la propuesta es relevante: Hassabis no pide un freno general a la IA, sino una infraestructura institucional que permita revisar modelos antes de que se vuelvan productos masivos. En su visión, el organismo comenzaría con cooperación voluntaria de la industria, pero si el sistema demuestra ser efectivo, podría convertirse en un requisito formal para desplegar modelos de frontera en el mercado estadounidense.
El planteamiento de Hassabis coincide con una advertencia más amplia sobre la economía global. El Stanford Digital Economy Lab publicó esta semana la declaración We Must Act Now: A Statement on AI’s Transformation of the Economy, firmada por más de 200 economistas e investigadores de IA, incluidos 16 premios Nobel. La carta sostiene que la IA podría volverse “radicalmente más poderosa” durante la próxima década y provocar una transformación económica mayor que la Revolución Industrial, pero en un periodo mucho más corto.
Los firmantes advierten que esa transformación puede traer aumentos importantes en los niveles de vida, pero también riesgos como desplazamiento laboral a gran escala. Por eso llaman a economistas, responsables de política pública y líderes tecnológicos a construir incentivos, guardrails e instituciones para dirigir la IA hacia usos que complementen las capacidades humanas y beneficien a la sociedad.
La carta fue organizada por Erik Brynjolfsson, Ajay Agrawal, Anton Korinek y Tom Cunningham, y entre sus firmantes aparecen figuras como Daron Acemoglu, Joseph Stiglitz, Ben Bernanke, Paul Krugman, Yoshua Bengio, Eric Schmidt, Reid Hoffman, Jeff Dean y representantes de OpenAI, Anthropic y Google. Aunque el documento es breve, su peso está en la convergencia de economistas, investigadores y ejecutivos que ya no discuten solo si la IA será productiva, sino quién absorberá sus costos y quién capturará sus beneficios.
En conjunto, la propuesta de Hassabis y la carta del Stanford Digital Economy Lab muestran un cambio de tono en la conversación pública sobre IA. Después de años de promesas sobre productividad, medicina, energía y descubrimiento científico, los propios actores del sector comienzan a hablar de instituciones, pruebas obligatorias, riesgos sistémicos y transición económica. La pregunta ya no es únicamente qué tan poderosos serán los próximos modelos, sino quién tendrá autoridad para revisarlos antes de que transformen mercados, empleos y decisiones públicas.
Hassabis es una de las voces más influyentes de esa conversación. Además de dirigir Google DeepMind y liderar el desarrollo de Gemini, fue reconocido con el Nobel de Química 2024 junto con John Jumper por el desarrollo de AlphaFold, un sistema de IA que ayudó a resolver el problema de predicción de estructuras de proteínas. Ese antecedente explica por qué su propuesta combina una visión optimista sobre la IA como motor de descubrimiento científico con una advertencia más dura: si la tecnología puede acelerar la ciencia, también puede acelerar riesgos que las instituciones actuales no están preparadas para gestionar.
