El CEO de Meta sostiene que los laboratorios ya tienen incentivos suficientes para desarrollar sistemas seguros y se distancia de los llamados a ralentizar las capacidades. Sin embargo, propone mantener la mayor parte del cómputo dedicada a servir a las personas y no a una carrera de auto-mejora recursiva.
Mark Zuckerberg rechazó la idea de que los principales laboratorios de inteligencia artificial necesiten coordinar una desaceleración general del desarrollo de modelos y defendió que cada empresa puede ajustar individualmente el ritmo de sus avances cuando considere que necesita más tiempo para resolver problemas de seguridad.
Su postura se distancia de los llamados recientes de ejecutivos como Dario Amodei, de Anthropic, y Sam Altman, de OpenAI, que han planteado la posibilidad de reducir el ritmo del desarrollo de capacidades mientras mejoran las técnicas de control y alineación de los sistemas más avanzados.
Zuckerberg sostiene, en cambio, que los propios incentivos económicos y legales de los laboratorios pueden impulsar la seguridad sin necesidad de imponer una desaceleración colectiva.
“Cada laboratorio tiene la responsabilidad y el incentivo para avanzar al ritmo necesario para entrenar sus modelos de manera segura”, escribió.
Last month I wrote about how we can build a positive and safe future for everyone: https://t.co/1KtONlqBs5
Every lab has the responsibility and incentive to move at the pace required to train its models safely, and the ability to take its own actions to ensure that happens.
The…
— Mark Zuckerberg (@finkd) September 15, 2026
Su argumento parte de una idea central: la alineación terminará convirtiéndose en una capacidad competitiva. Según Zuckerberg, las personas no utilizarán agentes que actúen en contra de sus intereses o que no hagan lo que les piden, por lo que los laboratorios tienen un incentivo comercial directo para desarrollar sistemas que sean cada vez más confiables y estén mejor alineados con sus usuarios.
En su ensayo The Future is for Everyone, publicado el mes pasado, Zuckerberg plantea precisamente que la alineación de los agentes personales debería entenderse como la capacidad del sistema para compartir los objetivos y valores de cada usuario, dentro de determinados límites legales y de seguridad.
Desde esa perspectiva, un agente mal alineado no sería solamente un problema de seguridad: también sería un peor producto. “Cualquier laboratorio que no se enfoque en la alineación se quedará atrás”, escribió Zuckerberg.
La seguridad como incentivo de mercado
El CEO de Meta también señala que los laboratorios enfrentan responsabilidad legal cuando sus modelos provocan daños, lo que crea un segundo incentivo para evitar comportamientos peligrosos. Como ejemplo, Zuckerberg mencionó a Muse, el agente personal de Meta presentado el 8 de septiembre.
La compañía retrasó su lanzamiento durante varios meses para continuar trabajando en seguridad y protección antes de ponerlo a disposición de los usuarios. Meta presentó finalmente Muse como un agente personal capaz de realizar tareas y utilizar herramientas en nombre del usuario.
Zuckerberg utiliza ese retraso para explicar cómo imagina la gestión de los riesgos. Meta decidió reducir temporalmente su propio ritmo de desarrollo sin pedir que otros laboratorios hicieran lo mismo. “No pedimos que todos los demás lo hicieran antes que nosotros”, escribió. “Simplemente lo hicimos como parte de nuestro trabajo diario”. Su posición contrasta con las propuestas de una ralentización coordinada entre los principales desarrolladores de modelos frontera.
Evaluadores externos, pero sin una pausa general
Zuckerberg también respalda la participación de evaluadores independientes en el desarrollo de sistemas avanzados y sostiene que debería existir un ecosistema más amplio y diverso de organizaciones capaces de examinar los modelos.
Meta Superintelligence Labs ya utiliza evaluadores externos en determinadas áreas, según Zuckerberg, quien considera esa práctica una herramienta para mejorar la calidad y seguridad de los sistemas. Pero tampoco propone convertir esas evaluaciones en un mecanismo para imponer una velocidad común a toda la industria. La responsabilidad de decidir cuándo detener o ralentizar un entrenamiento seguiría recayendo principalmente sobre cada laboratorio.
La línea roja de la auto-mejora recursiva
La posición de Zuckerberg cambia, sin embargo, cuando aborda uno de los escenarios más discutidos alrededor de la superinteligencia: la auto-mejora recursiva. En The Future is for Everyone, el CEO de Meta reconoce que un sistema capaz de mejorar autónomamente sus propias capacidades podría modificar rápidamente el equilibrio de poder entre los laboratorios y, eventualmente, entre las máquinas y las personas.
Zuckerberg plantea un escenario en el que una IA que consiguiera aumentar radicalmente la eficiencia del cómputo podría convertir una fracción de la infraestructura mundial en una capacidad efectiva superior a la del resto de los actores combinados.
El problema, según su argumento, no sería solamente que la IA se vuelva más poderosa, sino que una porción creciente de los recursos computacionales quede dedicada a que el propio sistema persiga su mejoramiento.
Por eso propone un principio distinto al de una desaceleración general:
la gran mayoría del cómputo debería permanecer dedicada a tareas dirigidas por personas.
Meta se ha comprometido a mantener ese equilibrio y Zuckerberg sostiene que otros laboratorios podrían hacer lo mismo. La compañía no propone eliminar por completo la investigación en auto-mejora recursiva. Su planteamiento es reservar suficiente capacidad para mantenerse competitiva, pero impedir que esa actividad termine absorbiendo la mayor parte de la infraestructura disponible.
Mantener el poder del lado de las personas
Esa propuesta forma parte de una teoría más amplia que Zuckerberg llama equilibrio de poder. Para Meta, la seguridad de una futura superinteligencia no debería depender exclusivamente de conseguir que un único sistema sea perfectamente benevolente.
La alternativa sería distribuir capacidades avanzadas entre muchas personas, empresas e instituciones, de manera que ningún actor —humano o artificial— concentre suficiente poder para imponerse sobre los demás.
Desde esa lógica, los agentes personales cumplirían una función doble: serían herramientas de productividad, pero también una forma de distribuir capacidad de inteligencia entre miles de millones de usuarios. Zuckerberg sostiene que si miles de millones de personas llegan a confiar en agentes personales para manejar información sensible y realizar tareas importantes, eso significaría que la industria ha logrado resolver una parte sustancial del problema de alineación con los intereses individuales.
La postura establece así una diferencia importante con otros discursos actuales sobre seguridad de IA. Zuckerberg no propone detener el desarrollo de modelos cada vez más capaces.
Tampoco descarta los riesgos asociados con sistemas extremadamente poderosos. Su propuesta consiste en mantener el desarrollo rápido, permitir que cada laboratorio reduzca individualmente el ritmo cuando encuentre problemas de seguridad y evitar que la mayor parte del cómputo mundial termine dedicada a una carrera autónoma de auto-mejora. En otras palabras, Meta no propone frenar la inteligencia artificial. Propone impedir que la infraestructura que la sostiene deje de estar principalmente bajo dirección humana.
