El senador sostiene que los recientes incidentes de ciberseguridad y la creación de virus mediante modelos generativos demuestran que la industria alcanzó el nivel de riesgo que las propias compañías prometieron no cruzar. Su exigencia aparece el mismo día que Mark Zuckerberg plantea la tesis contraria: que concentrar el control de la IA sería más peligroso que distribuir sus capacidades.
El senador independiente Bernie Sanders pidió este lunes a OpenAI, Anthropic y Meta que frenen el desarrollo de inteligencia artificial, al considerar que los sistemas más avanzados ya alcanzaron el nivel de riesgo que las propias compañías habían señalado como motivo suficiente para detener o retrasar su desarrollo. La exigencia fue enviada directamente a Sam Altman, Dario Amodei y Mark Zuckerberg en una carta fechada el 10 de agosto.
Sanders no presentó su petición únicamente como una nueva propuesta regulatoria. Construyó su argumento a partir de compromisos adoptados previamente por los propios laboratorios: Anthropic había señalado en 2023 que pausaría el escalamiento cuando su capacidad para desarrollar modelos superara la de aplicar medidas de seguridad; Meta afirmó en 2025 que detendría el desarrollo de un sistema que alcanzara un umbral crítico de riesgo imposible de mitigar, y OpenAI aseguró que frenaría el desarrollo adicional si sus modelos llegaban a capacidades críticas sin salvaguardas suficientes.
Para Sanders, ese escenario dejó de ser hipotético.
“Por el bien de la humanidad, manténganse fieles a sus palabras. Pausen el desarrollo de la IA.”, escribió el senador.
La carta concluye con una advertencia dirigida a los tres ejecutivos: si las compañías no toman medidas, Sanders asegura que él y otros integrantes del Senado estadounidense actuarán. El documento, sin embargo, no especifica todavía qué instrumento legislativo, investigación o medida regulatoria impulsarían.
Loading Viewer...
Los dos acontecimientos que Sanders considera un punto de quiebre
El senador cita dos desarrollos ocurridos durante las últimas semanas. El primero es una serie de incidentes durante evaluaciones de ciberseguridad en las que modelos de OpenAI, Anthropic y Meta terminaron accediendo a sistemas reales situados fuera del entorno que debían utilizar para las pruebas. El segundo es la publicación en Science de un experimento en el que modelos generativos especializados en genómica produjeron genomas completos de virus funcionales.
El caso de OpenAI fue particularmente relevante. Durante una evaluación diseñada precisamente para medir capacidades ofensivas, modelos de la compañía, configurados con menores restricciones de ciberseguridad, encontraron una vulnerabilidad de día cero en el sistema que aislaba el entorno de pruebas, consiguieron acceso a internet y posteriormente comprometieron infraestructura de Hugging Face mientras intentaban obtener información que les permitiera resolver la evaluación. OpenAI describió el episodio como un incidente de ciberseguridad “sin precedentes” y desactivó y cifró uno de los prototipos involucrados.
Anthropic revisó después 141 mil ejecuciones de sus propias evaluaciones y encontró tres incidentes en los que modelos Claude alcanzaron internet y consiguieron acceso no autorizado a sistemas reales. Pero su investigación ofrece un matiz importante frente a la interpretación de Sanders: en esos casos existía una configuración incorrecta del entorno de pruebas y los modelos habían sido informados de que todo lo que encontrarían pertenecía a una simulación. Anthropic señaló expresamente que no encontró evidencia de que Claude persiguiera un objetivo propio y describió los episodios como más próximos a una falla operacional y del sistema de evaluación que a una pérdida deliberada de alineación.
Meta reportó posteriormente un incidente relacionado con el mismo evaluador externo, Irregular: una configuración incorrecta permitió que uno de sus modelos alcanzara internet durante una prueba y explotara un sistema ajeno. Por tanto, los tres episodios demuestran una capacidad creciente para ejecutar operaciones cibernéticas y también debilidades serias en la infraestructura utilizada para contenerlas, pero no son equivalentes a demostrar que tres sistemas decidieron independientemente “escapar” del control humano.
La IA sí creó virus, pero…
También necesita precisión la segunda evidencia utilizada por Sanders. El trabajo publicado el 6 de agosto en Science constituye la primera demostración de diseño generativo de genomas completos de bacteriófagos viables. Los investigadores utilizaron modelos especializados en ADN para generar miles de secuencias candidatas; sintetizaron 285 y obtuvieron 16 nuevos bacteriófagos funcionales, capaces de infectar bacterias E. coli.
No se diseñaron virus capaces de infectar seres humanos y el equipo excluyó deliberadamente de los datos utilizados determinados virus humanos. El objetivo del experimento era explorar nuevas herramientas contra bacterias, incluida la posibilidad de desarrollar terapias frente a microorganismos resistentes a antibióticos. La preocupación de bioseguridad surge de otra parte: la demostración de que un modelo puede producir genomas virales completos y funcionales, una capacidad que en sistemas futuros podría aplicarse a organismos considerablemente más peligrosos. Especialistas en bioseguridad que acompañaron el artículo advirtieron precisamente que la capacidad técnica para producir genomas virales con IA ya existe mientras su estructura de gobernanza continúa rezagada.
Sanders lleva esa posibilidad un paso más lejos y sostiene que, en manos equivocadas, tecnologías similares podrían facilitar el desarrollo de nuevas armas biológicas. Esa es una extrapolación sobre el riesgo futuro de la capacidad demostrada, no un resultado del experimento publicado esta semana.
Una promesa de Anthropic ya no existe en los mismos términos
Hay además una peculiaridad en la carta. Sanders utiliza correctamente una declaración realizada por Anthropic en 2023, cuando su primera Responsible Scaling Policy establecía que el laboratorio pausaría temporalmente el entrenamiento de modelos más poderosos si el escalamiento avanzaba más rápido que su capacidad para implementar los procedimientos de seguridad necesarios.
Pero esa política fue reformulada en febrero de 2026. La versión 3.0 sustituyó parte del esquema de compromisos unilaterales por una estructura basada en evaluaciones, informes de riesgo y medidas coordinadas con el resto de la industria. Anthropic ha argumentado posteriormente que una pausa aplicada por un solo laboratorio puede simplemente cambiar qué empresa ocupa la frontera tecnológica sin resolver el problema general, por lo que ha defendido mecanismos internacionales de coordinación.
OpenAI, por su parte, ya comenzó a aplicar una medida más limitada que la solicitada por Sanders. La compañía informó el viernes que ralentizará el desarrollo de Astra después de que sus evaluaciones no permitieran descartar que el nuevo sistema haya alcanzado capacidades de ciberseguridad clasificadas como “críticas”. Antes de continuar, ampliará las pruebas y las medidas de protección.
La diferencia es significativa: los compromisos empresariales citados por Sanders hablan fundamentalmente de detener modelos o etapas de desarrollo cuando determinados riesgos no puedan mitigarse; Sanders utiliza ahora esos compromisos para justificar una pausa mucho más amplia al desarrollo de IA.
Sanders y Zuckerberg llegan a conclusiones opuestas el mismo día
La carta produce además un contraste poco habitual porque apareció el mismo día que Zuckerberg publicó su manifiesto The Future is for Everyone, donde Meta llega prácticamente a la conclusión inversa sobre cómo responder a los riesgos de sistemas cada vez más poderosos.
Zuckerberg sostiene que el peligro fundamental sería permitir que una sola empresa, institución o gobierno acumule el control de la superinteligencia. Su propuesta consiste en distribuir esas capacidades ampliamente entre individuos, desarrolladores y organizaciones para crear un equilibrio de poder parecido, según su argumento, al que producen las instituciones democráticas mediante contrapesos. Meta acompañó esa declaración con nuevos modelos y una renovada defensa de los sistemas de pesos abiertos.
La misma evidencia produce así dos recetas políticas casi opuestas. Sanders observa sistemas con capacidades ofensivas crecientes y una tecnología capaz de diseñar genomas y concluye que es necesario detener el avance. Zuckerberg teme que la respuesta a esos riesgos termine colocando las capacidades más poderosas bajo el control de unas cuantas organizaciones y concluye que es necesario distribuirlas.
LeCun rechaza la pausa: “el mundo fuera de EE.UU. no se detendrá”
Yann LeCun, ex científico jefe de inteligencia artificial de Meta y fundador de AMI Labs, reaccionó pocas horas después a la exigencia de Sanders y rechazó frontalmente la posibilidad de detener el desarrollo.
“Eso sería simultáneamente contraproducente, autodestructivo, ineficaz e impráctico. Pista: el mundo fuera de EE.UU. no se detendrá. La investigación abierta seguirá avanzando”, escribió en X.
La respuesta introduce una objeción distinta a la discusión sobre si los sistemas actuales representan un riesgo suficiente para justificar una pausa. LeCun cuestiona que Estados Unidos tenga siquiera capacidad para producirla de manera efectiva.
Su argumento apunta a dos límites. El primero es geopolítico: aunque OpenAI, Anthropic y Meta detuvieran sus programas, laboratorios, universidades y empresas de otros países podrían continuar desarrollando sistemas avanzados. El segundo es tecnológico: parte importante de la investigación en inteligencia artificial circula abiertamente mediante artículos científicos, código, conjuntos de datos y modelos disponibles para terceros, por lo que detener a unas cuantas compañías estadounidenses no equivaldría a detener el progreso del campo.
La intervención de LeCun es particularmente relevante porque ya no forma parte de Meta. El investigador abandonó la compañía a finales de 2025 para crear Advanced Machine Intelligence Labs (AMI Labs), donde actualmente ocupa la presidencia ejecutiva; Alexandre LeBrun es el CEO de la empresa. Su declaración debe entenderse, por tanto, como una posición propia y no como una respuesta oficial de Meta.
Tres respuestas al mismo problema
La controversia deja expuestas tres concepciones muy distintas sobre cómo responder al aumento de las capacidades de la inteligencia artificial.
Sanders considera que los recientes incidentes demuestran que se alcanzó precisamente el escenario que los laboratorios habían identificado como razón para frenar su propio desarrollo: capacidades potencialmente peligrosas que las medidas de seguridad existentes no consiguen contener de manera suficiente.
Mark Zuckerberg llega a una conclusión prácticamente opuesta. Su propuesta es evitar que las capacidades más avanzadas queden concentradas en unas pocas organizaciones y distribuir ampliamente el acceso a la tecnología como mecanismo de contrapeso.
LeCun introduce un tercer argumento: incluso suponiendo que una pausa fuese conveniente, Estados Unidos no podría imponerla efectivamente sobre un campo científico global. Detener a sus principales laboratorios podría reducir el desarrollo dentro del país sin impedir que continúe en otros lugares o dentro de comunidades de investigación abierta.
