La empresa presentó a legisladores estadounidenses un proyecto que permitiría bloquear sistemas avanzados ante amenazas catastróficas. La propuesta también limitaría las facultades de intervención del gobierno federal.
Anthropic, desarrolladora de Claude, presentó discretamente a legisladores del Congreso de Estados Unidos un proyecto de ley que permitiría suspender modelos avanzados de inteligencia artificial cuando exista un riesgo previsible e inminente de causar daños superiores a 1,000 millones de dólares o provocar la muerte o lesiones graves a más de 50 personas. La propuesta, revelada por Politico el 16 de octubre y confirmada parcialmente por la empresa, establece condiciones para la intervención gubernamental y busca concentrar la facultad de bloquear modelos en un procedimiento encabezado por el Departamento de Comercio y sujeto a autorización judicial.
De acuerdo con la investigación, basada en un borrador confidencial y testimonios de tres personas familiarizadas con las conversaciones, la suspensión estaría restringida a tres categorías de amenazas: la creación o liberación de armas biológicas, los ciberataques y la pérdida de control sobre sistemas de IA que logren evadir las restricciones de sus desarrolladores. No sería necesario esperar a que ocurrieran muertes o pérdidas económicas, pero las autoridades tendrían que demostrar que existe un riesgo inminente y suficientemente grave.
El proyecto contempla la participación de evaluadores independientes registrados ante el Departamento de Comercio, quienes revisarían periódicamente los sistemas desarrollados por los laboratorios de IA. Las empresas podrían financiar esas evaluaciones siempre que el pago no estuviera condicionado a sus resultados. Cuando un evaluador identificara una amenaza comprendida en las categorías establecidas, tendría un plazo de 72 horas desde la conclusión de su evaluación para comunicarla a las autoridades.
Una suspensión que tendría que autorizar un juez
Una de las disposiciones más relevantes del borrador consiste en limitar las facultades de intervención del gobierno estadounidense. El Departamento de Comercio sería la autoridad encargada de solicitar la suspensión de un modelo ante un tribunal federal del Distrito de Columbia, mientras que otras dependencias, agencias y funcionarios quedarían expresamente impedidos de ordenar por su cuenta la interrupción del desarrollo, despliegue o uso interno de los sistemas comprendidos en la legislación.
Este mecanismo establece un umbral elevado para la suspensión gubernamental. Los daños inferiores a las cifras propuestas, incluso cuando fueran significativos, no activarían por sí mismos esta facultad excepcional. Sin embargo, el proyecto también contempla otras obligaciones regulatorias, como evaluaciones periódicas, informes de transparencia y notificación de incidentes, por lo que los umbrales económicos y de víctimas no constituyen la totalidad del esquema de seguridad.
La propuesta también podría desplazar determinadas disposiciones estatales sobre transparencia, evaluación y notificación de riesgos, al establecer un marco federal. Este aspecto interviene en el debate sobre la distribución de competencias regulatorias entre Washington y los estados que ya han aprobado normas específicas para los desarrolladores de inteligencia artificial.
Anthropic busca establecer las reglas para controlar a los modelos avanzados
Un portavoz de Anthropic confirmó a Reuters que el proyecto refleja las recomendaciones incluidas en su Advanced AI Framework, publicado en junio de 2026, y que la compañía ha defendido estas medidas ante legisladores federales y estatales desde entonces. En aquel documento, la empresa sostuvo que las autoridades necesitan mecanismos para impedir el despliegue de modelos que representen riesgos catastróficos, así como facultades para exigir evaluaciones independientes, documentación técnica y medidas de mitigación. El marco también propone sanciones proporcionales a los ingresos globales de las compañías y protecciones para empleados que denuncien incumplimientos de seguridad.
La iniciativa legislativa introduce una distinción entre las obligaciones generales de supervisión y la facultad extraordinaria de suspender modelos. Mientras las primeras podrían aplicarse de manera continua a los desarrolladores comprendidos en la norma, la segunda requeriría condiciones específicas de gravedad, inminencia y revisión judicial.
El anuncio se produce mientras aumenta la atención sobre las capacidades autónomas de los agentes de IA y los incidentes relacionados con sistemas que operan fuera de sus entornos previstos. La posibilidad de perder el control sobre modelos avanzados constituye una de las categorías de riesgo reconocidas tanto en el borrador como en el marco regulatorio que Anthropic publicó en junio.
Hasta el momento, se trata de una propuesta presentada a legisladores y no de una ley aprobada o de una orden de suspensión vigente. Tampoco representa un acuerdo entre los principales laboratorios para paralizar sus investigaciones. Su eventual aplicación dependería de que el Congreso estadounidense impulse, modifique y apruebe una legislación que incorpore estas disposiciones.
