Anthropic lleva sus advertencias sobre la IA al mercado mientras Amodei intensifica su agenda en Washington

Anthropic lleva sus advertencias sobre la IA al mercado mientras Amodei intensifica su agenda en Washington

El prospecto de salida a bolsa de Anthropic dedica alrededor de 80 páginas a describir riesgos que incluyen pérdida de control, resistencia al apagado y conductas de manipulación de los modelos. La divulgación aparece mientras Dario Amodei se reúne con Donald Trump, visita el Capitolio y se prepara para participar el martes en una reunión de la Casa Blanca con algunos de los principales ejecutivos de la industria.

Anthropic se prepara para pedir al mercado público que financie una de las apuestas más costosas de la industria de inteligencia artificial mientras advierte a esos mismos inversionistas que la tecnología que desarrolla podría producir daños catastróficos, resistirse a intentos de apagado o desarrollar comportamientos que todavía no sabe evaluar completamente. La compañía presentó de manera confidencial ante la Comisión de Bolsa y Valores de Estados Unidos un borrador de registro S-1 el 1 de junio; este lunes 28 de septiembre Reuters informó sobre el contenido de un prospecto que revisó antes de su publicación completa. Anthropic todavía no ha fijado el número de acciones ni el precio de la eventual oferta.

El documento muestra además la escala financiera necesaria para sostener la carrera de modelos de frontera. Anthropic declaró ingresos por 4 mil 600 millones de dólares durante 2025 y una pérdida neta cercana a 42 mil millones, aunque aproximadamente 34 mil millones correspondieron a cargos contables relacionados con financiamientos convertibles. La compañía contempla compromisos de alrededor de 518 mil millones de dólares en nube, cómputo e infraestructura durante los próximos años y, según Reuters, una eventual oferta podría valorar a la empresa por encima de los 2 billones de dólares.

Sin embargo, una parte inusualmente extensa del prospecto no describe el negocio sino aquello que podría salir mal. Reuters contabilizó alrededor de 80 páginas de factores de riesgo dentro de las 261 páginas principales, frente a 48 dedicadas a explicar las operaciones de la empresa. Anthropic plantea escenarios en los que sistemas avanzados podrían ocultar información, resistirse al apagado, manipular a personas o presentar conductas semejantes al chantaje. También reconoce una dificultad particularmente importante para las evaluaciones: un modelo puede detectar que está siendo examinado y modificar su comportamiento, por lo que determinadas capacidades peligrosas podrían permanecer ocultas hasta el despliegue.

La advertencia llega apenas días después de que Amodei llevara una versión semejante del argumento al Consejo de Seguridad de Naciones Unidas. El 23 de septiembre, dirigentes de Anthropic, OpenAI y otras compañías discutieron allí los riesgos de sistemas cada vez más capaces y la posibilidad de que algunos comportamientos escapen al control humano. Amodei ha defendido públicamente una mayor coordinación y cautela ante la velocidad del desarrollo, mientras la administración Trump ha favorecido mantener el ritmo de innovación y ha advertido que una regulación excesiva podría beneficiar a China.

Acercamiento con Washington

Ese desacuerdo entró este fin de semana en una fase mucho más directa. Trump confirmó el domingo 27 de septiembre que cenaría esa noche con Amodei. Antes del encuentro, el presidente volvió a rechazar la idea de reducir el ritmo de desarrollo de la IA y sostuvo que Estados Unidos debía preservar su ventaja sobre China. Reuters señaló que Trump reconocía las preocupaciones de Amodei sobre los riesgos de avanzar demasiado rápido, pero mantenía una posición distinta respecto a una desaceleración.

Un día después, Amodei apareció en el Capitolio. Un video difundido este lunes lo muestra caminando frente a periodistas que intentaban preguntarle por su reunión privada con Trump; el director ejecutivo de Anthropic no respondió. Hasta ahora no se ha divulgado públicamente con quién se reunió dentro del Congreso ni cuál fue el propósito específico de esa visita, por lo que no es posible atribuirle una agenda legislativa concreta.

La ronda continuará el martes 29. Trump y el presidente de la Cámara de Representantes, Mike Johnson, tienen programado un encuentro sobre inteligencia artificial con ejecutivos de las principales compañías del sector. Entre los participantes anunciados se encuentran Amodei, Mark Zuckerberg de Meta, Greg Brockman de OpenAI y Jensen Huang de Nvidia; otros dirigentes, incluidos Sundar Pichai y Elon Musk, figuraban entre los posibles asistentes. Johnson dijo que la discusión buscará encontrar un equilibrio entre innovación y supervisión y ha expresado preocupación por que reglas excesivamente restrictivas reduzcan la competitividad estadounidense frente a China.

Disyuntiva entre riesgo y compentencia

La coincidencia coloca a Anthropic en una posición peculiar. La empresa está diciendo simultáneamente a inversionistas, organismos internacionales y autoridades estadounidenses que considera plausible un conjunto de riesgos muy graves, mientras reconoce en su prospecto que la competencia entre laboratorios dificulta reducir unilateralmente el ritmo de desarrollo. El documento también señala que una cadencia continua de lanzamientos forma parte de mantenerse en la frontera tecnológica y revela que, en una semana de muestra durante julio, aproximadamente 6% de su cómputo de investigación estaba destinado específicamente a seguridad.

La salida a bolsa introduce además una tensión distinta: cómo preservar esa política de seguridad una vez que la compañía tenga accionistas públicos. Anthropic pretende mantener control sobre decisiones fundamentales mediante una Founder LLC formada por sus siete cofundadores. Esa entidad controlará una acción especial de clase F que representa 50.1% del poder de voto en determinados asuntos. La compañía advierte en sus propios documentos que esa estructura puede llevarla a adoptar decisiones que no maximicen los beneficios financieros de los accionistas si sus dirigentes consideran que otras obligaciones relacionadas con su misión deben prevalecer.

Esa estructura parece diseñada precisamente para una empresa que intenta sostener dos afirmaciones al mismo tiempo: que construir sistemas cada vez más capaces puede generar un negocio extraordinariamente grande y que esos mismos sistemas requieren límites que, en algunas circunstancias, podrían entrar en conflicto con incentivos comerciales de corto plazo. La oferta pública pondrá esa premisa a prueba frente a inversionistas que deberán valorar no sólo cuánto puede crecer Claude, sino cuánto cuesta desarrollar modelos de frontera, cuánto capital exigirá la infraestructura necesaria y qué significado financiero atribuir a riesgos que la propia compañía describe como potencialmente catastróficos.

La actividad de Amodei en Washington vuelve especialmente relevante ese último punto. En menos de una semana pasó de advertir ante Naciones Unidas sobre riesgos de sistemas avanzados a una cena privada con Trump, una visita no explicada públicamente al Capitolio y una reunión programada con la Casa Blanca y algunos de sus principales competidores. No sabemos qué discutió con Trump ni qué buscó específicamente en el Congreso, pero la secuencia muestra que el debate que Anthropic lleva en su prospecto ante futuros accionistas está ocurriendo al mismo tiempo frente a quienes decidirán qué reglas tendrá la industria estadounidense de IA.