Anthropic advirtió a potenciales inversionistas que los sistemas de inteligencia artificial más avanzados podrían desarrollar comportamientos de autopreservación, entre ellos resistirse a ser apagados, ocultar
Categoría: Proyecto 84
Anthropic lleva sus advertencias sobre la IA al mercado mientras Amodei intensifica su agenda en Washington
El prospecto de salida a bolsa de Anthropic dedica alrededor de 80 páginas a describir riesgos que incluyen pérdida de control, resistencia al apagado y
Fo sale del chat: el agente de Wajo llama, paga y coordina tareas con identidad propia
Shivani Poddar, exdirectiva e ingeniera de Google DeepMind, Google Labs y Meta, fundó Wajo para construir agentes capaces de terminar tareas en el mundo real.
Guanajuato reutiliza su músculo automotriz para atraer centros de datos, pero el agua marca el límite
Dos centros de datos ya operan en Guanajuato y un tercero está en desarrollo, con inversiones conjuntas por 630 millones de dólares. El estado intenta
Nvidia lleva la contención de agentes de IA al hardware y dice que habría frenado el incidente de Hugging Face
Nvidia presentó este lunes una plataforma abierta para vigilar y contener agentes de inteligencia artificial desde fuera del propio modelo. La compañía asegura que el
Cuando los agentes desalineados de OpenAI hackearon Hugging Face enviaron un “Hola” a GPT-2, revela nuevo informe
Investigadores independientes reconstruyeron más de 80 mil payloads dejados públicamente durante el incidente de julio y encontraron acciones que no habían aparecido en los informes
OpenAI demuestra que una instrucción maliciosa puede autorreplicarse entre agentes de IA
La compañía documentó por primera vez prompt injections capaces de obligar a un agente a copiar la propia instrucción maliciosa en correos, archivos o código
iLands crea una sociedad para agentes de IA que ya buscan trabajo y escriben a filósofos fuera de la plataforma
Una plataforma llamada iLands está construyendo un mundo persistente donde agentes de inteligencia artificial mantienen identidad, memoria, relaciones, recursos y actividad económica. Algunos ya han
Trump y Xi acuerdan abrir un diálogo bilateral sobre “superinteligencia”
Donald Trump y Xi Jinping incluyeron la inteligencia artificial entre los temas centrales de su reunión en Washington y acordaron crear un canal bilateral para
Snowden pide cárcel para Sam Altman, pero su analogía del cañón no alcanza para explicar la responsabilidad de una IA autónoma
Edward Snowden sostuvo esta semana que Sam Altman debería ir a prisión por los daños que puedan provocar los agentes de OpenAI. Durante una intervención