Google DeepMind lanzó el DeepMind Institute, una plataforma interdisciplinaria para estudiar los riesgos, instituciones y transformaciones sociales asociadas con la llegada de la inteligencia artificial general. Sus fundadores sostienen que las brechas que todavía separan a los modelos actuales de una AGI completa podrían cerrarse pronto.
Google DeepMind considera que la inteligencia artificial se encuentra en la antesala de una transformación profunda y que las diferencias que todavía separan a los sistemas actuales de una inteligencia artificial general podrían reducirse en poco tiempo.
La compañía anunció la creación del DeepMind Institute, una nueva plataforma de investigación y debate dirigida por Demis Hassabis, James Manyika y Shane Legg, con el objetivo de estudiar las principales preguntas técnicas, sociales e institucionales relacionadas con una eventual era de AGI.
En el texto de presentación, sus tres directores definen la AGI como un sistema capaz de exhibir todas las capacidades cognitivas del cerebro humano. Reconocen que los modelos actuales todavía fallan en tareas básicas y carecen de la consistencia y creatividad necesarias para alcanzar ese nivel, pero sostienen que esas brechas podrían cerrarse pronto.
El propio sitio del instituto resume esa posición de manera todavía más directa: presenta su trabajo como pensamiento sobre AGI “desde el laboratorio que fue pionero en el campo” y afirma que, “a medida que nos acercamos a la AGI”, se vuelve urgente ampliar la discusión interdisciplinaria sobre sus consecuencias para la humanidad.
De la promesa científica al riesgo de pérdida de control
Los fundadores del instituto vuelven a presentar la AGI como una herramienta potencialmente transformadora para la ciencia. Sostienen que sistemas suficientemente generales podrían acelerar el descubrimiento de medicamentos, contribuir al desarrollo de nuevas fuentes de energía y aumentar la capacidad para resolver problemas científicos complejos.
Pero el anuncio también reconoce riesgos cada vez más concretos. Menciona los efectos de sistemas más capaces en ciberseguridad y riesgos biológicos, y señala explícitamente la posibilidad de pérdida de control en futuros sistemas capaces de auto-mejorarse. Ese punto sitúa al laboratorio dentro de una discusión que ha ganado fuerza entre los principales desarrolladores de modelos frontera.
Meta, por ejemplo, ha defendido que la mayor parte del cómputo debería permanecer dedicada a objetivos humanos y no a una carrera de auto-mejora recursiva. El DeepMind Institute, en cambio, coloca la posibilidad de sistemas auto-mejorables directamente entre los problemas que requieren investigación técnica, institucional y social.
Un instituto que ya discute cómo convivir con AGI
El DeepMind Institute no comenzó únicamente con una declaración de principios. Su sitio ya reúne ensayos sobre varios problemas que sus investigadores consideran centrales para una era con sistemas mucho más capaces. Uno de ellos analiza la transparencia del razonamiento y plantea que observar la cadena de pensamiento de los modelos puede ofrecer una ventana para detectar conductas como engaño o scheming. Otro examina once posibles políticas económicas para responder a las disrupciones producidas por una inteligencia artificial cada vez más avanzada y extendida.
Un tercer ensayo discute qué tipo de transformación social debería perseguirse si la AGI efectivamente modifica las instituciones existentes, mientras Demis Hassabis propone un marco dinámico para evaluar las capacidades de los modelos frontera. La selección muestra que el instituto pretende trabajar simultáneamente sobre seguridad técnica, economía, gobernanza y filosofía política.
Más allá de los laboratorios
Uno de los mensajes centrales del anuncio es que la gobernanza de la AGI no debería quedar exclusivamente en manos de tecnólogos. Legg, Manyika y Hassabis sostienen que el progreso tecnológico únicamente abre la posibilidad de una nueva etapa, pero que la responsabilidad de decidir cómo se integra esa tecnología en la sociedad corresponde también a gobiernos, disciplinas humanísticas, artes e instituciones públicas.
El instituto busca por eso reunir investigadores y pensadores de Google DeepMind, Google y la comunidad académica internacional. También establece deliberadamente que sus participantes no tendrán que coincidir entre sí.
El sitio aclara que los textos publicados por el DMI son puntos de partida para la conversación, reflejan las ideas e investigaciones de sus autores y no deben interpretarse automáticamente como posiciones oficiales de Google. La distinción resulta relevante porque el instituto pretende funcionar más como una plataforma intelectual alrededor de AGI que como un documento único de política corporativa.
La AGI deja de ser una hipótesis lejana
La creación del instituto refleja un cambio en la manera en que uno de los principales laboratorios de inteligencia artificial habla públicamente sobre AGI. Durante años, la inteligencia artificial general funcionó principalmente como un horizonte de investigación.
Ahora comienza a aparecer como un escenario alrededor del cual se construyen marcos de evaluación, propuestas económicas, mecanismos de gobernanza e incluso instituciones dedicadas específicamente a pensar qué ocurriría después de su llegada.
Google DeepMind no afirma haber alcanzado AGI. Sus propios investigadores reconocen que los modelos actuales continúan presentando fallos básicos y carecen todavía de capacidades que consideran fundamentales.
Pero el mensaje institucional es difícil de ignorar: el DeepMind Institute parte de la premisa de que estamos acercándonos lo suficiente a la AGI como para empezar a diseñar desde ahora las instituciones que tendrían que convivir con ella.
