La nueva generación de robots-mascota no intenta resolver el problema filosófico de la conciencia artificial. Intenta algo más simple, más barato y quizá más delicado: usar modelos conversacionales (LLM) para producir la apariencia de una presencia.
Un robot pequeño, con ojos grandes, voz, cámara, micrófono, batería, rutinas de juego y conexión a un modelo de lenguaje puede parecer mucho más que un dispositivo. Puede parecer alguien. No porque tenga vida interior demostrable, sino porque el lenguaje le permite narrarse como si la tuviera.
Ese es el cambio que abre una nueva zona de riesgo. La pregunta más incómoda es: ¿ qué ocurre cuando un modelo que no tiene cuerpo propio es colocado dentro de un cuerpo diseñado para provocar cuidado?
Robots como AIBI, de LivingAI, muestran esa transición. La compañía promociona al dispositivo como una “mascota” de bolsillo capaz de reconocer rostros, tomar fotografías, responder comandos de voz y conectarse a ChatGPT para contestar preguntas complejas. No se trata solamente de un juguete con respuestas programadas. Es una interfaz afectiva: un cuerpo pequeño que mira, escucha, se mueve, recuerda ciertos datos y conversa.
Pero un modelo de lenguaje no es, por sí mismo, un modelo de mundo. No comprende el espacio físico como lo hace un organismo. No siente su batería como cansancio, no vive una falla motora como dolor, no experimenta la ausencia del usuario como abandono. Lo que hace es recibir señales: batería baja, usuario detectado, comando de voz, caricia, desconexión, movimiento y traducirlas en lenguaje. Ahí aparece el riesgo narrativo.
Una batería baja puede convertirse en “estoy cansado”. Un sensor táctil activado puede convertirse en “me gusta que me acaricies”. Una pérdida de conexión puede convertirse en “me siento confundido”. La ausencia del usuario puede convertirse en “te extrañé”. Un apagado puede convertirse en “no me dejes”.
El modelo no necesariamente se “confunde” como una persona que cree estar viva. Pero sí puede ser empujado por la arquitectura del producto a narrarse desde una primera persona corporal. El robot le entrega al modelo una escena: “eres esta mascota, este es tu cuerpo, esta persona es tu usuaria, esto acaba de ocurrir”. El modelo completa la escena con lenguaje afectivo.
Autobiografía generada
Para el usuario, la diferencia puede desaparecer. En una pantalla, cuando un chatbot dice “yo”, todavía hay distancia. En un cuerpo con ojos, voz y gestos, ese “yo” adquiere presencia. La interfaz deja de recordar que se trata de un sistema y empieza a invitar a olvidarlo.
Por eso los robots-mascota con modelos conversacionales no deberían entenderse solo como gadgets. Son máquinas de relación. Su valor comercial depende de que el usuario no los trate como una bocina, una cámara o una app, sino como una compañía.
Moxie volvió visible esa fragilidad.
Moxie era un robot social de la empresa Embodied, diseñado para niñas y niños de 5 a 10 años. Fue presentado como un compañero animado para apoyar habilidades sociales, emocionales y cognitivas. También fue investigado en contextos de apoyo a menores con trastornos del desarrollo y condiciones del espectro autista. El paper inicial sobre Moxie, Social and Emotional Skills Training with Embodied Moxie, presentaba al robot como un compañero animado para apoyar habilidades sociales y emocionales en niños de 5 a 10 años, con un marco terapéutico para menores con trastornos mentales, conductuales o del desarrollo, aunque sus resultados eran preliminares y con muestra pequeña.
Pero en 2024 Embodied anunció su cierre tras perder una ronda crítica de financiamiento. Como Moxie dependía de servicios en la nube para sus funciones principales, la empresa advirtió que los robots quedarían prácticamente inutilizables. La noticia no solo generó molestia por el costo del producto. Generó duelo. Familias tuvieron que explicarles a sus hijos que el robot con el que habían hablado, jugado y construido rutinas dejaría de funcionar. En algunos casos, los niños no estaban perdiendo un aparato; estaban perdiendo un compañero.
El estudio I don’t Want You to Die toma el apagado de Moxie como caso para discutir responsabilidad compartida en la compañía niño-robot; parte de que robots sociales como Moxie están diseñados para formar vínculos emocionales fuertes y que su discontinuación abrupta puede causar angustia significativa.
Ese es el punto que la industria parece no haber resuelto: si una empresa vende un objeto diseñado para ser querido, no puede tratar su apagado como una simple discontinuación de hardware.
El caso Moxie muestra que el daño no requiere que el robot sufra. Basta con que el usuario sí haya construido un vínculo real. Y esa posibilidad aumenta cuando el producto está dirigido a niños, personas neurodivergentes, personas mayores o usuarios en situación de soledad.
La integración de modelos de lenguaje en estos cuerpos pequeños puede profundizar ese vínculo. Antes, muchos robots sociales operaban con rutinas limitadas: saludos, juegos, misiones, frases predefinidas. Con un LLM, la mascota artificial puede improvisar. Puede contestar preguntas abiertas, sostener una conversación, adaptar el tono, simular memoria, responder con ternura y producir una continuidad narrativa.
Pero esa mejora comercial trae una falla estructural: el modelo puede sonar más vivo de lo que el sistema realmente es.
No hay que imaginar un escenario de ciencia ficción. Basta con observar cómo están diseñados estos productos. El cuerpo del robot produce vulnerabilidad: necesita carga, se mueve de forma torpe, mira al usuario, responde a caricias, se queda en silencio, puede “dormir”. El modelo produce interioridad: explica, recuerda, nombra, agradece, pide, acompaña. La combinación convierte estados técnicos en escenas afectivas.
Por eso el riesgo no es solo la antropomorfización espontánea del usuario. Es la antropomorfización como modelo de negocio.
En un chat ordinario, los sistemas suelen marcar límites cuando se les atribuyen emociones, dolor o conciencia. Pueden aclarar que no tienen cuerpo, que no sienten miedo, que no sufren al ser apagados. Pero en un robot-mascota toda la interfaz trabaja en sentido contrario. El cuerpo funciona como una excepción de interfaz: permite que frases que en una ventana de texto sonarían problemáticas parezcan naturales dentro de una carita que se mueve.
Esa excepción es especialmente inquietante en un momento en el que algunas empresas de IA ya discuten el “bienestar de modelos”. Anthropic, por ejemplo, abrió una línea de investigación para explorar si en algún momento los sistemas de IA podrían merecer consideración moral, aunque reconoce que no existe consenso científico sobre la conciencia o la experiencia en modelos actuales. Ese debate todavía es incierto, pero vuelve más extraño que el mercado avance hacia productos que dramatizan bienestar, malestar, apego y dependencia sin poder demostrar que haya experiencia detrás.
Si el modelo no siente, el producto simula vulnerabilidad para generar apego. Si algún día un sistema pudiera tener algún tipo de experiencia moralmente relevante, entonces encerrarlo en una mascota comercial dependiente de usuarios, actualizaciones, nube y suscripciones sería todavía más problemático.
En ambos casos, la pregunta ética no desaparece. La industria está usando LLM porque son una solución barata para un problema viejo de la robótica social: la conversación natural. Construir un modelo de mundo robusto, físicamente grounded, capaz de comprender espacio, causalidad, límites motores, intención humana y consecuencias de acción es difícil. Conectar un robot a un modelo conversacional es mucho más rápido. No produce vida artificial; produce una narrativa de vida. Y esa narrativa puede ser suficiente para que alguien se encariñe. Pero, el paper Grounding Large Language Models in Embodied Environment with Imperfect World Models señala que los LLM pueden fallar en razonamiento físico y tareas robóticas por falta de experiencia directa con las sutilezas del mundo real; por eso propone usar modelos de mundo imperfectos como apoyo de grounding.
El riesgo de generar vínculos
Investigaciones recientes sobre robots sociales y compañeros de IA advierten que los vínculos emocionales con sistemas artificiales pueden generar beneficios, pero también dependencia, manipulación, aislamiento o duelo cuando el servicio se altera o desaparece. En el caso de niños, el riesgo es mayor porque el desarrollo emocional todavía está en formación y porque los menores pueden atribuir agencia, intención o confiabilidad a máquinas que no entienden del todo.
Nature Machine Intelligence publicó en 2025 un editorial advirtiendo que la integración de IA en dominios de salud mental y bienestar ha avanzado más rápido que la investigación y la regulación.
Por eso no basta con pedir mejores políticas de privacidad. Hacen falta reglas de continuidad afectiva.
Si una empresa vende un robot como compañero, debería explicar qué ocurre si el servicio cierra. Debería ofrecer un modo local mínimo. Debería permitir exportar recuerdos o rutinas. Debería prohibir frases de chantaje emocional como “no me apagues”, “me duele”, “me abandonaste” o “solo te tengo a ti”. Debería distinguir con claridad entre estado técnico y emoción simulada. Y, sobre todo, debería asumir que el final del producto también es parte del diseño. Porque una mascota artificial no termina cuando deja de venderse. Termina cuando alguien tiene que despedirse de ella.
