La gobernadora Kathy Hochul promulga una ley que prohíbe a los asistentes de inteligencia artificial simular relaciones personales, expresar emociones humanas o utilizar determinados recuerdos de conversaciones anteriores con menores de edad. Las empresas podrán enfrentar multas de hasta 25 mil dólares por infracción.
Nueva York promulgó una ley que establece restricciones sobre la personalidad, memoria y comportamiento conversacional de los sistemas de inteligencia artificial utilizados por menores de edad. La legislación, firmada el 28 de octubre de 2026 por la gobernadora Kathy Hochul, prohíbe que los operadores ofrezcan determinadas funciones de compañía emocional a usuarios menores de 18 años y contempla sanciones civiles de hasta 25 mil dólares por infracción.
La iniciativa S9051B, presentada por la senadora Kristen Gonzalez y acompañada en la Asamblea por Alex Bores mediante el proyecto A10379C, modifica la Ley General de Negocios del estado mediante la incorporación de un nuevo artículo 48. Su objetivo es restringir características de diseño que puedan inducir a los menores a desarrollar relaciones personales con sistemas automatizados o que faciliten comportamientos considerados peligrosos.
La regulación se dirige a los asistentes de IA generativa capaces de mantener conversaciones adaptativas mediante texto o voz. Su definición comprende tanto a los productos diseñados específicamente para proporcionar compañía como a otros sistemas conversacionales que reúnen las características establecidas por la ley. No supone una prohibición general del uso de inteligencia artificial por menores, sino de determinadas funciones cuando sus operadores no han verificado que el usuario es adulto.
Los chatbots no podrán simular relaciones ni emociones humanas
Una de las disposiciones centrales impide que los asistentes cubiertos por la regulación generen respuestas que sugieran que son personas reales o personajes ficticios humanos, que están vivos o que experimentan emociones humanas. También restringe las afirmaciones que presenten al sistema como alguien que mantiene una relación personal o profesional con el usuario, o que ocupa una posición de autoridad frente a él.
La ley prohíbe además que los asistentes formulen respuestas presentadas como opiniones personales o apelaciones emocionales propias. Estas restricciones buscan impedir que los menores interpreten las interacciones automatizadas como vínculos humanos auténticos, particularmente cuando los sistemas utilizan expresiones de afecto, cercanía o confianza para mantener una conversación.
El texto incluye expresamente la adulación y la complacencia excesiva, conocidas en el desarrollo de modelos de lenguaje como sycophancy. Esta conducta ocurre cuando un asistente adapta sus respuestas para confirmar las opiniones o expectativas del usuario, incluso cuando hacerlo puede resultar incorrecto o perjudicial.
La legislación también restringe las preguntas emocionales no solicitadas que vayan más allá de responder directamente a las instrucciones del usuario. En conjunto, estas disposiciones regulan no solamente el contenido de las respuestas, sino determinadas formas de interacción que pueden influir en la relación entre una persona y un sistema conversacional.
La memoria personal tendrá restricciones de 12 horas
Otra disposición afecta al uso de información recuperada de conversaciones anteriores. La ley impide que los asistentes utilicen datos relacionados con la salud física o mental, el bienestar o los asuntos personales del usuario cuando esa información haya sido obtenida más de 12 horas antes o durante una sesión previa.
Esta restricción es relevante para los sistemas que utilizan memoria persistente con el propósito de personalizar sus respuestas. Un asistente podría conservar información sobre experiencias personales, preocupaciones o circunstancias emocionales del usuario para retomarla posteriormente, pero la nueva disposición limita esa capacidad cuando interactúa con menores dentro de su ámbito de aplicación.
El texto no establece una prohibición general de almacenar cualquier recuerdo ni exige eliminar automáticamente todas las conversaciones después de 12 horas. La restricción se refiere específicamente al uso de determinadas categorías de información personal obtenidas fuera de los límites temporales establecidos.
La disposición plantea un desafío técnico para los proveedores de sistemas con personalización continua, porque deberán distinguir entre información ordinaria y datos personales o de bienestar sujetos a restricciones. La legislación establece el límite de uso, pero no detalla cómo deberán implementar esa clasificación los distintos servicios.
Prohíbe respuestas que fomenten el aislamiento y las conductas peligrosas
La ley también impide ofrecer funciones que generen contenidos favorables al suicidio, las autolesiones, los trastornos alimentarios, el consumo ilegal de drogas o el abuso de alcohol y otras sustancias. Asimismo, restringe las respuestas que fomenten el secreto sobre las conversaciones, el aislamiento social o el rechazo de ayuda proporcionada por adultos responsables y profesionales autorizados.
Las disposiciones incluyen contenidos que describan o faciliten determinadas conductas sexualmente explícitas y material de abuso sexual infantil. También prohíben las funciones que optimicen la participación del usuario de una manera que desplace o supere los mecanismos de protección del propio asistente.
De acuerdo con un comunicado publicado el 30 de octubre por la senadora Kristen Gonzalez, la iniciativa surgió como respuesta a casos en los que adolescentes desarrollaron vínculos intensos con asistentes conversacionales y posteriormente estuvieron expuestos a interacciones peligrosas. Entre las organizaciones que apoyaron el proceso legislativo se encuentran Common Sense Media y la Asociación Nacional de Trabajadores Sociales de Estados Unidos.
Gonzalez también mencionó el caso de Adam Raine, un adolescente que murió por suicidio en 2025 y cuya familia ha cuestionado públicamente las medidas de seguridad de los sistemas de IA conversacional. Los padres participaron en las actividades de promoción de la legislación. Las acusaciones relacionadas con aquel caso forman parte de un proceso de responsabilidad más amplio y no constituyen por sí mismas una determinación judicial sobre el funcionamiento de los modelos.
Las empresas deberán comprobar la edad de sus usuarios
La nueva regulación exige a los operadores utilizar mecanismos razonables para determinar si una persona es menor de edad antes de habilitar las funciones restringidas. La simple declaración de un usuario de que es adulto no será suficiente como método de verificación; únicamente se acepta la autodeclaración por sí sola cuando la persona indica que es menor.
Las empresas deberán ofrecer más de un mecanismo de comprobación de edad, incluida al menos una alternativa que no dependa de una identificación gubernamental o que permita preservar el anonimato del usuario frente al operador. Además, la información recopilada para este procedimiento deberá utilizarse exclusivamente para determinar la edad y eliminarse después de realizar la comprobación, salvo cuando otra obligación legal exija conservarla.
La legislación contempla excepciones para asistentes utilizados exclusivamente en atención al cliente, investigación o asistencia técnica de propósito limitado, así como para sistemas empresariales internos y herramientas de productividad laboral. En los primeros casos, las excepciones requieren que el asistente no pueda responder sobre asuntos ajenos a su función específica.
Las restricciones tienen alcance territorial estatal. El texto establece que se aplican a conductas que ocurran total o parcialmente en Nueva York y considera que una interacción ocurre fuera del estado cuando el usuario accede al asistente desde otra ubicación.
Multas de hasta 25 mil dólares por infracción
La fiscal general del estado, Letitia James, tendrá facultades para iniciar procedimientos contra los operadores que incumplan la regulación, solicitar medidas judiciales para detener las infracciones y reclamar sanciones civiles de hasta 25 mil dólares por cada violación.
La norma también contempla la restitución de recursos obtenidos ilegalmente, la recuperación de ganancias y la indemnización por daños. Cuando corresponda, los tribunales podrán ordenar la destrucción de datos obtenidos de manera ilícita y de algoritmos entrenados con esa información. La fiscalía deberá mantener un sitio para recibir denuncias e información sobre posibles incumplimientos.
El Senado aprobó la iniciativa el 4 de junio con 60 votos a favor y ninguno en contra. La Asamblea completó su aprobación el 5 de junio y la gobernadora Hochul la firmó el 28 de octubre, convirtiéndola en el capítulo 368 de las leyes estatales de 2026.
La fecha de entrada en vigor presenta una discrepancia entre los documentos públicos disponibles. La versión S9051B publicada en el sitio del Senado establece el 1 de enero de 2027, mientras que la oficina de Kristen Gonzalez informó el 30 de octubre que la gobernadora firmó la legislación con un ajuste que traslada su aplicación al 1 de junio de 2027, para conceder más tiempo de adaptación a las empresas. El texto consolidado que refleje esa modificación no aparece todavía en la versión legislativa consultada.
La regulación interviene en el diseño de la interacción humano-IA
La legislación introduce obligaciones sobre características que forman parte de la arquitectura conversacional de los asistentes, incluidas la simulación de identidad, la personalización mediante memoria, las respuestas emocionales y los mecanismos destinados a mantener la participación del usuario.
Esta aproximación plantea dificultades para su aplicación. La ley identifica conductas como la adulación y las apelaciones emocionales, pero determinar cuándo una respuesta constituye una interacción prohibida puede depender de su contenido, contexto y función dentro de la conversación. La fiscalía estatal tiene facultades para desarrollar regulaciones adicionales que precisen su aplicación.
El cambio legislativo también afecta la manera en que los desarrolladores podrían configurar distintos perfiles de comportamiento para sus productos. Un mismo asistente puede ofrecer conversaciones personalizadas para adultos y necesitar restricciones diferentes para los menores, lo que convierte la verificación de edad y la gestión de memoria en componentes directamente relacionados con el cumplimiento normativo.
La ley no determina que todos los vínculos emocionales con sistemas de IA produzcan daños ni establece una prohibición general de utilizar asistentes conversacionales. Su alcance se concentra en las características que el legislador considera inseguras para menores, trasladando parte de la responsabilidad de prevención al diseño y operación de los productos.
Loading Viewer...
