OpenAI lanzó una experiencia de ChatGPT con mayores restricciones para menores de edad, controles parentales y mecanismos para desalentar determinados usos. La medida responde a riesgos reales, pero también muestra una transformación más amplia: internet empieza a diseñarse alrededor de aquello que podría salir mal.
OpenAI lanzó este martes ChatGPT for Teens, una experiencia específica para usuarios de entre 13 y 17 años que incorpora mayores restricciones sobre contenidos sensibles, controles parentales y mecanismos destinados a desalentar determinados usos considerados inapropiados. La plataforma también incorpora herramientas educativas para promover el aprendizaje guiado en lugar de limitarse a entregar respuestas, en un momento en que crece el escrutinio sobre el impacto de los asistentes de inteligencia artificial en menores de edad.
La experiencia para adolescentes puede activarse no sólo cuando una persona declara tener menos de 18 años, sino también cuando los sistemas de OpenAI estiman que la cuenta pertenece a un menor. En esos casos se aplican automáticamente protecciones adicionales; un adulto clasificado erróneamente puede realizar un proceso de verificación de edad para retirarlas. Los controles parentales, por su parte, permiten administrar determinados ajustes, establecer horarios de silencio y recibir algunas alertas de seguridad, aunque no dan acceso directo al contenido de las conversaciones.
Las medidas tienen antecedentes concretos. Las empresas de inteligencia artificial enfrentan una creciente discusión sobre el impacto que sus productos pueden tener en adolescentes, particularmente cuando los sistemas son utilizados en contextos personales delicados o durante situaciones de crisis. Reuters señala además que OpenAI enfrenta demandas de familias que atribuyen daños a interacciones mantenidas con ChatGPT. El problema, por tanto, no es imaginario: sistemas capaces de sostener conversaciones extensas, personalizadas y aparentemente empáticas introducen riesgos que no existían de la misma manera en un buscador tradicional.
La medida llega en un momento de alta turbulencia sobre la responsabilidad de las empresas tecnológicas en la salud mental de niñas, niños y adolescentes. Este martes comenzó en California un juicio federal en el que 29 estados de Estados Unidos acusan a Meta de haber diseñado Facebook e Instagram para fomentar un uso compulsivo entre menores y contribuir a problemas como ansiedad, depresión y conductas suicidas; los demandantes buscan, entre otras medidas, cambios en funciones como el scroll infinito.
Al mismo tiempo continúa en Tennessee otro juicio en el que el estado sostiene que Meta mantuvo herramientas como reproducción automática, notificaciones y desplazamiento infinito pese a investigaciones internas que advertían sobre el uso compulsivo de Instagram entre adolescentes. Meta rechaza estas acusaciones y sostiene que ha desarrollado medidas de protección para jóvenes. En ese contexto, los nuevos controles de ChatGPT para adolescentes muestran que la discusión sobre seguridad infantil ya no se concentra únicamente en el contenido que ofrecen las plataformas, sino también en el propio diseño de los productos y en hasta qué punto las empresas deben intervenir para modificar la forma en que los menores los utilizan.
El Internet que ignoramos
Pero el lanzamiento también permite observar otro fenómeno. Una parte creciente de la tecnología digital está siendo diseñada no desde sus usos cotidianos o productivos, sino desde sus escenarios de mayor riesgo. En esta lógica, la pregunta central deja de ser únicamente qué puede hacer una persona con una herramienta y pasa a ser qué debe impedirle hacer la propia herramienta, cuándo debe intervenir y en qué circunstancias debe sustituir una decisión del usuario por una decisión previamente incorporada al sistema.
El cambio parece pequeño cuando se observa una función aislada. Un recordatorio para descansar, una restricción sobre contenidos sensibles, una alerta ante una situación de alto riesgo o una herramienta educativa que desalienta copiar una tarea pueden justificarse individualmente. En conjunto, sin embargo, describen una arquitectura diferente de internet: sistemas que clasifican al usuario, estiman su edad, interpretan sus intenciones y modifican de manera preventiva lo que puede ver, preguntar o recibir.
La transformación resulta particularmente visible porque la historia de internet contiene otra tradición que hoy ocupa mucho menos espacio en la discusión pública. Durante décadas, comunidades de programadores resolvieron problemas conjuntamente en foros especializados; investigadores compartieron trabajos, datos y código; proyectos de software libre fueron construidos por personas distribuidas en distintos países; enciclopedias colaborativas acumularon conocimiento y comunidades pequeñas se organizaron alrededor de matemáticas, ciencia, electrónica, lingüística o prácticamente cualquier disciplina imaginable. Gran parte de esa infraestructura no requirió que una plataforma determinara constantemente qué era conveniente que cada participante hiciera.
Esos usos siguen existiendo. Hay comunidades científicas, servidores especializados, repositorios, foros técnicos y pequeños grupos de discusión que utilizan internet todos los días para producir conocimiento. Sin embargo, rara vez son los casos que determinan la conversación sobre cómo debe gobernarse la red. Un foro que resuelve miles de dudas técnicas genera pocos titulares; una campaña coordinada de desinformación, una red de contenidos ilícitos o una interacción que termina produciendo un daño grave puede desencadenar investigaciones, demandas, regulación y cambios inmediatos en productos.
La asimetría es comprensible. Los daños graves requieren respuestas y las empresas tienen responsabilidades sobre los productos que construyen. Pero también produce un efecto acumulativo: el caso excepcional empieza a convertirse en el usuario de referencia. Las características de millones de personas que utilizan una tecnología sin incidentes tienen menos influencia sobre su arquitectura que aquellos escenarios donde existe riesgo jurídico, político, reputacional o humano.
Esto ayuda a explicar por qué distintas capas de internet avanzan hacia mecanismos de verificación de edad, clasificación de contenido, controles parentales, moderación automatizada y restricciones preventivas. No necesariamente porque la mayoría de los usuarios sea incapaz de utilizar una herramienta de manera responsable, sino porque los sistemas institucionales tienen fuertes incentivos para minimizar los acontecimientos de baja frecuencia y alto impacto. Para una empresa, impedir un caso extraordinariamente dañino puede resultar mucho más importante que evitar pequeñas restricciones para millones de usuarios.
ChatGPT for Teens representa con claridad esa transición. OpenAI sostiene que su objetivo es ampliar las oportunidades educativas y ofrecer a los adolescentes una experiencia adecuada a su edad, mientras incorpora mecanismos que intervienen cuando el sistema considera que determinados comportamientos se alejan de ese propósito. Entre las herramientas anunciadas se encuentran funciones de estudio guiado, recordatorios relacionados con tareas, cuestionarios y visualizaciones, junto con mayores restricciones en conversaciones consideradas de alto riesgo.
Existe una tensión difícil de resolver entre ambas aspiraciones. Aprender a utilizar una tecnología implica necesariamente experimentar con ella, equivocarse, desarrollar criterios propios y descubrir sus límites. Proteger a una persona implica, en determinadas circunstancias, establecer esos límites antes de que pueda descubrirlos por sí misma. En el caso de los menores existen razones especialmente fuertes para hacerlo, pero las decisiones que ahora se toman alrededor de ellos pueden servir también como laboratorio para una concepción más general de la relación entre usuarios y sistemas digitales.
El debate, por ello, no necesita reducirse a elegir entre una internet completamente libre y una internet segura. La pregunta más interesante es qué concepción del usuario estamos incorporando a la tecnología. Una arquitectura puede partir de la idea de que las personas son agentes capaces de explorar un entorno y recibir herramientas para comprender sus riesgos; otra puede asumir que la plataforma debe anticiparse constantemente a sus posibles decisiones y limitar aquellas que considere peligrosas.
Durante buena parte de su historia, internet fue imaginado principalmente como una infraestructura para ampliar las capacidades de sus usuarios. En los últimos años, una parte creciente de su diseño empieza a concebirse también como una infraestructura para administrar sus vulnerabilidades. Ambas funciones pueden coexistir, pero el equilibrio entre ellas determinará algo más importante que los controles de una aplicación: determinará cuánto espacio dejamos a la autonomía dentro de los sistemas digitales que estamos construyendo.
