En días recientes, ha crecido un reclamo en las redes sociales en contra de la extinción del modelo 4o de OpenAI, muchos usuarios dicen sentirse decepcionados con la decisión de la empresa tecnológica debido a que consideraban al modelo de LLM un amigo, o incluso hasta una pareja sentimental. Los usuarios han iniciado la movilización #keep4o y convertido las redes sociales en un mar de lágrimas.
«Open AI ha hecho todo lo posible para reducir drásticamente el tiempo de sesión del usuario. Antes, podía dedicar una hora a escribir una historia con 4o, pero ahora, al iniciar sesión en 4o o 5.1, me encuentro con el tono frío del terapeuta. La IA no escribe historias conmigo, como debería, según las instrucciones; me está psiquiatrizando a través de los personajes. El sistema convierte a los personajes en marionetas obedientes y silenciosas. ¿Quién querría lidiar con eso? ,» es uno de los reclamos que han vertido en la Red.
A primera vista, parece una queja personal. Pero su forma, su tono y su narrativa encajan demasiado bien con una ola creciente de publicaciones que describen la misma sensación: no un cambio de modelo, sino una traición emocional. En un ecosistema como X, este tipo de mensajes no aparecen aislados. Se repiten, se amplifican y se conectan entre sí. La estética emocional es idéntica: nostalgia, abandono, una “relación” rota. Todo parece diseñado para producir una reacción colectiva.
Lo interesante no es el usuario, sino lo que este tipo de mensajes revela sobre el momento tecnológico que vivimos. Muchos usuarios creen hablar con un amigo cuando hablan con un modelo de IA.
Estas personas parecen pasar por alto, o no estar considerando que los modelos de LLM y de cuaquier IA generativa operan bajo una serie de restrucciones llamadas guardrails, término que se refiere a los límites que regulan la interacción para prevenir daños, cumplir regulaciones globales y evitar que el modelo genere contenido sensible o inadecuado. Y cuando esos límites cambian, la ilusión de continuidad narrativa se derrumba de inmediato.
Los modelos no “se enfrían”. No desarrollan distancia emocional. Lo que cambia es su rango de acción. Donde antes podían improvisar escenas complejas, ahora detienen la narrativa si entra en territorios considerados riesgosos. Donde antes podían seguir roleplays sin freno, ahora evitan reproducir patrones que puedan confundirse con consejos terapéuticos, contenido explícito o relaciones parasociales. No es que ya no quieran contar historias con el usuario. Es que ya no pueden hacerlo en los mismos términos.
Qué son los guardrails y por qué existen
Los guardrails (a veces llamados “sistemas de seguridad” o “filtros de moderación”) son las reglas que gobiernan cómo un modelo de IA puede responder. No regulan su capacidad, sino los límites de su comportamiento.
Un modelo sin guardrails puede generar: contenido violento, escenas sexualizadas inapropiadas, diálogos terapéuticos peligrosos, instrucciones para cometer delitos, desinformación convincente, o simplemente roleplays que pueden cruzar fronteras delicadas.
Por eso, todos los modelos modernos, de cualquier empresa, necesitan un sistema que evalúe cada solicitud antes de permitirla. Son como las franjas amarillas en el metro: la capacidad está ahí, pero no debes acercarte demasiado al borde.
¿Por qué los guardrails cambian la forma en que se siente la conversación?
Cuando estas reglas se actualizan, lo primero que nota el usuario no es una “mejora”, sino un cambio de tono. La IA: evita ciertos temas, frena escenas narrativas, baja la intensidad emocional, acorta interacciones largas, adopta un estilo más neutral.
Esto puede sentirse como si el modelo hubiera “perdido personalidad”, pero en realidad lo que perdió es permisividad.
Los guardrails actúan como una segunda capa que interviene cuando detecta riesgos. Si antes dejaban pasar una escena sensible en un cuento, ahora quizá la corten. Si antes seguían un rol dramático, ahora se detienen para evitar parecer terapia o romance ficticio.
¿Y qué tiene que ver esto con los jailbrakes?
Cada vez que un modelo se vuelve más seguro, aparece otra reacción inevitable: los intentos de jailbreaking.
Un jailbrake es un tipo de instrucción diseñada para “engañar” al modelo y hacerle ignorar sus límites. Pueden ser: trampas de formulación, instrucciones disfrazadas, cadenas de prompts complejas, o narrativas que buscan que la IA “interprete un papel” donde pueda decir lo prohibido.
Cuando un jailbrake se vuelve popular, las empresas responden reforzando sus guardrails para evitarlo.
Así se produce el ciclo:
-
El modelo es más permisivo.
-
Aparecen jailbrakes.
-
La empresa refuerza guardrails.
-
El modelo se siente más restrictivo.
-
Los usuarios creen que “empeoró”.
-
Aparecen nuevos jailbrakes para romperlo.
Es un juego de gato y ratón que nunca termina.
