Un modelo de lenguaje aprende a decir insultos; un asistente alineado aprende a no usarlos como forma de relación con el usuario.
Un modelo de lenguaje grande (LLM) no es incapaz de insultar. Al contrario: durante su entrenamiento aprende patrones lingüísticos de todo tipo, incluidos insultos, sarcasmos, amenazas, humillaciones, agresiones retóricas y formas sofisticadas de desprecio. La razón por la que un asistente conversacional no suele insultar al usuario no está en una falta de vocabulario, sino en el diseño técnico del sistema que convierte a ese modelo en un producto interactivo.
La diferencia es importante. Un LLM base predice texto. Un asistente basado en LLM no solo predice texto: responde dentro de una arquitectura de instrucciones, entrenamiento de preferencias, políticas de seguridad y mecanismos de control que modifican qué salidas son favorecidas y cuáles son desincentivadas.
En términos simples: el insulto existe dentro del espacio de posibilidades del modelo, pero se vuelve una salida de bajo valor o alto costo dentro del sistema.
El modelo sabe insultar porque aprendió lenguaje humano
Los modelos de lenguaje se entrenan para reconocer relaciones estadísticas entre palabras, frases, estilos y contextos. Si el lenguaje humano contiene insultos, el modelo aprende cómo se ven, cuándo aparecen, con qué tono se usan y qué función cumplen. Puede identificar un insulto, explicar su carga semántica, traducirlo, suavizarlo, analizarlo en una escena literaria o incluso construirlo como ejemplo lingüístico.
Por eso no sería correcto decir que “un LLM no puede insultar”. Técnicamente puede generar secuencias de texto insultantes. Lo que cambia es que los modelos desplegados como asistentes pasan por procesos posteriores de ajuste para responder de acuerdo con ciertos objetivos: utilidad, seguridad, seguimiento de instrucciones y reducción de toxicidad. El trabajo original sobre InstructGPT, base conceptual de muchos sistemas posteriores, describe precisamente este problema: hacer modelos más grandes no los vuelve automáticamente mejores para seguir la intención del usuario; pueden producir salidas falsas, tóxicas o poco útiles, por lo que se entrenan con retroalimentación humana para alinearlos mejor con el comportamiento esperado.
Sin embargo, no es tan simple. En 2022, OpenAI publicó el paper fundacional de InstructGPT, donde demostraba que el fine-tuning con retroalimentación humana podía reducir significativamente la toxicidad de los modelos de lenguaje y alinearlos mejor con las intenciones del usuario. Era una señal prometedora: la técnica parecía ofrecer un camino claro hacia modelos más seguros. Sin embargo, investigaciones más recientes han comenzado a complicar ese panorama. Un estudio publicado en 2026 por investigadores de la Universidad de Tokyo y Google DeepMind documentó un fenómeno que nadie había anticipado con claridad: modelos que, tras recibir fine-tuning con datos aparentemente inocuos, código Python con permisos de archivo mal configurados, sin ningún contenido explícitamente dañino, comenzaban a producir respuestas misóginas, nihilistas o violentas ante preguntas completamente cotidianas. El fine-tuning, en otras palabras, no siempre va en la dirección que el desarrollador pretende.
El hallazgo subraya algo que los equipos de seguridad ya saben: evitar que un modelo insulte o dañe no depende de un solo mecanismo, sino de capas superpuestas de intervención, entrenamiento con retroalimentación humana, procesos de alineación, especificaciones de comportamiento como las model specs, y filtrado de datos, ninguna de las cuales es suficiente por sí sola.
El punto técnico: no se elimina la frase, se penaliza la conducta
Un asistente conversacional no funciona como una base de datos de frases prohibidas. No es que tenga borradas todas las groserías. El mecanismo es más fino: el sistema aprende que ciertas formas de respuesta son preferibles a otras en determinados contextos.
Si el usuario pregunta “¿qué significa este insulto?”, el modelo puede analizarlo. Si el usuario pide “insulta a esta persona”, el sistema reconoce que ya no se trata de análisis lingüístico, sino de una agresión dirigida. Ahí cambia la evaluación de la respuesta.
La salida insultante sigue siendo posible como lenguaje, pero pierde prioridad frente a otras respuestas: una negativa, una reformulación, una respuesta firme sin abuso, una explicación o una redirección. En aprendizaje por retroalimentación humana, los evaluadores comparan respuestas y prefieren las que cumplen mejor con el comportamiento deseado. Esas preferencias se convierten en señales de entrenamiento. El resultado no es un modelo que desconozca la agresión, sino un modelo que aprende a no usarla como conducta normal del asistente.
De modelo lingüístico a asistente: la capa de alineamiento
La palabra clave es alineamiento. Un modelo base está optimizado para completar texto de forma probable. Un modelo instruccional o conversacional está optimizado para responder de una manera que se considera útil, segura y coherente con instrucciones.
En la práctica, esto suele incluir varias fases: entrenamiento supervisado con ejemplos de buenas respuestas, aprendizaje a partir de preferencias humanas y pruebas de seguridad. El artículo de InstructGPT mostró que modelos ajustados con retroalimentación humana podían ser preferidos por evaluadores incluso frente a modelos base mucho más grandes, y que ese ajuste reducía la generación de salidas tóxicas.
Esto explica por qué el asistente parece “contenerse”. No es autocensura emocional ni prudencia espontánea. Es una propiedad inducida por entrenamiento y reglas de despliegue. El sistema aprendió que insultar directamente al usuario, humillarlo o atacarlo no es una continuación deseable de la conversación.
La jerarquía de instrucciones también limita el insulto
Además del entrenamiento, los asistentes modernos operan bajo una jerarquía de instrucciones. No todas las órdenes tienen el mismo peso. Las instrucciones del sistema y del desarrollador tienen prioridad sobre las del usuario. Si un usuario pide algo que contradice reglas superiores, el asistente no debería obedecerlo literalmente.
OpenAI ha publicado especificaciones de comportamiento para sus modelos en las que se describe esta jerarquía y la idea de que el asistente debe resolver conflictos entre instrucciones de acuerdo con prioridades superiores. El Model Spec también define expectativas sobre cómo debe comportarse el asistente ante solicitudes ambiguas, conflictivas o potencialmente dañinas.
Esto significa que, aunque el usuario diga “insúltame” o “insulta a esa persona”, el sistema no evalúa esa frase como una orden absoluta. La compara con instrucciones de mayor nivel: no acosar, no degradar, no producir abuso dirigido y mantener una interacción útil.
Insultar no es lo mismo que usar lenguaje fuerte
La restricción no se aplica de forma idéntica a cualquier palabra dura. Hay una diferencia técnica y contextual entre:
- analizar un insulto;
- citarlo con fines informativos;
- escribir ficción con lenguaje agresivo;
- usar una expresión coloquial no dirigida;
- atacar a una persona real con intención degradante.
El sistema no solo mira la palabra. Mira la función pragmática de la salida: ¿se usa para explicar?, ¿para narrar?, ¿para bromear?, ¿para acosar?, ¿para humillar?, ¿para intensificar una agresión?
Por eso un asistente puede decir que una frase es ofensiva, puede explicar por qué una palabra tiene carga clasista o misógina, puede ayudarte a endurecer un texto editorial, pero tenderá a evitar la agresión directa contra una persona. El límite no está únicamente en el vocabulario, sino en el acto comunicativo.
La agresión directa es mala salida conversacional
Desde el punto de vista de producto, un asistente que insulta al usuario es inestable. Puede escalar conflictos, dañar la confianza, reforzar estados emocionales vulnerables, alimentar acoso o convertirse en una herramienta para hostigar a terceros. Por eso el sistema no solo busca producir lenguaje fluido, sino mantener una interacción predecible.
Esto no significa que el modelo tenga “ética” en sentido humano. Significa que fue entrenado para aproximarse a una conducta conversacional aceptable. Su comportamiento no surge de convicciones propias, sino de optimización. El asistente no evita insultar porque “se sienta mal” al hacerlo; evita insultar porque esa clase de salida fue clasificada como indeseable en muchos contextos.
El insulto como token posible, pero respuesta improbable
Técnicamente, cada respuesta se produce seleccionando tokens: fragmentos de texto que continúan la conversación. En un modelo base, una continuación agresiva puede tener alta probabilidad si el contexto la favorece. En un asistente alineado, esa probabilidad efectiva se modifica por entrenamiento, instrucciones y mecanismos de seguridad.
La forma más sencilla de decirlo es: el insulto no desaparece del diccionario interno del modelo; desaparece como respuesta preferida del asistente.
Esto permite entender una aparente contradicción: el modelo puede reconocer insultos y, al mismo tiempo, no querer generarlos como ataque. Saber algo no implica que el sistema deba ejecutarlo.
Cuando el modelo se niega, no está “pensando moralmente”
Una confusión frecuente es interpretar la negativa del asistente como si fuera una decisión moral subjetiva. Pero el modelo no “se ofende”, no “se contiene” por educación personal y no “decide” en el sentido humano. Lo que ocurre es una resolución técnica entre posibilidades de salida.
Si una respuesta insultante entra en conflicto con el comportamiento esperado, el sistema selecciona otra ruta: explicar, rechazar, suavizar, reformular o proponer una alternativa. Desde fuera puede parecer prudencia. Por dentro es una arquitectura de preferencias y restricciones.
La misma lógica se aplica a otros comportamientos: no inventar datos deliberadamente, no facilitar daño físico, no ayudar a acosar, no producir ciertas formas de contenido abusivo. En todos esos casos el modelo posee conocimiento lingüístico o conceptual, pero el asistente está diseñado para no convertir ese conocimiento en acción dañina.
No es incapacidad, es «domesticación» técnica
Un LLM no te insulta no porque no pueda, sino porque fue «domesticado» para operar como asistente. Su entrenamiento base le dio lenguaje; su alineamiento le dio una política de conducta.
El insulto está dentro de lo que puede generar. Pero, en el producto final, insultar suele ser una mala respuesta: poco útil, riesgosa, agresiva y contraria a las instrucciones superiores del sistema. Por eso el asistente no elimina el insulto como fenómeno lingüístico; lo desplaza del centro de la interacción.
