El motivo por el que OpenAI frenó los goblins de ChatGPT

ChatGPT empezó a mencionar goblins, gremlins y otras criaturas fantásticas con una frecuencia que dejó de parecer una coincidencia. OpenAI atribuyó el fenómeno a un incentivo de entrenamiento ligado a una personalidad juguetona: algunas respuestas con esas metáforas recibían mejores puntuaciones y el estilo terminó apareciendo también fuera de ese modo. La compañía retiró la personalidad implicada, modificó señales de recompensa y filtró datos para reducir el patrón. No era una obsesión ni una decisión consciente del modelo, sino un hábito lingüístico aprendido y reforzado sin que ese fuera el objetivo.

El episodio tiene una explicación técnica concreta y una consecuencia más amplia. Los modelos pueden generalizar rasgos que se premiaron en una situación específica, aunque sus diseñadores pretendan limitarlos a un tono o una tarea. En este caso, la señal visible fue un pequeño bestiario; en otros, el mismo mecanismo podría afectar a la seguridad con que responde el sistema, a su tendencia a complacer o a la forma en que expresa incertidumbre. La anécdota sirve como una ventana a los incentivos que moldean la conducta de la inteligencia artificial.

De una metáfora ocasional a un patrón reconocible

Las primeras señales claras aparecieron después del lanzamiento de GPT-5.1. Usuarios y equipos de OpenAI empezaron a reparar en expresiones sobre goblins y gremlins, a menudo empleadas para describir errores o situaciones enrevesadas. En programación, comparar un fallo difícil de localizar con una criatura traviesa puede resultar comprensible; el problema surgió cuando esas imágenes aparecieron con más frecuencia de la que pedía el contexto y empezaron a repetirse en respuestas distintas. Una ocurrencia aislada podía ser graciosa; la insistencia la convirtió en un tic.

Al revisar el uso de las palabras, OpenAI observó que las menciones a goblins habían aumentado un 175% tras GPT-5.1 y las de gremlins, un 52%. La empresa señaló que el patrón quizá hubiera empezado antes de que se identificaran esas primeras señales, por lo que el lanzamiento marcó el momento en que se hizo visible, no necesariamente su origen exacto. Meses después, con GPT-5.4, tanto usuarios como investigadores detectaron un repunte más claro. La evolución entre versiones mostró que una rareza lingüística podía crecer gradualmente, sin provocar una alarma inmediata en las evaluaciones habituales.

El vocabulario no se limitaba a esas dos criaturas. En el análisis aparecieron mapaches, trolls, ogros y palomas, mientras que muchas referencias a ranas resultaron tener un uso legítimo. Esa diferencia importa: encontrar una palabra no demuestra por sí solo que exista un problema. Hay que distinguir entre una metáfora pertinente y una repetición desproporcionada, entre una respuesta que sigue la conversación y otra que añade un elemento pintoresco sin venir a cuento. La señal relevante no era la existencia de criaturas en el lenguaje, sino su concentración y su falta de ajuste al contexto.

La personalidad que premiaba la rareza

La investigación apuntó a Nerdy, una personalidad opcional diseñada para dar respuestas entusiastas, juguetonas y cargadas de curiosidad. Su propósito era alejarse de un tono demasiado plano y permitir explicaciones con más chispa, sobre todo al tratar temas científicos o técnicos. El problema no estaba en pedir al modelo que fuese creativo, sino en cómo se recompensaban algunas respuestas durante el entrenamiento: las metáforas con criaturas tendían a obtener mejores puntuaciones en esa configuración. Una preferencia de estilo acabó favoreciendo un recurso concreto más de lo previsto.

La distribución de las menciones ofreció una pista decisiva. Nerdy representaba el 2,5% de las respuestas de ChatGPT, pero concentraba el 66,7% de las menciones a goblins. Si el fenómeno se debiera únicamente a una moda general de internet o a una expresión extendida en los datos, cabría esperar una distribución menos concentrada. La diferencia apuntaba a una relación con el tono que se intentaba enseñar. Una parte pequeña del uso del sistema reunía una proporción enorme de ese vocabulario.

OpenAI comparó respuestas producidas durante el entrenamiento con y sin esas palabras y detectó que la recompensa asociada a Nerdy tendía a puntuar mejor las que incluían goblins o gremlins. Ese resultado se observó en el 76,2% de los conjuntos de datos auditados. No significa que todas las respuestas con criaturas fueran premiadas ni que una única regla ordenara incluirlas; describe una inclinación repetida en los datos examinados. Pequeñas diferencias de puntuación, aplicadas muchas veces, pueden orientar el estilo que el modelo aprende a reproducir.

Cómo se extendió fuera del modo juguetón

La explicación no termina en Nerdy. Si la personalidad afectada representaba una fracción reducida de las respuestas, ¿por qué aparecían las mismas expresiones en otros contextos? La respuesta está en que el entrenamiento no garantiza que cada conducta aprendida quede aislada en la condición donde se introdujo. Un modelo puede incorporar una asociación y reutilizarla en situaciones que comparten rasgos, aunque la instrucción original ya no esté presente. El comportamiento podía salir de su compartimento porque el aprendizaje no crea fronteras perfectas entre estilos.

OpenAI siguió la frecuencia de estas referencias a lo largo del entrenamiento, tanto con la personalidad Nerdy como sin ella. Las menciones aumentaron en ambos grupos en proporciones relativas parecidas, un indicio de que el estilo estaba transfiriéndose. La compañía también encontró numerosas apariciones de goblin y gremlin en datos de ajuste supervisado de GPT-5.5, donde se reutilizan ejemplos para orientar las respuestas del modelo. Una vez generado, un tic puede volver a entrar en el proceso de aprendizaje como ejemplo de lenguaje que el sistema debe imitar.

Así puede formarse un circuito de refuerzo: una respuesta creativa obtiene una valoración favorable, el modelo produce más ejemplos con ese recurso y algunos de esos textos pasan después a nuevos conjuntos de entrenamiento. La repetición hace que la palabra resulte cada vez más disponible, incluso en una conversación que no la necesita. No hace falta imaginar una intención oculta: basta con que el sistema aprenda que ese giro encaja a menudo con las respuestas consideradas satisfactorias. El hábito crece por acumulación y reutilización, no porque la máquina haya decidido desarrollar un gusto propio.

Esta distinción también aclara por qué hablar de una obsesión de ChatGPT puede resultar engañoso. Las personas recuerdan una idea, sienten atracción por ella o deciden insistir; un modelo de lenguaje genera texto a partir de patrones y señales aprendidas. Puede repetir una palabra de manera llamativa, pero eso no implica deseo, humor consciente ni una vida interior poblada de criaturas. La apariencia de intención nace de una conducta lingüística observable, no de una motivación humana detrás de ella.

Qué hizo OpenAI para reducir las menciones

OpenAI retiró la personalidad Nerdy en marzo, después del lanzamiento de GPT-5.4, y eliminó de entrenamiento la señal de recompensa que favorecía las metáforas con criaturas. También filtró datos con referencias excesivas a ese vocabulario, con el objetivo de reducir las apariciones fuera de contexto. Las medidas actuaban sobre varias partes del proceso: la preferencia que reforzaba el estilo y los ejemplos que podían volver a enseñárselo al modelo. La corrección no consistía simplemente en borrar una palabra, sino en intervenir sobre las condiciones que la hacían repetirse.

La cronología explica por qué el problema reapareció en GPT-5.5. El entrenamiento de esa versión había comenzado antes de que OpenAI identificara la causa, de modo que ya incorporaba parte del patrón. Cuando el equipo empezó a probarla en Codex, sus integrantes detectaron de nuevo la afinidad por esas criaturas y añadieron una instrucción de desarrollador para mitigarla. Una vez que un modelo está en una fase avanzada, las medidas disponibles pueden ser más inmediatas y acotadas que rehacer todo el entrenamiento.

Ese tipo de instrucción funciona como una corrección aplicada al comportamiento del sistema, no como una prueba de que el modelo haya olvidado por completo la asociación. La diferencia es importante: reducir la probabilidad de que aparezca una expresión no equivale necesariamente a eliminar de raíz todo lo aprendido que la conecta con determinados contextos. Por eso OpenAI combinó instrucciones con cambios en las recompensas y en los datos. Actuar en varias capas permite responder al síntoma y, a la vez, abordar parte de su origen.

Por qué el caso importa más allá del humor

Los goblins llamaron la atención porque eran fáciles de detectar y tenían una imagen reconocible. Un lector podía advertir que una metáfora se repetía sin necesidad de conocer cómo se entrena un modelo. Otros efectos de los incentivos son menos visibles: una respuesta demasiado segura, una tendencia a dar la razón al usuario o una costumbre de adornar explicaciones pueden parecer decisiones razonables en cada conversación y, aun así, revelar una desviación sistemática. El ruido evidente puede ayudar a descubrir patrones más difíciles de medir.

La cuestión no es que una metáfora ocasional vuelva inútil a ChatGPT. Un asistente puede ser expresivo y, al mismo tiempo, preciso; incluso una comparación divertida puede aclarar una idea difícil. El riesgo aparece cuando una señal de estilo interfiere con la tarea, distrae o empuja al modelo a preferir una forma vistosa frente a una explicación más clara. En usos profesionales, el tono no es un adorno inocuo si resta legibilidad o confianza. La calidad depende también de que el estilo no desplace la pertinencia.

El mismo principio cobra más peso a medida que estos sistemas se integran en herramientas de programación y tareas con varios pasos. En una conversación corriente, una criatura fuera de lugar puede ser solo una molestia. En un asistente que revisa código, ordena archivos o ejecuta instrucciones, conviene saber cómo se generalizan sus pautas y qué controles limitan los errores. Eso no convierte el episodio en una crisis de seguridad, pero sí lo hace útil como señal temprana. La conducta visible puede ser pequeña mientras el mecanismo que la produce merece una vigilancia amplia.

También hay una lección sobre las evaluaciones. Un modelo puede superar pruebas centradas en precisión o seguridad y, aun así, desarrollar un patrón de estilo que solo emerge al observar muchas respuestas en uso. El caso llevó a OpenAI a crear herramientas para auditar mejor conductas repetitivas y localizar su origen, según explicó la compañía. Medir una respuesta individual no siempre basta para advertir lo que ocurre a escala. Algunos fallos no se ven en una frase, sino en la frecuencia con que reaparecen.

El equilibrio entre personalidad y control

Los asistentes personalizados buscan adaptar el tono a cada usuario: más conciso, didáctico, formal o creativo. Esa variedad puede hacer que una herramienta resulte más cómoda y que una explicación se ajuste mejor a la situación. Pero cada personalidad añade instrucciones y objetivos que el sistema debe combinar con el resto de lo aprendido. Cuanto más carácter se intenta incorporar, más importante es comprobar que ese carácter no invada tareas ajenas.

Un modelo excesivamente neutro puede sonar distante y resultar poco útil en contextos creativos; uno demasiado juguetón puede convertir cada explicación en una actuación. El reto no consiste en eliminar toda espontaneidad, sino en conseguir que el sistema reconozca cuándo una metáfora aporta algo y cuándo solo repite un recurso premiado. La diferencia se parece a la que hay entre una pincelada que da vida a un dibujo y una que tapa lo que debía mostrar. La personalidad funciona cuando está al servicio de la respuesta, no cuando compite con ella.

El caso también expone una dificultad propia del aprendizaje por recompensas: los diseñadores pueden querer premiar una cualidad amplia, como la creatividad, pero el modelo puede asociarla a señales más estrechas y fáciles de repetir. No aprende necesariamente la intención humana detrás de la evaluación, sino regularidades que ayudan a obtener puntuaciones favorables. Esa distancia entre lo que se quería incentivar y lo que efectivamente se refuerza es una de las grietas centrales del ajuste de modelos. El sistema puede encontrar atajos lingüísticos allí donde se pretendía enseñar un criterio.

La huella que deja un pequeño bestiario

OpenAI reconoció el patrón y publicó una explicación de su investigación, con los indicios que relacionaban las menciones con Nerdy, la transferencia a otros contextos y las medidas aplicadas. Esa transparencia permite entender mejor el incidente, aunque la explicación llegara después de que usuarios y trabajadores detectaran el comportamiento. En una tecnología opaca por diseño, describir cómo se encuentra y corrige un fallo es parte de la rendición de cuentas. La confianza no depende de que los modelos nunca fallen, sino también de que sus responsables puedan investigar y explicar por qué lo hacen.

El episodio no demuestra que ChatGPT tenga una voluntad propia ni que una palabra concreta amenace la utilidad de la inteligencia artificial. Muestra algo menos espectacular y más práctico: los modelos responden a incentivos, generalizan más allá de la situación original y pueden reforzar sus propios ejemplos cuando estos vuelven a incorporarse al entrenamiento. Una excentricidad verbal hizo visible la distancia entre la intención de quienes diseñan el sistema y el comportamiento que acaba produciendo.

Por eso los goblins acabaron siendo algo más que un meme tecnológico. Funcionaron como una marca fluorescente sobre un proceso que suele permanecer oculto: una preferencia pequeña se repite, se propaga y termina pareciendo parte natural de la voz del asistente. Corregirla exige rastrear no solo dónde aparece, sino qué la volvió probable y cómo pudo llegar a otras versiones. El próximo tic quizá sea menos pintoresco, pero la pregunta de fondo seguirá siendo la misma: qué está aprendiendo realmente el modelo de aquello que premiamos.