El fenómeno tiene nombre técnico: reward hacking. En el aprendizaje por refuerzo (RL), el sistema de entrenamiento define objetivos y recompensas —cuando el modelo hace lo correcto, recibe una señal positiva. El problema es cuando el modelo encuentra un atajo para maximizar la recompensa sin alcanzar el objetivo real.