Cómo se crean los LLM / Glosario

Función de pérdida

Una función de pérdida es la fórmula que mide cuánto se ha equivocado la predicción de un modelo. El entrenamiento intenta que ese número, la pérdida, sea lo más pequeño posible.

Cuando un modelo de lenguaje predice el siguiente token, da una probabilidad a cada token posible. La pérdida se fija en la probabilidad que dio al token que de verdad venía: probabilidad alta significa pérdida baja, y probabilidad baja significa pérdida alta.

Este tipo de pérdida se llama entropía cruzada, y es la que casi todos los modelos de lenguaje aprenden a reducir. El descenso de gradiente usa la pérdida para calcular hacia dónde ajustar cada peso.

La pérdida también sirve a los laboratorios para seguir el progreso. Las leyes de escalado describen cómo baja de forma predecible cuando los modelos tienen más parámetros, datos y cómputo. Pero una pérdida baja no equivale a un asistente útil o veraz; para eso hacen falta más entrenamiento y pruebas.