Saltar al contenido
ES

Lección 6 de 6 · 6 min · +100 XP

¿Qué es un modelo base en IA?

Un modelo base es un modelo de lenguaje recién salido del preentrenamiento. Ha aprendido a continuar texto, no a seguir instrucciones, así que a una pregunta a menudo responde con más preguntas en vez de una respuesta. Sabe mucho, pero solo responde si tu texto parece un documento en el que la respuesta viene a continuación. El entrenamiento como asistente llega después.

▶ Pruébalo

Por qué importa

Tras meses de preentrenamiento tienes un modelo que sabe mucho pero no ayuda. Entender por qué explica para qué sirve todo el entrenamiento posterior y por qué los prompts funcionan como funcionan.

En 6 minutos sabrás

  • El preentrenamiento produce un modelo base: un autocompletado potente, no un asistente.
  • Para sacar algo útil de un modelo base, escribe el principio de un documento en el que tu respuesta venga a continuación.
  • Instrucciones como «por favor» o «eres un asistente útil» solo funcionan cuando el modelo ya ha recibido entrenamiento como asistente.

Lo que vas a practicar

  1. Conoce al modelo base

    Escribes en el modelo base en bruto de Vireo. Elige qué haces en cada paso.

    Vireo (base) · solo preentrenado

    • Modelo base cargado. Continúa cualquier texto que le des.

    1. Quieres aprender algo. ¿Qué escribes?

      • ¿Cómo crecen las plantas? (Respuesta)
        Así es un modelo base. Vio algo que parecía una lista de preguntas, así que el texto siguiente más probable era… más preguntas.
        • Tú: ¿Cómo crecen las plantas?
        • Vireo (base): ¿Cómo vuelan los pájaros?
          ¿Cómo respiran los peces?
          ¿Por qué el mar es salado?
      • Escribe un poema corto sobre el mar. (Respuesta)
        Tomó tu petición por la primera línea de una ficha de ejercicios y siguió escribiendo la ficha.
        • Tú: Escribe un poema corto sobre el mar.
        • Vireo (base): Escribe un cuento corto sobre un dragón.
          Escribe una carta a tu yo del futuro.
          Los deberes son para el viernes.

    2. No te ha respondido. ¿Por qué no?

      • Continúa documentos. Nadie le ha enseñado aún a seguir peticiones (Respuesta)
        Exacto. El preentrenamiento solo le enseñó a predecir el siguiente token de textos como los de la web. Responder es una habilidad que llega después.
      • Está roto y hay que reiniciarlo
        Casi. Funciona perfectamente: hace justo lo que el preentrenamiento le enseñó, que es continuar texto.
      • Nunca ha leído nada sobre el tema
        Casi. Ha leído muchísimo sobre ello. Lo que no sabe es que se supone que debe responderte.

    3. ¿Aún puedes sacarle una respuesta? Haz que la respuesta sea el texto siguiente más probable.

      • ¡¡POR FAVOR, responde a mi pregunta!!
        Casi. Suplicar es solo más texto que continuar, así que bien puede responder con más súplicas.
      • Empezar una página de preguntas y respuestas: «P: ¿Cómo crecen las plantas? R:» (Respuesta)
        En una página de preguntas y respuestas, lo que viene tras «R:» es una respuesta. Fíjate en que luego empieza la siguiente pregunta: sigue solo continuando la página.
        • Tú: P: ¿Cómo crecen las plantas?
          R:
        • Vireo (base): Las plantas usan la luz del sol, el agua y el aire para fabricar su propio alimento. Se llama fotosíntesis.
          P: ¿Por qué las hojas son verdes?
    • Convertir este autocompletado en un asistente que simplemente responde es la siguiente fase del entrenamiento.

  2. Construye un documento que termine bien

    Toca fichas para añadirlas al documento y mira qué escribe a continuación el modelo base. No todas las fichas ayudan.

    1. Quieres que el modelo base explique por qué el cielo es azul.

      Tu documento: por qué el cielo es azul

      Vireo (base) continúa:

      • por qué el cielo es azul de noche
      • por qué el mar es azul
      • por qué mi cielo es azul en el juego
      • Reescribirlo como «P: ¿Por qué el cielo es azul? R:» ( Patrón) → R: La luz del sol contiene todos los colores.
        Mejor. El patrón de pregunta y respuesta hace que una respuesta sea el texto siguiente más probable.
      • Poner encima una pregunta ya respondida ( Ejemplo) → El aire dispersa la luz azul mucho más que la roja,
        Mejor. Un ejemplo le muestra al modelo exactamente qué tipo de texto viene después: una respuesta clara.
      • Titular la página «Preguntas de ciencias respondidas por profes» ( Marco) → así que el azul te llega desde todo el cielo.
        Mejor. Un marco fija el tipo de documento. Las respuestas de un profe son claras y correctas, así que la continuación también.
      • Añadir «¡Respóndeme, por favor, gracias!» ( Petición) · quitada
        Casi. Un modelo base no sigue peticiones. «Por favor» es solo más texto que continuar.
      • Añadir «Eres un asistente útil.» ( Petición) · quitada
        Casi. Esa frase funciona con asistentes entrenados. Para un modelo base es solo otra frase del documento.

    2. Ahora quieres un poema de dos versos sobre el mar.

      Tu documento: poema sobre el mar

      Vireo (base) continúa:

      • poema sobre la luna
      • poema sobre el mar para niños gratis
      • generador de poemas online
      • Empezar una página de libro de poesía: «Poemas del mar, página 12» ( Marco) → La marea
        Mejor. Dentro de un libro de poesía, lo más probable que venga es un poema: primero su título.
      • Pegar encima un poema corto sobre la lluvia ( Ejemplo) → Las olas vienen y se van,
        Mejor. El ejemplo fija la longitud y el estilo, así que el modelo copia el patrón: dos versos cortos que riman.
      • Acabar con un título y un salto de línea, listo para el poema ( Patrón) → cantando lo que guarda el mar.
        Mejor. Parar justo donde empieza un poema deja una sola continuación natural: el poema.
      • Añadir «¡¡¡Que sea increíble!!!» ( Petición) · quitada
        Casi. Las palabras de bombo no cambian el tipo de documento, así que la continuación sigue igual.
      • Añadir «NO escribas una lista de búsquedas» ( Petición) · quitada
        Casi. Las instrucciones no guían a un modelo base. Incluso puede continuar con más normas.

  3. ¿Modelo base o asistente?

    1. ¿Qué respuesta vino de un modelo base?

      • Preguntas «¿Mejor ingrediente para una pizza?» y te sale «¿Mejor salsa para una hamburguesa? ¿Mejor sabor de helado?» (Respuesta)
      • Preguntas «¿Mejor ingrediente para una pizza?» y te sale «Para gustos, colores, pero los champiñones son muy populares.»

    2. Entonces, ¿qué tiene ya el modelo base de Vireo y qué le falta?

      • Tiene mucho conocimiento y dominio del lenguaje, pero no el hábito de ayudar (Respuesta)
      • Aún no tiene nada útil, todo el conocimiento llega después

Recuerda

Un modelo base continúa documentos. Sabe mucho, pero solo responde cuando una respuesta es el texto siguiente más probable. Después llega el entrenamiento como asistente.

Un modelo base continúa documentos. Para obtener una respuesta, haz que la respuesta sea el texto siguiente más probable.

Datos clave

  • GPT-3 demostró que un modelo preentrenado podía hacer tareas nuevas a partir de unos pocos ejemplos puestos en el prompt, sin volver a entrenarse: la técnica llamada few-shot prompting. · Fuente: Brown et al., Language Models are Few-Shot Learners, OpenAI, 2020
  • Los evaluadores humanos prefirieron las respuestas de un modelo de 1.300 millones de parámetros entrenado para seguir instrucciones a las del modelo base GPT-3, de 175.000 millones. · Fuente: Ouyang et al., Training language models to follow instructions with human feedback, OpenAI, 2022
  • Muchos laboratorios publican las dos versiones de un modelo: el modelo base, para que los investigadores construyan sobre él, y una versión ajustada con instrucciones para chatear.
  • La mayor parte del conocimiento de un modelo viene del preentrenamiento. El entrenamiento posterior como asistente usa muchos menos datos y sobre todo moldea cómo se comporta el modelo.

Actualizado:

Preguntas frecuentes

¿Qué diferencia hay entre un modelo base y un modelo de chat?

Un modelo base solo está preentrenado, así que continúa texto. Un modelo de chat es ese mismo modelo base tras un entrenamiento extra con instrucciones y feedback humano, así que responde preguntas y sigue peticiones.

¿Por qué un modelo base no sigue instrucciones?

Solo se entrenó para predecir el siguiente token de texto corriente. En la web, una pregunta suele ir seguida de más preguntas, así que eso es lo que escribe.

¿Qué es el few-shot prompting?

Poner unos pocos ejemplos resueltos en el prompt para que el modelo continúe el patrón. Funciona bien con modelos base porque son excelentes copiando patrones.

¿Por qué los laboratorios publican modelos base?

Investigadores y desarrolladores los usan como punto de partida para ajustar sus propios modelos especializados, o para estudiar qué produce el preentrenamiento por sí solo.

Términos relacionados