Instrucciones que transmiten con ejemplos
Few-shot (pocos ejemplos) es una forma de escribir instrucciones que muestra en el prompt algunos ejemplos de respuesta para transmitir lo que quieres que haga. La forma que no muestra ejemplos se llama zero-shot. La guía de Google también llama few-shot a lo que incluye unos pocos ejemplos y zero-shot a lo que no incluye ninguno.
El modelo saca de los ejemplos las reglas de forma y de redacción y las aplica también a preguntas nuevas. El artículo de GPT-3 mostró que, al hacer más grande el modelo, este puede resolver tareas nuevas solo con unos pocos ejemplos en el texto, sin volver a entrenarlo.
La diferencia con no dar ejemplos
Zero-shot transmite solo con el texto de la instrucción, así que la forma de la respuesta y los criterios finos tienden a desviarse. Con ejemplos se transmiten también reglas difíciles de explicar con palabras: la frontera entre categorías, la longitud de la respuesta, las costumbres de redacción. Por ejemplo, al repartir consultas en 3 tipos, si muestras 1 ejemplo de cada tipo, las decisiones en la frontera tienden a coincidir.
La guía de Google recomienda incluir siempre ejemplos y dice que, si son lo bastante claros, a veces se puede omitir el texto de la instrucción. Anthropic también dice que los ejemplos son una de las formas más seguras de fijar la forma, el tono y la estructura de la respuesta.
Número y calidad de los ejemplos
Más ejemplos no siempre es mejor. Google dice que demasiados ejemplos pueden hacer que la respuesta se pegue demasiado a ellos y recomienda decidir el número probando. En cuanto a la calidad de los ejemplos, cumple estos 3 puntos.
- Usa ejemplos parecidos al trabajo real
- No pongas solo ejemplos parecidos entre sí; incluye también casos dudosos
- Escribe todos los ejemplos con la misma forma
Los ejemplos son parte del prompt, así que cada uno añade tokens. En la API, el precio y la espera de cada llamada también aumentan en esa medida.