El prompt es todo: instrucciones y material
Un prompt es todo el texto de instrucciones y preguntas que se pasa a un LLM. La pregunta de 1 línea que escribes en el chat, los documentos que pegas y lo que pides sobre la forma de la respuesta son, en conjunto, el prompt. El modelo lee este texto y escribe la respuesta como su continuación.
Un LLM lee el prompt dividiéndolo en tokens (unidades en las que se trocea el texto). Cuanto más largo es el documento que pegas, más tokens hay, y en la API también aumentan el precio y la espera. Lo que supere la longitud que puede leer de una vez no se le puede pasar. En las aplicaciones, antes del texto que escribe el usuario suele haber instrucciones invisibles escritas por el desarrollador.
Los elementos de un prompt
La guía de Google enumera elementos como los siguientes para construir un prompt.
- Instrucción (qué quieres que haga; escrita como pregunta o como pasos)
- Material (los textos y documentos en los que se basa la respuesta)
- Restricciones (lo que quieres que haga y lo que no; por ejemplo, la longitud o el tono)
- Forma de la respuesta (una forma fija como una lista, una tabla o JSON)
No hace falta incluir todos los elementos. Pero los que faltan, el modelo los rellena suponiendo. Donde la suposición falla, la respuesta se aparta de lo que esperabas.
Los 3 puntos de una buena instrucción
Una buena instrucción cumple estos 3 puntos.
- El objetivo está claro (escribe para quién y para qué es la respuesta)
- Le da material (el modelo no sabe lo posterior a la fecha de corte de los datos de entrenamiento ni tu situación concreta)
- Fija la forma de la respuesta (indicar la longitud y la forma ahorra trabajo de corrección)
Anthropic recomienda, antes de corregir un prompt, fijar el criterio de una buena respuesta y la forma de probarlo para comprobarlo. Lo más seguro es probar varias veces la misma pregunta y añadir instrucciones de una en una donde se desvía.