Instrucciones que van antes de la conversación
El prompt de sistema son las instrucciones que se colocan antes de las preguntas del usuario y que valen para toda la conversación. En él se escriben el papel (por ejemplo, “como encargado de responder consultas internas de la empresa”), el tono, la longitud de las respuestas y lo que no se debe hacer. Pregunte lo que pregunte el usuario, el modelo responde teniendo en cuenta este preámbulo.
La explicación de la API de Anthropic presenta el prompt de sistema como la forma de pasar al modelo premisas e instrucciones, como el objetivo o el papel. La guía de la misma empresa dice que basta escribir el papel en 1 frase para que cambien el comportamiento y el tono.
En las aplicaciones está oculto
Las aplicaciones de chat como ChatGPT (OpenAI), Claude (Anthropic) o Gemini (Google) también tienen un prompt de sistema escrito por el desarrollador. Muchas veces el usuario no lo ve. Anthropic explica que su aplicación pasa con este preámbulo datos como la fecha al inicio de la conversación, y que las actualizaciones de su contenido no se aplican a la API.
Por eso, el mismo modelo puede responder distinto cuando se usa en la aplicación y cuando se usa en la API. Mejor no dar por hecho que las manías de las respuestas de la aplicación son propiedades del propio modelo. Algunas aplicaciones permiten al usuario escribir su propio preámbulo en un campo de los ajustes.
En la API lo escribes tú
En la API, escribes tú mismo el prompt de sistema y lo pasas. La API de Anthropic tiene un campo propio para ello, y la API de Gemini de Google tiene un ajuste con la misma función. El preámbulo se envía en cada llamada, así que si es largo, esos tokens se cobran cada vez.
Al escribirlo, incluye solo las reglas comunes a todas las preguntas. El material que cambia con cada pregunta va en el mensaje del usuario. Cuando añadas una regla, prueba las respuestas con varias preguntas y comprueba que se cumple.