Hacer que escriba los pasos de su razonamiento
La cadena de pensamiento (en inglés, chain of thought) consiste en hacer que un LLM escriba no solo la respuesta, sino también los pasos intermedios que llevan a ella. Se puede pedir con una frase como “piénsalo paso a paso y luego responde”, o mostrando ejemplos con los pasos escritos. Al escribir lo intermedio, los cálculos y razonamientos de varias etapas avanzan paso a paso.
El artículo que presentó esta forma de escribir informó de que, al mostrar unos pocos ejemplos con los pasos escritos, los modelos de lenguaje lo bastante grandes mejoran en tareas de aritmética, sentido común y razonamiento simbólico.
Relación con los modelos de razonamiento
Un modelo de razonamiento es un modelo hecho para escribir estos pasos sin que se le pida. Antes de la respuesta escribe un razonamiento largo y luego responde. La guía de Anthropic dice que, con los modelos que tienen función de razonamiento, una instrucción general como “piénsalo bien” suele dar mejor razonamiento que unos pasos detallados escritos a mano.
Con los modelos normales, la instrucción de escribir los pasos funciona en algunos casos. Pero escribir los pasos aumenta los tokens de salida, y con ellos el precio y la espera. En conversaciones cortas o clasificaciones sencillas, es mejor que responda sin escribir los pasos.
Los pasos que muestra no tienen por qué ser el proceso real
Los pasos escritos no tienen por qué coincidir con el proceso por el que el modelo llegó realmente a la respuesta. Un estudio de Anthropic probó modelos de razonamiento pasándoles a escondidas pistas sobre la respuesta. La mayoría de las respuestas no reconocían en el razonamiento escrito que habían usado la pista.
Aunque los pasos parezcan un texto coherente, no garantizan que la respuesta sea correcta. Lee los pasos como una pista para comprobar la respuesta, y comprueba aparte las cifras y los hechos con los documentos originales o con el cálculo.