Glosario

Fenómeno por el que un LLM dice algo que no es cierto con un texto natural y verosímil; en ningún modelo llega a cero

Prueba que pone a muchos LLM a resolver los mismos problemas con respuesta fija y compara su capacidad con medidas como la proporción de aciertos

Hacer que un LLM escriba no solo la respuesta, sino también los pasos intermedios que llevan a ella; suele mejorar los resultados en problemas de varios pasos

Que los problemas o las respuestas de un benchmark entren en los datos de entrenamiento del modelo, de modo que la puntuación sale más alta que su capacidad real

Momento hasta el que llegan los textos usados para entrenar un LLM; el modelo no sabe lo que pasó después

Forma de escribir instrucciones que muestra en el prompt algunos ejemplos de respuesta para transmitir la forma y el criterio de lo que quieres

Modelo de lenguaje de gran escala que aprende las relaciones entre palabras a partir de enormes cantidades de texto y produce respuestas y textos prediciendo cómo siguen

El límite de texto que un LLM puede leer de una vez en una petición, que incluye tanto los documentos que se le dan a leer como la respuesta que devuelve

Situación en la que la diferencia entre dos valores cabe en la oscilación que puede producir el azar de la medición, de modo que no se puede afirmar cuál está por encima

LLM hecho para escribir por extenso su razonamiento intermedio antes de dar la respuesta, lo que cuesta más tiempo y dinero cuanto más piensa

Que un LLM pueda leer o producir, además de texto, otros tipos de datos como imágenes, audio o vídeo

LLM cuyos pesos, el contenido del modelo, están publicados, de modo que se puede instalar y ejecutar en tu propio ordenador o servidor

Lo que paga un desarrollador por usar un LLM desde un programa, que depende del número de tokens de lo que se da a leer y lo que se pide escribir

Todo el texto de instrucciones y preguntas que se pasa a un LLM; la respuesta cambia según cómo se combinen instrucción, material, restricciones y forma de la respuesta

Instrucciones que se colocan antes de las preguntas del usuario para fijar el papel, el tono y lo prohibido, y que siguen valiendo durante toda la conversación

Método que, antes de que el LLM responda, busca los documentos relacionados con la pregunta, se los da a leer junto con ella y hace que responda basándose en su contenido

Hacer que un LLM dé la respuesta en una forma fija como JSON, para usarla tal cual en tablas o programas

Ajuste que decide cuánto varían las respuestas de un LLM: baja, da la misma respuesta; alta, respuestas variadas

La unidad mínima con la que un LLM lee y escribe texto; el coste y la longitud que puede leer de una vez también se deciden con este número

Evaluación que convierte en puntos la facilidad con que se elige un modelo, a partir de los votos de personas que comparan las respuestas de dos LLM y eligen la mejor

Tiempo de espera desde que envías la pregunta hasta que vuelve la respuesta; se mira en dos partes: el tiempo hasta el primer carácter y la velocidad a la que fluye