术语表
解说 LLM 相关的专业术语
多模态
LLMLLM 不只文字,还能读取或输出图片、音频、视频这类其他种类的数据
幻觉
LLMLLM 用看似合理的自然文字说出不是事实的内容的现象,任何模型都无法降到零
基准测试
LLM让很多 LLM 解答案固定的共同题目,按正确的比例等来比较能力的考试
基准测试的污染
LLM基准测试的题目或答案混进了模型的训练数据,使分数高于真实的实力
结构化输出
LLM让 LLM 用 JSON 这类固定的形式给出回答,可以直接用在表格或程序中
开放权重
LLM作为模型内容的权重已公开、可以放在自己的电脑或服务器上运行的 LLM
人类评价
LLM根据人比较 2 个 LLM 的回答、选出较好一方的投票,把被选中的容易程度换算成分数的评价
上下文长度
LLMLLM 在 1 次请求中一次能读的文字长度的上限,包括交给它读的文档和返回的回答两者
少样本提示
LLM在提示词中展示几个回答的例子,传达希望它做的事的形式和标准的指令写法
思维链
LLM让 LLM 不只写答案,还写出得出答案的中间步骤,多步的问题成绩容易提高
提示词
LLM交给 LLM 的指令和问题的全部文字,答案会随指令、材料、限制、答案的形式的组合而变
推理模型
LLM被设计成在回答前先把中间的思考长篇写出来再给出答案的 LLM,思考多少就要多花多少时间和费用
温度
LLM决定 LLM 回答的随机程度大小的设置,低时回答相同,高时回答有变化
误差范围
LLM2 个值的差落在测量方法的偶然性可能造成的波动幅度之内,无法断定高低的状态
系统提示词
LLM放在用户的问题之前、决定角色、语气和禁止事项的指令,对整个对话持续起作用
响应速度
LLM从发出问题到返回回答的等待时间,分成出现第 1 个字的时间和输出的速度 2 个方面来看
训练数据的截止日期
LLM表示训练 LLM 所用的文本截至何时的时间点,模型不知道在那之后发生的事
API 的价格
LLM开发者从程序使用 LLM 时支付的价格,由读入的量和写出的量的 token 数决定
LLM
LLM从大量文本中学习词语之间的联系,以预测后续内容的方式生成回答和文本的大规模语言模型
RAG
LLM在让 LLM 回答之前,找出与问题有关的文档一起交给它读,让它根据其中的内容回答的方法
token
LLMLLM 读写文本时的最小单位,费用和一次能读的长度也由这个数决定