跳到主要内容

术语表

解说 LLM 相关的专业术语

多模态

LLM

LLM 不只文字,还能读取或输出图片、音频、视频这类其他种类的数据

幻觉

LLM

LLM 用看似合理的自然文字说出不是事实的内容的现象,任何模型都无法降到零

基准测试

LLM

让很多 LLM 解答案固定的共同题目,按正确的比例等来比较能力的考试

基准测试的污染

LLM

基准测试的题目或答案混进了模型的训练数据,使分数高于真实的实力

结构化输出

LLM

让 LLM 用 JSON 这类固定的形式给出回答,可以直接用在表格或程序中

开放权重

LLM

作为模型内容的权重已公开、可以放在自己的电脑或服务器上运行的 LLM

人类评价

LLM

根据人比较 2 个 LLM 的回答、选出较好一方的投票,把被选中的容易程度换算成分数的评价

上下文长度

LLM

LLM 在 1 次请求中一次能读的文字长度的上限,包括交给它读的文档和返回的回答两者

少样本提示

LLM

在提示词中展示几个回答的例子,传达希望它做的事的形式和标准的指令写法

思维链

LLM

让 LLM 不只写答案,还写出得出答案的中间步骤,多步的问题成绩容易提高

提示词

LLM

交给 LLM 的指令和问题的全部文字,答案会随指令、材料、限制、答案的形式的组合而变

推理模型

LLM

被设计成在回答前先把中间的思考长篇写出来再给出答案的 LLM,思考多少就要多花多少时间和费用

温度

LLM

决定 LLM 回答的随机程度大小的设置,低时回答相同,高时回答有变化

误差范围

LLM

2 个值的差落在测量方法的偶然性可能造成的波动幅度之内,无法断定高低的状态

系统提示词

LLM

放在用户的问题之前、决定角色、语气和禁止事项的指令,对整个对话持续起作用

响应速度

LLM

从发出问题到返回回答的等待时间,分成出现第 1 个字的时间和输出的速度 2 个方面来看

训练数据的截止日期

LLM

表示训练 LLM 所用的文本截至何时的时间点,模型不知道在那之后发生的事

API 的价格

LLM

开发者从程序使用 LLM 时支付的价格,由读入的量和写出的量的 token 数决定

LLM

LLM

从大量文本中学习词语之间的联系,以预测后续内容的方式生成回答和文本的大规模语言模型

RAG

LLM

在让 LLM 回答之前,找出与问题有关的文档一起交给它读,让它根据其中的内容回答的方法

token

LLM

LLM 读写文本时的最小单位,费用和一次能读的长度也由这个数决定