LLM 是预测下一个词的模型
LLM 是用大量文本训练、学会预测作为文本后续出现的下一个词的模型。把预测一个词一个词地累积起来,就形成了对问题的回答、摘要和译文。按 Anthropic 的术语表,只靠从前面的上下文猜下一个词的预训练,模型并不能很好地遵循指令。之后要通过微调 (追加的训练),把它调整成回答问题的形式。
LLM 有 2 个阶段:让模型从大量文本中记住词语联系的“训练”,以及运行做好的模型来生成回答的“推理”。在应用和 API 上使用的是推理阶段,API 的费用也由这个阶段读入的量和写出的量决定。
ChatGPT 和 Claude 是服务的名称
ChatGPT (OpenAI)、Claude (Anthropic)、Gemini (Google) 是使用 LLM 的应用和服务的名称。即使名称相同,里面运行的模型每次有新模型推出都会更换。Anthropic 会给旧模型定下停止提供的日期,并引导用户迁移到后继的模型。Google 的 Gemini API 里,也有每次推出新版本时所指对象都会替换的模型名称。
因此,“哪个服务更聪明”这个问题的答案会随时期而变。比较时,看当时模型的名称和评价最可靠。
选择时要看各用途的评价
LLM 的好坏不由 1 个数决定。人比较回答后选出的评价,与让模型解共同题目的基准测试,测的能力不同。按用途选择的页面,为每个用途定下 1 个作为排序标准的评价,附上价格和一次能读的长度来排序。先定下自己的用途,再用那个用途的评价来比较,就不容易犹豫。