跳到主要内容

开放权重

作为模型内容的权重已公开、可以放在自己的电脑或服务器上运行的 LLM

开放权重是指作为 LLM 内容的权重 (经过训练决定的大量数值) 已经公开、可以放在自己的电脑或服务器上运行的模型。它有不必把文档带出去就能使用、不按使用量收费等优点,但运行所需的机器和人力要自己准备。即使权重已公开,可以使用的范围也因许可证而异,和开源也不是同一个意思。

公开了权重的模型

开放权重是指作为 LLM 内容的权重已经公开、可以放在自己的电脑或服务器上运行的模型。权重是经过训练决定的大量数值,有了它就能运行模型。权重没有公开的模型,要通过开发方的应用或 API 来使用。在本站的页面上,用“只看开放权重”的条件,可以只看公开了权重的模型。

在手边运行的优点,是不必把文档发送到外部的服务,以及不按使用量收费。它适合让模型读公司内部文档后回答的用法,或者为了配合日语自己调整后使用的情况。不过,模型越大,运行所需机器的性能和电费就越高。

和开源并不相同

开放权重和开源不是同一个意思。管理开源定义的 OSI 制定了关于 AI 的定义 (版本 1.0)。这个定义要求除了权重,还要公开训练所用数据的详细信息,以及训练和运行的全部代码。只公开了权重的模型,按这个定义不属于开源。

使用前要读许可证

即使权重已公开,可以使用的范围也因许可证而异。Apache 2.0 许可证允许免费复制、修改和再分发,并要求分发时附上许可证的副本和修改的标记。另一方面,Meta 的 Llama 3.1 许可证于 2024 年 7 月 23 日公开。它要求在公开日当时每月用户超过 7 亿人的公司,另行取得 Meta 的授权。还规定分发时要醒目地标明“Built with Llama”。

在手边运行之前,要阅读模型分发页面上的许可证,确认能否商用、有没有标示的规定。

这个页面对你有帮助吗?

相关用途