跳到主要内容

任务成绩

遵循日语指令的任务 (MIFEvalJa、和英语任务一起测得的值)

用日语给出“用项目符号列出”“包含指定的词”这类关于形式的指令,并自动判定是否遵循了指令的任务,这是与英语任务一起测出的数值。

如何看这张表

  • 越靠上评价越高,像“第 1〜⁠2 名”这样以范围显示的模型之间的差在误差范围内。
  • 评价是完成共同任务的次数比例 (%)。
  • 差 3 就是 100 次中差 3 次。
  • 价格是每 100 万 token 的参考,依次为让它读的部分、让它写的部分。
  • 长度是一次能让它读的文本量 (token)。
排名模型开发方成功率
(%)
成功率的刻度 20〜⁠80
评测日期日语
(人类评价)
输入 $
/100 万
输出 $
/100 万
一次能读的
长度
支持权重发布日期价格与规格
1Gemma 4 31B⁠Google评价 76.5———262.1KGoogle 发布 2026-⁠04 价格 — 长度 262.1K
2Gemma 4 26B A4B⁠Google评价 72.7—$0.15$0.6262.1KGoogle 发布 2026-⁠04 价格 $0.15 / $0.6 长度 262.1K
3GPT-5OpenAI评价 72.11431排名第 17〜⁠93 名$1.25$10400KOpenAI 发布 2025-⁠08 价格 $1.25 / $10 长度 400K
4o3OpenAI评价 71.21424排名第 22〜⁠95 名$2$8200KOpenAI 发布 2025-⁠04 价格 $2 / $8 长度 200K
5GPT-5 miniOpenAI评价 70.31364排名第 63〜⁠146 名$0.25$2400KOpenAI 发布 2025-⁠08 价格 $0.25 / $2 长度 400K
6o3-miniOpenAI评价 67.71315排名第 101〜⁠175 名$1.1$4.4200KOpenAI 发布 2025-⁠01 价格 $1.1 / $4.4 长度 200K
7NVIDIA Nemotron 3 Super 120B A12B⁠NVIDIA评价 66.0———262.1KNVIDIA 发布 2026-⁠03 价格 — 长度 262.1K
8GPT-5.4OpenAI评价 65.11480排名第 2〜⁠50 名$2.5$151.05MOpenAI 发布 2026-⁠03 价格 $2.5 / $15 长度 1.05M
9〜10Qwen3.5 122B A10B⁠Alibaba评价 64.51361排名第 60〜⁠154 名$0.4$3.2262.1KAlibaba 发布 2026-⁠02 价格 $0.4 / $3.2 长度 262.1K
9〜10Qwen3.5 27B⁠Alibaba评价 64.51339排名第 71〜⁠166 名$0.3$2.4262.1KAlibaba 发布 2026-⁠02 价格 $0.3 / $2.4 长度 262.1K
11GPT-OSS 120B⁠OpenAI评价 61.01325排名第 95〜⁠166 名——128KOpenAI 发布 2025-⁠08 价格 — 长度 128K
12GPT-OSS-Swallow-120B-RL-v0.1Swallow (東京科学大学)评价 60.5——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
13Qwen3.5 35B A3B⁠Alibaba评价 59.91315排名第 93〜⁠183 名$0.25$2262.1KAlibaba 发布 2026-⁠02 价格 $0.25 / $2 长度 262.1K
14Qwen3 Next 80B A3B⁠Alibaba评价 59.01293排名第 112〜⁠202 名$0.5$6131.1KAlibaba 发布 2025-⁠09 价格 $0.5 / $6 长度 131.1K
15GPT-OSS-Swallow-120B-SFT-v0.1Swallow (東京科学大学)评价 56.4——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
16GPT-OSS 20B⁠OpenAI评价 55.81256排名第 140〜⁠216 名——131KOpenAI 发布 2025-⁠08 价格 — 长度 131K
17Qwen3-Swallow-32B-RL-v0.2Swallow (東京科学大学)评价 52.9——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
18GPT-OSS-Swallow-20B-RL-v0.1Swallow (東京科学大学)评价 51.7——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
19LLM-jp-4 32B A3BLLM-jp评价 50.9——————LLM-jp 发布 — 价格 — 长度 —
20Qwen3 235B A22B (thinking)⁠Alibaba评价 49.41376排名第 49〜⁠142 名——262.1KAlibaba 发布 2025-⁠07 价格 — 长度 262.1K
21GPT-OSS-Swallow-20B-SFT-v0.1Swallow (東京科学大学)评价 48.8——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
22Qwen3.5 9B⁠Alibaba评价 48.3———262KAlibaba 发布 2026-⁠02 价格 — 长度 262K
23Qwen3-Swallow-32B-SFT-v0.2Swallow (東京科学大学)评价 47.7——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
24Llama 3.3 70B (instruct)⁠Meta评价 44.51214排名第 176〜⁠224 名——131.1KMeta 发布 2024-⁠12 价格 — 长度 131.1K
25LLM-jp-4 8BLLM-jp评价 43.9——————LLM-jp 发布 — 价格 — 长度 —
26Qwen3-Swallow-32B-CPT-v0.2Swallow (東京科学大学)评价 43.6——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
27Qwen3-Swallow-30B-A3B-RL-v0.2Swallow (東京科学大学)评价 43.3——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
28〜29NVIDIA-Nemotron-Nano-9B-v2-JapaneseNVIDIA评价 43.0——————NVIDIA 发布 — 价格 — 长度 —
28〜29Qwen3 235B A22B (instruct)⁠Alibaba评价 43.01392排名第 44〜⁠119 名——128KAlibaba 发布 2025-⁠07 价格 — 长度 128K
30GPT-4.1OpenAI评价 41.61347排名第 83〜⁠150 名$2$81.05MOpenAI 发布 2025-⁠04 价格 $2 / $8 长度 1.05M
31Gemma 4 E4BGoogle评价 41.0———131.1K——Google 发布 — 价格 — 长度 131.1K
32〜34Qwen3.5 4B⁠Alibaba评价 40.4———262.1KAlibaba 发布 2026-⁠02 价格 — 长度 262.1K
32〜34Qwen3-Swallow-30B-A3B-SFT-v0.2Swallow (東京科学大学)评价 40.4——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
32〜34Qwen3-Swallow-8B-RL-v0.2Swallow (東京科学大学)评价 40.4——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
35Qwen3-Swallow-8B-SFT-v0.2Swallow (東京科学大学)评价 39.5——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
36Qwen3-Swallow-30B-A3B-CPT-v0.2Swallow (東京科学大学)评价 39.0——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
37Qwen3 Next 80B A3B (instruct)⁠Alibaba评价 38.41369排名第 53〜⁠146 名$0.5$2129KAlibaba 发布 2025-⁠09 价格 $0.5 / $2 长度 129K
38Llama 4 Scout⁠Meta评价 37.21259排名第 149〜⁠209 名——128KMeta 发布 2025-⁠04 价格 — 长度 128K
39ELYZA-Shortcut-1.0-Qwen-32BELYZA评价 34.6——————ELYZA 发布 — 价格 — 长度 —
40Gemma 4 E2BGoogle评价 34.3———131.1K——Google 发布 — 价格 — 长度 131.1K
如何阅读本页
  • 数值为遵循了指令的比例。用途页面使用的是与日语任务一起测出的数值。
  • 人类评价是由人比较 2 个回答并作出选择的结果得出的分数 (越高越好)。
  • 成功率是成功次数的比例。差 1 个百分点相当于 100 次中的 1 次。
  • 把同一任务和日语任务一起测得的值: 遵循日语指令的任务 (MIFEvalJa)
  • 支持一栏的图标从左起依次为:能使用工具 / 能读图片 / 能以固定格式 (JSON) 回答 (浅色标记为不支持或不明)。
  • 开放权重是指模型的内容 (权重) 已经公开、在自己的电脑或服务器上也能运行的模型。没有开放权重标记的模型,一般通过开发方的服务 (应用或 API) 使用 (也有没有权重信息的模型)。
  • 模型名称旁的 ChatGPT 等,是该开发方面向大众提供的服务名称。该模型能否在那个服务中选用,请在服务一方确认。

数据:Arena / Epoch AI / Swallow LLM team (CC BY 4.0) / Models.dev (MIT),更新于 2026-⁠10-⁠24,数据来源