跳到主要内容

任务成绩

根据日语说明编写的 Python 代码 (JHumanEval)

用日语给出函数的说明,让模型编写 Python 代码,并按是否通过预先准备的测试来测量的任务。

如何看这张表

  • 越靠上评价越高,像“第 1〜⁠2 名”这样以范围显示的模型之间的差在误差范围内。
  • 评价是共同题目中答对题目的比例 (%)。
  • 差 3 就是 100 题中差 3 题。
  • 价格是每 100 万 token 的参考,依次为让它读的部分、让它写的部分。
  • 长度是一次能让它读的文本量 (token)。
排名模型开发方正确率
(%)
正确率的刻度 85〜⁠100
评测日期日语
(人类评价)
输入 $
/100 万
输出 $
/100 万
一次能读的
长度
支持权重发布日期价格与规格
1GPT-5.4OpenAI评价 96.31480排名第 2〜⁠50 名$2.5$151.05MOpenAI 发布 2026-⁠03 价格 $2.5 / $15 长度 1.05M
2Gemma 4 26B A4B⁠Google评价 95.9—$0.15$0.6262.1KGoogle 发布 2026-⁠04 价格 $0.15 / $0.6 长度 262.1K
3Gemma 4 31B⁠Google评价 95.2———262.1KGoogle 发布 2026-⁠04 价格 — 长度 262.1K
4Qwen3 235B A22B (thinking)⁠Alibaba评价 94.81376排名第 49〜⁠142 名——262.1KAlibaba 发布 2025-⁠07 价格 — 长度 262.1K
5GPT-5OpenAI评价 94.61431排名第 17〜⁠93 名$1.25$10400KOpenAI 发布 2025-⁠08 价格 $1.25 / $10 长度 400K
6GPT-5 miniOpenAI评价 94.41364排名第 63〜⁠146 名$0.25$2400KOpenAI 发布 2025-⁠08 价格 $0.25 / $2 长度 400K
7〜8o3OpenAI评价 93.71424排名第 22〜⁠95 名$2$8200KOpenAI 发布 2025-⁠04 价格 $2 / $8 长度 200K
7〜8Qwen3.5 122B A10B⁠Alibaba评价 93.71361排名第 60〜⁠154 名$0.4$3.2262.1KAlibaba 发布 2026-⁠02 价格 $0.4 / $3.2 长度 262.1K
9GPT-OSS-Swallow-120B-RL-v0.1Swallow (東京科学大学)评价 93.4——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
10GPT-OSS 20B⁠OpenAI评价 93.21256排名第 140〜⁠216 名——131KOpenAI 发布 2025-⁠08 价格 — 长度 131K
11〜12NVIDIA Nemotron 3 Super 120B A12B⁠NVIDIA评价 93.0———262.1KNVIDIA 发布 2026-⁠03 价格 — 长度 262.1K
11〜12Qwen3.5 27B⁠Alibaba评价 93.01339排名第 71〜⁠166 名$0.3$2.4262.1KAlibaba 发布 2026-⁠02 价格 $0.3 / $2.4 长度 262.1K
13Qwen3-Swallow-32B-RL-v0.2Swallow (東京科学大学)评价 92.9——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
14o3-miniOpenAI评价 92.81315排名第 101〜⁠175 名$1.1$4.4200KOpenAI 发布 2025-⁠01 价格 $1.1 / $4.4 长度 200K
15〜16GPT-OSS 120B⁠OpenAI评价 92.71325排名第 95〜⁠166 名——128KOpenAI 发布 2025-⁠08 价格 — 长度 128K
15〜16GPT-OSS-Swallow-120B-SFT-v0.1Swallow (東京科学大学)评价 92.7——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
17GPT-OSS-Swallow-20B-RL-v0.1Swallow (東京科学大学)评价 92.4——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
18〜20OLMo 3 32B Think⁠Ai2评价 92.1—————Ai2 发布 — 价格 — 长度 —
18〜20Qwen3 14B⁠Alibaba评价 92.1—$0.35$1.4131.1KAlibaba 发布 2025-⁠04 价格 $0.35 / $1.4 长度 131.1K
18〜20Qwen3.5 35B A3B⁠Alibaba评价 92.11315排名第 93〜⁠183 名$0.25$2262.1KAlibaba 发布 2026-⁠02 价格 $0.25 / $2 长度 262.1K
21Qwen3-Swallow-30B-A3B-RL-v0.2Swallow (東京科学大学)评价 91.7——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
22〜23Qwen3 30B A3B⁠Alibaba评价 91.51254排名第 150〜⁠211 名——128KAlibaba 发布 2025-⁠04 价格 — 长度 128K
22〜23Qwen3 32B⁠Alibaba评价 91.5—$0.7$2.8131.1KAlibaba 发布 2025-⁠04 价格 $0.7 / $2.8 长度 131.1K
24〜25GPT-4.1OpenAI评价 91.11347排名第 83〜⁠150 名$2$81.05MOpenAI 发布 2025-⁠04 价格 $2 / $8 长度 1.05M
24〜25Qwen3-Swallow-32B-SFT-v0.2Swallow (東京科学大学)评价 91.1——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
26〜28GPT-OSS-Swallow-20B-SFT-v0.1Swallow (東京科学大学)评价 90.9——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
26〜28Qwen3.5 9B⁠Alibaba评价 90.9———262KAlibaba 发布 2026-⁠02 价格 — 长度 262K
26〜28Qwen3-Swallow-32B-CPT-v0.2Swallow (東京科学大学)评价 90.9——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
29Qwen3 Next 80B A3B (instruct)⁠Alibaba评价 90.51369排名第 53〜⁠146 名$0.5$2129KAlibaba 发布 2025-⁠09 价格 $0.5 / $2 长度 129K
30Qwen3 235B A22B (instruct)⁠Alibaba评价 90.01392排名第 44〜⁠119 名——128KAlibaba 发布 2025-⁠07 价格 — 长度 128K
31OLMo 3 7B ThinkAi2评价 89.6——————Ai2 发布 — 价格 — 长度 —
32〜33Qwen3-Swallow-30B-A3B-CPT-v0.2Swallow (東京科学大学)评价 89.5——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
32〜33Qwen3-Swallow-8B-RL-v0.2Swallow (東京科学大学)评价 89.5——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
34Qwen3 8B⁠Alibaba评价 89.1—$0.18$0.7131.1KAlibaba 发布 2025-⁠04 价格 $0.18 / $0.7 长度 131.1K
35〜36ABEJA-QwQ32b-Reasoning-Japanese-v1.0ABEJA评价 89.0——————ABEJA 发布 — 价格 — 长度 —
35〜36Qwen3-Swallow-30B-A3B-SFT-v0.2Swallow (東京科学大学)评价 89.0——————Swallow (東京科学大学) 发布 — 价格 — 长度 —
37NVIDIA-Nemotron-Nano-9B-v2-JapaneseNVIDIA评价 88.8——————NVIDIA 发布 — 价格 — 长度 —
38Gemma 4 E4BGoogle评价 88.2———131.1K——Google 发布 — 价格 — 长度 131.1K
39Qwen3 4B⁠Alibaba评价 87.9————Alibaba 发布 2025-⁠04 价格 — 长度 —
40QwQ Bakeneko 32Brinna评价 87.4——————rinna 发布 — 价格 — 长度 —
如何阅读本页
  • 数值为通过的比例。
  • 人类评价是由人比较 2 个回答并作出选择的结果得出的分数 (越高越好)。
  • 正确率是答对题目的比例。差 1 个百分点相当于 100 题中的 1 题。
  • 支持一栏的图标从左起依次为:能使用工具 / 能读图片 / 能以固定格式 (JSON) 回答 (浅色标记为不支持或不明)。
  • 开放权重是指模型的内容 (权重) 已经公开、在自己的电脑或服务器上也能运行的模型。没有开放权重标记的模型,一般通过开发方的服务 (应用或 API) 使用 (也有没有权重信息的模型)。
  • 模型名称旁的 ChatGPT 等,是该开发方面向大众提供的服务名称。该模型能否在那个服务中选用,请在服务一方确认。

数据:Arena / Epoch AI / Swallow LLM team (CC BY 4.0) / Models.dev (MIT),更新于 2026-⁠10-⁠24,数据来源