メインコンテンツへスキップ

課題の成績

日本語の説明から書く Python のコード (JHumanEval)

関数の説明を日本語で与えて Python のコードを書かせ、用意したテストに通るかで測る課題です。

この表の見方

  • 上にあるほど評価が高く、「1〜⁠2 位」のように範囲で出るモデルどうしの差は誤差の範囲です。
  • 評価は、共通の問題のうち解けた問題の割合 (%) です。
  • 差が 3 なら 100 問で 3 問ぶんの違いです。
  • 価格は 100 万トークンあたりの目安で、読ませる分、書かせる分の順です。
  • 長さは、一度に読ませられる文章の量 (トークン) です。
順位モデル開発元正答率
(%)
正答率の目盛 85〜⁠100
評価日日本語
(人の評価)
入力 ¥
/100 万
出力 ¥
/100 万
一度に
読める長さ
対応重み公開日価格と仕様
1 位GPT-5.4OpenAI評価 96.31480順位 2〜⁠50 位¥390¥2,400105 万OpenAI 公開 2026-⁠03 価格 ¥390 / ¥2,400 長さ 105 万
2 位Gemma 4 26B A4B⁠Google評価 95.9—¥24¥94約 26.2 万Google 公開 2026-⁠04 価格 ¥24 / ¥94 長さ 約 26.2 万
3 位Gemma 4 31B⁠Google評価 95.2———約 26.2 万Google 公開 2026-⁠04 価格 — 長さ 約 26.2 万
4 位Qwen3 235B A22B (thinking)⁠Alibaba評価 94.81376順位 49〜⁠142 位——約 26.2 万Alibaba 公開 2025-⁠07 価格 — 長さ 約 26.2 万
5 位GPT-5OpenAI評価 94.61431順位 17〜⁠93 位¥200¥1,60040 万OpenAI 公開 2025-⁠08 価格 ¥200 / ¥1,600 長さ 40 万
6 位GPT-5 miniOpenAI評価 94.41364順位 63〜⁠146 位¥39¥31040 万OpenAI 公開 2025-⁠08 価格 ¥39 / ¥310 長さ 40 万
7〜8o3OpenAI評価 93.71424順位 22〜⁠95 位¥310¥1,30020 万OpenAI 公開 2025-⁠04 価格 ¥310 / ¥1,300 長さ 20 万
7〜8Qwen3.5 122B A10B⁠Alibaba評価 93.71361順位 60〜⁠154 位¥63¥500約 26.2 万Alibaba 公開 2026-⁠02 価格 ¥63 / ¥500 長さ 約 26.2 万
9 位GPT-OSS-Swallow-120B-RL-v0.1Swallow (東京科学大学)評価 93.4——————Swallow (東京科学大学) 公開 — 価格 — 長さ —
10 位GPT-OSS 20B⁠OpenAI評価 93.21256順位 140〜⁠216 位——13.1 万OpenAI 公開 2025-⁠08 価格 — 長さ 13.1 万
11〜12NVIDIA Nemotron 3 Super 120B A12B⁠NVIDIA評価 93.0———約 26.2 万NVIDIA 公開 2026-⁠03 価格 — 長さ 約 26.2 万
11〜12Qwen3.5 27B⁠Alibaba評価 93.01339順位 71〜⁠166 位¥47¥380約 26.2 万Alibaba 公開 2026-⁠02 価格 ¥47 / ¥380 長さ 約 26.2 万
13 位Qwen3-Swallow-32B-RL-v0.2Swallow (東京科学大学)評価 92.9——————Swallow (東京科学大学) 公開 — 価格 — 長さ —
14 位o3-miniOpenAI評価 92.81315順位 101〜⁠175 位¥170¥69020 万OpenAI 公開 2025-⁠01 価格 ¥170 / ¥690 長さ 20 万
15〜16GPT-OSS 120B⁠OpenAI評価 92.71325順位 95〜⁠166 位——12.8 万OpenAI 公開 2025-⁠08 価格 — 長さ 12.8 万
15〜16GPT-OSS-Swallow-120B-SFT-v0.1Swallow (東京科学大学)評価 92.7——————Swallow (東京科学大学) 公開 — 価格 — 長さ —
17 位GPT-OSS-Swallow-20B-RL-v0.1Swallow (東京科学大学)評価 92.4——————Swallow (東京科学大学) 公開 — 価格 — 長さ —
18〜20OLMo 3 32B Think⁠Ai2評価 92.1—————Ai2 公開 — 価格 — 長さ —
18〜20Qwen3 14B⁠Alibaba評価 92.1—¥55¥220約 13.1 万Alibaba 公開 2025-⁠04 価格 ¥55 / ¥220 長さ 約 13.1 万
18〜20Qwen3.5 35B A3B⁠Alibaba評価 92.11315順位 93〜⁠183 位¥39¥310約 26.2 万Alibaba 公開 2026-⁠02 価格 ¥39 / ¥310 長さ 約 26.2 万
21 位Qwen3-Swallow-30B-A3B-RL-v0.2Swallow (東京科学大学)評価 91.7——————Swallow (東京科学大学) 公開 — 価格 — 長さ —
22〜23Qwen3 30B A3B⁠Alibaba評価 91.51254順位 150〜⁠211 位——12.8 万Alibaba 公開 2025-⁠04 価格 — 長さ 12.8 万
22〜23Qwen3 32B⁠Alibaba評価 91.5—¥110¥440約 13.1 万Alibaba 公開 2025-⁠04 価格 ¥110 / ¥440 長さ 約 13.1 万
24〜25GPT-4.1OpenAI評価 91.11347順位 83〜⁠150 位¥310¥1,300約 105 万OpenAI 公開 2025-⁠04 価格 ¥310 / ¥1,300 長さ 約 105 万
24〜25Qwen3-Swallow-32B-SFT-v0.2Swallow (東京科学大学)評価 91.1——————Swallow (東京科学大学) 公開 — 価格 — 長さ —
26〜28GPT-OSS-Swallow-20B-SFT-v0.1Swallow (東京科学大学)評価 90.9——————Swallow (東京科学大学) 公開 — 価格 — 長さ —
26〜28Qwen3.5 9B⁠Alibaba評価 90.9———26.2 万Alibaba 公開 2026-⁠02 価格 — 長さ 26.2 万
26〜28Qwen3-Swallow-32B-CPT-v0.2Swallow (東京科学大学)評価 90.9——————Swallow (東京科学大学) 公開 — 価格 — 長さ —
29 位Qwen3 Next 80B A3B (instruct)⁠Alibaba評価 90.51369順位 53〜⁠146 位¥78¥310約 12.9 万Alibaba 公開 2025-⁠09 価格 ¥78 / ¥310 長さ 約 12.9 万
30 位Qwen3 235B A22B (instruct)⁠Alibaba評価 90.01392順位 44〜⁠119 位——12.8 万Alibaba 公開 2025-⁠07 価格 — 長さ 12.8 万
31 位OLMo 3 7B ThinkAi2評価 89.6——————Ai2 公開 — 価格 — 長さ —
32〜33Qwen3-Swallow-30B-A3B-CPT-v0.2Swallow (東京科学大学)評価 89.5——————Swallow (東京科学大学) 公開 — 価格 — 長さ —
32〜33Qwen3-Swallow-8B-RL-v0.2Swallow (東京科学大学)評価 89.5——————Swallow (東京科学大学) 公開 — 価格 — 長さ —
34 位Qwen3 8B⁠Alibaba評価 89.1—¥28¥110約 13.1 万Alibaba 公開 2025-⁠04 価格 ¥28 / ¥110 長さ 約 13.1 万
35〜36ABEJA-QwQ32b-Reasoning-Japanese-v1.0ABEJA評価 89.0——————ABEJA 公開 — 価格 — 長さ —
35〜36Qwen3-Swallow-30B-A3B-SFT-v0.2Swallow (東京科学大学)評価 89.0——————Swallow (東京科学大学) 公開 — 価格 — 長さ —
37 位NVIDIA-Nemotron-Nano-9B-v2-JapaneseNVIDIA評価 88.8——————NVIDIA 公開 — 価格 — 長さ —
38 位Gemma 4 E4BGoogle評価 88.2———約 13.1 万——Google 公開 — 価格 — 長さ 約 13.1 万
39 位Qwen3 4B⁠Alibaba評価 87.9————Alibaba 公開 2025-⁠04 価格 — 長さ —
40 位QwQ Bakeneko 32Brinna評価 87.4——————rinna 公開 — 価格 — 長さ —
このページの読み方
  • 値は通った割合です。
  • 人の評価は、人が 2 つの答えを見比べて選んだ結果から出す点です (高いほど良い)。
  • 正答率は解けた問題の割合です。差 1 ポイントは 100 問で 1 問ぶんです。
  • 対応の列の絵は左から、ツールを使える / 画像を読める / 決まった形 (JSON) で答えられる、です (薄い印は非対応か不明)。
  • オープンウェイトは、モデルの中身 (重み) が公開されていて、自分のパソコンやサーバーでも動かせるモデルです。オープンウェイトの印の無いモデルは、開発元のサービス (アプリや API) で使うのが基本です (重みの情報が無いモデルもあります)。
  • モデル名の横の ChatGPT などは、その開発元が一般向けに出しているサービスの名です。そのモデルがそのサービスで選べるかは、サービスの側で確かめてください。
  • 円は 1 ドル 157 円 (2026 年 10 月 23 日の欧州中央銀行の参考レート) で換算し、上 2 桁に丸めた目安です。

データ: Arena / Epoch AI / Swallow LLM team (CC BY 4.0) / Models.dev (MIT)、更新 2026-⁠10-⁠24、データの出典