課題の成績
繰り返し遊んで上達する力 (EBR-bench)
あまり知られていないボードゲーム Earthborne Rangers をモデルに繰り返し遊ばせ、メモを取りながら上達できるかを見る課題です。
この表の見方
- 上にあるほど評価が高く、「1〜2 位」のように範囲で出るモデルどうしの差は誤差の範囲です。
- 評価は、共通の課題をやり遂げた回の割合 (%) です。
- 差が 3 なら 100 回で 3 回ぶんの違いで、± は測り直した時に動く幅です。
- 価格は 100 万トークンあたりの目安で、読ませる分、書かせる分の順です。
- 長さは、一度に読ませられる文章の量 (トークン) です。
1 位の誤差の幅
| 順位 | モデル | 開発元 | 成功率 (%) | 評価日 | 入力 ¥ /100 万 | 出力 ¥ /100 万 | 一度に 読める長さ | 対応 | 重み | 公開日 | 価格と仕様 |
|---|---|---|---|---|---|---|---|---|---|---|---|
| 1〜4 | GPT-6 Astra | OpenAI | 評価 76.2 ±16.4 | ¥1,600 | ¥7,800 | 105 万 | OpenAI 公開 2026-09 価格 ¥1,600 / ¥7,800 長さ 105 万 | ||||
| 1〜5 | Claude Opus 5.5 | Anthropic | 評価 71.4 ±13.8 | ¥630 | ¥3,100 | 100 万 | Anthropic 公開 2026-09 価格 ¥630 / ¥3,100 長さ 100 万 | ||||
| 1〜6 | Gemini 4 Argon | 評価 64.8 ±9.6 | ¥310 | ¥1,600 | 約 105 万 | Google 公開 2026-09 価格 ¥310 / ¥1,600 長さ 約 105 万 | |||||
| 1〜8 | Claude Fable 5.1 | Anthropic | 評価 57.1 ±11.8 | ¥1,600 | ¥7,800 | 100 万 | Anthropic 公開 2026-09 価格 ¥1,600 / ¥7,800 長さ 100 万 | ||||
| 2〜9 | GPT-6.1 Sol | OpenAI | 評価 54.3 ±11.3 | ¥310 | ¥1,600 | 105 万 | OpenAI 公開 2026-09 価格 ¥310 / ¥1,600 長さ 105 万 | ||||
| 3〜9 | GPT-6 Sol | OpenAI | 評価 53.3 ±9.0 | ¥310 | ¥1,600 | 105 万 | OpenAI 公開 2026-09 価格 ¥310 / ¥1,600 長さ 105 万 | ||||
| 4〜10 | Claude Opus 5 | Anthropic | 評価 45.7 ±7.0 | ¥780 | ¥3,900 | 100 万 | Anthropic 公開 2026-07 価格 ¥780 / ¥3,900 長さ 100 万 | ||||
| 4〜10 | GPT-5.6 Sol | OpenAI | 評価 44.8 ±8.1 | ¥630 | ¥3,100 | 105 万 | OpenAI 公開 2026-07 価格 ¥630 / ¥3,100 長さ 105 万 | ||||
| 5〜10 | Claude Haiku 5.5 | Anthropic | 評価 43.8 ±3.5 | ¥16 | ¥78 | 100 万 | Anthropic 公開 2026-10 価格 ¥16 / ¥78 長さ 100 万 | ||||
| 7〜12 | Claude Fable 5 | Anthropic | 評価 39.5 ±3.9 | ¥1,600 | ¥7,800 | 100 万 | Anthropic 公開 2026-06 価格 ¥1,600 / ¥7,800 長さ 100 万 | ||||
| 10〜13 | GPT-5.5 | OpenAI | 評価 34.3 ±3.9 | ¥780 | ¥4,700 | 105 万 | OpenAI 公開 2026-04 価格 ¥780 / ¥4,700 長さ 105 万 | ||||
| 10〜15 | Muse Wonder | Meta | 評価 31.4 ±8.1 | ¥630 | ¥3,100 | 約 105 万 | Meta 公開 2026-10 価格 ¥630 / ¥3,100 長さ 約 105 万 | ||||
| 11〜14 | Grok 4.6 | xAI | 評価 30.5 ±3.2 | ¥310 | ¥940 | 50 万 | xAI 公開 2026-08 価格 ¥310 / ¥940 長さ 50 万 | ||||
| 12〜14 | Claude Opus 4.8 | Anthropic | 評価 28.6 ±2.8 | ¥780 | ¥3,900 | 100 万 | Anthropic 公開 2026-05 価格 ¥780 / ¥3,900 長さ 100 万 | ||||
| 14〜15 | GPT-5.4 | OpenAI | 評価 25.4 | ¥390 | ¥2,400 | 105 万 | OpenAI 公開 2026-03 価格 ¥390 / ¥2,400 長さ 105 万 | ||||
| 16 位 | GPT-5.2 | OpenAI | 評価 23.0 | ¥270 | ¥2,200 | 40 万 | OpenAI 公開 2025-12 価格 ¥270 / ¥2,200 長さ 40 万 | ||||
| 17 位 | Claude Opus 4.7 | Anthropic | 評価 19.0 | ¥780 | ¥3,900 | 100 万 | Anthropic 公開 2026-04 価格 ¥780 / ¥3,900 長さ 100 万 | ||||
| 18〜19 | Claude Opus 4.5 | Anthropic | 評価 14.3 | ¥780 | ¥3,900 | 20 万 | Anthropic 公開 2025-11 価格 ¥780 / ¥3,900 長さ 20 万 | ||||
| 18〜19 | Gemini 3.1 Pro (preview) | 評価 14.3 | ¥310 | ¥1,900 | 約 105 万 | Google 公開 2026-02 価格 ¥310 / ¥1,900 長さ 約 105 万 | |||||
| 20〜21 | Claude Opus 4.6 | Anthropic | 評価 12.7 | ¥780 | ¥3,900 | 100 万 | Anthropic 公開 2026-02 価格 ¥780 / ¥3,900 長さ 100 万 | ||||
| 20〜21 | GPT-5 | OpenAI | 評価 12.7 | ¥200 | ¥1,600 | 40 万 | OpenAI 公開 2025-08 価格 ¥200 / ¥1,600 長さ 40 万 | ||||
| 22〜23 | GLM-5.2 | Z.ai | 評価 9.5 | ¥220 | ¥690 | 100 万 | Z.ai 公開 2026-06 価格 ¥220 / ¥690 長さ 100 万 | ||||
| 22〜23 | Qwen3.7 Max | Alibaba | 評価 9.5 | ¥390 | ¥1,200 | 100 万 | Alibaba 公開 2026-05 価格 ¥390 / ¥1,200 長さ 100 万 | ||||
| 24 位 | Claude Opus 4.1 | Anthropic | 評価 7.9 | — | — | 20 万 | Anthropic 公開 2025-08 価格 — 長さ 20 万 | ||||
| 25 位 | Gemini 3.5 Flash | 評価 4.8 | ¥240 | ¥1,400 | 約 105 万 | Google 公開 2026-05 価格 ¥240 / ¥1,400 長さ 約 105 万 | |||||
| 26〜27 | Claude Sonnet 4.5 | Anthropic | 評価 2.4 | ¥470 | ¥2,400 | 20 万 | Anthropic 公開 2025-09 価格 ¥470 / ¥2,400 長さ 20 万 | ||||
| 26〜27 | Kimi K2.6 | Moonshot | 評価 2.4 | ¥150 | ¥630 | 約 26.2 万 | Moonshot 公開 2026-04 価格 ¥150 / ¥630 長さ 約 26.2 万 |
最高の成功率の推移
2025-08-05公開日2026-10-12
このページの読み方
- 学習用に遊んだ後の採点用の回のうち良い方の結果を使い、値は達成できた目標の割合です。
- 成功率は、うまくいった回の割合です。差 1 ポイントは 100 回で 1 回ぶんです。
- 対応の列の絵は左から、ツールを使える / 画像を読める / 決まった形 (JSON) で答えられる、です (薄い印は非対応か不明)。
- オープンウェイトは、モデルの中身 (重み) が公開されていて、自分のパソコンやサーバーでも動かせるモデルです。オープンウェイトの印の無いモデルは、開発元のサービス (アプリや API) で使うのが基本です (重みの情報が無いモデルもあります)。
- モデル名の横の ChatGPT などは、その開発元が一般向けに出しているサービスの名です。そのモデルがそのサービスで選べるかは、サービスの側で確かめてください。
- 円は 1 ドル 157 円 (2026 年 10 月 23 日の欧州中央銀行の参考レート) で換算し、上 2 桁に丸めた目安です。
データ: Arena / Epoch AI / Swallow LLM team (CC BY 4.0) / Models.dev (MIT)、更新 2026-10-24、データの出典