一度に読める長さの意味
コンテキスト長は、LLM が 1 回の依頼で参照できる文章の上限である。Anthropic の説明では、指示や会話の履歴、添付した文書に加えて、モデルがその回に書く答えまでがこの枠に入る。学習に使った大量の文章とは別物で、作業中に手元に広げておける量に当たる。
長さはトークンの数で示す。2026 年 10 月時点で、Anthropic と Google の公式の説明には 100 万トークンを扱えるモデルが並ぶ。このサイトの目安では、日本語の文庫本 7〜10 冊分に当たる量である。
長いほど良いとは限らない
長い文書を受け取れることと、長い文書を正しく読めることは別である。Liu らの研究 (2023 年に公開) では、必要な情報が文書の最初か最後にある時に成績が高く、真ん中にある時に大きく下がった。長い入力を受け取れるよう作られたモデルでも、この傾向は消えなかった。
Anthropic も、読ませるトークンが増えるほど正確さと思い出す力が落ちると説明している。何を読ませるかを選ぶことは、枠の大きさと同じくらい大事である。
ページの条件「一度に読める長さ」
用途から選ぶページの「一度に読める長さ」は、モデルのコンテキスト長を万トークンの単位で示したものである。条件で下限を選ぶと、それより短いモデルは表から外れる。文書を読ませて答えさせる用途では、既定で 12.8 万トークン以上に絞っている。値に「約」が付くのは、万トークンで割り切れない長さを丸めたためである。長さは足りるかどうかの条件として使い、読む力そのものは文書の読解を測った評価で比べる。