例を見せて伝える指示
フューショットとは、プロンプトの中に答えの例をいくつか見せて、してほしいことを伝える指示の書き方である。例を見せない書き方はゼロショットと呼ぶ。Google の手引きも、例が少数入った物をフューショット、例の無い物をゼロショットと呼んでいる。
モデルは例から形や言い回しの決まりを読み取り、新しい質問にも当てはめる。GPT-3 の論文は、モデルを大きくすると、学習し直さなくても文中の少数の例だけで新しい課題をこなせるようになると示した。
例なしとの違い
ゼロショットは指示の文だけで伝えるため、答えの形や細かい判断の基準がずれやすい。例を見せると、言葉で説明しにくい決まりも伝わる。分類の境目、答えの長さ、書き方の癖などである。たとえば問い合わせを 3 種類に分ける時、種類ごとに例を 1 つずつ見せると、境目の判断がそろいやすい。
Google の手引きは、例を常に入れるよう勧め、例が十分に分かりやすければ指示の文を省けることもあるとしている。Anthropic も、例は答えの形、口調、構成を決める最も確かな方法の 1 つだとしている。
例の数と質
例は多いほど良いわけではない。Google は、例が多すぎると答えが例に寄りすぎることがあるとし、数は試して決めるよう勧めている。例の質については、次の 3 点を守る。
- 実際の仕事に近い例にする
- 似た例ばかりにせず、迷いやすい例も入れる
- どの例も同じ形で書く
例はプロンプトの一部なので、入れた分だけトークンが増える。API では、呼び出しごとの料金と待ち時間もその分増える。