待たされた分、賢くなっている?
ChatGPTの「考えるモード」を使うと、普通の返事よりかなり待たされます。その待ち時間の分だけ、答えは本当に良くなっているのか。気になりませんか?
長く考えたほうが良い答えが返る、というのは感覚に合います。でも、2倍待てば2倍良い答えになるわけでもなさそうです。待ち時間と答えの質は、どうつながっているのでしょう。
長く考えれば良い、だけでは足りない
学習を終えたモデルでも、答えを出すときに使う計算を増やす方法があります。答えの候補を何通りも作り、その中から良さそうなものを選ぶ、といったやり方です。候補を増やすほど計算に時間がかかり、それが待ち時間として表れます。推論の難しい課題や、途中で複数の方針を比べる必要がある問題では、この追加計算が効きやすくなります。一方、事実を一つ答えるだけの簡単な質問では、待ち時間の割に差がほとんど出ないこともあります。
でも、ここで一つ不思議があります。候補を増やせば当たりに出会いやすくなるのは分かる。それなら、候補を増やした分だけ、当たる確率もほぼ比例して増えるのでしょうか。実際には、待ち時間を倍にしても答えの質が倍になる感じはしません。増やした計算は、どこで頭打ちになるのでしょう。
「少なくとも1回当たる」で数えてみる
この伸び方を、確率の単純なモデルで解釈できるか、やってみましょう。ここでは話を思い切り簡単にして、候補1本あたりが「十分に役立つ答え」である確率を $p$ とし、候補どうしは互いに影響しない独立な試行だと仮定します。
このとき知りたいのは、候補を $n$ 回作って、その中に少なくとも1回正解が混じっている確率です。まともに数えると場合分けが増えますが、裏返して「1回も当たらない確率」を先に考えると楽になります。1回で外す確率は $1-p$、それが $n$ 回続けて外れる確率は $(1-p)$ の掛け算です。
少なくとも1回当たる確率は、全体から「全部外れ」を引いた残りになります。ここで大事なのは、候補を増やすほどこの確率は1へ近づく一方、近づく速さがだんだん遅くなることです。最初の数回は当たりに出会う機会がぐっと増えますが、すでに高確率で当たるようになったあとは、いくら候補を足しても伸びしろが小さい。待ち時間を増やしても質の伸びが鈍る感覚は、この形と重なります。
同じ話が、学習時の巨大化とも並ぶ
この見方は、AIを賢くする方向が一つではないことも示します。学習の段階でモデルやデータを巨大にするのも性能を上げる道ですが、それとは別に、答えを出すときの計算を増やす道がある。前者は作るときのコスト、後者は使うたびのコストで、待ち時間として毎回のしかかります。
どちらも「増やすほど良くなるが、増やすほど効きが鈍る」という似た顔をしています。答えの候補を何通りも作って選ぶ発想は、大量の可能性から良いものを選び出す作業と地続きです。
一回ごとには外れもあるのに、数を重ねると当たりが見えてくる、という点は共通しています。
式にすると、どこで鈍るかが見える
式に書き直してみると、伸びが鈍る場所がはっきりします。1回の成功確率を $p$、候補を作る回数を $n$ とすると、少なくとも1回成功する確率 $P(n)$ は次のように書けます。
$$ P(n)=1-(1-p)^n $$
$(1-p)$ は1回で外す確率、$(1-p)^n$ はそれが $n$ 回すべて外れる確率、それを1から引いた残りが「少なくとも1回当たる」確率です。$0<p<1$ なら $(1-p)$ は1より小さいので、$n$ を増やすほど $(1-p)^n$ は0へ近づき、$P(n)$ は1へ近づきます。
伸びの鈍さは、回数を1つ増やしたときの増分で見えます。$n$ を $n+1$ にすると、増える分は
$$ P(n+1)-P(n)=p\,(1-p)^n $$
です。この増分自体が $(1-p)^n$ を含むので、$n$ が大きくなるほど1回追加あたりの伸びは小さくなります。たとえば $p=0.2$ なら、1回だけで成功する確率は0.2ですが、5回で約0.67、10回で約0.89まで上がります。最初の5回で0.67まで来たのに、次の5回では0.22しか増えません。
ただし、これはかなり単純化した見方です。実際の候補は互いに独立でないことが多く、たとえば途中まで同じ推論を共有してから枝分かれさせた候補は、出発点の思い違いまで共有します。似た誤りを繰り返せば、新しい候補が当たりを増やさない場合もあります。良さそうな候補を選ぶ側の精度も関わります。ここでの式は伸びが鈍る理由の骨格で、現実の伸び方そのものではありません。
どこまで待つ価値があるのか
AIに長く考えさせるほど答えは良くなるのか。この問いには、上がるが頭打ちに近づく、という答え方ができます。しかも効きが大きいのは最初のうちで、すでに高い成功率のところからさらに待たせても、得られる上乗せは小さくなっていきます。
そう考えると、次に気になるのは「もっと待たせるか」ではなく、今の待ち時間が、伸びしろの大きい最初の側にいるのか、鈍ってきた後ろ側にいるのかです。たとえば、同じ種類の質問を通常モードと考えるモードの両方に投げて、答えの役立ち方を比べてみます。差がほとんどなければ、その種の質問では追加の待ち時間を払う価値は小さいと判断できます。待ち時間の長さではなく、追加の計算で答えがどれだけ変わったかを比べれば、どこで切り上げるかを自分で決められます。
あわせて読みたい関連記事。
