返事が無難すぎる瞬間
ChatGPTに無難な返事ばかり返されて、「もう少し攻めた案がほしいのに」と思うことないですか?
たとえば企画案を頼んだとき。 どの案も悪くはない。 でも、どこかで見たことがある。 「丁寧」「実用的」「リスクが少ない」は満たしているのに、肝心のひっかかりがない。
こちらは少し変な案、意外な案、まだ形になっていない案も見たい。 それなのに返ってくるのは、平均点の高い候補ばかり。
この「無難すぎる感じ」を、AIの性格ではなく、確率分布で解釈できるか試してみます。
無難さは悪いことではない
ChatGPTは、入力に続きそうな言葉や構成を選んで返事を作っているわけですが、面白いのは「どれをどれくらい選びやすくするか」です。
候補がたくさんある場面を考えます。 「新商品のキャッチコピーを出して」と頼むと、候補は一つではありません。 安全な案、少し攻めた案、意味は通るけれど外すかもしれない案。 返事の裏側には、候補ごとの「選ばれやすさ」が並んでいると見られます。
この見方では、無難な返事は「AIがつまらない」から出るのではありません。 選ばれやすさが、少数の安全な候補に強く寄っている状態として読めます。
もちろん、実際のChatGPTがこの小さな模型だけで動いている、という話ではありません。 安全性の調整、学習データ、システム側の制約、会話履歴なども効きます。 ここでは、その一部を確率分布として切り出して見ます。
候補の広がりを見てみる
確率分布は、候補にどれくらい重みが乗っているかを表します。
候補Aが0.60、候補Bが0.25、候補Cが0.10、候補Dが0.05。 こういう分布なら、Aがかなり選ばれやすい。 返事は安定しますが、似たような方向に寄りやすくなります。
一方で、Aが0.30、Bが0.25、Cが0.20、Dが0.15、Eが0.10なら、候補は広がっています。 意外な案が出る余地は増えます。 ただし、外れた案や文脈に合わない案も混ざりやすくなります。
ここで見えてくるのは、無難さと面白さが別々のつまみではないことです。 候補を絞ると安定しやすい。 候補を広げると意外性が出やすい。 でも同時に、事故率も上がります。
「もっと攻めて」と頼むのは、単にテンションを上げる指示ではありません。 分布の広がり方を変えてほしい、という要求として読めます。
他のAIあるあるにもつながる
この見方は、文章生成以外にも使えます。
画像生成AIで「もっと大胆に」と頼むと、構図や色が急に崩れることがあります。 おすすめ欄で「いつもと違うもの」を求めると、本当に興味のある新しさと、ただのズレが混ざることがあります。
どちらも、候補の幅を広げたときに起きる現象として読めます。 新しさを増やすほど、当たりの外側にも手が伸びる。 だから「攻めた案がほしい」という要求には、必ず「どこまで外してよいか」がセットになります。
同じ確率の話は、言い方ひとつで返事の温度感が変わる現象にもつながります。 以前、ChatGPTの返事が一言でやわらかくなる話では、入力の特徴が選択確率を押し上げる見方をしました。 今回は、その確率がどれくらい一部に集中しているかを見ています。
情報量で式にしてみる
候補の広がりを、情報量の言葉で書いてみます。
候補を $x_1, x_2, \ldots, x_n$ とします。 それぞれの候補が選ばれる確率を $p_1, p_2, \ldots, p_n$ とします。
分布の広がりは、エントロピーで表せます。
$H(p)$ は、候補の散らばり具合です。 $p_i$ は、候補 $x_i$ が選ばれる確率です。 $\log p_i$ は、その候補の出にくさを測るための部品だと読めます。
一つの候補に確率が集中していると、$H(p)$ は小さくなります。 返事は安定します。 ただし、出てくる候補は似やすい。
確率がいろいろな候補に広がると、$H(p)$ は大きくなります。 返事の幅は広がります。 ただし、期待とズレた候補も出やすくなります。
この式で見ると、「無難すぎる返事」は $H(p)$ が小さい状態として読めます。 反対に、「攻めた案」は $H(p)$ を大きくする方向です。
ただ、大きければよいわけではありません。 極端に広げると、意外性だけでなくノイズも増えます。 だから欲しいのは、最大の情報量ではなく、目的に合った情報量です。
もう少し生成AIっぽく書くなら、候補の選びやすさを温度 $T$ で調整する模型も使えます。
$s_i$ は候補 $x_i$ のスコアです。 $T$ は正の数で、分布の広がりを調整するつまみです。 $T$ が小さいと、高いスコアの候補に確率が集まりやすい。 $T$ が大きいと、低めの候補にも確率が回りやすい。
「もっと攻めて」と頼むことは、この模型では $T$ を少し上げることに近い。 ただし、上げすぎると、文脈から外れた候補も出やすくなります。
「攻めて」は幅と条件で伝える
この見方を持つと、ChatGPTへの頼み方も少し変わります。
「もっと面白くして」だけだと、どの方向に分布を広げればよいかが曖昧です。 アイデアを増やすのか、語調を崩すのか、反対意見を出すのか、失敗してもよい範囲を広げるのか。 AI側から見ると、広げ方がいくつもあります。
だから、攻めた案がほしいときは、幅と条件を一緒に渡すほうが効きやすい。
たとえば、こう言えます。
「安全な案を3つ、少し外した案を3つ、採用はしないけど発想の種になる案を3つ出して」
この頼み方は、単に「面白く」と言うより具体的です。 分布を広げる範囲を指定しつつ、事故を許す場所も決めています。
ChatGPTの返事が無難すぎるとき、必要なのはAIに性格を変えてもらうことではないのかもしれません。 候補の分布をどれくらい広げ、どこまで外してよいかを指定する。 それだけで、平均点の返事から、使える違和感を含んだ案へ寄せられるかもしれませんね?