「無難なのばっかり出てくるな」問題
AIに「おすすめ教えて」って聞くと、悪くはないんだけど、なんだか有名どころばかり並ぶこと、ないですか?
映画をおすすめしてもらえば、たいてい名前を聞いたことのある大作が返ってくる。旅行先を聞けば、王道の観光地が上位に来る。ガジェットを相談しても、売れ筋のあの機種。どれも「まあ、そうだよね」で、外してはいない。でも、こっちが期待していた「おっ、それは知らなかった」という驚きは、あまりない。
自分だけの相談をしているつもりなのに、なぜか万人向けの答えが返ってくる。この「無難さ」、どこから来るんでしょうか。
「学習してるから」の一段下
AIは、多くの人が良いと言ったものや、よく話題に上るものに学習データの中で何度も出会っている。だから人気の候補を返しやすい。ここまでは、まあそういうものですよね。
実際のChatGPTなどの内部では、もっと複雑な仕組みで計算されています。ここでは「人気のあるものほど、条件を見る前の見込みが高い」という単純なモデルとして眺めてみます。
でも、それだけだと少し引っかかります。だって自分は「一人で静かに楽しめる、少しマニアックな作品がいい」みたいに、そこそこ具体的な条件を伝えているつもりなんです。条件を渡しているのに、なぜ答えは万人向けの無難なところへ戻ってしまうのか。ここに、ひとつ不思議があります。
「手がかりの弱さ」が無難を呼ぶ
ここを、少し数学の見方で解釈できるか、やってみましょう。
カギになりそうなのは、最初からある「見込み」と、こちらが渡した「手がかり」の兼ね合いです。ここでは、AIの内部実装をそのまま言い当てるのではなく、おすすめの動きを説明するためのシンプルなモデルとして見てみます。
何も条件を聞かない段階でも、「たぶんこれが good だろう」という見込みを候補ごとに置いてみます。人気作・定番は、この最初の見込みが高い。いわば下駄を履いている状態です。これは統計で事前の見込みと呼ばれる考え方に近い。まだ証拠を見る前の、もともとの当たりやすさです。
そこにこちらの条件が加わります。「マニアックなのがいい」という手がかりは、候補の見込みを引き上げたり引き下げたりする証拠として働く。この証拠が強ければ、もともとの人気とは違う候補がぐっと浮かび上がってきます。
問題は、手がかりが弱いときです。「なんかいい感じの」「面白いやつ」くらいだと、証拠としてほとんど候補を絞れない。どの候補にも似たように薄くしか効かないんです。すると答えは、証拠を見る前のもともとの見込み、つまり人気の高い候補へと引き戻される。
「無難」の正体はこれです。センスがないのではなく、手がかりが薄いと外しにくい安全な候補に戻る、という動きなんですね。
同じ動きは、あちこちにある
この見方が手に入ると、似た景色があちこちで見えてきます。
初対面の人にいきなり職業を当ててもらうと、たいてい多い職業を挙げられます。相手の情報がゼロなら、いちばん人数の多いところに賭けるのが外しにくいからです。占いが妙に当たって感じるのも、近い構造でした。誰にでも当てはまる、もともと当たりやすい特徴が並んでいる、という側面がある。
情報が乏しいほど、答えは「みんなに当てはまる無難なところ」へ寄っていく。これはAIに限った癖ではなく、証拠が少ないとき全般に働く力なんですね。
式で正面から見てみる
この兼ね合いを、一本の式に書き直してみると、こう読めます。
記号に手すりを付けます。
- 左辺 $P(\text{候補} \mid \text{こちらの条件})$ は、こちらの条件を踏まえた上での、その候補のもっともらしさ。AIが最終的に返したい「こちら向けの見込み」です。
- 右辺の $P(\text{候補})$ が、さっきのもともとの見込み。人気・定番ほど大きい下駄の部分。
- そのとなりの $P(\text{こちらの条件} \mid \text{候補})$ が、こちらの条件が、その候補だったらどれくらい出てきそうかという手がかりの強さです。統計の言葉では、この部分が尤度、つまり条件と候補の噛み合い具合にあたります。
- 真ん中の $\propto$ は「比例する」の記号。左辺は右辺2つのかけ算で決まる、と言っているだけです。
かけ算なのがミソです。手がかり $P(\text{こちらの条件} \mid \text{候補})$ がどの候補にも似た値だと、その部分は候補の順位を動かせない。結局、順位を決めるのは残った $P(\text{候補})$、つまり人気のほうになります。逆に条件がある候補にだけ強く効けば、かけ算の結果がそこで跳ね上がり、無難な候補を追い抜く。
図の左のなだらかな山が、条件を渡す前の「もともとの見込み」。人気候補のあたりが高くなっています。右の鋭い山が、強い手がかりを一つ加えたあとの見込み。かけ算が効いて、山がぐっと自分向けの候補へ移り、とがっていますよね。
無難を外すには
だとすると、無難を外す方法も見えてきます。答えが平凡なのは、渡した手がかりが弱くて、かけ算の片方が効いていないだけかもしれない。
「面白い映画」ではなく「二人芝居に近い密室劇で、後味が少し苦いやつ」と条件を尖らせると、その条件に合う候補にだけ手がかりが強く効きます。かけ算のバランスが人気側から一気に傾いて、事後の山が動く。
次にAIのおすすめが無難すぎると感じたら、それはセンスの問題ではなく、こちらの手がかりがまだ薄いという合図かもしれません。渡す条件を一つ具体的にするだけで、山を人気の側から自分の側へずらせたりするんじゃないでしょうか?
あわせて読みたい関連記事。
