「自分だけを見抜かれた」気がする
ChatGPTに「私ってどんな人?」と聞いてみたり、生成された占いや性格診断を読んだとき、誰にでも当てはまりそうなことが並んでいるはずなのに、なぜか自分だけを言い当てられた気がして、ちょっとドキッとすることないですか。
「周りに気を使いすぎるところがあります」「本当はもっと評価されたいと思っています」「明るく振る舞っていても、内側では不安を抱えています」。こういう文章は、冷静に読むとかなり広い。でも、画面に自分向けの診断として出てくると、急に個人的な言葉に見えてきます。
どれも当たりそうなのに
AIはたくさんの文章を学習していて、それらしい言葉を選ぶのが上手いわけですが、本当に面白いのはその先です。同じ「当たってる感じ」は、占い師でも、雑誌の星座占いでも、なんなら友達の何気ない一言でも起きます。相手がAIかどうかは、実はあまり関係ないのかもしれません。
でも、ここで一つ不思議があります。「誰にでも当てはまる」と頭ではわかっているのに、なぜ読むと当たった気がするのか。何が「当たった」という感覚を作っているのでしょう。
「当たった」をどう数えるか
ここで、当たった・外れたを一つひとつの印象でなく、確率の目で数え直せるか、やってみましょう。鍵になるのは、その一文が「自分にだけ」当てはまるのか、それとも「もともと多くの人に」当てはまるのか、という区別です。
たとえば「時々、人に見せない一面で悩むことがある」。これは刺さりますが、よく考えるとかなり多くの人に当てはまります。広く当てはまる文ほど、誰が読んでも「当たった」になる。だから当たって感じるのは、文がその人だけを言い当てたからとは限りません。もともとの当てはまりやすさが高いから、とも読めます。
この「もともとの当てはまりやすさ」をベースレートと呼びます。母集団の中で、その特徴がどれくらい普通に起きるか、という割合です。ベースレートが高い特徴は、当たりやすい。けれど、当たりやすいぶんだけ「個人を見抜いた」証拠としては弱くなります。
同じ見方で別の場面も
この見方は占い以外でも効きます。「最近の若い人は〜」という話が妙に納得できてしまうとき、健康診断の「この症状がある人は要注意」にドキッとするとき。当てはまった実感の強さと、その特徴がもともと珍しいかどうかは、別物です。
珍しくない特徴をぶつけられて当たったと感じるのは、当てた側が鋭いのではなく、的が大きいだけ、ということが起こります。的が大きければ、矢は当たりやすい。でも、それは狙いが正確だったこととは違います。
ちなみにAIが「これは重要な連絡かも」と優先度を返すときにも、同じ「もとの割合から見直す」考え方が顔を出します。一見それっぽい判定でも、そもそも重要な連絡がどれくらい混ざっているのかを見ないと、信頼の置き方を間違えます。
数式で正面から
さっきの直感を式で見てみると、こう読めます。知りたいのは「その一文を言われたとき、本当に自分を言い当てている確率」、つまり条件付き確率です。
$$P(\text{言い当てている} \mid \text{その一文が当てはまる})$$
縦棒「$\mid$」は「〜という条件のもとで」という意味です。右側が「すでに起きたこと(その一文が自分に当てはまった)」、左側が「本当に知りたいこと(言い当てている)」を表します。
ベイズの考え方でこれを書き直すと、この確率がどう決まるかが見えてきます。
$$P(A \mid B) = \frac{P(B \mid A)\,P(A)}{P(B)}$$
$A$ が「本当に個人を言い当てている」、$B$ が「その一文が当てはまった」です。
分子の $P(B \mid A)$ は、「本当に言い当てているなら、その一文が当てはまる確率」。これは高くてよさそうです。$P(A)$ は、そもそも本当に個人を言い当てている可能性。ここは簡単には大きくできません。
そして注目したいのが、分母の $P(B)$ です。これは「その一文が、そもそもどれくらい多くの人に当てはまるか」。つまりベースレートです。ここが大きいほど、左辺の $P(A \mid B)$ は小さくなります。
言い換えると、広く当てはまる文ほど、当てられた手応えがあっても「本当に言い当てている確率」はむしろ下がる、と式が言っています。手応えの強さと、言い当てている確率は、同じものではないわけです。
確かめられること、一つだけ
そう考えると、占いやAI診断を「当たってる」と感じたとき、一つだけ確かめられることがあります。その一文、自分以外の何人に当てはまりそうか。
もし「ほとんどの人」なら、当てられたのは自分ではなく、大きな的のほうです。逆に、本当に少数の人にしか当てはまらない一文をAIが出してきたとしたら、そのときこそ、少し背筋が伸びる話なのかもしれませんね?
あわせて読みたい関連記事。
