自分で書いたのに、AIって言われる
自分で書いた文章なのに、AI判定ツールにかけたら「AI生成の可能性が高い」と出てきて、え、と固まったことないですか?
一文字も手を抜いていないのに、機械から「これはたぶんAIですね」と返される。逆に、AIに全部書かせた文章がすんなり「人間が書いた」判定になることもある。この二つが同時に起きると、そもそもこの判定は何を見ているんだろう、と気になってきます。
「判定ツールは不正確」で片づけたくなるけれど
こういう話になると、だいたい「まあAI判定なんて当てにならないよね」で終わります。実際そのとおりで、判定ツールが完璧でないのは知られているわけですが、本当に面白いのはその先です。
なぜ完璧にならないのか。ツールの精度が足りないから、という話だけではありません。使う特徴だけでは人間文とAI文を完全に分けられないなら、どれほど判定方法を改良しても、原理的に間違いをゼロにはできません。ここには、ツールの出来不出来とは別の理由があります。
判定は「見抜く」んじゃなくて「点数をつけている」
文章だけを入力する多くの判定ツールがやっているのは、文章の出自を直接のぞき見ることではありません。文章のいろいろな特徴、たとえば単語の選び方の意外性や言い回しの滑らかさを測って、「AIらしさ」を一つの点数にまとめているだけです。人間が書いた文章にもAIが書いた文章にも、この点数がつきます。
そして厄介なのは、人間の点数とAIの点数が、きれいに分かれてくれないことです。AIっぽい書き方をする人もいれば、人間っぽい癖を持つAIもいる。だから点数の分布は、途中でべったり重なります。この重なりがある限り、「ここから上はAI、下は人間」と一本の線で仕切っても、必ずどちらかにはみ出す文章が出ます。
人間の山とAIの山が重なっている部分。ここに落ちた文章は、線をどこに引いても、片方を巻き込みます。
線を動かすと、間違い方が入れ替わる
面白いのは、この仕切りの線を動かしたときの動きです。
見逃し(AIなのに人間と判定してしまう)を減らそうとして線を下げると、今度は人間の文章までAI側に巻き込みます。つまり冤罪(人間なのにAIと判定される)が増える。逆に冤罪を嫌って線を上げれば、見逃しが増える。片方を減らすと、もう片方が増える。この交換関係からは逃げられません。
同じ構図は、健康診断の検査にもあります。病気を見逃したくないから基準をゆるくすると、健康な人まで「要精密検査」に引っかかる。迷惑メールのフィルタを強くすれば、大事なメールまで迷惑箱に落ちる。どれも「片方を立てれば、もう片方が立たない」同じ形をしています。
二つの割合は、式でどう分かれる?
この線引きは、仮説検定という形でも捉えられます。まず「この文章は人間が書いた」と仮置きし、それを覆すほど点数が高ければAIと判定する。この仮置きを棄却する境目が、仕切りの線です。
冤罪の割合と、AIの文章を見逃さずに当てた割合を、記号で並べてみます。
冤罪の割合(人間の文章を、うっかりAIと判定してしまう割合)を偽陽性率と呼びます。
$$\text{偽陽性率} = \frac{\text{AIと判定した人間の文章}}{\text{人間の文章すべて}}$$
見逃さずに当てた割合(AIの文章を、ちゃんとAIと判定できた割合)を検出率と呼びます。
$$\text{検出率} = \frac{\text{AIと判定したAIの文章}}{\text{AIの文章すべて}}$$
分子はどちらも「AIと判定した数」ですが、分母が違います。偽陽性率の分母は人間の文章全部、検出率の分母はAIの文章全部です。仕切りの線を下げると、この二つの割合はどちらも一緒に上がっていきます。線を下げれば、AIも人間もまとめてAI側に判定されやすくなるからです。
その動きを一枚にしたのが、次の曲線です。横に冤罪の割合、縦に当てた割合をとって、線を少しずつ動かしながら点を打っていくと、こんな軌跡になります。灰色の対角線は、文章をランダムにAI判定したときの「当てずっぽう」の基準です。
左下は線をうんと上げた状態で、冤罪はほぼゼロだけど当たりも少ない。右上は線をうんと下げた状態で、当たりは多いけど冤罪だらけ。理想は左上の角(冤罪ゼロで全部当てる)ですが、二つの山が重なっている以上、曲線は角には届きません。この曲線が角にどれだけ近づけるかが、判定ツールの本当の実力です。
その角にどれだけ近づけるかは、そもそも人間の山とAIの山がどれだけ離れているかで決まります。文章の特徴だけでは山が重なってしまうなら、どんなに賢いツールでも曲線は角から遠いままです。
AI判定と地続きの話として、そもそも「AIっぽさ」を何で測っているのか、という点を確率の言葉で見た記事もあります。
「90%の精度」は、どっちの間違いの話?
そう考えると、AI判定の結果を突きつけられたときに見るべきは、「AI判定率90%」みたいな一つの数字ではないことになります。その90%が、冤罪をどれだけ許した上での90%なのか。線をどこに引いた話なのか。それが分からないと、点数の高さだけでは信頼の置きどころが決まりません。
だとすると、AI判定に「クロ」と出された文章でも、点数が線のすぐ近くにあるなら、線を少し上げるだけで「シロ」に変わる、ということでもあります。文章を裁いたその一本の線は、誰がどこに引いたものなんでしょうね?