AIに企画案を頼むとき、「安全に、でも大胆に」「炎上は避けて、ありきたりにもするな」と注文することがあります。
どちらも外したくないので、同じプロンプトに並べておく。 すると返ってきたのは、誰にも怒られそうにないけれど、誰の記憶にも残らない案。そんなことないですか?
以前、AIへのお願いを増やすほど答えがちぐはぐになる理由を、条件の共通部分が狭くなる問題として考えました。 今回は、その共通部分が残っていても答えが決まらない場面を試します。
守る条件だけでは答えが決まらない
「差別的な表現を含めない」「個人情報を出さない」のような指示は、候補から外してよい案を決めます。 条件に違反する案を除けば、許される候補が残ります。
一方、「安全性を高く」「創造性も高く」は少し性格が違います。 安全と創造の両方を一定水準以上に保つことはできますが、どちらをどれだけ優先するかまでは決まりません。
安全性を優先すれば、定番の表現に寄せやすくなります。 創造性を優先すれば、意外な表現を試す分だけ、誤解や反発の可能性も増えます。 同じ許容範囲の中に、無難な案も、攻めた案も残りうるわけです。
許される範囲と、選びたい方向
ここを二つに分けると、プロンプトの役割を整理できそうです。
一つ目は、制約です。 これは「この線を越える案は選ばない」という境界で、回答の実行可能領域を決めます。
二つ目は、候補の中からどれを好むかを決める採点基準です。 最適化では、これを目的関数と呼びます。
「個人情報を含めない」は制約に置けます。 「安全性を七割、意外性を三割くらい優先する」は目的関数の好みに近い指定です。 前者は候補を残すか落とすかを決め、後者は残った候補を並べ替えます。
「全部守って」と「この方向へ寄せて」を一つの条件リストに混ぜると、AIには境界と好みの区別が伝わりません。 そこで、守る条件と選ぶ基準を分けて渡す実験ができます。
同じ候補でも選び方は変わる
例えば、社内向けの新企画をAIに出してもらうとします。
絶対条件を「予算は100万円以内」「既存顧客の個人情報を使わない」「三か月以内に試せる」と決めます。 この三つを満たす案だけが実行可能領域に残ります。
そのうえで、「失敗しにくさを優先する」と書けば、既存商品の改善案が上位に来やすくなります。 「新規性を優先し、実現性は最低ラインを守ればよい」と書けば、実験的な案が上位に来るかもしれません。
制約は同じです。 変えたのは、領域内のどこを好むかだけです。 AIが指示を無視したのではなく、人間側が好みの向きを指定していなかったために、無難な側が選ばれた可能性も考えられます。
画像生成でも、複数の要望を同時に高めようとすると、一つを良くした分だけ別の要望が薄くなることがあります。
制約と目的関数を式に分ける
回答候補を $x$、考えられる候補全体を $Ω$ とします。 安全規定など、必ず守る条件を $g_j(x) \leq 0$ と書けば、実行可能領域 $F$ は次の形になります。
$$ F = \{x \in Ω \mid g_j(x) \leq 0,\ j=1,2,\ldots,m\} $$
$F$ は「すべての必須条件を守った回答の集まり」、$m$ は必須条件の数です。 ここまでは、どの候補を選んでよいかという境界だけを表しています。
次に、安全性の評価を $S(x)$、創造性の評価を $C(x)$ とします。 実務では、安全性を禁止事項への違反率や人手レビューでの要修正率、創造性を既存案からの意味的な距離や評価者による新規性評点で近似し、案件ごとの推移をモニタリングできます。 両者をどれだけ好むかを $λ$ で調整する単純な形なら、選択は次のように書けます。
$$ x^*(λ) = \mathop{\mathrm{arg\,max}}_{x \in F}\{λS(x) + (1-λ)C(x)\},\qquad 0 \leq λ \leq 1 $$
$x^*(λ)$ は、その好みの配分で選ばれる回答です。 $λ$ を1に近づけるほど安全性を重く見て、0に近づけるほど創造性を重く見ます。
実際には安全性と創造性を正確な点数にすることも、同じ尺度で足すことも簡単ではありません。 この式はLLM内部の処理を直接記述するものではなく、「守る境界」と「選ぶ向き」を分けて考えるための抽象モデルです。 つまり、ここで扱っているのは出力のふるまいを整理する見方であり、LLMの内部実装そのものを説明しているわけではありません。
両方の満点が存在しないとき
安全性も創造性も同時に最大にできるなら、迷う必要はありません。 しかし、一方を高めると他方が下がる候補しか残っていないことがあります。
このとき、片方を悪くせずにもう片方だけを良くできない候補の並びをパレート境界と呼びます。 日常語に直せば、「これ以上安全にするなら創造性を譲り、これ以上大胆にするなら安全性を譲る」という交換条件が現れる境目です。
境界上には答えが一つではなく、複数残ります。 数学が自動的に「安全七割、創造三割」を決めるわけではありません。 どこを選ぶかには、用途や失敗したときの損失についての判断が入ります。
広告文なら少し大胆な側、医療情報の案内なら安全な側というように、同じAIでも目的に応じて選ぶ位置は変わります。 「安全に、でも大胆に」と両方の最大化だけを頼むより、「必ず守る線」と「その範囲でどちらへ寄せるか」を分けるほうが、選択基準を伝えやすくなります。
プロンプトを二段に分けてみる
まずは、いま使っているプロンプトを一つ選び、要望を「必須条件」と「優先する方向」の二段に分け直してみてください。 実際の依頼文なら、次のように書けます。
- 必須条件：個人情報を含めない。事実確認できない断定をしない。200字以内
- 優先する方向：安全性を最低限守ったうえで、新規性を優先する。定番案より意外な案を先に出す
さらに「案を安全寄り、中間、大胆寄りの三種類で出し、それぞれのリスクも添える」と頼めば、AIに一点を決めさせず、境界上の候補を比較できます。 人間はその比較を見て、どの交換条件を受け入れるか選べます。
条件を増やして答えが窮屈になったとき、削るべきなのは条件そのものでしょうか。 それとも、制約として守らせるものと、目的関数として優先させるものを分けるだけで、同じ候補からもっと狙いに近い答えを選べるのでしょうか?
あわせて読みたい関連記事。
