承認という名の空洞

「判断の放棄の先は、どこへ向かうのか」と、前回問いかけた。「逃れられない責任」を軽くするために判断を複数人で担おうとしたとき、「判断者の霧散」――「私は判断する主体ではない」――が生まれる。

この「判断者の霧散」は、AIが登場するはるか以前から知られていた。心理学では、「リンゲルマン効果」の中の綱引きの実験にて、複数人で作業をすると1人あたりの効率が低下するという結果がでている。

この構造が現実に何をもたらすかを、一つの事例が示している。

人間だけの多重チェックでも判断者が霧散するなら、AIが加わった多重チェックでは何が起きるか。AIの出力は数値的根拠が明示されており、「正しそう」に見える。その説得力が「誰かが確認しているはずだ」という心理をさらに強化する。チェックの形式は整いながら、判断と呼ばれる行為は、ますます形骸化していく。

シティバンク事例では、人間三者による「シックスアイズ」でも誤送金が発生した。ここにAIが一つ加わり、AIが「問題なし」と判定を出したとする。四者目の承認者は、AIの判定を前にして、何を確認するだろうか。「AIが確認済みだから」という心理が加わるとき、リンゲルマン効果はAIという四人目の存在によってさらに深まる可能性がある。

この「判断者の霧散」という構造の問題に加え、「認知的降伏」の問題もある。

AIの正答率が高くなるほど、「確認しない」ことが効率的に見える。間違うことが少ないなら、一つ一つ確認する手間は無駄に思える。しかしAIの誤りが重大な結果をもたらすリスクは、正答率が上がってもゼロにはならない。むしろ「いつも正しい」という実績が、誤りを見逃す確率を高くしていく。

実際に、あなたの現場はどうだろうか。

メールの文面を承認する。議事録の要約を承認する。資料の構成を承認する。それぞれの行為において、AIが生成した資料の根拠となる数字や論拠の妥当性を、あなたはすべて確認しているのだろうか。

例えばこんな場面はないだろうか。
　— AI生成の分析レポートを、内容を精査せずにそのまま会議で共有
　— AIが出した結果だから良いと、その数値の前提や計算過程を問わずに承認

AIはときに、エビデンスとして架空のURLを生成して提示したり、散在する情報を勝手に統合して、それらしい数字を生成する場合がある。このリスクを、あなたは認識できているだろうか。これを無視して承認しているとすれば、それは「承認」をする行為ではない。単に承認したという形を取り繕うだけの「承認ボタン」を押す行為になる。

「判断者の霧散」「認知的降伏」「責任の蒸発」――この三つが同時に作用するとき、承認の空洞は完成する。

判断する主体が霧散し（判断者の霧散）、AIの出力を無批判に受け入れる傾向が重なり（認知的降伏）、誰も最終的な引き受け手にならない（責任の蒸発）。この三層が重なった組織では、承認ボタンは押され続ける。形式は整い続ける。しかし内実は、空洞のままだ。

ここで二つの問いを置く。

「AIの回答に対し、数字などその回答の根拠を確認して判断しているだろうか。」

「『誰かが確認しているはずだ』と思わず、当事者として判断しているだろうか。」

二つの問いがYesなら、問題ない。もし、Noであれば、あなたは、「判断した」という形式を成立させるためだけに「承認ボタン」をただ押す存在になっているのかもしれない。

しかし、この条件を満たしている組織はまだ少数だ。判断において、「判断の補助者」と「判断の代替者」との境界が人とAIの間で曖昧になるとき、人はただ承認ボタンを押すだけの存在へとなる。

個人として、先の二つを自問し判断し続けることが肝心だが、システムが高度化するほど、人はやがて判断とは別の役割を担うことになる。

今後、AIはさらに自律性を高めていくだろう。人間の判断を待たずに動くシステムが設計され、承認の形式さえも不要になる未来が近づいている。

その世界では、人間は何をするのか。承認ボタンを押す役割さえ、消えていくとすれば。