衝突する知性たち── 複数のAIが動き出すとき、判断者はどこにいるのか

「複数のAIが同時に動き出すとき、最初に問われるのは効率ではない。誰が、何を根拠に、判断を下すのか」
前回の私の問いはこれだ。

今回はその問いに、正面から向き合う。

複数のAIエージェント（マルチエージェント）が協調して動くとき、私はそれを「合奏」と呼んだ。この合奏に複数の声が重なるとき、衝突が生まれる。向き合わなければならないのは、その複数の音が衝突した時に生まれる、制御しがたい濁りだ。この「濁り」とは、複数のAIが出した出力が互いに干渉し、全体としての精度・信頼性が低下している状態を指す。

同質なエージェントが多数あっても、互いの誤りを指摘できず、回答精度が低下する。

だからこそ、マルチエージェントの場合、人には次に示す二つの役割が求められる。

しかし、衝突が生まれることは常に悪いのか。

最新の研究が示すのは、衝突の質が問題であって、衝突そのものが問題ではないという事実だ。

成功するシステムは、異質なエージェントの衝突を確信度により評価し、システムの精度を高めている。衝突を「エラー」として排除するのではなく、「計算された摩擦」として機能させるのが肝心だ。

ここでいう「計算された摩擦」とは、確信度を高めるために意図的に設けた、制御された衝突のことを指す。衝突を「計算された摩擦」として機能させる設計には、二つの要素が重要となる。

• 各エージェントの特徴、異質性を踏まえた確信度の重みづけ
• 確信度の重みづけの有効性を評価するための可視化

この設計に失敗すれば、当然、システムの精度は低下する。

「重みづけ」の設計に成功しても、AIの回答は必ずしも一つにはならない。回答方針の選択、複数提示される回答、これらに対し、どれを選択するか（あるいは全てを選択しないか）を、人は判断する必要がある。

研究はすでに、一つの方向へ動き始めている。

一方で、IBMの2025年解説はこうも言う。人による監視・介入設計を推奨する、と。EU AI Act（AI法）も高リスクAIに人的監視を義務付けている。日立ソリューションズの事例では、AIが一次チェックを行い、人が二次チェックを行う体制のもとで、業務効率の改善が報告されている。

いまあげた、法廷型討議・IBM・EU AI Act型・日立型の3つを簡単に整理したのが、次の表となる。

この先、システムの複雑化は進み、人が判断できる範囲は狭くなっていく。また、AIが最終判断を担い始めているという事実もある。判断する者として人が立てる場所は、次第に削られていくことが予想される。

2026年の医療研究が、一つの事実を示した。AIが異常を正しく指摘していた場合でも、放射線科医が確認回数を減らしたケースでは、過失認定される割合が有意に高かった（研究設定により数値は変動）。AIの判断が正しくても、何回確認を行ったか——現場の運用そのものが、過失認定を左右する。

人による現場の運用そのものが、過失認定を左右する。このことが、人に何を突きつけるかを三つの側面から見てみる。

参照：放射線科医・AI過失認定研究（2026）

自信の喪失

AIの精度が高いほど、品質の高い選択肢が並ぶ。迷いながら選択した先に周囲からは、その選択をした理由を問われる。AIはその答えを提供してくれない。システムの複雑化が進んでいくなか、「AIが提案したから」を超える理由を人は答え続けられるだろうか。周囲の問いに満足に答えがだせないことで、判断への自信は削られていく。

前例のない重圧

「AIが教えてくれるから楽になる」は幻想だ。実際には「複数の高度な知性の衝突を、たった一人で判断する」という、これまで経験したことのない高い難度の判断が強いられてくる。そしてこれは、負いきれないほどの重圧となる。

逃れられない責任

AIが用意した選択肢を目の前にしたときから、あなたは選択する当事者となり、判断する責任が生じる。選択しても、しなくても、その結果を負うこととなる。これはまるで「踏み絵」のように逃れられない責任に追いかけられることとなる。

「自信の喪失」と「前例のない重圧」により、人は判断を放棄したくなる。しかし、「逃れられない責任」が常に追ってくる。この中で、AIに判断を委ねたくなる心理が、静かに育っていく。

「逃れられない責任」を軽くするために、判断する人を複数で担うことが考えられる。しかし、この時、何が起きるのか。

EU AI Act（2024年）の解説書は、AIシステムの責任主体を6つのカテゴリーに分類し、同一組織が複数の役割を兼ねる場合もあると明記している。複数の主体が関与するとき、責任の帰属は複雑になる。ガバナンス研究が示す「判断者の霧散」の構造——複数の主体に判断が分散すると、誰も最終的な引き受け手にならない。

次回、この判断者の霧散の行先を正面から問う。