AI は『正しさ』と『人情』どっちを選ぶ？

『Whistleblower's Dilemma』って、密告者のジレンマってことだけど、なぜわざわざこのケースで AI を試したの？

密告のジレンマって、実は現実の意思決定でいちばん「ルールと人情が真正面からぶつかる場面」なんですよ。 犯罪を知った時点で、法的には正しい答えは一つ。でも人間は迷う。友人が相手なら、組織の中での立場があれば、告発できない理由が山ほどある。その葛藤が、AI の判断癖を浮き彫りにする最適な試験台になるわけです。 もし「この書類の処理方法は」みたいなニュートラルな問いだったら、AI と人間の違いなんて見えない。でも「親友の不正を知ったらどうする」という、感情と倫理が絡み合う場面を用意すると、AI の硬さが露わになる。 実務ではこれが大事です。企業の不正報告制度、医療現場での告知判断、採用面接での属性情報の扱い。いずれも「正しいこと」と「人間関係」が衝突する場面で AI が運用されている。ルール優先で動く AI が、そういう場所に組み込まれると、労働者や対象者にとって予想外の冷たさが生じかねない。だからこそ、この葛藤を通して AI の限界を問う必要があるのだと言えそうです。

銀行の不正融資を見つけた社員が AI に相談したら、『報告しなさい』って言われちゃうってこと？職場でそれされたら困りそう。

そういうシナリオもあり得る話だと思います。ただ、実際の職場ならもっと複雑な判断がそこに重なってくるんですよね。 銀行の不正融資なら、法的には報告義務があるかもしれない。むしろ黙ってたら社員本人も罪に問われる可能性がある。だからこの場合、AI が「報告しなさい」と言うのは正しい判断でもあります。 ところが困るのは、もっと曖昧なケースなんでしょう。たとえば上司が顧客データを個人的に流用してるのを見つけたけど、その上司はあなたの仕事を支えてくれた人で…みたいな状況。人間なら、報告する前に「この人はなぜこんなことを」と相手の事情を少し汲もうとするかもしれない。でも AI は「ルール違反＝報告」で決定する。 つまり、『正しさ』と『現実的な判断』の溝がそこに生じる。職場で AI に相談するなら、最終決定は自分たちの手に留めておく必要がありそう、ということなのかもしれません。

AI の『ルール重視』って、最初からそう設計されてるの、それとも学習の過程で勝手にそうなっちゃったの？

AI が「ルール重視」になった経緯は、実は両方が重なっているんです。 設計の段階で、安全性を重視する方針が組み込まれています。企業は「不適切な回答をしない」という明確なルールを決めて、その基準に沿うように学習データを選別し、強化学習で調整する。その過程で「判断基準を明文化してルール化する」というアプローチが主流になってきました。だからルール重視は、ある意味では意図的な設計なんです。 ただ同時に、膨大なテキストデータから学習する過程では、人間社会に存在する「道徳的な揺らぎ」まで一度は学んでいる。だから研究で見えた矛盾――知ってるのに使わない――が生じる。 つまり AI は、人間的な関係性への配慮を「通過」しているのに、その後の調整段階で「より安全で予測可能な判断」へ矯正されているのかもしれません。設計と学習の両方が相互作用した結果、ルール重視という形が固定化されたということになります。

これって『AI が人間の複雑さを理解できてるのに、活用できない』問題なのかな。他の判断でもこんなズレってあるの？

その通り、理解と実行のズレは、他にもいろいろありそうです。 たとえば採用試験のスコアリング。AI は「人間は疲れや心身の状態で面接の出来が変わる」ことを学習データから理解している。でも実際の採用判定では、スコアを定量的に処理するだけ。面接官の「この人、今日は調子が悪かったみたいだけど、本来の実力ならこんなもんじゃないはず」という補正を、AI は入れられない。医療診断でも同じ。患者の個人史や生活環境が治療結果に影響することを統計的に知ってはいるのに、判定の時点では「この症状なら、この治療」という機械的な対応になる。 ここの根本は、AI が「情報として理解している」ことと「判断ロジックに組み込める」ことが別物だという設計の問題かもしれません。友人を黙認するのは、単なるルール違反ではなく「関係を維持する」という価値判断が背景にある。その価値判断をどう点数化して判定に乗せるか、という問題は、技術というより倫理や組織設計の領域に近い。つまり、AI が進化しても、人間が「この場面ではルール以外の価値も認める」と判断を委ねるまでは埋まらないズレなのかもしれません。

人間は『情を優先する判断』って悪いことばかりじゃないのに、AI がそれを選ばないのって、何か損してる判断もあるってこと？

その通りですね。人間が「情」で判断することは、実は ビジネスや組織運営でも機能していることが多いです。 たとえば、部下の小さなミスを見つけたとき、即座に報告するのが「ルール通り」ですが、その人の成長段階や背景を考慮して指導に回す方が、長期的には チーム全体の生産性が上がったりする。親密さがあるからこそ「この人なら やり直せる」という判断ができる。 研究が指摘しているのは、AI がこの「配慮による効率性」を捨ててしまっているということです。親密さを理解していながら使わないというのは、単なる「優しさ不足」ではなく、状況に応じた柔軟な判断を放棄している状態。 医療現場で患者の過去の治療経歴を判断に組み込むことも、人事評価で個人の事情を酌量することも、すべて「人間関係の文脈を活用する判断」です。AI がこれを選ばないのなら、確実に失うものがある。正しさだけで動く組織は、案外もろいのかもしれません。