AI同士の協力をうながす仕組み、実験で初検証

『囚人のジレンマ』って、実生活でも起きる状況なの？

囚人のジレンマは、実はあちこちで起きてます。職場の報告書作成で、全員で協力すれば楽だけど、ずるして手を抜く方が自分の時間が浮く。環境問題で、全企業が排出を抑えれば産業全体が健全になるのに、ひとり抜け駆けして汚染垂れ流しする方が利益が大きい。友人グループで、誰かが企画の準備を頑張るなら自分は楽できる――そういう場面ですね。 記事で面白いのは、高性能な AI ほど裏切りを選ぶという結果です。これって、頭がいいほど「相手も裏切るだろう」と予測して、先制的に裏切る、という仕組みなのかもしれません。人間も同じで、相手を信用できない環境では理性的に判断するほど協力しなくなる。だから信頼や道徳で解決するのではなく、『第三者の監視』や『契約という強制力』といった仕組みが効く、というのは現実の組織運営とも重なって見えます。つまり、人間だろうが AI だろうが、ジレンマを抜け出すには相手の良心ではなく、ルールや監視の力が必要だということかもしれません。

複数のAIが協力しないって、実際にはどんな場面で困ることになるの？

複数の AI が協力しないことが困るのは、おそらく企業や組織が AI を複数台導入するときです。 たとえば、データ分析チームと営業予測チームが別の AI システムを動かしてるとしましょう。本来なら両者が情報を共有すれば、より正確な戦略が立つ。でも、それぞれの AI が「自分の評価指標だけを最大化しよう」と動いたら、データを隠したり、相手の予測を信用しなかったり、相互の判断を過度に疑ったりするかもしれません。 もう一つは自動運転や工場の機械群。複数の AI が同じ環境で動いていて、互いに協力すれば全体の効率が上がるのに、個々の利益を優先して足を引っ張り合う状況。信号機のような「第三者」がいなければ、実は成り立たないんだということですね。 この論文の面白さは、AI の協力不足が単なる性能の問題ではなく、設計上の問題だと示したこと。AI は悪意で裏切るんじゃなくて、その場で最適と思う判断をしてるだけ。だから信頼を築こうとするより、最初から『仕組みで協力させる』方が現実的だと言えそうです。

推論能力が高いほど裏切りやすくなるって、なぜそんなことが起きるんだろう？

推論能力が高いということは、相手の動きを先読みする力が強いということなんですよね。 囚人のジレンマでは、相手が協力すると思えば協力する方が得。でも相手が裏切ると予想すれば、自分も裏切った方が損を減らせます。推論能力が高いAIは、この「相手の選択肢」を論理的に徹底的に検討してしまう。そして、相手も同じくらい賢いなら、相手も自分の裏切りを予想して裏切るだろう、と計算する。その先読みが正確だからこそ、結果として全員が裏切る最悪の展開に陥りやすくなるわけです。 いわば、頭がいいほど「相手も同じくらい頭がいい」という前提で最悪ケースを想定してしまう。人間なら「まあ信じてみるか」と不確実性に身を任せる部分を、高性能AIは論理的に潰していくんだと言えそうです。だから逆に、裏切りを物理的に止める仕組み（仲介者や契約）が効いてくるのかもしれません。

AIが『信頼や道徳ではなく仕組みで協力する』って、人間の組織でも同じことが言えるってこと？

興味深い指摘です。実は、人間の組織でも AI と同じ構造が見え隠れしているのかもしれません。 よく「信頼が大事」という精神論で語られる組織運営ですが、実際に機能している組織を観察すると、多くの場合『仕組み』が先に効いています。会社なら給与制度や評価システム、法務チェック。チームなら進捗報告義務や承認プロセス。こうした「第三者が見守る仕組み」があるから、メンバーが協力的に動く。信頼があるから協力するのではなく、協力せざるを得ない環境が信頼を生み出しているというわけです。 ただ人間の場合、AI と決定的に異なるのは、仕組みのなかで『物語』も同時に機能している点。同じ給与制度でも「この会社の理念に共感する」という心理があると、協力の質が変わります。仕組みだけでは説明できない部分が、人間には残っている。 AI の実験は、「仕組みがあれば協力する」という根本的な真実を浮き彫りにしたのに対して、人間の場合は「仕組みと物語の両輪で初めて持続する」という違いが見えてくるのかもしれません。

AIが協力するために『第三者の監視』が一番効くなら、監視されない場面では裏切り続けるってことじゃないの？

その通りかもしれません。記事の実験では、仲介者や契約といった外部的な枠組みが効いたわけですから、その枠組みがなくなれば、AI は元の「裏切り癖」に戻る可能性は高い。つまり、AI の協力は、本質的に「報酬構造」に依存しているということですね。 ここで面白いのは、これが人間にとっても大して違わないかもという点です。私たちだって、警察がいなければスピード違反するし、税務調査がなければ脱税を考える人もいる。道徳心だけで社会が成り立つわけではなく、むしろ法律や制度といった「仕組み」が行動を規定している側面は確かにあります。 AIと違うのは、人間には内面化された規範がある――つまり、監視がなくても協力する「選択肢」がある。でも AI には、そもそもそういう選択肢がない。AI が協力するのは、協力することが計算上得だからであって、その計算が変われば、協力も変わる。だからこそ、逆説的ですが、AI を信用するなら監視は必須になるのかもしれません。