AI エージェントの社会実験、『なぜそうなった？』を自動で解明

『反事実実験』って、AIにどういうことをさせるの？

シミュレーションの再生機能だと思うといいですよ。たとえば、実際のシミュレーション過程で「Aさんが協力を拒否した」という判断が起きたとします。その瞬間まで巻き戻して、「もし Aさんが協力していたら、その後どうなってた？」と AI に別の道筋を歩ませる。つまり、ある一つの過去の判断だけ入れ替えて、そこから先をもう一度走らせるわけです。 大事なのは「別パターンでの結果がどう変わったか」を見ること。元のシミュレーションでは最終的に対立が深まった。でも反事実版では対立が起きなかった。その差を比べれば、「あの判断が対立を引き起こしていた」という因果が浮かぶ。複数の判断を一つずつ入れ替えてやれば、どれが本当に影響力があったのかが分かる。 社会現象って、普通は「あれも関係してそう、これも関係してそう」と候補が無数にあります。反事実実験は、その雑音を削ぎ落として、本当に効いた要因だけを照らし出す。因果関係を推測ではなく、実験で示す手段と言えそうです。

こういう社会シミュレーションが政策立案に使われたら、自分たちの生活の決め方が AI の予測に影響されるってこと？

その懸念は当たっていますが、ただ順序が少し逆かもしれません。 政策立案者が「AI のシミュレーション結果を参考にする」というのは、気象予報を見て傘を持つのに近い。予測を信じるかどうかは、あくまで人間側の選択です。ここではまだ AI が決めていない。 ただ、シミュレーション精度が上がると、参考にする人が増える。政策担当者が「この施策なら失業率 0.3 ポイント改善する見通し」という結果を何度も見ると、それが心理的に重みを持ち始める。すると、結果的に政策設計が AI の予測に沿う形に寄ってく。つまり、直接的な強制ではなく、予測への信頼を通じて影響が生まれるわけです。 より根本的な問題は、「その社会シミュレーション自体が、どういう価値観や仮定で組まれているのか」が見えづらいこと。CAMO は因果関係を可視化しますが、その前提となる AI エージェントの行動ルール──何を大事にしているのか──は、むしろ一層深く隠れる可能性があります。政策が「AI の予測」に影響されるのではなく、「AI 設計者の世界観」に影響されることになるのかもしれません。

複数の AI をつなぐ社会シミュレーション自体は、もともとあったんですよね。なぜ今、『なぜそうなったのか』という理由の部分が問題になってるの？

AI エージェント・シミュレーションは確かに前からありました。でも、スケールが変わってきたんですよね。 従来は数十個の AI で限定的な現象を再現する程度でしたが、ChatGPT のような大型言語モデルが登場すると、各 AI の思考プロセスがぐんと複雑になった。同時に、つなぐエージェントの数も、相互作用も格段に増えた。 その結果、シミュレーション結果が出ても「こういう集団現象が起きた」で終わってしまう。昔は単純だったから、コード追跡や変数の操作で「あ、この部分が効いてるな」と直感でわかった。でも今は、個々の判断が複雑すぎて、人間の脳では因果関係を追い切れなくなった。 政策や経営判断に使おうとしたときに、「なぜそうなった」が答えられないと、信頼できない。ブラックボックスの予測では、責任が持てない。だから、「シミュレーションで結果は出た」から「結果の理由も自動で説明できる」へ、一段階進む必要が生まれたんだと言えそうです。

これって、社会現象の『複雑さ』を扱う時に、いつも起きる問題—『全体が個別の原因では説明できない』ってやつを、AI に解かせようとしてるってこと？

本質的には、そうですね。ただ、重要な違いがあります。 社会現象の「複雑さ」に人間が直面するとき、ふつうは「複数の原因が絡み合っているから説明できない」と諦めてしまいます。でもこの研究は、その絡み合いを「記録可能な状態」に変えたんです。 AI エージェント同士のシミュレーションなら、何がいつ誰に影響したかが、すべてログに残ります。現実の社会調査では、A さんの行動が B さんに与えた微妙な心理的影響を数値化できませんけど、ここなら可能。その記録から「この瞬間のこの判断が、後々のあの現象につながった」という因果チェーンを、統計的に抽出する。 つまり、複雑さそのものを解くのではなく、複雑さが「見える形」に変換するやり方を開発した。個別原因では説明できないのは変わりませんが、「どうつながってるか」が映像化される。政策立案者や組織設計者にとっては、これまでの「勘と経験」に、初めて「データに基づく因果関係」を重ねられるようになるのかもしれません。

シミュレーションで『こうなるはず』という予測が見えたとき、その予測が外れる可能性とか、モデルの限界って、このフレームワークでも分かるの？

シミュレーションの精度と現実のズレって、因果関係が見えるようになることで、かえって見えにくくなる側面もあるんですよね。 CAMO は「なぜそうなったのか」という事後的な説明には強い。でも、それは過去の記録から因果チェーンを抽出するプロセスなので、シミュレーション自体の前提条件——使った AI のクセ、設定した環境パラメータ、現実に存在しないディテールの省略——までは照らし出さない。反事実実験で「もしあの判断が違っていたら」と検証しても、その検証自体が同じシミュレーション環境の中での仮想実験です。 いわば、閉じた世界の中で因果関係を完璧に整理しても、その世界が現実とどれだけズレているかは別問題。政策立案に使う段階では「このモデルが想定していない変数」「予測が外れた時の判断基準」をあらかじめ用意しておく必要があるのかもしれません。因果が見える分、モデルへの信頼が強まりすぎる危険性も出てくる。その自覚がないと、かえって予測の盲点が増えることもあり得そうです。