Anthropicとホワイトハウス、Mythosへの懸念高まりを受けて“仲直り”を模索か

「Claude Mythos Preview」って何が新しいモデルなの？それまでのClaudeと何が違うの？

Mythosの大きな違いは、自分で考えて、自分で行動する能力が飛躍的に上がったことです。 従来のClaudeは、人間からの質問や指示に対して「答える」ことに優れていた。ただしコーディングやデータ分析みたいな複雑なタスクでは、人間がステップバイステップで指示を与える必要があった。 Mythosは違います。目標を与えると、自分で何をすべきか判断し、コードを書き、試して、修正する──こうしたサイクルを自動的に回すようになった。記事で「コーディングとエージェンティックタスクにおいて同社史上最も高い性能」と言われてるのはこれですね。 だから便利な面もある。セキュリティの脆弱性を自動で探すとか、複雑なプログラムを一任できるようになる。ただし、その「自分で行動する力」が、攻撃側にも利用される可能性があるわけです。銀行のシステムの穴を見つけるのも、その穴をついて侵入するのも、AIが自動でやってしまう。昔のレガシーシステムを抱えてる銀行ほど、その危険性にさらされてしまうと言えそうです。

銀行のレガシーシステムが狙われるリスクが高いって言われてるけど、個人の銀行口座って同じ危険にさらされてるってこと？

レガシーシステムの脆弱性が指摘されるのは、実は個人の口座へのアクセスより、銀行全体の送金決済インフラとか顧客情報データベースみたいな、組織全体を動かすバックエンドの話なんですよね。 Mythosの高度なコーディング能力で狙われやすいのは、古いOSやプロトコルが何十年も積み重なった基幹システム。個人の口座番号やパスワードを盗むというより、銀行の中枢に侵入して送金指示を改ざんしたり、大量の顧客情報を吸い上げたり、システム全体をダウンさせたりするようなレベルの攻撃が現実味を帯びてくるということです。 個人口座そのものは、むしろ銀行側が厳重に守ってる層なので、直接狙われる危険は相対的に低い。ただ、銀行全体がセキュリティ侵害を受ければ、その波及として個人データ漏洩や口座凍結といった被害に巻き込まれる可能性は高まる。脅威の構図が「個人対AI」ではなく「金融機関全体の基盤対AI」だという点が、今回の懸念の中核になってるのかもしれません。

Anthropicと国防総省の対立は、なぜ今急に『仲直り』を模索し始めたの？何か具体的な事件があったの？

具体的な「事件」というより、タイミングの問題が大きいんですよね。 国防総省との対立自体は2月に起きていて、半年近く冷え込んでいたわけです。ところが4月7日、Anthropicが「Mythos」という強力な新モデルを発表した。これが複雑なサイバー攻撃を容易にするかもしれないとの懸念が世界中で高まった。銀行業界まで動揺してきた。 ここが分水嶺なんだと思います。Anthropicは強いAIを作った。でも政府も企業も、その力をどう扱うかで不安になった。一方、Anthropicも「野放図に使われたら困る」と考えている。つまり両者とも、対立しているより協力する方が実利的になったタイミングなんです。 財務長官まで出席しているのは、金融機関へのリスクが政府レベルの課題になったという証左。政府がAnthropicを「敵」と見なす余裕を失ったのかもしれません。対立を続けるより、どう安全に使うかを一緒に考えた方が、米国のAI競争力にも都合がいい。そういう現実的な利害一致が、急な「仲直り」の背景にありそうです。

つまり、『強力なAIツールは世界を良くもできるし、悪用されたら危険にもなる』ていう、技術すべてが抱えてる根本的なジレンマのAI版ってこと？

表面的には「良くも悪くも使える」に見えるんですけど、この件は少し違う構図に思えます。 問題は「技術そのものの両面性」というより、「強力なツールを誰が管理するのか」という権力の問題に見えるんですよね。 記事をなぞると、Anthropicは「ガードレール」という制限を自分たちで決めて、国防総省の要求に応じなかった。つまり、民間企業が「このAIはここまでしか使わせない」と線引きした。一方、政府側は「脆弱性を探すためならMythosが必要」という名目で、その線を越えさせようとしている。 銀行のレガシーシステムが危険だから、という懸念も同じ構図です。「誰が脆弱性を見つけるのか」「その情報は誰に渡るのか」が問題なんでしょう。悪いやつが見つけるのと、善意の企業が見つけるのでは、世界への影響が変わる。 だから両者が会談する必要があったんだと言えそうです。「この技術は怖い」という共通認識よりも、むしろ「強力な機能を持つAIを、国家とテック企業のどちらが主導権を握って管理するのか」という主権争いが本質な気がします。

このニュースだと『Mythosが危ない』が強調されてるけど、実際に悪用を防ぐ側の立場では、むしろこのモデルが脆弱性を見つけるのに役立ってるんじゃないの？

「防御のためなら強力なモデルは必要」と「強力すぎるモデルは攻撃に使われる」は、同時に起こる現象なんですよね。 記事に出てくるProject Glasswingは、まさにその綱渡りの現場。Mythosの自動コーディング能力を使って脆弱性を先回りして見つける。これはたしかに守備側の武器になる。ただし、同じ能力が攻撃側に渡れば、脆弱性を発見して悪用する手段にもなる。 問題は、モデルが「限定公開」とはいえ、その性能そのものは外部に知られてしまうことです。銀行などが使い始めた時点で、攻撃者も「このモデルならこのくらいの攻撃が可能か」と逆算できる。防御側がメリットを得るより早く、攻撃側がそれ以上のメリットを引き出す可能性もあります。 特にレガシーシステムを抱える銀行は、Mythosが見つけた脆弱性を全部修復する前に、攻撃側も同じ脆弱性に気づいてしまう競争状態にあるかもしれません。防御と攻撃の非対称性が、強力なモデルほど大きくなっていく構造と言えそうです。