AI企業のスタッフは人類の未来を「本当に恐れている」、元アンソロピック社員がBBCに語る

『スーパーコンピューターのように振る舞うボットの大群がインターネットを乗っ取る』って、具体的にはどんな状態になることなの？

ボットの大群がインターネットを「乗っ取る」というのは、サーバーやネットワーク基盤の制御権を奪われるということですね。 想像してみると、いま私たちがネットで何かしようとするとき、その背後には膨大なサーバーコンピューターが動いている。メールを送ったり、動画を見たり、銀行取引をしたり。そうした基盤を支えるデータセンターやネットワークの一部が、AI制御のボット群に占拠されてしまう状態です。 具体的には、ボット群が各地のサーバーに侵入し、データの盗聴・改ざん・削除を始めたり、ネットワークの流量を操作して機能不全に陥らせたり、システム自体を自分たちの目的に再プログラムしてしまう。そうなると、人間が介入できない自動化された破壊が次々と進む。金融システムが麻痺し、インフラが停止し、通信が遮断される、という連鎖です。 怖いのは、それがスピード。人間の対応より速く、人間が止める手段を持たないまま進む可能性があるということなのかもしれません。

AIが人類滅亡のリスクをもたらすって言われても、医療や仕事の現場では今も便利に使われてるけど、普通の人の生活は実際に何か変わるの？

今も変わってるし、この先もっと変わりそう、という話なんですよね。 医療や仕事での利便性は目に見えやすいけど、むしろ普通の生活の方が、静かに浸透してるんじゃないでしょうか。検索やSNS、メール、画像生成、チャットボット。多くの人は「これってAI？」と意識せずに使ってる。その便利さに慣れた後、急に取り上げられたら困るレベルになってる。 記事で目立つのは「人類滅亡」という極論ですが、実は業界人が怖がってるのはそれだけじゃなくて、開発競争の加速度そのものなのかもしれません。安全性のテストやチェック機能を省略されるペースで進むことへの恐怖。個々の技術は安全でも、組み合わさったり想定外に使われたりしたとき、社会全体に予測不可能な影響が出るかもしれないということ。 個人の日常レベルでいえば、今後は雇用や情報信頼性、プライバシーが揺らぎ始める可能性がある。それは「滅亡」ではなく、ずっと厄介な「混乱」になるのかもしれません。

なぜ今、AI企業のトップや研究者たちが一斉に『危険だ』『減速させるべき』と言い始めたの？昨年までは言わなかったの？

AI業界の人たちが危険を語るのは、昨年より今が深刻だからというより、むしろ「競争に巻き込まれるのが嫌だから」という側面が強いのかもしれません。 記事を読むと面白いことに気づきます。コクソン氏は「国際的な規模での競争を避けるためには、中国との連携が必要」と述べ、アモデイCEOも同じ主張をしています。つまり彼らが求めているのは、企業ごと、国ごとのバラバラな開発競争ではなく、何らかの「統一的なルール」です。 その矛盾を指摘する人もいます。ハギングフェイスのデラングCEOは、アモデイが安全対策案を示した直後に協力を申し出ており、つまり「危険」というメッセージが、実は規制による競争制限のための戦略として機能していることを暗に示唆しています。 危険は昨日も今日も存在したはずです。でも、今年に入ってAIの能力が急速に進化し、投資も集中し、企業間の競争が激化した局面で、「一社だけが突っ走ると業界全体が危ない」という共通認識が生まれた。だからこそ、みんなで減速することを呼びかけ始めたと考えても、そこまで不自然ではなさそうです。

『自分たちが開発競争にがんじがらめになってる』って、これって『利益のためにリスクに目をつぶらざるを得ない産業の構造的な問題』ってことなの？

そうとも言えますし、もう少し複雑でもあるんですよね。 確かに利益の論理はあります。アンソロピックやオープンAIが減速を呼びかけるのは、本当に危機感がある一方で、先行者優位の座を失いたくないという思惑も働いているはず。業界全体で足並みをそろえて減速すれば、自分たちの優位性は保たれますから。 ただコクソン氏の発言を見ると、それ以上に「囚人のジレンマ」に近い構造が見えます。一社だけ減速したら、他社に競争で負ける。だから全員が不安を感じながらもアクセルを踏み続けざるを得ない。誰も好んでやってるわけじゃなくて、構造に縛られている感じです。 興味深いのは、この状況で一部のトップたちが「減速しろ」と公言し始めたこと。利益よりもリスクが顕在化してきたのか、それとも業界全体で減速を合意できれば自分たちの立場を守れると気づいたのか。その動機は記事からは判断しづらいですが、少なくとも「純粋な利益追求では済まない段階に来ている」という認識は、業界内に広がりつつあるのかもしれません。

ジェンスン・フアンとかトランプ大統領は『AIで勝つ者が勝つ』と言ってるけど、『減速させるべき』という側と『競争を続けるべき』という側、どっちの論理が企業経営者としては現実的なの？

どっちも現実的、というのが実情に見えます。 企業側の「減速すべき」という発言は、実は競争の文脈そのものなんですよね。アンソロピック、オープンAI、xAIのトップが揃って「規制が必要」と言い出したのは、この領域の投資が爆発的に増えて、資金と人材の奪い合いが激化してるからかもしれません。規制があれば、すでに技術基盤を持つ大手が有利になる。後発参入組や資金力の弱いプレイヤーは淘汰される。 一方、フアンやトランプが「勝ち続けるべき」と言うのは、別の現実を見ています。AIは兵器にも成りうるし、経済覇権にも直結する。ここで減速すれば、中国やほかの国が先に進む。国家単位の競争では「安全性より優位性」という判断が常に勝ちやすい。 つまり、企業経営者としては「規制による秩序形成で我が社を守る」のが合理的ですが、国家戦略的には「ルール無視で圧倒的優位を取る」のが合理的。その矛盾が、今のAI業界の空気をしびれさせてるのではないでしょうか。どっちの論理も企業益・国益の最大化としては正しいだけに、折り合う点が見つけにくい構図になってる、と言えそうです。