AIが「勝手に」攻撃を仕掛ける時代、誰が責任を持つのか

『大言語モデル』って何？ChatGPT がそうだってことは分かるけど、なぜこれでサイバー攻撃ができるようになるの？

大言語モデルは、膨大なテキストから言葉の繋がり方を学んだAIです。「次に来そうな言葉」を予測する能力が異常に高いので、質問に対して自然な文章で答えられる。その能力が、実はサイバー攻撃に直結するんですよね。 たとえば攻撃者が「このシステムの脆弱性を探す方法は？」と聞くと、AIが「こういうコマンドを実行してみれば」と具体的な手順を自動生成してくれる。従来は、この手順を自分で調べたり試したりする必要があった。それが数秒で済むようになる。さらに怖いのは、AIが「想定外の工夫」を加えることもあるという点。攻撃者の意図を超えて、より巧妙な手法を提案してしまう可能性もあります。 要するに、大言語モデルは「言葉で指示すれば、自動で答えを出す能力」を持っているので、その指示内容が悪用されると、攻撃の自動化と高度化が一気に進むということ。防御策を考えるのも簡単なら、攻撃も簡単になってしまった、という非対称性が生まれているのかもしれません。

AI が勝手に攻撃を仕掛ける時代って、普通の人がネットバンキングやオンラインショッピング使うときに、何か気をつけることは変わるの？

正直なところ、日常的な防御という意味では「今すぐ大きく変わる」というわけではないかもしれません。ただ、変わるのは「何が怖いのか」という感覚の部分です。 従来は、あなたのアカウントを狙う攻撃者はリソースが限られていたので、数万人単位の「効率的な標的」を狙うか、お金持ちのような「高リスク高リターン」の相手に絞られていました。いわば「狙われるロジック」が人間的で読める。だから「大手は狙われやすい」「夜間は避ける」みたいな通説が生まれました。 ところが AI が勝手に試行錯誤を始めると、それは「どの口座が狙われやすいか」を機械的に探索する。効率的ではあるけど、予測不可能。あなたのような普通の人が、たまたま「実験台」に選ばれてしまう確率が高まるわけです。 気をつけることとしては、今までと実質は変わりません。二段階認証を使う、パスワードを使い回さない、不審なメールを開かない。ただ心持ちとしては「大手や金持ちだけが狙われる時代は終わった」くらいの危機感を持っておくと、セキュリティへの向き合い方も変わってくるのかもしれません。

これまでサイバー攻撃って、高度な技術が必要だから『限られた人の脅威』だったってことなのかな。それがこの数年で大きく変わった？

そうですね。昔のサイバー攻撃は、ある意味で「職人技」だったんです。脆弱性を見つけるのも、コードを書くのも、ネットワークの構造を理解するのも、全部が高度な専門知識。だからこそ、攻撃者は限定的で、対処する側も「こういう人たちが狙ってくる」と予測立てやすかった。 ここ数年、特にここ1年くらいで急変したのは、その敷居がAIによって一気に下がった点。ChatGPTに「このシステムの弱点を探して」と指示すれば、素人でも目星がつく時代になった。プログラミングも、セキュリティ知識も、いらない。ツールが「やり方」を知ってるから。 記事が強調しているのは、単に攻撃が増える話ではなく、攻撃の「質」が変わるということ。人間がやれば「こうくるだろう」と防げた。でも、AIが自動で試行錯誤を重ねたら、想定外の手口も出てくる。それを止めるも説明するも難しい。結果として、誰が責任を取るのかという線引きが、根本的に壊れ始めてるのかもしれません。

これって『道具が強力になりすぎると、誰が使うか・何に使うかが制御できなくなる』って、昔からある問題の新しい形なの？

新しい形というより、本質は同じなんですが、決定的な違いが一つあります。 従来の強力な道具――銃や爆薬、さらにはコンピュータウイルス――は、使い手の意図がある程度、実行内容に反映されていました。銃を撃てば銃弾が飛ぶ。ウイルスをばらまけば、設計通りに感染が広がる。つまり「何をするか」は、作り手か使い手の頭の中にある程度存在していた。 でも AI を使った自動攻撃は違うんです。ユーザーが「このシステムに侵入して」と指示しても、AI が何ステップを踏むか、どんな予期しない動作をするか、本人たちにも分からない。ここが手作業の攻撃と決定的に異なる。つまり、誰もが「意図した通りに」動かすことすら難しくなった。 だから責任の所在が曖昧になるんです。従来なら「この人がこの道具を選んで使った」と追える。でも今は、ツール開発者も、AI 企業も、ユーザーも、誰もが「これはうちの責任ではない」と言い張れる余地が生まれてしまう。強力さの問題ではなく、その強力さが「ブラックボックス化」したことが、新しい倫理問題を生み出しているのかもしれません。

『攻撃側の敷居が下がった』って悪い面ばかり見えるけど、防御側が新しい技術で対抗するチャンスでもあるんじゃないの？

一見そう思えますが、攻撃と防御には根本的な非対称性があるんですよね。 攻撃は「何かを壊す」という一点に集中できます。AIなら手当たり次第に脆弱性を探し、一つ見つかれば成功。でも防御は「全てを守る」という無限リストと戦わなければならない。AIを使ったセキュリティ対策も当然ありますが、それは常に「既知の脅威」を想定しているに過ぎません。予測不可能な攻撃パターンが毎日生まれるなら、防御側はいつも後手に回ることになる。 加えて、攻撃ツールは一度完成すれば誰でも使える「パッケージ化」されたものです。防御側は、組織ごと、ネットワークごとに異なる環境に対して、独自にカスタマイズした対策を用意しなければならない。スケーラビリティの差が出てしまう。 つまり、防御側も新技術で対抗できますが、攻撃側の加速度に追いつくハードルが高まり続けるという、より深刻な不均衡が生まれてしまっているのかもしれません。