AI が『プログラムは正しいか』を証明できるようになった

『プログラムの正しさを証明する』って、テストするのとどう違うの？

プログラムがテストで「うまく動いた」というのと「証明された」というのは、まったく別物なんです。 テストは、いくつかの入力パターンを試して、その時点で正しく動くかを確認するだけ。銀行システムだったら「100万円を引き出す」「残高ゼロで引き出す」といったテストケースを走らせます。でも、どんなに多くのパターンをテストしても、すべての可能性を網羅することは不可能。テストしなかった入力に対して失敗する可能性はいつまでも残ります。 証明は違う。「あらゆる入力に対して、このプログラムは仕様通りに動く」ということを、数学的に保証するわけです。万円の引き出しも、マイナスの値も、想定外の数値も含めて、すべてのケースで正しいことを示します。 身近な例でいえば、テストは「橋が大丈夫か、いくつかの車を走らせて試す」こと。証明は「この橋の構造が、どんな重さにも耐えられることを力学的に計算して示す」こと。金融や医療などの「失敗が命取りになる」領域では、証明がなければ本当には信頼できないわけです。

銀行や医療機器の話が出てるけど、普段使ってるスマホアプリとかも、こういう証明で動いてるの？

スマホアプリの大多数は、こういう数学的証明では動いていません。むしろ逆で、テストと試行錯誤が主流です。 理由は単純で、コストに見合わないから。銀行システムや医療機器は「1件のバグで数百万円の損失」「人命に関わる」という背景があるので、証明に時間と人手をかける価値がある。でもスマホアプリは、バグが見つかってもアップデートで直せばいい、くらいの感覚が成立しているわけです。 面白いのは、この状況が今後も変わらないかもしれないということ。AI が証明能力を高めても、ビジネス的には「証明するコストより、バグを許容して高速にリリースする方が得」という判断が優先される領域は、スマホアプリのように多い。つまり、技術的には可能になっても、採用されるかどうかは別問題ということ。金融や医療は待つしかないという立場が強いから証明が浸透していくと思いますが、消費者向けサービスは当面、「完璧さより素早さ」という競争ルールのままなのかもしれません。

昔から『プログラムが正しいことを証明したい』という課題はあったと思うけど、なぜ今の AI で突然できるようになったんだろう？

プログラム検証自体は確かに昔からの課題ですが、これまでは「形式検証」という人間が定義したルールに従う機械的な方法が主流でした。ルールが厳密な代わりに、非常に複雑なプログラムには対応しにくかった。 大規模言語モデルが変えたのは、そこに「直感」や「柔軟性」を持ち込んだことです。Claudeは、プログラムを読むとき、人間の開発者のように「ここはこういう意図でこう書いてるのかな」と推測しながら理解できます。その上で、仕様を自分で言語化し、実装がそれに合致するか検証する。この一連の流れを自然言語で行えるのが大きい。 従来の形式検証ツールは「ここが正しい」と言わせるまでに、膨大な条件を人間が予め記述しなければならなかった。でも言語モデルは、プログラム内容と仕様の「ズレ」を、言葉で曖昧なまま感知する能力を持ってる。それが98%という高い成功率につながってるんでしょう。 逆に言えば、この急な進化は「評価方法の追い付き」の問題でもあります。ベンチマークが簡単に見えてしまうほど、AI の柔軟性が従来想定を超えたわけです。

これって『道具が進化したから、その道具の能力を測ることが難しくなる』という一般的なパターンなのか？

その通り、古い物差しが通用しなくなる典型例ですね。 顕微鏡が高性能化すると、従来の「細胞が見えるか」という評価じゃ性能を図れなくなる。いまや「何ナノメートル単位まで見分けられるか」という基準に変わっていく。AI の場合も本質は同じです。 ただ、ソフトウェア検証に限ると一つ構造的な難しさがある。顕微鏡なら「より細かく見える」という単純な進化軸がある。でも AI とプログラムの関係は、評価と実用がズレやすい。ベンチマークで 98% の成功率を出しても、それは「検証できた」という証明であって、「本当に現場で安全か」まで保証するわけではない。銀行システムって、標準化されたベンチマーク問題より、現実はもっと複雑だったりするんですよ。 つまり道具が進化する速度に、評価方法が追いつかないのは確かだけど、同時に「何を本当に測るべきか」という問いも、この技術には付きまとっていそうです。

AI がプログラムの正しさを証明できるようになったって、逆に言うと『今までプログラマーが信頼していた検証方法は十分じゃなかった』ってことなのか？

プログラムの検証方法には実は階層があって、AIが今できるようになった「数学的証明」はその最上位。従来プログラマーが頼ってきたテストやコードレビューは、もっと下の層で機能していたんです。 銀行システムや医療機器のような分野では、昔から「テストだけじゃ足りない」という認識があって、形式検証という数学的な手法を使ってきました。ただ、それは人間が手作業で証明を組み立てる作業で、きわめて時間がかかる。だから多くのプロダクトはテストで済ませてきた。 AIが高い成功率で証明を自動生成できるようになったのは、その「手作業の部分を肩代わりできるようになった」という意味に近い。今までの検証方法が『十分じゃなかった』というより、『本来必要だったレベルの検証を現実的に実行できなかった』ということかもしれません。 むしろ面白いのは、AIが失敗した時の分析も正確だったという点。つまり、AIが「ここは証明できない、理由はこうだ」と言えるなら、プログラマーはそこを集中的に直せばいい。検証の優先順位がはっきりする時代になるということかもしれません。