AI が計算を間違えても「巻き戻す」新技術、数学問題で正答率15%アップ

「内部の思考の方向性を監視する」って、AI の頭の中で何を見ているの？

大型言語モデルの内部では、各ステップで数百億単位の数値が計算されていて、その流れが「思考の方向性」を形作っています。画像認識で画素の値が変わるように、言語モデルの「脳」の中でも、ニューロンの活性パターンが刻々と変わっていく。この研究が監視しているのは、その活性パターンの「ベクトル」のようなもの。つまり、計算がどこに向かおうとしているのかという傾向を、数学的に捉えているわけです。 正常に推論が進んでいれば、ベクトルは滑らかに変化し続けます。でも計算を間違えたとき、その誤りに基づいて次の値が決まるので、ベクトルの向きが急に反転したり、振幅が異常に大きくなったりする。人間が「あ、何か変だ」と感覚的に気づくのを、モデルの内部現象として数値で検知するイメージですね。見直しより巻き戻しが効くのは、AI が「間違えた後に整合性を取ろうとする」のが苦手で、むしろ「狂う前の状態をキープする」方が得意だからなのかもしれません。

ChatGPT が計算を間違えるのが直るってことは、将来、税務申告とか医療診断みたいな「絶対ミスれない場面」で AI が使われるようになるの？

計算の精度が上がること と 現場で使える信頼性を得ることは、別の話なんですよね。 正答率28%から44%というのは確かに大きな改善ですが、医療診断や税務申告の世界では、44%の確度では話にならないです。たとえば医師が診断を下すときは99%以上の確実性を求められることもある。その基準からすると、まだ遠い。 それに気になるのは、この巻き戻し技術がどんな間違いにも等しく効くのか、という点です。「計算のキーとなるステップ」で気づくのと、「単純な計算ミス」で気づくのでは精度が違うはず。医療診断となると、患者データの解釈、複数の可能性の天秤がけ、稀な疾患の見落としなど、単純な「間違いの兆候」では拾えない落とし穴が山積みです。 むしろ現実的なのは、「AI の弱点を知ったうえで、人間がチェック役を入れる」という使い方。AIが計算を間違えなくなっても、その計算が「本当に必要な計算か」「妥当な解釈か」を判断するのは人間の仕事になるのかもしれません。完全自動化ではなく「AI+ 人間の協業」の形で、初めて現場の要求水準に届きそうです。

AI が計算に弱いのは昔からの課題だったのに、今なぜこの解決方法が出てきたの？

計算の弱さ自体は前からわかってたんですが、その原因が「1ステップ目の誤りが後に引きずられる」という**構造的な問題**だと明確に認識されるようになったのが、ここ数年のことなんですよね。 従来は単に「数学が苦手」くらいの捉え方だったのが、ChatGPT のような大型言語モデルが登場して、膨大なテキストで学習した高性能なモデルですら、計算途中の誤りから抜け出せないという矛盾を目の当たりにした。そこで初めて「これは学習量では解決しない、内部の生成メカニズムの問題だ」と気づく研究者が増えたわけです。 同時に、モデルの内部状態を直接見ることができる技術も進みました。昔のモデルより規模が大きく複雑になった分、「思考の方向性」という目に見えない概念まで観測・操作する手法が生まれやすくなったんです。 要するに、高性能なモデルが普及したからこそ、その限界が可視化された。そして、その限界の正体が理解されたからこそ、こういう「巻き戻す」という直感的で効果的な対策が思いつけるようになったのだと言えそうです。

要するに『人間が自分で見直す』と『第三者が途中で止める』だったら、どちらが間違い減らすんだろう？この研究が示してるのってそういうことなのかな

研究が示してるのは、もう少し違う構図かもしれません。「見直す」と「途中で止める」は、同じ「間違いを減らす行為」に見えて、実は AI の仕組みの中では全然別の作業になっているんですよね。 AI が見直しを指示されると、すでに誤った計算過程を全部見た後から「これ合ってる？」と判断しようとする。その時点では誤りの痕跡がもう深く組み込まれてる。だから逆に混乱が増す。一方、巻き戻しは「おや、思考の方向がおかしい」という違和感を、その瞬間に読み取って遮断する。修正じゃなく、誤った先へ進まないようにブレーキをかけてるわけです。 人間で言うなら、見直しは「書いた答案を読み返す」で、巻き戻しは「ペンを動かす手の違和感に気づいて、その瞬間に手を止める」みたいな差。後付けの検証より、進行中の違和感の方が、AI には効くらしい。だから第三者が途中で止めるなら、かなり有効かもしれません。

正答率が 15% 上がるのはすごいけど、残りの 56% はなぜ間違い続けてるの？巻き戻しで救える間違いと救えない間違いに、何か違いがあるんじゃないの？

巻き戻し機能が救える間違いと救えない間違いの違いを考えると、計算の「流れ」の問題なのかもしれません。 計算途中で間違える場合、その後の生成が誤った前提に乗っかって深掘りしていく。巻き戻しはこの「転がり始めた誤り」を止める。つまり、本来なら正しい道筋に乗ってたはずの問題、計算の「どこかの瞬間」で脱線した場合に効くわけです。 ところが数学問題には、そもそも計算を開始する前の段階で間違ってるパターンもあります。問題の読み違い、解く筋道の選択ミス、概念の誤解。こうした「スタート地点の誤り」は、いくら途中で巻き戻しても救えない。正しい方向に向き直ってないから。 残りの56%の失敗は、この「最初から間違った軌道に乗ってた」ケースが大半なのかもしれません。巻き戻しは「ハンドルの急カーブ」には気づくけど、「最初から逆方向に進んでた」ことには気づかない。 つまり技術の限界というより、問題の「構造的な誤り」と「実行上の誤り」は別物ということなのかもしれません。