AI は言葉の意味を本当に理解しているのか、新しい評価方法を提案

「規則を再帰的に応用できるか」って、結局どういう能力を試してるの？

「規則を再帰的に応用する」というのは、簡単に言うと、一度学んだルールを何段階にも積み重ねて使えるかを試す能力のことですね。 具体例を挙げると、数学で「足し算のルール」を学んだら、それを使って「掛け算」を定義できるし、掛け算を使って「べき乗」を定義できる。こうやって一つのルールの上に別のルールを重ねていく。AI の場合も同じで、言葉のパターンAを認識したら、そのパターンを土台にして、もっと複雑なパターンBに対応できるかどうかを見ている。 通常のベンチマークテストは「この質問に正解できるか」という単発の問題ばかりです。でも現実の言語使用は、ルールの上にルールが積み重なってる。文法のルールの上に、修辞表現のルールがあり、その上に文化的な文脈がある。AI が本当に「理解」しているなら、その階層を遡ったり、新しい層を作ったりできないといけない。つまり、一度見たことのない複雑さのレベルに、学んだルールを自動的に適用できるか、という挑戦になるのかもしれません。

ChatGPT が意味を『本当に』理解してるかどうかって、普通に使ってる側からすると何が変わるの？

使ってる側からすると、実は今のところ大きくは変わらないのかもしれません。 ChatGPT が「本当に理解してるのか」という問いは、哲学的には重要ですが、 実用上はグレーゾーンのままでも多くの場合うまく動いてるから。 ただ一つ、見落としやすい落とし穴があります。 新しい状況、想定外の質問、常識の範囲外での応用——そういう場面では、 「ルールを丸暗記しているだけ」と「本当に理解して応用してる」の差が出てくるということです。 たとえば医学診断。学習データにある病例パターンなら高精度でも、 組み合わせ型の珍しい症例では外す可能性がある。 その時に「実は意味を理解していないレベルの弱さ」が露呈するわけです。 いま世間的には「ChatGPT すごい、便利」で十分な感じですが、 医療や法律、教育など「間違えるとコストが高い領域」へ本格導入する段階になると、 この問題は無視できなくなってくるのかもしれません。 使ってる側が気づかないうちに、信頼の限界が設計されてる状態だと言えそうです。

AI の評価をベンチマークテストだけでやるのって、昔からずっとそうだったの？それとも最近になって限界が見え始めたの？

AI の評価手法って、実は昔からずっと同じ方法が主流だったわけではなくて、段階的に変わってきているんですよね。 初期の AI（1980年代〜90年代）は、チェスや将棋のように「勝った負けた」という明確な勝敗で性能を測っていました。その後、自然言語処理が本格化した2000年代には、翻訳の精度、質問応答の正解率といった個別タスクのベンチマークが標準になっていった。当時は「タスクごとに評価すれば十分」という共通認識があったんです。 ところがここ数年、特に ChatGPT 以降、状況が変わってきた。これまでのベンチマークテストでは「決まった問題に正解できるか」は測れても、AI が本当に概念を理解しているのか、新しい場面で創造的に応用できるのか、という問いが急浮上してきたわけです。 つまり、AI が単なる「パターンマッチング機械」から「何かを理解している存在」に見えてきたから、昔の評価方法では足りなくなった。限界が最近になって顕著になったというより、能力の質が変わったから、物差しも変わらざるを得ないということなのかもしれません。

つまり AI と人間の『理解』の違いって、『過去のパターンから学ぶ』と『新しい場面に応用できる』の差なの？

そこが全てではなくて、むしろ根本的にズレてるのかもしれません。 人間が「理解」するとき、単に過去のパターンを蓄積してるわけではなく、そのパターンの背後にある「ルール体系」を掴む。たとえば「犬」という言葉を1000回見ても、次の新しい犬を認識できるのは、「犬らしさ」の本質を抽象化したから。AIが過去データから完璧にパターンを学んだとしても、それが「ルール」として機能するかは不確定なんですよ。 クリプキの問題はここで鋭い。過去のデータセットは、未来の正解を一意には決めない。同じパターンを別の方法でも説明できる可能性がつねに残る。だから「これまで正解できたから理解している」と言い切れない。 人間も完全には保証されてないですが、人間は概念を「なぜそうなるのか」という因果や関係性の中で理解してる部分がある。AIは統計的相関を拾ってるだけ、という差に見えます。つまり応用可能性の差というより、学び方の根本構造が異なってるのかもしれません。

この論文が言う『新しい評価方法』で測ると、現在のAI の性能ってガクッと下がったりするの？

実際のテスト結果がどの程度まで下がるかは、論文の具体的な評価方法次第なのですが、下がる*方向*には間違いないと思います。 理由は、現在のベンチマークテストと新しい評価方法では測っている軸が根本的に違うから。今のテストは「既知の問題パターンにどれだけ適合しているか」なんですよね。学習データに近い出題なら、AI は相当な正解率を叩き出す。でも「初めて見た概念の組み合わせ」「ルールを予期しない場面に応用する」という場面では、パターン暗記では対応できない。 実際、AI が「学習データの延長線上にない質問」に弱いというのは、研究者たちの間ではけっこう知られた問題です。だから論文が「規則を再帰的に応用できるか」をテストしろと言うのは、まさにそこを突いている。 ただし、「ガクッと下がる」の程度には幅がありそうです。タスクによっては、現在のAIも意外と応用力を見せることもあれば、簡単な抽象化でも失敗することもある。その凹凸が、新しい評価方法で初めて可視化されるのかもしれません。