AI が『動物』や『国』をどう考えているか、測る方法を作った

『アフィン部分空間』って、AIの頭の中のどこにあるもの？幾何学的な構造が安定的に操作できるって、実際には何をしてるの？

AI の内部は「高次元の空間」として考えると、イメージがつかみやすくなります。たとえば ChatGPT は数千〜数万次元の数字の羅列で「犬」とか「フランス」という概念を表現しているんですよね。その数字の集まりが空間上の一点になる。 『アフィン部分空間』というのは、その高次元空間の中で「特定の方向に沿った平面」みたいなものです。「動物」という概念なら、その平面上に「犬、猫、ライオン」といった個別の概念が整列している。一方「国」なら、別の平面上に「日本、フランス、ブラジル」が配置される。 実際の操作というのは、この平面を斜めに傾ける、あるいは生成時の計算に介入して「この方向の値を少し強めよう」という感じです。すると AI の答えに「より動物らしい」という色づけが起きる。拒否をコントロールするのと同じ原理で、ただ複数の例が一つの方向に整理されているから、単一の線引きより手強かったわけです。 つまり、AI の中には目に見えない「地図」があって、その地図の構造を知ることが、AI をより正確に理解・操作する手がかりになる、ということなのかもしれません。

AIが『動物』をどう考えてるか測れるようになると、ChatGPT が変わる？その分類の精度が上がるとか、答え方が変わるとか。

「測る」ことと「変える」ことは別の段階なんですよね。今の研究は、まず AI の脳みそ の中で『動物』という概念がどんな形で存在しているのかを X 線で見えるようにした段階。ちょうど人間の脳スキャンが認知機能を理解させてくれるけど、脳スキャン画像だけでは頭が良くなるわけではないのと似ています。ただ、見えるようになると次のステップが生まれる。たとえば『アフィン部分空間』という構造が安定的に操作できると分かれば、そこを意図的に調整して「AI が動物をより正確に分類するよう学習させる」みたいな改善に繋がる可能性はあります。つまり直接的には ChatGPT の答え方は変わらないけれど、その先の改良のための地図ができたということ。精度向上や新しい機能追加は、この測定結果を使ってさらに研究が進んだ後の話になりそうです。

AIの『内部表現を測る』研究って、最近急に増えてきたの？それとも前からあったけど、複雑な概念は測れなかったってだけ？

AI の内部がどうなっているのかを直接覗こうという試みは、実はもう10年以上前からあります。初期は「この層でこんなことが起きてる」という観察的な研究が主流でした。ただ、その頃の関心は、感情や否定といった二項的な特性に限られていた。 ここ3〜4年で急速に広がったのは、むしろ「正確に測り、操作する」という目的の方です。大規模言語モデルが登場して、その振る舞いを制御したい、安全性を高めたいという需要が生まれました。そこで既存の手法を洗い直し、より複雑な構造にも対応できるベンチマークを用意する必要が出てきたわけです。 記事の「複数のカテゴリとその下の多数の例」という多層構造は、実は AI が持つ知識の大半そのものです。だから、この測定方法が確立すると、単なる学術的な興味に留まらず、AI の学習や制御の精度そのものを上げる道具になっていく。つまり、研究の加速度自体が、言語モデルの進化に伴走しているのだと言えそうです。

人間も『動物』『国』みたいな複雑な概念を、何か構造的に整理して頭に入れてるってこと？AIの仕組みを理解すること＝人間の思考を理解することなの？

人間とAIの概念処理が同じ構造かどうかは、まだ誰も確実には答えられていません。ただ、この研究が示唆する面白さはそこじゃなくて、「複雑な概念を扱うには、何か体系的な土台がいる」という部分にあります。 人間の場合、動物という概念を頭に入れるとき、おそらく図鑑を丸暗記するのではなく、生態系、大きさ、足の数、食べ物の種類などの「軸」で無意識に整理してる。AIが『アフィン部分空間』という幾何学的な構造で同じことをしているなら、表現方法は全く違うけれど、「多次元的な特徴を組み合わせて概念を浮かび上がらせている」という点では共通しているかもしれません。 ただし決定的な差は、人間は体験を通じて概念を構築するのに対し、AIはテキストの統計的パターンから推論しているということ。「ライオンは怖い」「犬と人間は信頼関係をつくる」といった情動や社会的文脈を、AIは本来的には持っていません。 つまり、AI研究は人間の思考を理解する手がかりになり得ますが、思考そのものを解き明かすのではなく、「人間が本当に何を頼りに世界を整理しているのか」という問いを、より鮮明にしてくれるようなものなのかもしれません。

プロンプトで指示する方が、複雑な手法と変わらないって結果が出たのは、逆に言うと何を意味してるの？AIの理解は『シンプルな指示で十分』ってこと？

プロンプト指示が複雑な手法と同等という結果は、むしろ逆の意味を持つかもしれません。AI の内部構造が、人間が想定するほど複雑に特定されていないということ。 つまり、動物や国という概念が、AI の活性化空間のどこかに「きっちり局在している」わけではなく、もっと粗く、柔軟に分散して存在しているのではないか、ということです。複雑な手法で微調整しようとしても、シンプルなプロンプト指示でも、結局は同じくらいの効果しか出ないというのは、AI がその概念を「固く定義されたデータ構造」として持っていないことの証かもしれません。 言い換えれば、AI の理解が「十分シンプル」なのではなく、むしろ「予想より曖昧」である可能性がある。複数のレベルで揺らぎながら、文脈に応じて柔軟に動作するシステムだからこそ、単純な指示でも複雑な操作でも、結果がそこまで変わらないのだと考えられそうです。