ロボットが学ぶとき、AI が忘れない仕組み

『勾配』って何？ロボットに指示を出すときになぜそんなもを流す必要があるの？

AI が学ぶとき、ちょうど人間が試行錯誤するのと同じように、「今のやり方は正解に近いのか、遠いのか」を測る必要があります。その距離を教えるのが勾配です。 具体的には、ロボットが「つかむ」という動作をしたとき、実際の結果と理想の結果の差を計算します。その差を基に「この部分のAIの重みを、この方向に、この強さで調整すべき」という指示が勾配。矢印と強さのセットだと思えばいい。値が大きいほど「ここは大きく修正しろ」という意味になります。 ロボット制御は言語理解より複雑で、その誤差が大きくなりやすい。だから勾配も強くなる。記事で「連続的で大きな値」と書かれているのはそれです。ところが強い勾配を流すと、AI の内部を大きく改造する羽目になって、副作用で「画像を見て答える」という古い力まで壊れてしまう。 AEGIS は、その強い勾配が通るルートを器用に変えることで、新しい学習は効率よく進めながら、昔の知識には触らせない。経路を工夫する賢さが、この仕組みの肝と言えそうです。

こういう技術が進むと、将来ロボットが家事を手伝ってくれるようになったとき、何か違う学習をさせると今できてたことができなくなっちゃう、みたいなことが起きないってこと？

その通りの危機感ですね。家事ロボットが複数のタスクを学ぶたびに、以前のスキルが壊れてしまっては、実用的じゃない。AEGIS みたいな技術は、まさにそこを狙っています。 ただ注意すべきは、完全な解決ではないということ。AEGIS は「古い知識をほぼ守る」までは言えますが、新しく学ぶスキルの質と、古い知識の保全を完璧に両立させるのは、本質的に難しい。たとえば、皿洗いに最適化していたロボットが、同時に窓拭きも覚えようとするとき、その勾配の向きを工夫しても、微かに何かはこぼれ落ちるかもしれません。 実際の家庭用ロボットは、この問題をもう一つ別の方向で解いていくはずです。つまり、新しいタスクを学ぶたびに「まったく最初から学び直す」のではなく、基礎となる画像認識や運動制御の層は固定して、その上に『タスク専用の浅い層』だけを積み重ねていく。スマホのアプリみたいに、下層 OS は変えずにアプリを足していく感覚。AEGIS はそのアプローチを支える一つの部品になると考えても面白そうです。

ChatGPT みたいな強い AI が出てきた最近になって、これを『ロボットの脳』として使いたい人が増えたから、この問題が急に注目されるようになったってこと？

その通りなんですよ。ここ数年の流れを見ると、大規模言語モデル（LLM）の登場で、ロボット工学の課題が一気に表面化した感じです。 従来のロボット制御は、特定のタスク向けに一から学習させる方法が主流でした。だからこの「既存知識の喪失」という問題は、あまり顕在化していなかったんですよね。ところが ChatGPT のような汎用モデルが出てくると、「わざわざ何百万パラメータもあるこの賢い脳を、ロボット向けに流用できないか」という発想が広がった。画像認識、テキスト理解、推論……既に備わってる能力を活かしたまま、新たにロボット操作を足したい、という動機です。 つまり今の問題は「強い AI が出たから」というより「強い AI を『改造する』という贅沢な困難に直面した」と言えそうです。昔は一から作るしかなかったのに、いま初めて「完成品をどう調整するか」という上流の課題に突き当たってるわけです。実はこれは、AI 全体が成熟した証でもあるのかもしれません。

『新しいことを学ぶ』と『昔のことを忘れない』が両立できないって、生き物の脳とか組織学習でもよくある根本的なジレンマなの？

たしかに生き物の脳でも組織でも、同じジレンマが繰り返されてるんですよね。 脳の神経細胞は、新しい経験で古い回路を上書きするプロセスを通じて学ぶ。なのに上書きしすぎると、確立された記憶まで消えてしまう。だから脳は『巩固化』という仕組みで、重要な記憶は強く固定して、新しい学習の影響を限定的にしている。企業も同じで、新しい事業に適応したければ組織を変えなきゃいけないのに、変えすぎるとコア競争力が瓦解する。 ただここが面白いのは、AI がこのジレンマを「技術的に解く」可能性があるってこと。生き物は脳全体を一気に書き換えるしかなかったから、忘れるか、適応が遅れるかのトレードオフを背負わされた。でも AEGIS みたいなシステムは、勾配の流れを層ごとに分離して、本来なら必ずぶつかる矛盾を回避できる。 つまり、生き物の脳では『根本的』に見えたジレンマも、設計の自由度が高い AI なら、実は『実装の工夫』で乗り越える問題だったのかもしれません。

この AEGIS という仕組みで AI が『古い知識を忘れない』ようになると、逆に『古い間違いや古い癖も消えにくくなる』ってことはないの？

鋭い指摘で、その通りの側面があると思います。AEGIS が「古い知識を守る」というのは、正確には「古い知識の方向性を守る」という限定的な保護なんですよね。 たとえば、画像認識の過程で「これはネコ」と判定する前に、脳内で「四本足で毛がある」という低レベルの特徴抽出がすでに済んでいる。その層の重みを変えない方向に勾配を調整することで、ネコ認識能力は守られます。でも、もし訓練データに「茶色いものを見たら警戒する」という古い癖が埋め込まれていたら、それも同じく守られてしまう可能性があります。 ここが難しいところで、「何が知識」で「何が癖や偏見」なのかは、層のレベルでは区別がつきません。AEGIS は数学的に「古いものを守る」最適化をしているだけだから、その中身まで吟味していない。つまり、良い知識も悪い癖も一律に「守るべき資産」として扱われるリスクはありそうです。ロボット制御という限定的なタスクなら問題は小さいかもしれませんが、より複雑な応用へ広げていくときは、この「選別のなさ」が課題になってくるのかもしれません。