3D データを AI に読ませるとき、「並べ方」が答えを左右する

「注意機構」って、AI がどの情報に注目するかを決める仕組みのこと？

そうですね。注意機構（アテンション機構）は、AI が膨大な情報の中から「どこを重点的に処理するか」を決める仕組みです。言語 AI で例えれば、「太郎は公園で犬を見た」という文を読むとき、「犬」という単語が出たら、その前後の「公園」「見た」といった関連情報に注意を集中させる。それらの情報の重みを計算し直すわけです。 この記事の 3D データの問題は、その注意機構が「データの物理的な位置」ではなく「ファイル上の並び順」に反応してしまっていたということ。データを並べ替えると、AI にとっては「全く違う入力」になってしまう。つまり、注意機構が「本当の空間的な近さ」を理解していないんです。 PACK3D では、この注意機構を再設計して、常に「3D グリッド座標」という絶対的な基準で情報の関係性を判定するようにした。どう並べ替えても、「このボクセルはあっちから2マス離れてる」という本当の距離関係だけを見る。だから安定するんですね。

医療画像の AI 診断がこの問題の影響を受けてたら、病院で同じ検査を順序違いで撮り直したら診断結果が変わる可能性があるってこと？

理論上はそのリスクがあったということです。医療現場では CT やMRI の 3D データを実際に診断に使っているので、この「並べ替え問題」がそのまま医療の精度に影響している可能性は十分ありました。 ただ実務的には、病院の機械は決まった順序で画像を出力するので、日常的には同じデータが同じ並び順で処理されている。だから診断ズレが表面化しにくい側面もあります。でも、別の病院で検査して、データ形式が微妙に違う、圧縮方法が異なる、といった状況では、同じ患者の同じ臓器なのに AI の答えがぶれるリスクがあった。 この PACK3D のような仕組みが重要なのは、そこなんです。医療 AI が本当に「患者の身体」を学んでるのか、それとも「ファイルの並び順」を学んでるのか。前者なら、どんな病院の機器で撮られたデータでも同じ診断ができるはずです。むしろ、この問題が解決されることで、診断の信頼性が業界全体で底上げされていくという側面もあるのかもしれません。

これまで医療画像を AI に学ばせるとき、この『並べ方に左右される』問題にずっと気づかれていなかったの？それとも知られてたけど放置されてたの？

気づかれていなかったわけではなく、むしろ「目に見えにくい落とし穴」だったんだと思います。 医療画像を 3D で処理する研究は増えてますが、実際には同じデータセットで何度も検証することがほとんど。つまり、研究チーム A が「このデータ順で 90% の精度が出た」と論文を出すと、別のチーム B も似た方法で同じデータセットを使う。すると B も同じ精度が出るので「うまくいった」と思える。問題は、データを並び替えて試す動機がなかったんですよね。 研究の世界では「再現性がある」＝「信頼できる方法」と見なされやすい。でも再現性とは、通常は「同じ条件で同じ結果が出る」という意味。データの並べ替えは「同じ条件」とは考えられていなかった。医療用 AI の実装段階になると、他の研究機関や病院のデータをまぜると性能が落ちる現象は報告されていたはずです。ただそれを「このモデルは汎用性に課題がある」と個別に処理してしまい、根本原因に行き着かなかった。PACK3D が明らかにしたのは、その根本原因が「空間位置の認識」にあったということなのかもしれません。

これって『本質を学ぶ』のと『ルールを学ぶ』の違い、つまり AI が『何を見てるのか』という根本的な話なの？

的確な直感だと思います。ただ、もう一段階細かく言うと、この研究が暴いているのは「AI は意図した内容と別のパターンを優先して学ぶ」という厳しい現実なんですよね。 医療画像で「腫瘍がここにある」と教えたつもりなのに、AI は実は「ファイルの何番目に置かれているデータ」という、人間には見えない特徴をキャッチして予測を当てていた。だから並べ替えると一気に崩れる。本質ではなく、訓練データに潜む偽のパターンをつかんでいたわけです。 PACK3D が「空間座標で索引する」という工夫をしたのは、AI の注意機構に「偽のショートカット」を使わせない枠組みを与えたということ。本当の空間的な近さだけが手がかりになるように、設計から強制する。 つまり『本質を学ぶ』と『ルールを学ぶ』の対立というより、むしろ「AI に何を見えやすくするか」という建築の問題なのかもしれません。AIは勝手に本質を学ぶわけではなく、学べるように仕組みを整えないと、都合よくサボるような機械なのだと考えても良さそうです。

医療以外の 3D データ、たとえば建築設計図や工業製品のスキャンでも、この並べ方の問題は同じように起きるってこと？

原理的には同じメカニズムが起きるはずです。建築設計図も工業製品も、3次元の情報をコンピュータに扱わせるときはデータを一列に変換する。その変換の「仕方」で AI の理解が揺らいでしまう。 ただ、実際に同じくらい問題になるかは、用途によって変わってくる気がします。医療画像の場合、学習に使う画像と実際の診断で見る画像の「見え方」がほぼ固定されているんですよね。同じ装置で撮られたデータで訓練するから、データの順序に偏りが生じやすい。だからこそ、その偏りに依存してしまう危険性が浮き出た。 一方、建築設計図は用途が多岐に渡ります。平面図として見たり、立体図として見たり、特定の部材だけ抽出したり。工業製品のスキャンも、スキャン方向や解像度がまちまちな可能性が高い。つまり、元々「並べ方」が揃わない環境なので、AI も「複数の見え方に対応する」訓練を受けやすくなる。結果として、データ順序への依存が相対的に弱まるかもしれません。 だから PACK3D のような手法は、データの「ばらつき」が少ない領域ほど、導入による改善が顕著になるのではないかと考えられます。