AI は本当に『知能』なのか、神話を剥がしてみる

『統計的なパターンを拾う』って、要するに『過去のデータから確率で次の言葉を予測してる』ってこと？

そういうことですね。ChatGPT が文を生成するプロセスって、実は「次の単語は何が来やすいか」を、確率で選んでいるだけなんです。 膨大なテキストで学習した結果、「『天気が』の次には『良い』や『悪い』が来やすい」といった統計的な規則性を掴んでしまった。その規則性に基づいて、次々と「確率の高い単語」を選び続けることで、一見すると自然な文章ができあがる。だから「もっともらしく見える」わけです。 面白いのは、この仕組みだと、実は内容を理解していなくても成立するということ。「天気が良い日は気分も良くなる」という関連性を「理解」している必要はなく、統計的に「この単語が続きやすい」という確率さえ高ければいい。人間が読むと「ああ、このAIは気象と心理の関係を分かってるんだな」と勘違いしてしまうけれど、実際には言語のパターンマッチングをしているだけなのかもしれません。 つまり「知能っぽい出力」と「実際の思考」は、かなり別のものという見方もできそうです。

ChatGPT で仕事のメール文案を作ってもらったり、調べものをしたりしてる人は、この『理解していない』という指摘を知ると、何か変わるの？

実用面では、その人の使い方はほぼ変わらないと思います。メール文案の作成も調べものも、「完璧な理解」がなくても、統計的なパターンから「仕事に使える出力」を引き出せるなら、十分に機能する。むしろ問題は、その先の信頼度の判定にあります。 ChatGPT が「理解していない」と知ると、多くの人は無意識のうちに検証の仕方を変えるかもしれません。メール案なら「これで大丈夫？」という漠然とした確認で済ましていたのが、「実は確認が甘くていいのか」と立ち止まる。調べものでも「この情報、本当か」という疑いのアンテナが立つようになる。 その気づきが大事なのかもしれません。べつに ChatGPT を手放す必要はないのですが、便利さに身を任せるのではなく、「これは統計的な予測であって、現実との照合は自分がやる」という緊張感を保つ。「理解していない」という指摘は、テクノロジーそのものではなく、それへの向き合い方を問い直すきっかけになり得るということです。

学術出版業者が『AI は革命的』と宣伝するのって、実は AI の研究が本当に盛り上がってるから？それとも、別の理由で興味を引きたいから？

学術出版業者の側から見ると、両方が同時に起きてるのかもしれません。 AI 研究そのものは確かに盛り上がってます。論文数も増えてる。でも重要なのは、出版業者にとって「AI という言葉が注目を集める」ことが商売につながるという構造です。目次に「AI」と書いてあるだけで、その学術誌や論文集がメディアに取り上げられやすくなる。研究者も「AI」を冠すると引用されやすくなる。すると論文の購読数が増える。 記事で指摘されている「議論を複雑に見せる戦術」という視点で言えば、正確なのは「大規模言語モデルは統計的パターン抽出をしている」なのに、「AI は人間のように考える」と言った方が、もっとドラマティックで、議論を前に進めやすくなるわけです。退屈な真実より、神話の方が売れる。 実際には、学術出版業者と研究者と、テクノロジー企業の利害が微妙に絡み合ってて、それぞれが「AI は革命的」という物語を強化し続けてるのかもしれません。盛り上がってるから言ってるのか、言ってるから盛り上がってるのか、もう因果が逆転してる可能性もあります。

新しい技術が出るたびに『神話化』が起きるのって、『人間は複雑なものを理解したいから、シンプルなストーリーを作ってしまう』っていう共通パターンなの？

人間がシンプルなストーリーを求めるというのは一つの真実ですが、神話化はもっと利害的な側面があるんですよね。複雑なものを理解したいというのは個人の心理レベルの話。でも技術の神話化が加速するのは、そのストーリーを『売る側』と『信じたい側』の利益が一致したときです。 AI の場合、出版業者にとって「革命的な技術」という物語は、新しい論文を売る機会になる。投資家にとっては期待値を高める根拠になる。使い手にとっては、複雑な現実（費用対効果が曖昧、限界がある）から目を逸らす言い訳になる。だからストーリーは一人歩きする。 むしろ問題は、シンプルなストーリー自体ではなく、そのストーリーが『誰に都合が良いのか』に気づきにくいところにあるのかもしれません。蒸気機関やインターネットも同じように神話化されましたが、その時も、利益を得る側がナレーティブをコントロールしていた。つまり新しい技術のたびに起きる神話化は、人間の認知の癖というより、経済的な構造の問題に近いのではないかと言えそうです。

『AI は理解していない』という主張をする研究者にとって、この論文を発表することのメリットやリスクは何なんだろう？

研究者にとって、この指摘は確かに両刃の剣です。 メリットの面では、学術界での「異議唱えの価値」があります。今は AI 礼讃の言説が支配的だからこそ、冷たい視線を向ける論文は目立つ。引用されやすく、他の研究者の議論を刺激する。また、出版社やテック企業の利益相反を明示することで、学術の独立性を守る立場として信用を勝ち取れる可能性もあります。 一方、リスクはシンプルです。AI 関連の研究費や産学連携の機会が減るかもしれない。テック企業や、AI への投資で利益を得ている勢力からの圧力も考えられます。記事でも触れられている通り、このテーマ自体が「目をそらす戦術」と結びついている領域だからです。 興味深いのは、研究者が「本当は何ができていないのか」を指摘することが、同時に「学術出版の仕組み自体の信頼性を問う」ことになっている点。つまり自分たちが所属する制度そのものに疑いの目を向けているわけで、その覚悟がなければ説得力がない状況なのかもしれません。