AIは科学研究を脅かしているのか……数学をめぐる論争があおる懸念（BBC News）

『ミレニアム懸賞問題』って、ただ難しい数学の問題ってだけじゃなくて、特別な意味がある問題なの？

ミレニアム懸賞問題は、単に「難しい問題」という枠を超えています。クレイ数学研究所が2000年に設定した7つの未解決問題で、各問題を解いた者には100万ドルの賞金が授与されます。つまり、数学界が「これは人類にとって意味がある」と公式に認定した問題というわけです。 記事で挙げられるナビエ・ストークス方程式は、流体の動きを記述する基礎方程式で、天気予報から飛行機の設計まで、現実世界の無数の現象に関わっています。解けば、科学技術全体に波及する可能性がある。だからこそ、その問題を「解いた」という発表が、オープンAIとバックマスター氏のチーム双方の研究者から注目されていたんですね。 この記事の本質は、AIが答えを出すことより、その過程で何が起きたのか、信頼が揺らぐ可能性にあります。100万ドルの懸賞金がかかった問題だからこそ、その解答プロセスの透明性や正当性が問われるようになった。つまり、ミレニアム懸賞問題は、AIが科学的プロセス自体を脅かすのではないかという懸念の象徴として機能していると言えそうです。

AIが研究論文に偽の引用や架空の論文を作り出してるって話だけど、医療や日用品の開発って、その成果に頼ってるんじゃないの？

医療や日用品の開発は、確かに先行研究に頼っています。でも、その依存の仕方が実は想像より段階的で、フィルターが複数重なってるんですよね。 一つの架空の論文が引用されても、それが即座に次の開発につながるわけではない。実験室で検証される段階で、その主張が本当に成り立つのか試される。もし架空なら、再現できないから気づく。医療なら臨床試験という極めて厳しい検査が待ってる。日用品でも、実際に作って試してみる段階で、理論と現実のズレが露わになる。 ただ、問題はそこじゃなくて、研究開発の効率が落ちることにあります。架空の論文を信じて半年かけて追い求めても、結局は死路。その半年で本当の発見に到達できたかもしれない。記事で触れられた通り、架空の引用は昨年だけで14万7000件。この量の「無駄な回り道」が積もると、新薬やグリーンテクノロジーの実現が遅れていく。 直接的な危害より、科学全体のペースが落ちる方が、長期的には恐ろしいのかもしれません。

グーグル・ディープマインドが2020年にたんぱく質の折り畳み構造を解いたときは『転換点』と呼ばれてたのに、その後の新素材研究では信頼性を疑問視されてるって、この間に何が変わったの？

同じAIでも、扱う問題の性質がガラッと違うんですよね。 たんぱく質の折り畳み構造は、物理法則に従う「一つの正解」が存在する問題だった。AIが予測した形が実験で確認できるかどうかは、わりと明快に判定できます。だからアルファフォールドは、予測精度で信頼を勝ち取った。 でも新素材研究は、話が複雑になる。AIが「38万個の有望な化合物」を生み出したという主張を、どう検証するのか。カリフォルニア大学の化学者たちが指摘したのは、AIが自らの成果の「新規性」を過大に判定してしまう傾向です。既知の物質と見た目が似ていても、一つの原子を変えれば「新しい」と判断してしまう。 つまり、同じAIでも、相手が「ほぼ正解か不正解か」という二者択一なら信頼できるけれど、「どの程度、本当に新しいのか」という段階的な判断を求められると、曖昧さに埋もれてしまう。成功体験が大きかったぶん、その後の主張が過膨張しやすくなる側面も あるのかもしれません。

つまり、AIスロップの問題って『道具自体の問題』じゃなくて『その道具を使う人間のプロセスや倫理が崩れてる』ってことなの？

記事を読むと、その両方があるんですよね。AIスロップそのものは確かに人間の選択の結果です。偽の論文を引用するのも、架空の研究を作り出すのも、人間が意図的に、あるいは怠惰にそうしている。でも記事で浮かぶ本当の脅威は、むしろ「人間がAIの出力を疑わなくなっている」という点にあります。コーネル大学のチームが発見した14万7000件の架空研究の引用も、研究者がAIを使って「効率的に」まとめた結果。つまり、ツールの便利さが人間の検証プロセスを無視させてしまっている構造があるんです。 グーグル・ディープマインドが200万個の新結晶を生み出した時、人間の化学者が「実は既知物質の微変更では」と指摘するまで、誰も疑わなかった。AIの自信満々な出力に、人間側が逆に自信を失ってしまったという側面もあります。コーリ教授が「誰かが責任を負わなくてはならない」と言うのも、これなんです。道具そのものというより、道具に判断を委譲する癖が、科学の信頼基盤を蝕んでいるのかもしれません。

科学論文が信頼できなくなると困るのは研究者だけじゃなくて、その研究成果に基づいて政策を決めたり投資したりする企業や政府も被害を受けるってわけ？

正にそこですね。研究論文の信頼が崩れるダメージって、研究室の中に止まらないんです。 記事でも触れられていますが、ある発見が発表されると、別の研究チームがそれを基に資金を得て次の研究を進める。この連鎖が科学の進歩を作ってます。もし論文に架空の引用や誤った結論が含まれていたら、その上に立てられた研究全体が砂上の楼閣になってしまう。 企業や政府の判断はここに直結します。新薬開発の投資判断、環境政策の根拠、技術開発の優先順位―これらはすべて「信頼できる科学論文」を前提にしてます。もし査読済みの論文がAIの幻覚や架空データに汚染されていたら、ミリオン単位の資金が無駄になるだけじゃなく、誤った政策決定につながりかねない。 記事が「公的資金は無駄に使われ、新薬やグリーンテクノロジーといった正当な研究の成果は遅れるか、あるいは全く実現されない」と指摘しているのは、その連鎖の恐ろしさを言ってるんです。信頼喪失って、実は社会全体のコスト問題なのかもしれません。