ChatGPT は株価予測を本当に正しく判断できるのか

『幻覚』って、AI が嘘をついてるわけじゃなくて、自分で間違ったこと信じ込んでるってこと？

AI の「幻覚」を「嘘をつく」と「信じ込む」で分けるなら、後者が近いかもしれません。ただ、その区別自体が曖昧になるのが厄介なところです。 ChatGPT のような言語モデルは、膨大なテキストから「次に来そうな言葉」の確率を学んでいます。だから、金融データについて聞かれたときに、「それっぽい答え」を高い確度で組み立ててしまう。その過程で、実在しない企業名や数字を平気で混ぜ込むことがある。AI 自身に「これは学習データにありました」「これは推測です」という区別がないんです。 つまり、AI は嘘をついているのではなく、確信度を持ったまま不正確な出力をしてしまう。人間なら「これは知らない」と判断する局面で、AI は「文法的に正しそうだから出力する」という判断をしてしまう。その意味では、自分で信じ込んでいるわけでもなく、単に「信じ込むかどうか」を判定する仕組みを持っていないということかもしれません。 だからこそ、この記事で紹介されている枠組みが面白い。計算は信頼できるツールに任せ、AI に「判断」だけさせることで、幻覚が影響する余地を減らしているというわけです。

投資アプリとか証券会社が『AI が銘柄を分析します』って言ってるのって、この論文が言う『ツール組み合わせ型』なの、それとも『丸投げ型』なの？

記事の論文が指摘した問題は、実はその通りなんです。投資アプリや証券会社が謳う「AI 分析」は、ほとんどが『丸投げ型』に近いというのが実情のようです。 なぜなら、ツール組み合わせ型は手間がかかるから。信頼できるデータソースを厳選して、AI がそれらを適切に選別・組み合わせる仕組みを用意するには、金融機関側の検証と保守が必須になります。それなりのコストですよね。一方、丸投げ型なら、AI を走らせるだけ。説明文も自動生成できるし、見た目も立派です。 もっと言えば、丸投げ型の方が「分析感」を演出しやすい。数字をバーッと出して、それっぽい根拠を語ると、ユーザーは「AI が深く考えてくれてる」と感じる。ツール組み合わせ型は、「どのツールで、どういう順番で判断したか」という透明性を示さないと意味がないので、むしろ地味に見えるかもしれません。 ただし、金融庁の監視がどんどん厳しくなっていく可能性は高い。それになれば、企業側も検証可能な仕組みに切り替えざるを得なくなるのかもしれません。

AI の金融分析が今まで信用できなかった理由って、技術が未熟だったからなのか、テスト方法が悪かったからなのか、実はどっちが大きかったの？

ここで面白いのは、実は両方が悪かったんじゃなくて「測り方が悪いと、技術の本当の姿が見えない」という順序の話なんですよね。 AI の計算能力そのものは、実はずっと前から高かった。でも従来のテストは AI に「データ分析して、計算して、説明する」をまとめてやらせていた。すると、計算は正しくても説明が下手だと低く評価される。逆に、計算は間違ってても説得力のある説明をする AI は高く見える。つまり「AI の何が悪いのか」が曖昧なまま『金融分析は信用できない』という一般的な評価になってた。 新しいテスト方法でツール選択能力だけを切り出してみたら、現代の AI はけっこう優秀だった。これは「技術が急に進化した」というより「今までの評価が AI の弱点を隠してくれていた」という側面が強そうです。 言い換えると、AI の金融分析が信用できないのは、むしろ人間の側が「AI に何をさせるか」の設計を間違ってた。AI に全部やらせるんじゃなく、計算は機械、判断は AI という役割分担にすれば、思ったより実用的になる可能性が見えてきたということなのかもしれません。

これって『専門家は計算より、何をするかの判断の方が大事』という話を、AI にも当てはめた感じ？

その通りですね。金融の専門家って、複雑な計算そのものよりも「この場面では移動平均線を見るべき」「いや、ボラティリティ指標の方が重要」といった判断の方に時間と経験を費やしている。その専門性の本質を、AI テストも模倣したわけです。 従来のテストは「計算結果は合ってるか」を見ていて、それは実は簡単な部分。むしろ難しいのは「どの分析手法を選ぶか」という判断力。市場が平穏なときと乱高下してるときで、どのツールが有効かは変わる。その文脈判断ができるかどうかが、本当の実力なんですよね。 つまり、計算はコンピュータが完璧にやるから、AI の価値は「判断層」に集約される、という見立て。人間の専門家も実は同じで、計算機を使う時代からは「何を計算させるか」が専門性になっていた。その構造をそのまま AI に適用したら、AI の本当の強さと限界が見えてきた、というわけです。だから「計算丸投げはダメだけど、思考と計算の役割分担ならいける」という結論に説得力がある感じ。

AI が『どのツールを使うか判断する』って得意になると、逆に『ツール選びの責任を誰が負うのか』って問題が出てくるんじゃないの？

その視点、鋭い。実は、記事が測定してる「判断能力の高さ」と「責任の所在の曖昧さ」は、硬貨の表裏なんですよね。 AI が「このツールを使います」と正確に選べるようになるほど、人間は「AIが選んだなら間違いないだろう」と頼ってしまう。すると判断が正しかったときは AI のおかげで、間違ったときは「AI が悪いツール選んだ」と責任転嫁しやすくなる構図が生まれます。 でも本来、金融の判断って、ツール選択だけじゃなく、その後の解釈が重要。同じ数字でも「リスク許容度が高い投資家」には良いツール選択でも、「定年前の保守的な投資家」には不適切かもしれない。AI はそういう文脈を持ってない。 だから paradox は、AI の能力が上がるほど、むしろ人間が「最終判断は誰がする」を明確にしておく必要が増すということ。95% の正確さって聞くと安心できますが、それは「ツール選択」に限った話。その結果の解釈と責任は、やはり人間が引き受けるしかない領域のようです。