AIが「わかりません」と言える力を、ちゃんと測ってみた

『不確実性を認識する』って、AIの世界ではどういう訓練を指してるの？

AI が「わかりません」と言う力は、実は技術的には簡単ではありません。単に「信頼度が低いときは答えるな」と指示するだけでは不十分だからです。 訓練というのは、答えられない場面を明示的に含んだデータセットを用意することを指してるんですよね。たとえば「この写真だけでは判断できない」という正解例を何千件も与える。すると AI は、学習の過程で「情報が不足している → 答えてはいけない」という相関関係を認識していく。 ただ通常、AI は「できるだけ何か答えよう」という方向で最適化されているので、わざわざ「答えない」という選択肢を価値あるものとして学ぶ必要があります。つまり、不確実な状況を答えない行為に報酬を与える。この報酬の仕組みを訓練段階で組み込むことが、根本的な改革なのだと考えられます。 単なるプロンプトの工夫ではなく、AI の目的関数そのものを変える。そこまで踏み込まないと、本当に信頼できる AI にはならないということなのかもしれません。

ChatGPTに仕事で質問するとき、『これはAIが知らない可能性がある』ってどうやって判断すればいいの？

正直に言うと、今のあなたが「ここはAIが知らない」と判断するのは難しいんです。なぜなら、AIがどこまで学習しているのか、外からは見えないから。むしろ記事の文脈で言えば、AIの方が「わかりません」と言える力が弱い。つまり、AIが自信たっぷりに答えたからといって、それが正しいとは限らない危険性ですね。 実務的には、こういう場面では要注意です。写真や動画など、目で見える情報が必要な質問。「2026年4月20日時点での最新情報」といった時間軸が関わる質問。社内ルールや個別の事情など、世間一般の知識では判断できない領域。こういったときはAIの回答を参考値にしつつ、自分で別の情報源を当たるという二重チェックが必須になります。 大事なのは「AIが答えたから正確」ではなく「AIは間違えるかもしれない」という前提で使うこと。むしろAI側が「わかりません」と言わないからこそ、あなたが慎重になる必要があるんです。その判断の責任は、今のところあなたの側にあるままなのかもしれません。

今まで AI の精度を上げることばっかり目指してたのに、なぜ最近『わかりません』と言える力が重視されるようになったの？

AI が世に出た当初は、「とにかく答えを出す」こと自体が目標でした。問題を解く、質問に応じる、その実行力を競っていた。精度も大事ですが、まずは動くことが優先だったんですよね。 でも使う人が増えて、現実に組み込まれるようになると、話が変わる。医療診断、法律相談、ニュース記事の執筆など、間違った回答が社会に直結する場面が増えてきた。そうなると「精度が高い」では足りない。自分が答えられない領域を知っていることが、信頼そのものになる。 言い換えると、AI が「便利な道具」から「判断を委ねる相手」へ立場が変わったということ。道具なら多少トンチンカンでもいい。でも判断を任せるには、誤魔化さない正直さが必須になる。不確実性の高い場面で「わかりません」と言えない AI は、逆に危険な相手になってしまう。この研究が出てくる背景には、そうした社会的プレッシャーがあるのかもしれません。

これって『正確に答える力』と『間違ってることを認識する力』のバランスが、人間も AI も大事ってことなの？

正確さと誠実さは別の問題なんですよね。人間の場合、この二つは割とセットで育つから混同しやすいんですが、AI だとくっきり分かれるのが面白い。 ChatGPT のような AI は、実は正確に答える力そのものはそこそこ高い。ただ、「このデータセットでは学習できていない」「矛盾がある」という状況で、自分の限界を認識する回路がない。だから無理にでも何か出力してしまう。訓練時に「正解を出す」ことばかり最適化されているから、「沈黙する」という選択肢が組み込まれていないんです。 人間は幼い頃から「知らないことは知らないと言おう」と言われて育つ。これは誠実さの訓練であり、同時に信頼関係の基礎です。一方 AI は、テキストやラベル付けされたデータセットで学習する過程で、「いつも何か答えるのが正義」という圧力がかかる。だから改善には、テスト方法の工夫ではなく訓練の設計そのものを変える必要があると研究は指摘しているわけです。正確さ以前に、自分たちの「わかりません」を言語化する筋肉を、AI に付けてやる段階から始めないといけないのかもしれません。

『わかりません』と正直に言う AI ができたら、逆に困る場面ってあるの？

一番困る場面は、おそらく医療や法律の相談の現場だと思います。 医者に「これはがんですか」と聞いて「わかりません」と返されたら困るし、弁護士に「裁判で勝ちますか」と聞いて「わかりません」と言われても役に立たない。でも実は、医者だって弁護士だって、確実でない診断や判断の場面では慎重になります。その慎重さが信頼につながる。 ところが AI の場合、その慎重さが「使える感」に直結しないんですよ。人間相手なら「判断を保留している＝プロとして責任を持っている」と受け取れるけど、AI だと「情報不足で役立たずだ」と映りやすい。 逆に言うと、AI が正直に「わかりません」と言えるようになると、私たちは AI の限界と付き合い方を学べることになります。写真からは読めない情報がある、数字の矛盾がある、そういうときに AI は立ち止まる。それを前提に、自分たちでどう補うか考える。 困るというより、むしろそこから AI との使い方が一段階進化する転機になるのかもしれません。