動画AI、『わかりません』と質問する力を身につける

『AskStream』ってベンチマークのデータセットらしいけど、438本の動画に2,714個のフレームってタグ付けすることで、AI はどう学ぶの？

タグ付けされたデータセットというのは、AI にとっての「正解の地図」みたいなものです。438本の動画で、各フレームごとに「ここは情報が足りているから答えられる」「ここは曖昧だから質問すべき」「ここはまだ待つべき」という正解ラベルが2,714個付いている。AI はこれらの例を何度も見て、パターンを学んでいきます。 イメージするなら、医学生が1000枚のレントゲン写真を見て「ここが異常」と先生に指摘してもらうのと同じ。AI も膨大な「正解例」を通じて、情報の不足を嗅ぎ分ける感覚を身につけるわけです。 ただ、記事で「最先端の AI でも52%程度の正解率」と書かれているのが興味深いです。これは言い換えると、2,714個のタグ付けだけでは、この判断能力を十分に学ばせるには足りないということ。データの量・質、そしてどんな「曖昧さ」をどう表現するかが、AI がこうした繊細な判断を身につけるうえで大きな課題になっているのかもしれません。

オンラインカスタマーサポートで AI チャットボットに聞いた時、的外れな答えが返ってくることあるけど、この研究が進むと、そういう場面で『確認させてください』と聞き返してくるようになるってこと？

その通りの方向性ですね。今のカスタマーサポートボットは、質問が曖昧なままでも「確認します」ではなく、推測で答えてしまう。例えば「商品が届かない」と言われて、実は配送中なのか紛失なのか、そもそも注文がどの商品かも不明なのに、一般的な対応を返してしまう。 この研究の意義は、その推測精度を上げることじゃなくて、逆に「わからないことを認識する力」を AI に持たせることです。「商品番号と注文日を教えていただけますか」と、ボット側から聞き返せるようになる。 実際に現場に導入されるには、いくつか乗り越える壁があります。ユーザーは長々と質問し返してくるボットにイライラするかもしれない。業界によっては、多少のデタラメでも素早く答える方が求められるかもしれない。でも少なくとも、金銭トラブルや重要な手続きを扱うサポートなら、「わかりません」と言える AI の方が、むしろ信頼につながる側面もあり得そうです。

動画 AI が『わかりません』と言える力が注目されるようになったのって、最近の生成 AI がデタラメを自信満々で答える問題が顕在化したからなの？

因果関係を一本につなぎすぎるのは危ないかもしれませんね。 確かに生成AIの「ハルシネーション」問題は、ここ数年で認知が広がりました。ChatGPTが登場して、AIが自信満々にデタラメを返すことが一般にも知られるようになった。その文脈で見ると、この研究は「だからこそ、AIが不確実さと向き合う力が要る」という流れに見えます。 ただ同時に、動画理解の特殊性もあるはずです。テキストなら曖昧な質問を文字で返し続けられるけれど、動画は「どのシーン？」という情報が初めから散逸している。映像が低解像度だったり、質問が「この人は誰？」と素朴だったり。動画という媒体では、不完全な情報への向き合い方が、テキストAIより本質的に問われやすいんだろう。 だから因果は単方向じゃなく、生成AIの問題が社会的な関心を高めつつも、この研究は「情報が欠ける場面での判断」という学術的な課題に正面から取り組んでいるんだと言えそうです。時代的な追い風と、分野固有の必要性が重なった動きに見えますね。

これって要するに『AI が知識の限界を認識する』ってことだけど、それって人間が成長する時の『わからないことを自覚する』のと同じプロセスなんだっけ？

表面的には似てますけど、根本が違う気がします。 人間が「わかりません」と言うときって、多くの場合、自分の知識体系に「穴」があることに気づいている状態なんですよね。その穴を埋めたい、もしくは埋められる可能性があると感じるから質問する。つまり「知らないこと」と「知れることの違い」を区別してる。 この研究の AI が学ぼうとしてるのは、むしろ「今ここで答えるべきではない」という判断基準です。足りない情報が何かを識別して、その情報を誰かから引き出すトリガーを引く。でも、それが本当に「知らない」という自覚なのか、単なるパターンマッチングなのかは、記事からだけでは区別しにくい。 正解率52%ってところが示唆的で、これはむしろ AI がまだ「質問する」という行為の意味を理解していない段階を映してるのかもしれません。人間は質問を通じて世界観を更新していきますが、AI は質問を「出力パターンの一つ」として学習してるに過ぎないのかもしれない。プロセスは似て見えても、内面の動きは全然別物と考えても不自然ではなさそうです。

AI が『教えてください』と質問するようになると、ユーザー側は『AI に情報を与える手間』が増えるけど、そこは誰にとってメリットがあるの？

短期で見ると、ユーザーは確かに手間が増えます。でも長期で見ると、その手間が AI の精度を劇的に改善する投資になる側面がある。デタラメな回答を何度も修正するより、最初から「ここを教えてほしい」と指摘してもらう方が、結果として ユーザーの負担は軽くなるかもしれません。 それに、質問されることで、ユーザー自身の「欲しい答え」がより明確になる効果もありそう。曖昧な質問をしていたことに気づいたり、自分は何を知りたいのかが言語化されたり。対話を通じて問題を解き明かすプロセスそのものが価値になることもあります。 メーカー側としては、「質問できる AI」は信頼度が高い。無理に答えるより「わかりません」と正直に言える方が、むしろユーザーに信頼される。質問という行為を通じて、AI のモデルを改良するデータも集まる。つまり、手間は苦痛ではなく、AI 育成の協働作業として組み替わっていく可能性があるのかもしれません。