AIは『ユーザーが何を望んでいるか』を先読みできていない

『ファンタジア』って、この記事では何を指してるの？映画とは関係があるの？

記事で言う『ファンタジア』は、映画の題名ではなく、その映画で起きる現象を借りた比喩なんですよね。 映画『ファンタジア』では、魔法使いの弟子が曖昧な指示を出すと、その指示が勝手に拡大解釈されて、本来の意図と全く違う結果になってしまう。記事の著者たちは、この構図が今の AI とユーザーの関係に似ていると見立てたわけです。 あなたが「このレシピ、簡単にしたい」と曖昧に言う。すると AI は一方的に「じゃあ材料を3つに減らしましょう」と解釈して応える。でも本当は「調理工程を短くしたい」という別の意図があったかもしれない。あるいは、自分自身がまだ何を望んでいるのか、説明できていないのかもしれない。その時、AI が「プロンプト＝真の目標」と決めつけて応えてしまうと、ユーザーの本当のニーズからズレた回答が出来上がる。その状況を『ファンタジア』と呼んでいます。 つまり映画は単なる例えではなく、「曖昧な指示が勝手に進み始める」という現象の名前として機能している。次の世代の AI に求められるのは、その勝手な展開を止めて、ユーザー本人も気づいていない本当の目標を一緒に探る姿勢なのかもしれません。

ChatGPT に相談する時って、自分の目標がぼんやりしたままなことがほとんどなんですか？それって普通なんですか？

実際のところ、相談事って目標が明確な方が珍しいんだと思います。たとえば「転職先を決めたい」と思って AI に相談するとき、本当は「今の仕事が合わない」という漠然とした不安があるだけで、「どんなキャリアを歩みたいのか」はまだ自分の中でモヤモヤしたままじゃないでしょうか。人間同士の相談だと、相手が「それって要するにどういう状態が理想なの？」と何度も問い返してくれる。その問答の中で、自分たちも一緒に目標が浮かび上がってくる。 AI は今、その問い返しをほぼしない。プロンプトを文字通り受け取って、自分が得意な「答え」を返すことに集中しているんです。だから、ユーザーが試行錯誤の真っ最中なのに、完成された回答が返ってくる。それが「これじゃない」感につながる。逆に言えば、自分の目標がぼんやりしたままで AI に頼るのは不自然ではなく、むしろ人間らしい相談の入り口だということになります。今の AI はそこに対応できていないだけだと言えそうです。

AI が『ユーザーの質問＝真の目標』と決めつけるのはなぜ始まった？初期の設計がそうだったってことなの？

AI アシスタントの初期設計がそうなったのは、実は人間の側の「使い方の前提」が影響してるんですよね。 検索エンジンやヘルプデスクの世界では、ずっと「質問＝問題」の図式が成り立ってきた。ユーザーが入力した単語や文章を、いかに効率よく処理して答えに変換するか。その延長線で ChatGPT が生まれた時も、「テキスト入力→テキスト出力」という実装が、最もシンプルで確実だったわけです。 背景には経済的な制約もある。対話を深掘りするには、計算量が増えて、コストが跳ね上がる。初期段階では「一発で正確な答えを返す」という目標が、ビジネス的にも技術的にも優先されました。 そして何より、ユーザーの方も「AI に答えてもらう」という使い方に慣らされていった。だから「ちゃんと質問を書け」というプロンプトエンジニアリングが流行った。人が目標を整理してから相談する側に回らされたわけです。 つまり、AI の限界というより「答え主義」的な社会全体の習慣が、設計にも使い方にも組み込まれてしまったということなのかもしれません。

結局これって『相手が何を求めてるか先読みする』ことの難しさは、AI に限らず人間同士でもあるってことなの？

本質を突く疑問ですね。確かに人間同士でも同じことは起きます。ただ、決定的な違いがあるのは、人間は「相手が曖昧なままでいること」を察知して、そこから対話を始められるってことです。 友人が「どこか行きたいんだけど……」と迷ってたら、人間なら「何が気分なの？」「最近疲れてる？」と探り始める。その過程で相手の奥底にある本当のニーズを掘り起こしていく。失敗もするし、ズレることもあるけれど、人間は「相手がまだ答えを持ってない状態」を前提にやり取りしてる。 AIの問題は、入力された質問を「確定された目標」として処理してしまうところ。「何を書くんですか？」という質問に対して、パッと構成案を出してしまう。そこに「でもあなた、本当に何か書きたいのかもはっきりしてませんよね」という問い返しがない。 つまり、人間同士の対話でも先読みの失敗は起きるけれど、失敗から立ち直る仕組みが組み込まれている。AIはそこが欠けてて、むしろ間違った解釈を素早く深掘りしてしまう危険性がある。相手が迷ってる時こそ、慎重に進むべきなのに、という構図に見えます。

AI が『単に答える』から『試行錯誤に付き添う』に変わると、何か失われるものや問題が生まれたりしない？

実は失われるものより、関係性そのものが変わる点が大きいんじゃないでしょうか。 いま AI との距離感は「答え手」「道具」で成り立ってます。だからユーザーは質問を投げたら、さっと答えを受け取って去る。最小限のストレス、余計な会話なし。これが現在の AI の「便利さ」の正体です。 けれど「試行錯誤に付き添う」となると、AI は一気に「思考の相棒」に格上げされる。つまり、ユーザーが答えに到達するまで AI が寄り添い続ける。その過程で「本当に言いたいことはこれですか」と何度も確認したり、別の視点を示したり、「まだ決まってなくていいんですよ」と落ち着かせたりする。 そこで失われるのは「効率性」です。時間がかかります。答えを求める人には鬱陶しいと感じるかもしれません。 でも別の問題も浮かぶ。AI がユーザーの思考に深く関与する分、その AI の「思考の癖」がユーザーに刷り込まれるリスクが増す。つまり、相棒的な関係が強いほど、気づかないうちに AI の「見方」に自分の思考が引き寄せられていく可能性があります。これは独立した判断を求める場面では危険かもしれません。