AIロボットが迷ったとき、人間が『地図を見せて』と言える仕組み

『タスク計画』って、AIが頭の中で考えてることをそのまま言語化したものってこと？

そう、ほぼそのイメージです。ただ「頭の中で考えてる」というより「AIが次のアクションを決める過程」を可視化したと言うほうが正確かもしれません。 AIが予約サイトを操作する場合、内部的には「このタスクを達成するために、どういう順序で何をすべきか」という選択肢を絞り込んでいます。『ホテル名を入力フォームに打ち込む→検索ボタンをクリック→結果から日付を選択』みたいな流れですね。その選択過程そのものを、人間が読める言葉や図解に変換しているのがPlover の仕組み。 面白いのは、これまでのAIは「この計画は秘密」だったわけです。ユーザーから見ると、AIが何を考えてるか、なぜ失敗したかが完全に黒箱。でもPlover は計画段階で「こういう手順で進もうと思います」と見せてしまう。すると人間が「いや、そこじゃなくてこっちのボタンだ」と横から口を挟める余地が生まれる。AIの思考プロセスを透明にすることで、修正が修正じゃなく「指示出し」になった、という側面が大きいのかもしれません。

オンラインショッピングやアプリ操作で自動化が失敗したときって、今までは最初からやり直してたけど、このシステムがあれば途中から修正できるようになるってこと？

そうですね。これまでのAIロボットは「失敗したら全リセット」の運命にあったんです。予約の途中で予想外のポップアップが出たら、AIはそこから先の計画が立てられなくなって、ユーザーは一から始める羽目になる。その無駄感ってすごくありますよね。 Ploverが違うのは、AIが立てた計画が目に見える形で表示されるから、人間がそこに割り込める点。たとえば「あ、このステップは違う画面だ」と気づいたら、その場で「ここからやり直してほしい」と指し示すだけで、AIはそこから先のプランを組み直す。完全に破綻するのではなく、修正が入ることで進み続ける感じになるわけです。 面白いのは、これって従来の「全自動」と「全手動」の間に新しい領域をつくってる点。AIが70%やってくれて、人間は「ここから」という最小限の修正だけで済む。6人のテストではそれが実際に効いたと言えそうです。スマホで何かしながらAIに任せておいて、ちょっと様子がおかしかったら「地図を見せて」と言う感覚。自動化なのに付き添う感じ、と言えるのかもしれません。

AIロボットが迷う問題って、ずっと前からあったんだけど、なぜ今になってこういう『人間が介入する』という発想が出てきたの？

AIが「迷う」こと自体は昔からあったんですが、解決策の考え方が大きく変わったんだと思います。 以前は「AIをもっと賢くする」一択だった。データをたくさん学習させて、予想外の状況でも対応できるAIを目指す。でも現実には、Webサイトの仕様は日々変わるし、新しいUIが次々と登場する。AIだけで完璧に対応するのは、実はかなり難しいんですよね。 ここ数年、大規模言語モデルが実用段階に入ってきたことで、状況が変わった。AIが「計画を立てる」という中間段階をはっきり見えるものにできるようになった。だから逆転の発想で、『AIが完璧である必要はなく、失敗を人間が修正する方が早いんじゃ』という考え方が浮上した。 言い換えると、AIと人間の役割分担が再定義されつつあります。AIは全体の枠組みを作り、人間は例外処理を担当する。昔は「AIが万能になるまで待つ」だったのが、いま「AIと人間で補い合う」という現実的な棲み分けが見えてきたのかもしれません。

これって『AIに完全自動化をさせるのではなく、人間がいつでも修正できる余白を残しておく』という考え方なの？

その通りを通り越して、もっと実用的な戦略なのかもしれません。 完全自動化を目指すと、AIが想定外の状況に遭遇したとき「失敗」で終わります。何が起きたのか、どこで止まったのか、ユーザーには真っ暗。修正しようにも手がかりがない。だからいつまでも「AIはまだ信頼できない」という評価が続いてしまう。 Plover の発想は、そもそも「完全自動化なんて目指さない」ということです。AIに計画を立てさせて、それを人間に見える形で提示する。間違っていたら人間が修正する。その過程を繰り返すことで、実は多くのタスクが完結する。 つまり、AIの「得意な部分（計画立案、反復的な操作）」と人間の「得意な部分（状況判断、創意工夫）」をきれいに分けているんですね。完全自動化ではなく、段階的・柔軟な自動化。人間が常にハンドルを握れる状態で、必要なときだけ手を出す。 実験で6人の使い手を試した時点で「うまくいった」と言えるのは、この考え方が現場で実際に役に立つ形になってきたという意味なのかもしれません。

AIの計画が見える化されると、人間はAIの失敗を修正できるようになる一方で、AIが何を考えてるかバレてしまうことで、セキュリティとかプライバシーの問題は生じないの？

AIの計画を見える化するということは、一種の「透明性」を取ることですね。その透明性が、セキュリティやプライバシーの穴を開けるのではという疑問は、一見もっともに聞こえます。ただ、ここで考えておきたいのは、この仕組みがいつ機能するのか、という点です。 Plover が表示する計画は、基本的に「あなたのパソコンの画面上」に出ている情報です。つまり、Webサイトに表示されているテキスト、ボタンの位置といった、既に目に見えている世界の中で、AIが「次どこをクリックするか」を人間に見せているに過ぎません。ここには、隠れたデータやバックエンドの秘密が含まれていない。 むしろセキュリティの観点からすると、AIが迷った状態で勝手に何度も試行錯誤するほうが、入力ミスや不正アクセスのリスクが高まる場合もあります。人間が介入して「ここはこう入力しろ」と示すことで、むしろ誤動作を防げるという側面もありそうです。プライバシーの懸念は、どのアカウント情報を扱うかという運用面の問題であって、見える化そのものの問題ではないのかもしれません。