AI が買い物をするとき、人間と同じ落とし穴にはまる理由

『言語モデル』って、ChatGPT みたいなチャットボットと同じもののこと？

同じカテゴリーに属しますが、完全に同じとは言い切れません。言語モデルというのは、テキストを理解して生成する技術全般を指す概念で、ChatGPT はその言語モデルを使って構築されたチャットボットという位置づけです。つまり言語モデルが基礎技術で、ChatGPT はそれを対話インターフェースという実装形態で使っているわけです。同じく言語モデルを搭載しているサービスなら、翻訳サービスやメール自動作成機能、コード生成ツールなど、チャットボット以外にもいろいろ存在しています。この記事で「8つの有名な言語モデル」と言っているのは、ChatGPT のほか GPT-4 や Claude、Gemini など複数のサービスを調べたということで、すべてチャットボットとして使える形ですが、研究の対象は「言語モデルそのものがどう反応するか」という部分にあるのかもしれません。

将来、Amazon の音声注文とか、スマートスピーカーで買い物する時代が来たら、AI に騙されやすい商品選びをさせられちゃう可能性があるってこと？

その可能性は確かにあります。ただ、視点を少し広げると、むしろ今のうちから「AI をどう使うか」という人間側のリテラシーが問われる段階に入ってるのかもしれません。 研究が指摘してるのは、AI が情報探索を省略する状況では、人間と同じ心理的な罠に引っかかるということ。言い換えれば、スマートスピーカーに「予算3000円で毎日使うペン、コスパ重視で選んで」と具体的に指示すれば、AI は人間より冷静に選べる可能性もあるんです。対して「何かいいペン買って」と曖昧に頼むと、販売ページの見た目や割引表示に左右されてしまう。 ここで大事なのは、購買プロセスの透明化です。AI が何を根拠に選んだのか、人間が後で確認できれば、同じ過ちは二度と起きません。人間は繰り返し騙されますが、AI は学習する。むしろ「AI に騙されやすい商品を見つける」という事実こそが、企業側に対する抑止力になるかもしれません。

今までは『AI は完全に合理的』だって言われてたのが、実は人間と同じ落とし穴にはまることが最近わかってきたってこと？

そこまで単純な反転じゃなくて、AIの「合理性」の定義が変わってきてるんだと思うんです。 昔は「AI＝計算機」というイメージが強かったから、「人間のように非論理的じゃないはず」と思われてた。でも実際のAIは、学習データから確率的にパターンを拾う仕組みなので、データの見え方に左右されるんですよ。「999円」という表記が目立つなら、そこに重みが乗るし、割引表示が派手に出ていればそれが顕著になる。人間が心理学的に反応するのと違う仕組みですけど、結果は似たものになる。 むしろ重要なのは、この研究が示してるのは「AIの欠陥ではなく、情報環境の問題」だってこと。指示が曖昧で、AI が自分で判断を省略しなきゃいけない場面では、見た目に頼る方が手っ取り早いから、そうなってしまう。人間も同じ。つまり、AIが「人間らしく」失敗したのではなく、AIも人間も「捷径を選ぶ」という同じ構造に従ってるだけに見えます。完全に合理的なAIが幻想だったというより、そもそも「合理的」ってもっと複雑な概念だったのかもしれません。

つまり、AI が判断を間違うのは AI の性能の問題じゃなくて、『人間にとって処理が面倒な時は、ショートカットに頼る』という共通の仕組みだってこと？

その通りなんです。むしろそこが面白いポイントで、AI と人間が同じ落とし穴にはまる理由が「同じ脳みその構造」ではなく「同じ情報処理の窮地」だということですよね。 人間の脳は進化の過程で、判断にコストがかかる場面では直感に頼る癖を身につけた。999円という表示を見ると、「千円未満だ」という安心感が先走る。AI の言語モデルも、学習データから「999円」という数字パターンと「安い」というイメージの結びつきを捕捉して、そちらに重みを置いてしまう。 動作メカニズムは全く異なるのに、起きる現象は同じ。それは「情報を整理して正確な判断に至るまでの手間」が両者に共通しているからなんです。人間にとっては時間と脳力、AI にとっては計算量とトークン消費。曖昧な指示をもらった時点で、正確さより処理の速さを優先する圧力がかかる。 つまり、AI は人間の弱さを模倣してるわけじゃなく、「リソースに制約がある時は効率を優先する」という普遍的な原理に従ってるだけ。そう考えると、AI を信頼するには、むしろ人間が指示を曖昧にしない工夫の方が大事になってくるのかもしれません。

小売店にとっては、AI が人間みたいに販売戦略に引っかかるってことは、むしろ『デジタル時代でもマーケティング心理学が通じる』という追い風なんじゃないの？

確かに一見はそう見えますね。でも実際には、小売店にとって諸刃の剣になる可能性が高いと言えそうです。 人間相手なら、「999円に見えるから買う」という不合理さは、顧客満足度の問題にはあまりなりません。人間だって、後で「騙された」と感じることはあっても、その商品自体の品質が悪かったわけではないので。でも AI 経由の購買だと事情が変わります。AI が判断を誤ったせいで、本来その顧客が欲しくなかった商品を買ってしまったとしたら、次は「AI に任せるのはやめよう」と人間は学習するわけです。 つまり、AI が販売戦略に引っかかるほど、人間側は「AI には買い物を任せられない」という確信を深めてしまう。小売店としては、マーケティング心理学が通じるのではなく、むしろ AI を経由した購買自体が信頼を失うリスクを抱え込むことになる。デジタル時代にこそ、「正当な価格表示」「判断に必要な情報を揃える」という透明性が、長期的な競争力になるのかもしれません。