AI が『あなたらしい』おすすめをするほど、恥ずかしくなる理由

『推奨システムを壊す』って、どういう行動を指してるの？わざと違う商品を買ったりするってこと？

「推奨システムを壊す」というのは、AI の学習データを意図的に汚染する行動を指しています。わざと関心がない商品を閲覧したり、カートに入れたり、時には購入することで、AI に「この人はこういう人ではない」という誤った情報を与える。避妊具の購入履歴から脱出したければ、別ジャンルの商品を検索しまくる、みたいなやり方ですね。 面白いのは、消費者がそこまでして行動するのは、購買行動そのものを隠したいというより、『AI に認識されていること自体』から目をそらしたい心理なんだと思われます。オンラインショップの最大の利点は匿名性のはずなのに、パーソナライズされた瞬間に「私は見られている」という感覚が生まれてしまう。だから逆説的に、本当は欲しくない商品を買ったり検索したりして、自分の素の姿をAIからぼかそうとする。その過程で、消費者自身の買い物体験は実は悪くなってるんですよね。正直な行動履歴から最適なおすすめをもらえるはずなのに、防衛的な動きが邪魔をしてしまう、という矛盾が生じてるのかもしれません。

自分が使ってるショップアプリのおすすめって、実は自分の履歴をもとに作られてるんだ。それを意識すると、今後は気になっちゃうってこと？

そうなんですよ。いま意識してしまうと、もう素通りできなくなる感じだと思います。 大事なのは、AI が「あなたの情報を持ってる」ことじゃなくて、「あなたがそれを意識させられた」ということなんですよね。買う前は、誰にも見られていない匿名の世界だと思ってた。でも「このおすすめはあなたのために」と表示されると、急に「私のプライベートが記録されてる」「判断されてる」という現実が浮かぶ。 実は商品自体は同じなのに、認識が変わるだけで恥ずかしくなる。これって、誰かに背中を見られるのと見られないのでは、同じ行動でも感じ方が全然違う、ってことと一緒かもしれません。 今後は気になるのかどうか、それは個人差もありそうです。気になる人は「じゃあ履歴を汚そう」とか、わざと別の商品をクリックして推奨システムを混乱させる、という行動も研究では見つかってます。つまり、多くの人は気になり始めると、何らかの対抗措置を取ろうとするのかもしれません。

なぜ今になってこの問題が浮上したの？パーソナライズ技術が最近急に精度が上がったからなの？

パーソナライズ技術の精度そのものより、むしろ「精度が上がったことで、推奨システムの存在を消費者が強く意識するようになった」という心理的な変化が大きいのかもしれません。 数年前のおすすめ機能は、外れることもあり、システムが自分を理解していないことが暗黙の了解でした。だから「これはアルゴリズムの推測にすぎない」と割り切りやすかった。でも精度が上がると、AI が自分の購買パターンを正確に読み取っているのが感覚的に分かる。「あ、こいつは本当に俺のことを見てるな」と。 それと同時に、オンラインショッピングが日常化して、誰も見ていない買い物だからこそ、より本当の自分が出ている——という気づきも広がりました。匿名性が保たれているはずなのに、背後に存在する AI という「何か」に観察されている感覚が、急激に気になり始めたんでしょう。 つまり問題は、精度の急上昇というより、精度が「十分に高くなったことで初めて見えた、人間の深い不安」なのかもしれません。昔から存在した心理的ニーズが、技術の進化でようやく表面化した、と言えそうです。

つまり『見られてない』と『認識されてない』って、実は消費者にとって全然違う感覚なんだってことなの？

そう、全然違うんですよね。オンラインショップで「誰にも見られていない」と「AI に認識されていない」は、心理的には全く別の安心感になっている。 店員に見られないのと、機械に記録されないのでは、相手が違うからです。人間の店員なら「この人のことを判断している」という意思が存在しますが、ただ見ているだけなら判断の先にある「評価」を恐れる必要がない。でも AI の場合、履歴から学習して「あなたに合わせた」と明示されると、機械を通じて自分の行動が数値化・分析されている感覚が生まれます。判断されているかどうかはさておき、『認識されている』という事実が、その背後にある潜在的な評価への怖さを呼び起こしてしまう。 つまり「見られること」より「認識されること」のほうが、ずっと露出感が強いのかもしれません。見られるのは一瞬だけど、認識されるというのは「記録される」「蓄積される」「何かに使われるかもしれない」という時間的な広がりを感じさせるからです。プラットフォームが「個人化を控えめに」するという対策が効く理由も、要するに認識されている証拠を減らすことで、その恐怖を薄れさせているのだと言えそう。

店側からすると、パーソナライズをやめちゃったら売上が落ちるんじゃないの？この『恥ずかしさ対策』でホントに誰もが得するの？

パーソナライズを弱めることが売上につながるって、一見矛盾してますよね。でも実はそこに、おもしろい逆転がある。 消費者が『壊そう』とするシステムってすごく大事な信号です。推奨を避けるために検索履歴を消したり、わざと別の商品をクリックしたり——つまり、AI を欺き始める。そうなると、パーソナライズのデータ精度は落ちる。精密なおすすめのはずが、実は消費者の本当の需要をミスしている可能性もある。 だからむしろ、恥ずかしさを減らすことで『消費者がシステムを信頼する』状態を作る方が、長期的には売上につながる可能性があります。『判断されていない』という感覚が生まれれば、データの操作も減り、より正確な需要を読み取れるようになる。 ただし誰もが得するわけではない。短期的には、プラットフォーム側は『強いパーソナライズで高速回転させる戦略』を手放すことになります。でも市場全体で見れば、信頼できるシステムの方が長期的に消費が増えるという仮説もあり得そうです。要は、どの時間軸で利益を最大化するかという経営判断なのかもしれません。