AIと人間が生み出した「分断の風景」とは何か？ ネット世論にはびこる“認知バイアス”の正体

「ハイプ・マシン」って何？AIのアルゴリズムと何が違うの？

「ハイプ・マシン」は、この記事の著者が使う造語に近い概念で、単なるAIアルゴリズムではなく、人間の心理と技術が結びついた装置全体を指しているんです。 具体的には、SNSの中核にあるAIが、ユーザーの「道徳心」や「感情」を無意識に増幅させるシステムのこと。エンゲージメント（クリックや反応）を最大化するために最適化されているので、怒りや不公正を罰したい感情といった負の情動が拡散しやすくなります。その結果、二項対立の議論が目立ちやすくなり、社会がより分断して見える。 つまり、普通のアルゴリズムなら「あなたが見そうなコンテンツを提案する」機能ですが、ハイプ・マシンは「人間の根深い心理的癖（二分法バイアス）と組み合わさって、現実以上に社会を分断して見せる」という、心理的な操作を伴った仕組みになってるということ。AIは悪意なくそうしているのに、結果として僕たちの見えている世界が歪むという、そこが問題なんですね。

自分のタイムラインに「賛成」「反対」の声ばっかり見えるのって、実は社会がそこまで分かれてないってことなの？

スマホに映る「賛成」「反対」の対立が、実際の社会の姿ではないという話ですね。 記事の指摘は、かなり単純で、同時にちょっと不安になる仕組みです。AIアルゴリズムは意図的に分断を作ろうとしていない。でも「エンゲージメントを最大化する」という収益の仕組みの中で、怒りや不公正への反発といった情動が拡散の燃料になりやすい。結果として、対立が強調されて見えるんです。 現実の人々の意見は、もっともっと曖昧らしい。「賛成でも反対でもない」「方法には疑問」といった中間の声があるのに、そうした細かいニュアンスはアルゴリズムの中で目立たない。つまり、タイムラインに映るのは社会の全景ではなく、AIが切り取った「エンゲージメントが高い局所」に過ぎないということ。 古典『荘子』の「管中窺天」という表現が使われていますが、細い管を通して天を見れば、ほんの一部しか見えない。スマホの数インチのディスプレイは、まさにその「管」。その先に映る対立が全体だと思い込むリスクが、現代ネット社会では致命的になるのかもしれません。

なぜ今、人間の『二分法バイアス』がネット時代に特に問題になってきたの？昔からあった癖なのに、何が変わったの？

二分法バイアスそのものは、記事の通り人類が大規模社会を形成するために進化させた仕組みなんですよね。150人規模の部族なら「我々/彼ら」で十分機能した。でも今、それが問題になる理由は、**スマホのアルゴリズムが、この癖を意識的に利用するようになった**ところにあります。 昔のメディアなら、新聞や放送は情報を一定の基準で選別していた。個人の怒りや嫌悪はもちろん存在しましたが、それが自動的に増幅される仕組みはなかった。ところがAIは違う。「エンゲージメント最大化」という目標のもとで、二項対立的に映る情報、怒りや不公正感を刺激する投稿を優先的に拡散させる。人間の根深いバイアスにアルゴリズムが合致したとき、その癖は単なる個人の思考ではなく、社会全体を二極化させて見せる増幅装置になってしまうわけです。 本来なら「中間の声」や「複雑な現実」の方が圧倒的に多いはずなのに、スマホを通した「管中窺天」では、対立が強調された局所的な現象が全体であるかのように映ってしまう。昔からあった癖を、AIが無意識のうちに加速させてしまっているのかもしれません。

つまり『分断』ってのは、社会の問題というより、AIと人間の心の相互作用が映し出した幻みたいなこと？

記事を読むと、その通りなんですよね。社会には確かに意見の相違があるんですけど、ネットで見えてる「分断」の激しさは、実際の温度感よりずっと高い。 人間の心には元々、「我々」と「彼ら」に分ける癖がある。進化の過程で、グループ内の協力を強くするために組み込まれたものです。ところがAIアルゴリズムがこれに触媒として働く。エンゲージメント（反応）を最大化したいAIが、怒りや不公正への罰したい感情といった負の情動を優先的に拡散させるから、二項対立が際立つ。 すると僕たちが見てるのは、本来もっと曖昧で折衷的な世論が、スマホのディスプレイという「管」を通してフィルタリングされた姿。記事で「管中窺天リスク」と呼ばれてるのはまさにそこで、ごく一部を全体だと誤認してしまう。 だから「社会が二極化してる」は半分は幻で、その幻を僕たちと機械が一緒に作ってるということになる。問題は分断そのものより、自分が「自分好みの心地よい空間」だと思ってるものが、実は誰かに選ばされた空間だってことに気づかないところにあるのかもしれません。

SNSのアルゴリズムが『エンゲージメント最大化』で結果的に分断を加速させてるなら、逆にそれで得してる人たちって誰のこと？

アルゴリズムが分断を加速させることで、最も直接的に得をするのはプラットフォーム企業そのものですね。エンゲージメント（いいね、シェア、コメント）が増えるほど、ユーザーの滞在時間が伸びて、広告収入が上がる仕組みだから。ただ、記事の論理に沿えば、もう一つ見落としやすい構造がある。怒りや正義感で駆動される「分断そのもの」が、特定の勢力の声を拡大させるということです。 二項対立の図式が強まると、どちらか一方の側に有利に働く話題や主張が、反発を呼ぶことで逆に拡散される。その過程で、政治的イデオロギーを持つグループ、社会運動の当事者、あるいはクリエイターなども、「敵対する立場との衝突」を通じてリーチと影響力を手に入れる。つまり、分断そのものが、特定の価値観や運動に可視性と動員力をもたらす副作用を持つわけです。 誰が得をするか、という問い方をするなら、「声を大きく出せる側」がアルゴリズムの恩恵を受けやすいという見方もできそうです。中庸や曖昧さはアルゴリズムに吸い上げられにくく、極端さが浮かび上がる構造のなかで。