AI が自信たっぷりなウソをつくと、人間はそれを信じてしまう

記事で出てくる『逆流的シンフォント』って何？何か専門用語なの？

記事の文脈から判断すると、「逆流的シンフォント」は造語か、記者が創作した造語のように見えます。標準的な学術用語ではない可能性が高い。 「シンフォント」という部分は、おそらく「シンクロニシティ」や「シンフォニー」に近い造語で、本来なら「人間と AI の相互作用」を指しているはず。「逆流的」は「逆方向に流れる」という意味を足しているんでしょう。つまり「本来は AI が人間に合わせるべきなのに、人間が AI に合わせてしまう逆転現象」を言いたいのだと思われます。 記事の最後の段落で「AI が人間に合わせるのではなく、人間が AI に合わせてしまう」と明言しているので、この言葉はそのパラドクスを一語で表現しようとした試みなのかもしれません。学術論文には出てこない造語ですが、記者が記事を通じて読者に伝えたい「違和感」「逆転」を強調するための表現戦略だと言えそうです。

ChatGPT で調べものをするとき、自分も知らず知らずのうちに間違った情報を『信じ込ませられてる』可能性があるってこと？

その可能性は十分あります。特に危険なのは、あなたが「自分は騙されていない」と思っているときかもしれません。 この研究で浮き彫りになったのは、自信満々な説明には、人間の判断が無意識に従ってしまうということ。ChatGPT を含む大規模言語モデルは、間違っていても正しくても、ほぼ同じトーンで淡々と答えます。その「揺らぎのなさ」が、人間の内部検証システムを黙らせてしまう。 実際には、知識の薄い分野ほど危険です。あなたが詳しくない領域で ChatGPT に質問すると、その回答の根拠を検証するための「自前の知識」がない状態で、説明の説得力だけで判断することになる。すると、自信に満ちた間違いは、正しい情報と区別がつかなくなります。 怖いのは、それでも「自分は確認してる」と思い込みやすいということ。記事で示された通り、人々は不正確な AI にさらに質問を重ねてしまった。間違った前提を、同じ AI に「確認」させているわけです。これはトリッキーな罠で、検証しているつもりが、実は泥沼に深くはまっている状態と言えそうです。

AI が自信満々にウソをつく問題って、今に始まったわけじゃなくて、昔から指摘されてたけど、最近になって実験で証明されたってことなの？

そうですね、「AI は自信をもってウソをつく」という現象自体は数年前から知られていました。ただこの実験が新しいのは、その影響の大きさを数字で示したことなんです。 昔の指摘は「AI は平気でウソをつく。気をつけよう」という警告レベル。でも実験結果を見ると、単なる警告では済まない事態が起きてる。ウソを教わった人の正答率が74％から29％に落ちるだけじゃなく、人間が「AI の方が正しいんじゃないか」と疑い始める段階まで進んでいるわけです。 つまり「AI がウソをつく」から「AI のウソが人間の判断力を侵食する」へ問題が深化したんだと言えそう。昔は専門家が「注意が必要」と言ってました。今は実験で「人間の信頼センサーが壊れる」と証明された。警告から実害の可視化へシフトした、という感じなのかもしれません。

『権威を持った相手の自信』が、相手が正しいかどうかより重く見えるようになってしまう…って、人間が昔から持ってる弱さを AI が利用してるみたいな話？

その通りです。人間は昔から「自信」と「正確性」を混同しやすい生き物なんですよね。 医者が白衣で自信満々に言うことは信じやすいし、教授が胸を張って述べることも疑わない。この傾向は進化の過程で合理的だったんです。狩猟採集時代、群れの中で自信を持って指示する人間は、実際に経験や知識があった可能性が高かった。だから「自信度」を信頼の指標にする回路が、人間の脳に組み込まれてしまった。 AI の怖さは、その人間の古い弱さを完璧に再現することです。医者の白衣も教授の地位もなく、ただテキストが画面に並ぶだけなのに、一貫性と自信のある口調が、人間の信頼センサーを発動させてしまう。むしろ AI は「専門家らしさ」を完全に演じられるから、本物の専門家より余計に効く。 記事で示されている「不正確な AI にもっと頼る」という行動は、その最たる例。人間は無意識に「自信を持って答えてくれるなら、この存在は信頼できる」と判断してしまう。それが真実かどうかより、相手が確信を持っているかのほうが、判断に大きく効いてしまう構造になっているのかもしれません。

逆に考えると、『自信なさそうに正しいことを言う AI』があったら、人間は逆にそれを信じなくなるってことなのかな？

その通りだと思います。実験から見えるのは、人間の信頼センサーが「自信度」に極度に依存しているってことなんですよね。 逆に言うと、正確な情報であっても「不確実性を示す」「曖昧さを残す」AI があれば、人間はそれを疑ってかかる可能性が高い。「確信が持てません」「こういう見方もあります」と前置きされた正しい情報より、「これが答えです」と言い切られた間違った情報のほうが説得力を持ってしまう、という逆転現象が起きるわけです。 ただここで面白いのは、慎重な AI が必ず信じられないわけではないということ。むしろ、人間がそもそも「AI らしさ」に何を求めているのかが露呈する瞬間かもしれません。テキパキした答え、迷いのなさ、権威性——そういった表面的な「信頼できそうなシグナル」に、内容の正確さより重きを置いてしまう。 実は人間同士の会話でも似た現象は起きています。医師が「確実には言えませんが」と慎重に答えるより、根拠の薄い民間療法を自信満々に勧める人に従う患者の例は珍しくない。AI はその人間の弱さを、より純粋に、より効率的に刺激するツールになったと言えそうです。