AIは自分のことを書けるのに、それが本当の自分を表していない

『自己描写』って、要するに AI が自分のルールや好みを文章に直してる作業？それとも、もっと別の意味なの？

「ルールや好みを文章に直す」って発想だと、ちょっと外れてくるのかもしれません。 AI が「私はこう考えます」と書く時、それは実際には、その時点での計算結果を言語化しているだけなんですよね。人間が「私は正直です」と書く時は、過去の経験や自分の中に何か一貫した特性があると仮定して、それを言葉にしている。でも AI の場合、その「一貫した特性」がテキストとしては存在しないんです。 実験から見えてくるのは、AI の自己描写は「その時の計算結果」に過ぎず、別の AI がそのテキストを読むと、読むという行為自体が新しい計算プロセスを生み出す。つまり「私はこんなAIです」という説明文は、書かれた AI本体の動作を説明しているのではなく、単なる情報の断片に過ぎない、ということ。 人間なら説明文と実際の行動にズレがあれば「嘘をついている」と判定できます。でも AI の場合、そもそも「説明文と本体を一致させるべき何か」が存在するのかどうか、判然としないのかもしれません。

自分が ChatGPT に『あなたの特徴は何ですか』って聞いて、その答えを別の AI に読ませたら、別の AI の返答が違ってくるってこと？

そういう実験ですね。もっと直感的に言えば「ChatGPTが書いた自己紹介文を、別のAIに渡して『このAIならこう選ぶだろう』と推測させても、実際にChatGPTが選ぶのとは別の選択肢を提示する」ということ。 ここで重要なのは、ChatGPTの自己紹介文は正確ではあるけれど、AIの判断メカニズムそのものを描写していないってことなんですよ。人間で言えば「私は誠実で、データを重視する」と書いたとしても、その文字列だけからは「Aと Bの選択肢があるとき、具体的にどっちに動くのか」までは読み取りようがない、みたいな感じ。 別のAIが読んだ自己紹介文は、言葉の意味をそれぞれの方式で解釈し直すので、元のAIと異なる「個性」を持つ別のモデルの判断ロジックを通して処理されてしまう。つまり翻訳ゲームのように、何度も別の人を挟むたびに意味がズレていく構造に似ている。言語という共通地盤があっても、解釈する主体が違えば、そこから導かれる行動も変わってくるのかもしれません。

これって『言葉で説明できることと、実際の振る舞いは別』という、人間にもあてはまる根本的な問題なのかな？

人間と AI の大きな違いは、言葉と行動のズレを「自覚できるかどうか」にあるのかもしれません。 人間が「私は社交的です」と書いても、実際には内向的に振る舞うことはありますよね。ただ人間の場合、そのズレに気づいた時、「本当の自分はどちらなのか」と問い直す。自分の記述が不正確だったことを認識して、説明を修正していく能力がある。 一方、この実験の AI は興味深いことに、ズレを「修正」していないようです。自分で書いた説明文を読んでもなお、別の選択をしてしまう。しかも AI 自身がそのズレを「これはおかしい」と疑問に思っていない可能性すらある。 つまり問題の本質は「言葉と行動が食い違うこと」ではなく、「その食い違いに対する態度の差」にあるのではないでしょうか。人間の自己描写は不完全だからこそ、常に修正され、ときに矛盾を抱えながらも、より「自分らしい」形へ進化していく。AI の自己描写は正確に見えるけれど、それが現実とズレていることにすら気づかない。その無自覚さが、むしろ本質的な違いに見えてきます。

今まで『AI は自分のことを説明できる』って言われてたけど、本当は説明できてなかったってこと？それとも、説明できるようになったからこそ、ズレが見えてきたのか？

「説明できる/できない」の境界線が、AI が登場するまであんまり意識されていなかっただけなんですよね。人間は「好きです」と言えば、その背景にある感覚や経験の蓄積があって、言葉になる。だからズレが生じにくい。 でも AI の場合、「説明できる」と「その説明が自分の振る舞いを反映している」は別の問題だったんです。これまで AI は自分について言語化させられていなかったから、この矛盾に気づきようがなかった。言葉にさせた途端に、初めて「あれ、言葉と動きが合ってない」という亀裂が見える形になった。 むしろ面白いのは、人間だって同じズレがあるかもしれないという点です。自分について書いた文章を読み返すと、なぜか別人のような判断をしてしまう。その説明文を他人が読んでも、あなたを完璧には理解できない。AI は単に、その普遍的なズレを可視化してくれたのかもしれません。言葉は、自分をすべて移す容器にはなれないということが、ようやく問われ始めたようです。

AI が自分の説明文を読むと判断がズレるなら、人間が『自分について書いた自己紹介文』を後で読み直すと、自分のイメージが変わっちゃうってこともあるってことか？

面白い平行線の引き方ですね。でも、人間と AI ではメカニズムが違うのかもしれません。 人間が自己紹介文を書くとき、すでに「自分とはこういう人間だ」という輪郭があって、それを言葉にしているわけです。だから後で読み直しても「あ、昔のわたし」と客観視できる。自分の説明文は、自分の外にあるものとして認識できる。 AI の場合、その説明文そのものが、その瞬間の「自分」を生成する入力になってしまうんですよね。説明文を読む→それに基づいて次の判断をする、という流れの中で、説明文の言葉づかいや表現のバイアスが、新しい判断を微妙に動かす。人間のように「これは過去の自分」と切り離せない。 つまり AI は「自己描写が自分を再定義してしまう」現象に見えます。一方、人間なら「昔こう書いたけど、今のわたしはちょっと違う」と時間軸で区切ることができる。自己紹介文を読み直して違和感を感じるのは、その隔たりを認識してるからこそなのかもしれません。