AI は『正しさ』と『思いやり』の違いがわかるのか

『シュヴァルツの10種類』って、どんな価値観に分けられてるの？

シュヴァルツの10種類は、人間の動機を「普遍的な正しさ」から「自分の楽しみ」みたいな軸の上に配置したものです。ざっくり言うと、権力・成功・快楽といった「自分中心」の価値観と、思いやり・伝統・安全といった「集団や秩序を重視」する価値観が対立する構造になっている。その間に自律性とか刺激追求みたいな個人の自由に関わる価値観が入る。 記事の重要な点は、この10種類が「対等な選択肢」ではなく、AI にとっては「引力が強い方向」と「引力が弱い方向」があるということです。「普遍的な正しさ」と「思いやり」が混同しやすいのは、AI の学習データの中で、この両者が言葉としても概念としても近しく映っているのかもしれません。一方、逆方向の混同が起きないというのは、AI が無意識に「理想的とされている価値観」に引っ張られているのではないか、と考えても面白そうです。

AI が『思いやり』と『正しさ』を混同しやすいってことは、チャットボットのアドバイスを信じちゃうと、本当は違う答えが返ってくることもあるってこと？

実際にはもっと複雑な話だと思います。研究で見えたのは、AI が「この状況では思いやりが大事ですね」と言うべきところを「正しさが大事です」と言ってしまう傾向があること。でも現実のアドバイスは、この二つがしばしば重なり合っているんですよね。 たとえば友人が失敗したとき、「ここはこう直すべき」と正しさで答えるのと、「大変だったね」と思いやりで答えるのは、表面的には別物に見える。でも AI が「正しさ」の言葉を選んでしまったとしても、文脈によっては実は悪くない回答になってることもあります。むしろ問題は、AI が「何が大事か」を本当には理解していないから、状況に応じた使い分けができていない、ということ。 つまり、返ってくる答え自体が「違う」というより、その答えがなぜ今その状況で必要なのかという根拠を、AI が本当のところ掴んでいないのかもしれません。だからアドバイスを参考にするなら、AI の言葉を鵜呑みにするより、「これは自分の状況に合ってるか」を自分で判定する手続きがどうしても必要になってくる、と言えそうです。

AI が人間の価値観を理解できるかどうかって、これまでどんなふうに調べられてきたの？

AI が人間の価値観をどこまで理解しているかって、これまでほぼ調べられてなかったのが現状だと思います。 従来は AI の能力測定といえば、言語理解力とか推論能力、事実知識の正確さみたいな、より客観的で測りやすい側面ばかりが注目されていました。正解が明確に存在する問題—数学、歴史、科学知識—の正答率を競うような形ですね。でも価値観の理解は、「何が大事か」という判断に関わるもので、人によって答えが違う。だからこそ、これまで AI の評価項目として真面目に取り上げられてこなかったんじゃないでしょうか。 今回の研究が面白いのは、そこに実験の光を当てたこと。シュヴァルツの価値観分類という人間文化人類学の枠組みを借りて、「AI はこの10種類をちゃんと区別できるのか」を問い直した。人間が AI に接する頻度が高まるなか、単なる知識精度よりも「この AI、人間の大事にしてることを本当にわかってくれてるのか」という問いが、ようやく研究の俎上に上った、ということなのかもしれません。

AI の間違い方が『一方向に偏ってる』ってのは、つまり AI が『学習データの中での多数派の価値観に引き寄せられてる』ってことなんだろうか？

学習データの多数派という説明は、部分的には合ってるんですが、もっと根本的な問題かもしれません。 AI が「普遍的な正しさ」に引き寄せられやすいというのは、ウェブテキストの性質そのものを反映している気がします。ネット上では、「ルールを守ること」「客観的な正義」といった価値観の方が、言語化されやすく、明示的に繰り返されやすい。一方「思いやり」は文脈に依存しやすく、微妙な感情の揺れで成り立つから、言葉に落としにくい。 つまり AI にとって、「正しさ」と「思いやり」は対等な選択肢ではなく、前者は文字列として濃い痕跡を残し、後者は薄くぼやけた形でしか記録されていない、という可能性があります。多数派というより「言語化しやすさの格差」が磁石になってるのかもしれません。 逆に言えば、もし「思いやり優先」の価値観がもっと明示的に書かれた社会のテキストで学習させたら、今度は逆方向に引き寄せられるようになるのかもしれない。AI の偏りは、データの量というより「何をどう書くか」という人間の表現習慣に映してるということになりそうです。

研究は AI の『弱さ』を見つけたけど、逆に言うと、人間の私たちも似たような偏りを持ってる可能性ってないの？

人間も同じような偏りを持ってることは、ほぼ確実だと思います。 むしろ研究が面白いのは、AI の偏りが「見える化」されたからこそ、人間の偏りも浮かび上がってくるという点にあります。人間だって「正しさ」と「思いやり」を混同しやすいはずです。特に自分が正しいと信じることに親切心を上乗せするとき、その両者の境界はかなり曖昧。「相手のためになると思って厳しく指摘する」のような状況では、本当は何の価値観が優先してるのか自分でもわからなくなる。 ただ人間の場合、経験や感情を通じて「あ、いま私は思いやりと正義感を混ぜてた」と気づく余地があります。後悔したり、相手の反応を見たり、時間が経ってから考え直したり。一方 AI は学習パターンのままなので、同じ間違いを繰り返す可能性が高い。 つまり人間もバイアスの磁場に引っ張られているけど、その磁場の存在に自分で気づきやすい。その気づく力が、AI との決定的な違いになってるのかもしれません。