あなたのスマホが「あなたを理解している」とは限らない

『属性に分類されない』って書いてあるけど、生活のあり方の違いが AI の判断を狂わせるなら、それってある種の属性差別じゃないの？

良い指摘で、その見方も一理あります。ただ、ここで「属性」という言葉が持つ重みの違いを意識しておくと、話が少し整理できるかもしれません。 性別や人種といった属性は、社会的に歴史的に差別されてきた背景があります。だから「女性だから」「黒人だから」という理由で判断が歪むことは、既に認識されている不公正として、法律や倫理規則で対策する動きがあります。 一方、生活のあり方の違い——スマホの監視に心理的抵抗を感じるか、毎日が規則正しいか、外出習慣があるか——こうした違いは、本来なら「個人差」として扱われてきたんです。でも AI が広く使われるようになると、その「個人差」がある人たちを一貫して不利に扱う構造が生まれる。すると、見た目には差別に見えなくても、実質的には同じ効果をもたらす仕組みができてしまうわけです。 つまり、差別と呼ぶかどうかは別として、不公正な扱いが「属性として認識されない層」に隠れているというのが、この研究の重要な指摘だと言えそうです。

自分の生活パターンが『標準的』だと AI が判断されたら、実際に必要なサポートを受けられない可能性があるってこと？

その通りの可能性があります。ただし、より厄介なのは「標準的」という判断基準そのものが、実は誰かの都合で決まっているということなんですよね。 たとえば、AI が学生の「疲弊状態」を判断するとき、毎日ジムに通って規則正しい睡眠をとっている人を「健康」と判定するかもしれません。でも、夜勤のアルバイトをしながら勉強している学生が、同じセンサーをつけたら「不規則で異常」と判定されてしまう。実際には両者とも疲れているかもしれないのに、後者だけが「サポート対象」になってしまう。 記事が指摘しているのは、こうした判断の歪みが見えない形で進んでいるということです。AI は「客観的」に見えるから、「ほら、データに基づいてます」という名目で使われやすい。でも、そのデータ自体が、どういう人たちから取られたのか、どういう生活を「正常」と想定しているのかは、誰も問い直さない。 必要なサポートを受けられないのも困りますが、本当の問題は、自分の生き方が「異常」という烙印を押されることなく、ただ違うだけなのに判断されてしまう非対称性にあるのかもしれません。

この手の AI 技術って、開発側は『精度が上がれば上がるほど公正になる』と信じてたのに、最近になって『実はそうじゃない』ってわかってきたってわけ？

精度の話だけでは説明がつかない仕組みの問題が、ここには隠れてるんですよね。 精度が上がるというのは、通常は「より正確に心の状態を読み取れる」という意味です。でも、記事で指摘されているのは別の問題。規則正しい生活の人のデータで学んだAIが、不規則な生活の人を「落ち込んでいる」と誤判定する——これは精度の話ではなく、学習データそのものに偏りがあるという話なんです。 開発側が「精度さえ上げれば」と信じていたのは、すべての人のデータが平等に反映されていると無意識に前提していたからだと言えそう。でも現実には、研究資金が出やすい機関、論文が採択されやすい分野、導入しやすい施設——こうした『仕組み上の選別』が、データの集め方そのものに色をつけてしまう。つまり精度と公正さは別物で、精度だけを追い求めると、むしろ見えない不公正が強化される可能性さえあるということなのかもしれません。

これって『見えない差別の仕組みを、テクノロジーが無意識のうちに強化してしまう』という、よくある構造なの？

よくある構造ではあるんだけど、この AI の場合はもっと微妙な側面があります。 従来の差別構造は、基準そのものに明確な恣意性があった。採用試験で女性を落とすとか、肌の色で融資を拒否するとか。でもこの AI の落とし穴は、基準は『誰にでも適用される同じアルゴリズム』なのに、背景にある生活パターンの多様性を見落としてるという点。 性別や人種は統計的に可視化できるから、「女性データが少ないから調整しよう」みたいな対策も立てやすい。でも『監視に抵抗がある人』『外出習慣がない人』といった属性は、記録される側が自分でも意識してない場合が多い。だから『差別的な意図なく、無意識に特定の生活様式の人を排除している』という構造になってしまう。 むしろ怖いのは、この仕組みが『不公正さが見えない』ところにあります。差別が明白な時代より、発見も改善も難しいということ。資金から導入まで関係者みんなが『技術は中立的』と信じたまま進むからでしょう。

『公正さを後付けする』という指摘から逆に考えると、資金提供者や導入機関って、この不公正さから得をしてる側にいるってこと？

そこは複雑なんですよね。得をしているかどうかで言うと、意図的に得をしようとしているわけではなく、むしろ「得をしている自覚がない」というのが問題なんだと思います。 資金提供者は、AI が人間の心理を読み取れる技術を世に出すことで企業価値を高めたい。導入機関は、客観的な判断ツールを手に入れたと考えて導入する。どちらも「これは公正だ」という前提で動いているから、後から「実は特定の生活パターンの人に有利に働いている」と指摘されても、自分たちが不公正の担い手だとは思わない。むしろ「そういう見落としが起こらないように改善しよう」という名目で、その技術をそのまま使い続けることもあります。 つまり構造的な利益があるんです。不公正のせいで「データ取得が難しい人たちの声」が小さくなれば、導入機関は雑音なく運用できる。それが意識されないまま続く。得をしているというより、損する人の存在に蓋をすることで、システムを動かし続けられる環境が形成されているのかもしれません。