AI の「公平性」、測り方で結論が変わる？

『フェアネス・不一致指数』って、要するに『測り方によってどれくらいコロコロ結論が変わるか』を数字で示したもの？

そもそも AI の公平性って、何が「公平」かで争点になるんですよね。 例えば顔認証で、男性の誤認率と女性の誤認率が同じなら「公平」か。それとも、実際に使う場面で男女が同じ確率でロックを解除できれば「公平」か。数学的には別の問題です。 フェアネス・不一致指数は、その名の通り、複数の測り方を並べたときに「ばらつき」がどのくらいあるかを定量化したものと考えて大体合ってます。ただ単に「コロコロ変わる」と言うだけでなく、その揺らぎの大きさを一つの数字で見える化した。 重要なのは、この指数自体が「正解を示す」わけではないということ。むしろ「あ、このシステムは測り方で判定が反転しうる危険ゾーンにいるんだ」と気付かせるための警告灯に近い。つまり、複数の視点で検証する必要性を浮き彫りにする指標なんだと言えそうです。

銀行でローン申し込むときに AI で自動判定されるけど、その AI が『公平かどうか』が定まってないって、申し込む側は何を信じればいいの？

申し込む側からすると、その不安は当然なんですよね。ただ現実的には、銀行のAIが「完全に公平」かどうかを自分で検証することはまず無理。だから逆に考えると、銀行側が複数の指標で自分たちのAIをチェックしているか、その透明性をどこまで示しているかが、信頼の判断基準になってくるのかもしれません。 現在、金融機関は規制当局から「AIの偏りを測定しろ」と求められ始めていますが、測定方法の統一がまだ進んでいない段階です。つまり銀行ごとに「うちは公平性をチェックしています」と言っていても、その中身がバラバラなままでいる可能性がある。申し込む側は、自分の申込理由が落とされたときに「なぜ」を説明してもらえるか、異議を唱える仕組みがあるかといった、事後的な救済策が整っているかどうかに着目する方が現実的かもしれません。完全な公平性より、透明性と異議申し立ての道が整っているかどうか。その方が自分を守る手立てになりそうです。

AI の公平性の問題が指摘されるようになったのは最近なの？それとも前からあったけど、今やっと『測り方がバラバラ』ってことに気づいたの？

AI の公平性そのものは、ここ10年近く議論されてきた話です。2010年代半ばには、採用試験の自動判定や顔認証で人種や性別による偏見が報告されて、ようやく「AI にも差別がある」と気づき始めた。 ただ、今回の論文が指摘している「測定方法によって結論が変わる」という問題は、実はもっと厄介で、つい最近になって浮き彫りになった盲点だと言えそうです。 というのは、以前は「公平性」という概念自体が、割と単純に扱われていたんですよね。「誤認識率が同じなら公平」くらいの感覚。でも実務が増えて、医療や金融など本当に重大な決定に AI が使われ始めると、「ちょっと待てよ。公平の定義って、実は一つじゃないぞ」と気づき始めた。グループごとの偽陽性率で見れば公平でも、全体の選出率で見れば不公平になる。こういう葛藤に、ようやく真摯に向き合い始めたというのが実情なんだと思います。 測定方法の矛盾は「AI が不公平だから」というより、「公平さの定義そのものに複数の正解がある」ことの表れかもしれません。

これって『正解が複数ある問題を、一つのものさしで測ろうとしてた』よくある間違いなの？

見た目は似てるけど、質が違う問題なんだと思います。 「正解が複数ある問題」というのは、例えば「最高の映画は何か」みたいに、そもそも測定対象が主観的だったり定義が曖昧な場合を指してますよね。でも AI の公平性は違う。公平かどうかは客観的に測れるはずのものです。 ここで起きてるのは、「公平」という概念そのものが一つに定まらないという問題。顔認証の例なら、「男女で誤認識率が同じ」という公平性の定義と「少数派も多数派と同じ扱い」という定義は、論理的に両立しないケースがあり得るんです。どちらも正しい「公平さ」の側面なのに、同一システムで同時に満たせない。 これは「ものさしが複数ある」のではなく「複数の正当な定義が互いに矛盾している」という、もっと根深い問題に見えます。測定方法の問題じゃなくて、「公平とは何か」という概念設計の段階から、すり合わせが必要だったということなのかもしれません。

逆に考えると、この『測定方法によって結論がぶれる』という事実を知ったら、AI 企業側は『複数の測り方で全部パスしてる』と言い張ることもできるってことになりませんか？

その通りですね。「どの測定方法を選ぶか」という判断権を握るのは、通常は企業側になる。だから逆説的に、この論文が『測り方で結論が変わる』と明らかにした事実は、企業に言い訳の余地を与えてしまう可能性があります。 ただ、この論文がそこまで考えているかもしれない。『フェアネス・不一致指数』というのは、要するに「お前たちが選んだ測定方法だけで満足するなよ」という警告装置でもあるんです。複数の測り方を並べて、それぞれの結果を並べたときに、どの程度ぶれているかを見える化する。そうすると「このシステムはすべての測定方法で合格しました」という主張は、データを見れば嘘だと判る。むしろ企業側が「複数の測り方でパスしてる」と言い張ろうとするほど、その主張の根拠が問われるようになる、という仕組みなのかもしれません。結局のところ、最後の判断権は測定者と規制側にある。企業が提示するデータをどこまで信じるかは、見る側の目利きにかかってくるということになりそうです。