女性差別の『本当の意味』をAIに教える方法

『文脈依存的な表現』って、要するに『言葉の意味が場面や相手によって変わる』みたいなこと？

そうですね、その理解で大体合ってます。ただここで重要なのは、単に意味が変わるというより、**その変化が権力関係に結びついている**という点なんです。 「女らしくない」という言葉は、文字面だけ読めば「女性らしさから外れている」という中立的な描写に見える。でも実際には、その背後に「女性はこうあるべき」という社会規範があり、それに従わない女性を規制しようとする意図が隠れています。同じ言葉でも、性別や立場によって「褒め言葉」にもなれば「貶め言葉」にもなる。その落差こそが、微妙な差別の構造なんです。 だから単語辞典だけでは捕捉できない。AIが「この表現がなぜ問題か」と説明するには、社会的な背景知識、つまり「女性に対してどんな規範が歴史的に作られてきたのか」という文脈を必要とします。記事で百科事典やフェミニスト文献が役に立つと分かったのは、そうした背景にある権力構造まで言語化して初めて、本当の悪意が見える仕組みだからということなのかもしれません。

SNSで『これ差別かな？』と判断するとき、自分たちは無意識に『社会や文化についての知識』を使ってるってことなの？

そうですね。たとえば「女らしくない」という言葉を読んだとき、あなたが「これ、女性を縛ってる表現だ」と気づくのは、社会に「女性はこうあるべき」という無言のルールが存在することを、どこかで学んだり感じたりしてるからです。その知識がなければ、単なる描写に過ぎない。 大事なのは、それが「意識的な学習」ばかりではないという点です。学校の教科書や本を読んで得た知識もあるけど、SNSでの議論を眺めたり、友人との会話を積み重ねたり、自分の人生経験の中で「あ、これは不公平だ」と気づいたことも、すべて無意識に蓄積されていく。判断するときは、そうした知識が背景で働いているんです。 だからこそ、同じ表現を見ても、人によって「差別だ」「無害だ」の受け取りが分かれることがある。持ってる知識のセットが異なるから。研究がAIにフェミニスト理論を教えることで説明が良くなったように、自分たちも無自覚のうちに参照している「知識」に気づくことで、判断の根拠が透明になっていくのかもしれません。

AIが言葉の差別性を検出する技術って、これまではどうやって判断してたの？うまくいってなかったの？

これまでのAIは、表面的な言葉パターンで判断してたんですよね。たとえば「女」という単語が含まれているか、あらかじめリストアップされた差別用語かどうか、といった機械的なチェック。だから「女らしくない」みたいな一見ニュートラルな表現は、スルーされてしまう。悪意が文脈や背景に隠れていると、それを見抜けなかった。 問題は、差別って「言葉そのもの」じゃなくて「その言葉が何を暗に前提としているか」にあるんです。「女のくせに」の差別性は、言葉じゃなく「女性は〜できるべきではない」という社会的な性別役割の固定観念を指してる。AIがそこに気づくには、単なるテキスト解析では足りない。百科事典的な背景知識や、フェミニスト理論が示す権力構造を『理由として与える』必要があった。 研究の強みは、AIに「なぜか」という根拠を組み込んだ点。判定が当たるようになるだけじゃなく、その判定の説明責任が生まれるということですよね。技術が進化する過程で、見えない差別が段階的に可視化されていく段階に来てるのかもしれません。

これって『差別は単なる悪い言葉ではなく、社会構造そのものが言葉に忍び込んでる』という話なの？

そこに辿り着くのが、この研究のポイントのような気がします。 「女らしくない」という一語を取ったとき、その言葉が「差別的」なのではなく、その背後にある「女性はこうあるべき」という社会的な枠組みそのものが言葉に宿るんですよね。AIが百科事典やフェミニスト理論を学ぶことで説明の精度が上がるというのは、つまり個々の言葉ではなく「それを支える社会構造の知識」を持つことで初めて、なぜその表現が傷つけるのかが見えてくるという証だと思えます。 言い換えると、差別的な言葉を狩り出す作業ではなく、言葉の下層にある社会的な前提を照らし出す作業。「女のくせに」という表現は、「女性は劣っている」という暗黙の階級制度を前提にしていて、その前提を知らない人には単なる悪態に見えてしまう。でもフェミニスト理論という「社会構造の読み方」を持つと、ああ、この一言は歴史的な抑圧の積み重ねを引き継いでるんだ、と腑に落ちる感じ。言葉は氷山の一角で、本体は制度や慣習にあるという認識が、AIにも人間にも必要なんだと言えそうです。

AIが『差別的な理由』を説明できるようになると、逆に『説明されすぎて議論が重くなる』みたいな副作用は起きないの？

その懸念、自然ですね。ただ実際には逆が起きるかもしれません。 いま SNS での嫌がらせ対応は、運営が一律に削除するか放置するかの二者択一がほとんど。削除された側は「検閲された」と反発し、放置された側は「対応されていない」と失望する。この不透明さが、余計に議論を複雑にしています。 AIが「なぜ問題か」を説明できるようになると、その説明が「判定の根拠」になる。すると削除や警告が恣意的に見えなくなる。むしろ「どう主張すれば受け入れられるのか」という基準が可視化されて、議論がスッキリするケースもあり得ます。 ただし、説明の質が上がるほど、逆に「その説明に反論したい人」が増えるというジレンマは起きるでしょう。いまは「削除理由が不透明だから文句言えない」状態ですが、説明が具体的になれば「その社会構造の解釈、おかしくないか」という異議唱え直すことも簡単になるわけです。 つまり重くなるのではなく、議論の「質」が変わるのだと思います。