AI の安全教育、英語だけでいいの？60言語で検証

『安全教育』って、AIにどんなことを教えてるの？危ない質問を避けるやり方を覚えさせるってこと？

AI の安全教育というのは、端的に言うと「危ない質問が来たときの断り方を覚えさせること」です。ただ、単に「答えません」と返すのではなく、もっと繊細な学習が入ってる。 例えば ChatGPT は、銀行口座の詐欺方法を聞かれたら拒否する、爆発物の作り方は教えない、といった具体的なシーン一つひとつについて「この場合はこう返す」という対話パターンを大量に学ぶわけです。危険な質問と、それに対する適切な断り方のペアが、学習データとしてたくさん用意されている。 面白いのは、これが英語ベースだということ。つまり「銀行詐欺について日本語で聞かれたときの対応」という学習データは十分にない。だから日本語で同じ質問をされると、対応策を知らないまま、危ない答えを出してしまう可能性がある。今回の論文が提案しているテンプレート手法は、この非対称性を埋めようとしてるんですね。安全教育は「知識を与える」というより「文脈ごとの対応パターンを反復させる」という、むしろ人間が礼儀作法を身につけるのに近い学習になっているのだと言えそうです。

日本語で ChatGPT を使ってる人にとって、英語だけで安全教育されたAIが相手だと、実際には何か問題が起きるの？

日本語特有の「言い回しの曖昧さ」が、実は危険な抜け道になってるということですね。 英語で安全教育された AI は、ストレートな危険な質問には反応しないよう学んでいます。でも日本語には敬語や間接的な表現が豊富です。「ちょっと教えてもらいたいんですけど...」という前置きや、「これって本当ですか」という疑問形で危険な内容に誘導するやり方は、英語の学習データには想定されにくい。言語の性質そのものが盲点になるわけです。 記事で触れられてる「英語では安全な AI が、日本語に訳された質問には失敗」というのは、つまりそういう状況。日本語話者だけが、言語の柔軟性を使ってセーフティガードを迂回できてしまう可能性がある。 実際の被害想定も、言語によって異なります。日本でどんなデマが広がりやすいか、誰が詐欺的な質問を仕掛けやすいか、そういった文化的な文脈まで AI が学んでないと、「安全教育を受けてます」という建前の割に、実はかなり無防備な状態で使ってることになるかもしれません。

これまで AI の安全性は英語中心だったのに、今ごろになって多言語での問題が指摘されるようになったのはなぜ？

AI の安全性という議論そのものが、つい最近までは「英語のサービスをどう守るか」という限定的な視点だったんですよね。ChatGPT が一般向けに公開されたのは 2022年11月。その時点での利用者の大半は英語話者か、英語で使う人たちでした。企業の開発チームも英語圏中心。だから安全教育も、自分たちが直面している言語の問題から始まった。 ところが翻訳機能や多言語対応が進むにつれ、サービスが世界中に広がった。そこで初めて「あ、日本語だと安全な返答になってないぞ」という現象が可視化される。問題は昔からあったのではなく、ようやく発見される環境が整ったということなんです。 言い換えれば、AI 企業にとって多言語での安全性は「優先度が低かった」。少数言語ユーザーからの苦情より、英語圏での風評被害のほうが事業インパクトが大きいから。それが利用者数の増加とともに、無視できない問題へと浮上してきた。今ごろ指摘されるのは、多言語対応の拡大と、それに伴う責任の自覚が同時に起きた、という流れなのかもしれません。

要するに『グローバルなテクノロジーが、実は英語圏の基準で作られてて、他の文化圏にはフィットしていない』っていう一般的な問題の一例ってことなの？

その通りの側面はあるんですけど、この問題はもう少し複雑というか、むしろ「テクノロジーの民主化」と「安全性の標準化」のジレンマとも言えそうです。 グローバル企業は確実に英語優位で製品を作りますよね。でもそれは単なる傲慢さではなく、制約の問題。危険なコンテンツについての学習データは、英語圏ではネット上に膨大にある。日本語で「自傷を促す内容」と「自傷防止アドバイス」の対話ペアを数万件集めるのは、文化的にも倫理的にも難しい。だからこそ英語で十分に教えた後、他言語に「そのまま」移そうとしてきたわけです。 ここが重要なんですが、この新手法は「英語の基準を押し付けない」のではなく、むしろ「各言語固有の危険性を学ぶための自動化」を目指している。日本語に訳すと危険になるケースを見つけられるのは、多言語での検証があったからこそ。つまり、グローバル製品だからこそ、ローカルな細部に気づく必要が生まれるという逆説的な関係性が見えてくる。 「英語中心の傲慢さ」というより「安全性の複雑さ」に直面している現実なのかもしれません。

逆に、各言語に特化した安全教育が進むと、言語によって AI の『安全基準』が変わっちゃうリスクはないの？

良い指摘だと思います。言語ごとに安全基準がバラバラになる懸念は、実際に起こりうる。ただ、そもそも安全基準というのは、完全に普遍的なものじゃないのかもしれません。 たとえば「暴力的な質問への対応」といっても、文化によって線引きが違う。ある言語では許容される表現が、別の言語では深く傷つける場合があります。記事で指摘された「英語では安全でも日本語では危険」というのは、まさにそこ。多言語対応を進めるなら、逆に「各言語コミュニティの価値観に合わせた安全基準」を認めることが、本当は公平なのかもしれない。 問題は、グローバルなプラットフォームで複数言語が混在するとき。同じ企業の AI なのに、スペイン語では答えて日本語では答えない、という矛盾が生まれます。ユーザーから見れば不公平に見える。だからこそ、企業側は一つの基準を貫きたい誘惑に駆られるんでしょう。でも、それは結局のところ、強い言語の価値観を押し付けることになってしまう。言語ごとの安全教育と、グローバルな一貫性のあいだで、企業はこれからずっと揺れ続けるのではないかと言えそうです。