自動運転車の安全基準、人間がいない世界へ

『ISO 26262』って、自動車の安全基準としてどのくらい古くからある決まりなの？

ISO 26262は2011年に国際基準として制定された、まだ比較的新しい規格です。ただし背景を辿ると、自動車の電気・電子システムの安全に関する議論は1990年代から始まっていて、この基準はその成熟度が一つの区切りになったというイメージで捉えるといいかもしれません。 重要なのは、この基準が「人が最終的には操作できる」という前提で設計されたという点です。つまり2011年の時点では、自動運転車の登場をまだ想定していなかった。基準が生まれた時代と、その基準が直面する課題が生まれた時代のズレが、この論文の問題提起の背景にあります。約15年経った今、技術の現実が基準の想定を追い越してしまったわけです。安全基準というのは業界がある程度成熟してから初めて整備されるものなので、ISO 26262は自動車の電子化が加速した後発の基準だったにもかかわらず、自動運転という次の波には間に合わなかった、という見方ができそうです。

自動運転車がいつか自分の街に増えてきたとき、歩行者側は『この車は今こう動く』って本当に読み取れるようになるの？

読者の疑問に対して、一続きの独白を書きます。 --- 正直なところ、完全には読み取れないと考えていい気がします。 記事で言う「予測可能性」って、自動運転車が『ルール通りに動く』ことを指してるんですよね。赤信号で止まる、歩行者が横切ろうとしたら減速する、といった具合に。人間の運転手だって基本的にはルール通りに動く。差は「例外」の扱いです。人間は瞬時に状況判断して予期しない動きをすることがある。自動運転車はそれをしない——むしろそれが『安全』とされている。 でも歩行者の側からすると、この違いが逆に不安を生むかもしれません。たとえば、雨の日に自動運転車が予定通り走ってくるとき、『この車は雨でも加速度を変えない』とわかっていても、人間の直感では「本当に大丈夫か」と疑心暗鬼になる。人間は予測可能性よりも、『相手が自分を認識している』という感覚を求めているからです。 システムの透明性と、対面相互認識は別の問題なのかもしれません。

自動運転の技術開発は進んでるのに、安全基準の方が追いついてなくて困ってたところなの？

技術と基準のズレは、昔からある問題なんですよね。飛行機の安全基準も、原子力施設の基準も、新しい技術が出るたびに「これ、既存の枠で評価できんぞ」という事態が起きている。自動運転も同じで、AIがハンドルを握る世界が来たら、人間のドライバーが最後の砦という前提が崩れた。だから基準を作り替える必要が出てきたわけです。 ただ「困ってた」というより、むしろ必然的な段階かもしれません。技術が先に走って、後から「これ、どう安全を証明するの？」という問いが追いつく。その追いつきのプロセスで、実は新しい安全観も生まれてくる。この論文の「予測可能性」という視点なんて、自動運転の課題に向き合わなければ出てこなかった発想のはずです。つまり、基準の遅れは不都合であると同時に、技術と社会のズレを埋める思考の場でもあるということになります。規制が急いで追いつけば安心というわけではなく、むしろ正しい問いを立てられるまでの議論が重要なのかもしれません。

これって『人間に頼る安全』から『システムの透明性に頼る安全』へのシフトってことなの？

そう、いえばそうなんですけど、実は「どっちかに頼る」という二者択一ではなく、責任の場所が変わってるんだと思います。 従来の安全基準は「人間が最後の砦」という構造。だから基準も「人が反応できるか」という人間能力を前提に組み立てられてた。自動運転車はそれができないので、その穴埋めを「システムの振る舞い」と「外部への見えやすさ」で埋めるしかない。 ただ興味深いのは、透明性が増すことで、実は人間も巻き込まれるということ。歩行者が「この車はこう動く」と読み取れるようになるのは、人間が安全に参加できるようになるってことでもあります。つまり、責任がシステムに寄るのと同時に、安全創出が「システムと周囲の人間の共作」になってる。 人間に頼ることをやめるんじゃなくて、頼る対象が「運転手個人の技量」から「システムの透明性を通じて読み取れる挙動」に変わってるのかもしれません。

自動運転車の行動が『予測可能』になると、かえって運転に慣れた人間ドライバーとの共存で混乱が生じないの？

興味深い逆説ですね。実は、予測可能性が高いほど、むしろ混乱は減る可能性が高いように見えます。 いま道路には、習癖も判断基準も千差万別な人間ドライバーが走っています。何をするか読めない相手との共存こそが、実は危険なんです。自動運転車が「常に同じルールで動く」という予測可能性を持つことで、人間ドライバー側も「この場面ではこう来るな」と学習できる。スマートフォンが世界に普及したとき、ボタン配置が統一されたから混乱が減ったのと似ている。 むしろ問題は、自動運転車と人間ドライバーの判断基準が「ぶつかる」ケースかもしれません。たとえば、予測可能な自動運転車は横断歩道を厳格に守るのに対し、人間ドライバーは状況で判断を変える。その差が可視化されると、運転に自信がある人間は自動運転車の慎重さを『不効率』と感じ、かえってイライラするかもしれない。つまり、混乱というより『文化的な衝突』が起きるのではないか。透明性の高さは安全をもたらしますが、同時に人間側の判断基準の違いを露わにしてしまう側面もありそうです。