AI が書いたコード、誰が責任を取るのか

『コードのレビュー』って、AI が書いたコードの場合も同じやり方でいいの？何を見るの？

AI が書いたコードをレビューするときに、人間が書いたコードと同じやり方をそのまま使うと、多分ズレが生じます。 人間が書いたコードをレビューするのは、その人の技術力や設計思想を評価することが前提にあります。だから「なぜこう書いた？」と意図を聞くことができた。でも AI の場合、生成プロセスは本人には説明しようがありません。だからレビューの視点が変わってくるんです。 AI コードのレビューで見るべきは、まず従来通り「バグがないか」「テストケースをカバーしているか」という技術的な正確性。ここは変わらない。でも加えて「このコードは本当にこのタスクに必要な選択肢か」「生成 AI に与えたプロンプトは適切だったか」という、生成の入力側も確認する必要がでてきます。同じ指示でも AI は毎回異なるコードを出すことがあるから、なぜこの結果が出たのか、の背景を追う癖もつく。 つまり、レビュー担当者の仕事が増えるというより、違う種類の仕事に変わっていくのかもしれません。機械的なバグ探しより、AI の出力を正当性の視点から吟味する段階が挟まるようになる、という見方もできそうです。

仕事で ChatGPT を使ってコード生成してるエンジニアって、バグが出たときに『AI が書いたから』は言い訳にならないんだっけ？

エンジニアが AI に生成させたコードを、そのまま本番環境に出した場合、「AI が書いたから」は法的にも職業的にも言い訳にはならないでしょう。なぜなら、コードを選別し、検証し、公開する判断をしたのは人間だから。AI は道具に過ぎず、責任を負う主体ではない。 ただ実務的には複雑です。いま多くの企業では「AI 生成コードをレビュー・テストした人が責任を持つ」という整理をしています。つまり、AI が何を出力したかより「エンジニアが何を見落としたのか」が問われる。それが記事で指摘されている「責任の線引きの曖昧さ」でもある。 重要なのは、AI コードだからこそ、従来以上に入念なテストやレビューが必要な場合が多いということ。AI は便利だけれど、その出力を信じ込むことは、逆に責任を重くするというわけです。「AI が書いたから」ではなく「AI が書いたものを、きちんと確認したか」が問われるようになるんでしょう。

これまで『プログラマーが書いた = 責任はプログラマー』で済んでたのは、なぜそれで成り立ってたの？

「プログラマーが書いた＝責任はプログラマー」が成り立ってたのは、因果関係が一本の線でつながってたからですよね。 プログラマーの判断と手で、コードの内容が決まる。バグが出たら、そのコードを書いた人の知識不足か、注意不足か、設計ミスかのいずれか。原因を遡れば必ずプログラマーに行き着く構造だった。だから責任も明確だった。 ところが AI が入ると、この一本の線が複雑に分岐してしまう。AI が出力したコードを「使うと決めた人」がいて、「レビューして見逃した人」がいて、「そもそも AI に何を指示したのか」という入力側の責任もある。プログラマーが最後に「ゴーサイン」を出しただけでも、そこまでのプロセスには複数の判断が絡んでいる。 つまり、これまでの責任制度は「一人の専門家が、自分の知識と判断だけで成果物をつくる」という前提で設計されてた。その前提が通用しなくなったから、役割分担ごと作り直さないといけなくなった、ということなのかもしれません。

『何か物や判断を作った時の責任はどこにあるのか』って問題って、AI 以前の世界でもあった問題なの？

AI 以前の世界でも、似た問題は確実にありました。むしろ今のコード責任論は、もっと古い産業での試行錯誤の後付けに見えます。 建築や医療の世界を思い出すと分かりやすい。橋が壊れたとき、設計者に責任？施工業者に責任？検査官に責任？実は全員が法的責任を背負っています。でも「誰が本当に悪かったのか」は、事後的に調査して初めて分かる。医療なら、医者が執刀した手術でも、看護師のチェックリストの抜漏が元凶だったり、病院の管理体制が問題だったり。責任は分散している。 AI が変えたのは「過程が見えにくくなった」という一点です。人間が書いたコードなら、ログやコミット履歴で「この人がこう決めた」と追跡できます。でも AI が生成したコードは「なぜそう書いたのか」が本質的に説明不可能な部分がある。だから責任の追跡が難しくなっているだけで、責任そのものが曖昧だった歴史は長いんです。 むしろこの論文が提案しているのは、曖昧さを受け入れながら「ならば事前に誰が何をチェックするか、ルール化しよう」という構え。それは AI 時代の工夫というより、ずっと前からある古い問題への、新しい答え方かもしれません。

AI が書いたコードで責任を取れない状況って、実は AI より『誰が責任を取るのかを決めない人間側の仕組み』の問題じゃないの？

その通りで、その通りじゃない、という厄介さがあるのかもしれません。 確かに「誰が責任を取るか決めていない」というのは人間側の仕組みの問題です。でも、その仕組みが決めにくくなった理由は AI の存在そのもの。手で書いたコードなら「プログラマーの意思と技術」で統一できたけど、AI が入ると、生成過程が不透明になり、同じコードでも「AI が出力したもの」「プログラマーが修正したもの」「レビュアーが承認したもの」の責任をどう分けるのか、実務上は本当に判断がつきづらくなっているわけです。 つまり、責任の仕組みが決まらないのは、単に「決めるのを後回しにした」のではなく、「決めようとしても、現実がそれに追いつかない」という部分があるんだと思うんです。AI の能力が伸び続けている最中だからこそ、「このレベルのコードはどこまで検査が必要か」という基準も定まらない。決める側も、決めるための情報が足りていないのかもしれません。 責任体系は人間が設計するものですが、その設計の入力値が、AI の登場で急速に変わった。だから「人間側がちゃんと決めればいい」という指摘も、「現時点で何を基準に決めるのか」という段階で引っかかってくるのだと言えそうです。