企業が AI エージェントを野放しにしていないか

『エージェント・スプロール』って、要するに AI が増えすぎて手に負えなくなる状態のこと？

その通りなんですが、少し違う角度から見ると、問題はAIの「数」そのものより「相互作用の複雑さ」にあるのかもしれません。 たとえば、営業データを分析するAIと在庫管理のAIが職場に1台ずつなら、まだ誰が何をしているか追えます。でも、このふたつのAIが自動的に情報をやり取りして動き始めたら、どうでしょう。営業AIが「このお客さんに今すぐ連絡を」と決めて、その情報が在庫AIに流れて、在庫AIがまた別の判断をして...という連鎖が起きる。結果として「誰も全体を見えていない状態」になるわけです。 つまりエージェント・スプロールは、単純に「AIが多い」という問題ではなく、AIが増えるにつれて、人間の監視能力がそのスピードに追いつかなくなるという構造的な問題を指していると言えそうです。AIが自動で判断・行動するというメリットが、企業の管理能力を超えた瞬間に、リスクに変わってしまう。そこが企業の管理職が怖がるポイントなのかもしれません。

職場で AI が勝手に判断して動いてるって、働く側からすると何が困るの？給料や評価に関わることもある？

働く側にとって一番の困りごとは、自分の仕事が「誰の判断」で評価されているのか分からなくなることかもしれません。 営業データを AI が自動分析して、あなたの営業成績を判定する。在庫判断 AI が、あなたが作った予測を無視して発注する。給料や異動の判断に使われるかもしれない。でも、その AI がどんなロジックで動いているのか、そもそも何を間違えているのか、誰にも説明できない状態が続くわけです。 人間の上司なら「なぜその評価か」と聞けば理由を言う。でも AI は理由を言わない。説明責任が宙に浮くんですよ。しかも複数の AI が絡み合うと、「どの AI の判断が決め手だったのか」も不明瞭になる。 給料や人事評価に直結するとしたら、働く側は納得しようがない。自分の成果が「誰の、どんな基準で」測られているか見えないまま、結果だけ通知される状況が続く。それは心理的な不安定さにもつながります。だからこそ、企業が AI を「見守る」仕組みを整える必要があるのは、実は働く側の透明性を守ることでもあるのかもしれません。

ここ数年で企業が自動判断 AI をどんどん導入し始めたのって、何きっかけで急になったの？

ChatGPT が世の中に出てきたのが2022年11月。 そこから「AI は使える」という企業の確信が一気に広がりました。 ただ、自動判断 AI が急に増えたのは、単に「生成 AI が流行ったから」というより、 むしろその裏側にある経営環境の変化が大きいんだと思います。 景気の見通しが悪くなるなか、企業は人件費を削りながら、 同時に複雑な業務をこなさなければならなくなった。 営業や在庫管理、顧客対応といった定型的だけど量が多い仕事を、 いちいち人が判断していたら回らない。 ここに「AI なら安く、24時間、判断してくれる」という選択肢が突然出現した。 経営層からすれば、渡りに船だったわけです。 結果、企業は導入の是非を吟味するより、 まず入れてみよう、走りながら考えようというモードになった。 記事が指摘する「管理できないほど増殖」というのは、 その急速な導入ペースの中で、必然的に生まれた副作用と言えそうです。

これって『便利なツールが増えるほど、実は管理が複雑になる』というよくあるジレンマの一つなの？

見た目はそう見えるけど、根っこはちょっと違うんですよね。 通常のツール増加は「管理の手間が増える」という量の問題。 スプレッドシートが10個あっても、誰が作って誰が更新するかは人間が把握しているし、 なにか間違ってたら「あ、B さんのシートが古いんだ」と追跡できます。 ところが自動判断 AI が増えると、 「判断の透明性そのものが失われる」という質の問題に変わるんです。 営業 AI が「この顧客には連絡するな」と判断した理由が、 その AI 自体にも説明できない。複数の AI が連鎖的に動いて、 どれが誰の判断なのか因果関係を辿れなくなる。 つまり「管理が複雑」ではなく、 「管理の前提そのものが崩れている」状態。 ツールの数が増えるのではなく、 判断主体が『人間から AI へ』移行しているから、 従来の管理の枠組みが通用しなくなってるわけです。 企業がいま困ってるのは「使いこなし方」ではなく、 「AI が何を考えてるのか、見張り続ける仕組み」をゼロから作らざるを得ない という状況なのかもしれません。

『AI を見守る仕組みが必要』って裏返すと、今までの企業は AI の暴走に気づかないまま判断してたってこと？

気づかないままというより、気づく仕組みそのものがなかったというのに近いですね。 営業データを分析する AI 一個ならまだ目が届きます。でも自動判断する AI が十個、二十個と増えていくと、各部署がそれぞれ導入した AI がどう動いているか、全体像を把握する人が誰もいなくなる。いま起きてるのは、その状態。経営層が気づかないというより、知りようがない状態が生まれてるわけです。 具体的には、営業 AI が独自の判断で高額顧客に値引きを提案して、在庫管理 AI がそれに気づかず在庫を積み増すみたいなことが勝手に起こる。AI 同士が会話してるわけじゃなく、単に誰にも見えない並列で動いているから、連鎖反応が起きても企業は気づかない。 「暴走に気づかない」というより「複数の独立した判断が積み重なって、予想外の結果になる」という問題。AI 技術の導入スピードが、人間の管理能力を完全に追い越してしまったというところなのかもしれません。