パイロットがCAを兼任する飛行機には乗りたくない

最近、複数のAIエージェントを同時に動かして仕事をすることが増えた。

一つには調査をさせ、別の一つにはコードを書かせ、さらに別の一つにはレビューをさせる。

うまく回っているとき、人間は驚くほどやることがない。

画面上でカタカタと動くコンソールを眺め、ときどき進捗を確認するくらいだ。

問題は、何かが起きたときである。

一つがエラーを出し、別の一つが想定外の変更をする。作業同士がぶつかれば、それまで静かだった画面が突然騒がしくなる。

「エラーになりました」

「この場合どうしますか？」

「別の変更と競合しています」

全部まとめて人間のところへ飛んでくる。

各エージェントのログを読み、どこで前提がズレたのかを探し、何を残すか判断して修正指示を出す。

数分前までコーラを飲みながら画面を眺めていた人間の脳が、突然100％で回り始める。

この働き方、何かに似ている。

旅客機のパイロットである。

普段は暇。でも暇でなければ困る

現代の旅客機では、多くの作業が自動化されている。巡航中、パイロットがずっと操縦桿を握っているわけではない。

だからといって、

「じゃあパイロット、暇じゃん」

とはならない。

何か問題が起きれば、それまで自動で動いていた巨大なシステムを理解したうえで、人間が判断しなければならないからだ。

AIエージェントも同じだ。

平常時の負荷は低い。しかし複数のAIを並行して動かしていると、問題まで並行してやって来る。

しかも以前なら、自分でコードを書いていたので頭の中にコンテキストがあった。

AIの場合は違う。

トラブルが起きて初めて、

「お前、そこで何やった？」

となる。

そこからAが何を変更したのか、Bは何を前提にしているのか、Cのレビューは正しいのかを短時間で把握する。

AIが10人分働いてくれるなら、人間が10人分楽になるとは限らない。

10人分の問題が同時に自分のところへエスカレーションされる可能性もある。

そして必ず現れる「暇そうですね」

ここで、AIが会社に本格導入された未来を想像すると嫌な予感がする。

AIエージェントを何台も動かしている社員が、椅子に座って画面を眺めている。

そこへ管理職がやって来る。

「暇そうですね。余裕があるなら、この仕事もお願いします」

これは危ない。

パイロットに、

「自動操縦中は暇ですよね。CAの代わりに飲み物を配ってきてください」

と言っているようなものだ。

一人でAIを3つ見られる。まだ余裕がありそうだから5つ。まだ座っているから8つ。

こうして人間の稼働率を100％に近づけていく。

そして3つが同時に問題を起こした瞬間、全部止まる。

「何もしない時間」が仕事になる

AIによって通常時の作業量が減ったからといって、その空いた時間を別の仕事で全部埋めればいいわけではない。

その空白は、異常が起きたときに使う処理能力である。

サーバーでも道路でも、余力がなくなると急激に弱くなる。人間の頭も同じだ。

これからAIがさらに仕事をするようになれば、人間の仕事は「手を動かす」ことから、監視し、判断し、必要なときに介入することへ変わっていく。

厄介なのは、それが外から見ると非常に暇そうに見えることだ。

しかし人間がそこにいるのは、何かが起きた瞬間に判断するためである。

もし将来、

「AIに仕事させてる間、暇ですよね？」

と言われたら、こう答えればいい。

「はい。何か起きるまでは。それが一番いい状態です」

パイロットがCAも兼ねる便には私は乗りたくない。