「AIのデータは信用できない」と言う上層部の本音。実は“嘘をつくから”ではなく、“自分が使ったことがないから”ではないか

最近、友人の会社ではAIツールの試験運用が続いている。

ところが、現場ではさっそく壁にぶつかっているらしい。

そこそこ偉い立場の人が、こんなことを言ったそうだ。

「AIが作るデータは信用できない。従来どおり、人間が作成し、人間がダブルチェックする体制を維持すべきだ。」

気持ちは分かる。

AIはハルシネーションを起こす。

もっともらしい間違いもする。

だから、AIを業務へ使うことに慎重になる理由は理解できる。

ただ、この人が求めているのは、AIを慎重に使う方法ではない。

最初から人間が作り、別の人間が確認する従来の方法を続けることだ。

つまり、AIを業務工程から外すという話である。

それでは、何のための試験運用なのか

そもそも「全部AIを使うか、人間だけでやるか」というのは極論すぎる

例えば、これまで10時間かかっていた作業をAIが2時間に短縮し、その成果物を人間が確認する方法もある。

確認作業が2時間なら、トータルで6時間の時間短縮だ。

だから必要なのは、AIを全面的に信用することでも、工程から完全に外すことでもない。

何をAIに任せ、何を人間が判断し、どこまで確認するのか。リスクに応じて仕事の進め方そのものを組み直すことである。

従来の工程を一切変えないのであれば、AIを試す作業自体が無駄である。

飲み会では「会社がそう決めたなら仕方ないよね。その分、人件費が増えるだけだから」と、半ば諦めたように話していた。

現場は決められたルールに従うしかない。

本当に信用していないのはAIなのか

ここからは私の推測である。

「AIは嘘をつくから信用できない。」

そう言われることは多い。

しかし、本当に理由はそれだけなのだろうか。

私はむしろ、**「自分がよく分からないものを組織へ入れるのが怖い」**という心理の方が大きい気がしている。

部長や役員クラスになると、自分でExcelの複雑な関数を書いたり、マクロを組んだり、大量データを加工したりする機会はほとんどない。

AIを毎日使い込んでいる人も、おそらく多くはない。

つまり、自分自身がAIの便利さも限界も体験していない。

分からないものは評価できない。

評価できないものには責任を持てない。

だから一番安全なのは、

「今までどおりにしましょう。」

と言うことである。

もしAIを導入して大きな問題が起きれば、

「導入を認めた役員」

の責任になる。

しかし導入を遅らせても、責任を問われることはほとんどない。

役員個人の立場だけを考えれば、「反対する」という判断は極めて合理的なのである。

人間も、昔から間違えていた

ただ、一つ気になることがある。

人間だって昔から間違えてきた。

Excelの計算ミス。

コピー＆ペーストのミス。

メールの誤送信。

数字の転記漏れ。

そんなものは日常茶飯事だった。

それでも、

「コンピュータは信用できないから使うのをやめよう。」

という話にはならなかった。

「確認しよう。」

で終わっていた。

ところがAIになると、

「だからAIは信用できない。」

になりやすい。

この違いは、少し不思議である。

問題はAIではなく、運用である

AIの回答を人間が確認する。

これは正しい。

では、どこまで確認するのか。

何をAIに任せるのか。

何を人間が判断するのか。

その設計こそが、一番重要である。

AIを導入しても、人間が最初から作り、人間が最後まで確認する従来のプロセスを残すのであれば、生産性は上がらない。

問題はAIではない。

運用である。

「AIは信用できない」の結末

企業には慎重さが必要だ。

だから最初は小さく始める。

重要な業務だけは人間が確認する。

そういう段階を踏むこと自体は理解できる。

しかし、「分からないから今までどおり」を続けるだけなら、AIは永遠に理解できないままで終わる。

もっとも、AIを使わないという選択をした会社が、この先どうなるのかは少し興味がある。

もっとも答えは、過去がすでに教えてくれている。

コンピュータを使わない会社。

インターネットを使わない会社。

クラウドを使わない会社。

そうした会社が、その後どうなったかを見れば、おおよその結末は想像できる。

AIだけが、その歴史の例外になるとは、私には思えない。