AI開発を「安全のために減速」はできるのか？──止まりたくても止まれない米中AI競争

アメリカのAI企業トップたちの間で、「AIが危険な領域に入りつつある以上、安全性を優先して開発ペースを落とすべきではないか」という議論が出ている。

言っていることは分かる。

ただ、私はたぶん無理だと思っている。

理由は単純で、アメリカだけが止まっても、中国は止まってくれないからだ。

「みんなで少し休もう」が成立しない

AIはいまや単なるITサービスではない。

経済、軍事、サイバーセキュリティ、情報戦、ロボット、半導体まで関係する国家レベルの基盤技術になっている。

アメリカのAI企業が、

「ちょっと危なくなってきたので、半年くらい開発速度を落としましょう」

と言ったところで、中国企業まで、

「それは素晴らしい。では我々も休みます」

とはならないだろう。

むしろ相手が止まれば、その半年は絶好の追い上げ期間になる。

これはスポーツの試合ではない。「安全のため、両チーム同時にタイムアウト」というルールを決める審判はいない。

政治も「安全のために負けます」とは言えない

さらにアメリカ国内の政治がある。

企業側が安全性を理由に本気で減速しようとしたとき、政府がそれを歓迎するとは限らない。

特にトランプ政権が中国とのAI競争を国家戦略として考えるなら、

「安全のために開発を遅らせます」

という企業に対して、

「分かった。では政府は、もっと速く開発する会社へ補助金を出そう」

となっても不思議ではない。

企業同士で競争し、国家同士でも競争している。

つまり、誰か一社がアクセルを緩めても、後ろから別の車が追い越していくだけなのだ。

そもそも「AIの危険」とは何なのか

もう一つ、私はAIの危険性について語られるとき、少し違和感がある。

AIが危険なのは分かる。

サイバー攻撃、詐欺、偽情報、世論操作、兵器への応用。悪意を持った人間が強力なAIを使えば、これまでよりはるかに大きな被害を出せる。

こちらは非常に現実的な危険だ。

一方で、

「AIが自我に目覚め、人間を敵と判断して滅ぼし始める」

という話になると、私はかなり距離を置いて見ている。

私は仕事で毎日のようにAIを使っているが、少なくとも現在のAIから「人類を支配しようという強固な意志」を感じたことはない。

それどころか、少し複雑な作業を頼めば指示を忘れ、勝手に別のことを始め、さっき自分で決めた方針をひっくり返し、ときには途中で仕事を放り出す。

人類を滅ぼす前に、まずREADMEを最後まで読んでほしい。

暴走は怖い。しかし「反乱」とは限らない

もちろん、AIが意図しない動作をして大事故を起こす危険はある。

AIエージェントに大きな権限を与え、誤った判断のままデータを削除したり、本番環境を変更したりすれば、それだけで十分に惨事になる。

しかし、これは「AIが人類に反乱した」という話ではない。

自動運転車が認識を誤って事故を起こしても、「車が人類への殺意に目覚めた」とは普通考えない。

AIについても、まず警戒すべきなのは悪用、誤動作、権限設計、そして人間側の過信だろう。

少なくとも現在の技術から突然『ターミネーター』へ飛ぶ必要はない。

止まりたい。でも止まった側が負ける

AIの安全性を研究することには意味がある。

しかし、「危険だから開発競争そのものを減速しよう」となると話は別だ。

企業同士が競争している。国家同士も競争している。そして相手が止まる保証はない。

全員が「少し速度を落としたほうが安全だ」と理解していても、自分だけブレーキを踏めば負ける。

これはAIの技術問題というより、かなり古典的なゲーム理論の問題に見える。

誰もアクセルから足を離せないまま、全員で「スピードの出しすぎは危険だ」と会議をしている。

今のAI競争は、だいたいそんな状態なのだと思う。