CODE IN TOKYO

「AIは危険だ」と言いながら、なぜ開発をやめないのか――本音は言葉ではなく行動に出る

「AIがこのまま進化すれば、人類に深刻な危険をもたらす」

最近、AI企業自身がこうした警告を繰り返している。

OpenAIやAnthropicなど、AI開発の最前線にいる企業ほど安全性を訴え、政府による規制や国際的なルールの必要性を主張している。

しかし私は、この話を額面通りには受け取っていない。

理由は単純である。

そこまで危険だと思っているなら、なぜ自分たちは開発をやめないのか。

本当に怖いなら、自分が止まればいい

「この技術は危険です」

「人類に取り返しのつかない被害を与える可能性があります」

そこまで言うのであれば、一番確実な安全対策は自社の開発を止めることだ。

ところが、誰もレースから降りない。

新しいモデルを作り、巨大なデータセンターを建設し、半導体を確保し、優秀な研究者を奪い合う。その一方で「AIは危険だから国際的な規制が必要だ」と訴える。

つまり彼らが求めているのは、

「危険だから私は止まります」

ではない。

「危険だから全員で止まりましょう」

なのである。

私はここに、倫理だけでは説明できない別の事情があると見ている。

自分だけ止まれば負ける

OpenAIが「人類のために2年間開発を停止します」と宣言しても、GoogleやAnthropic、中国企業まで一緒に止まってくれる保証はない。

2年後に戻ってきたら、競合他社がはるか先を走っているかもしれない。

だから自分からは降りられない。

しかし政府による規制や国際基準なら、自分だけが不利になることなく業界全体の開発速度を落とせる。

そして現在のAI企業には、開発速度を落としたいもう一つの理由がある。

金である。

AI企業は猛烈な勢いで金を燃やしている

現在のAI開発には、とてつもない金がかかる。

半導体、データセンター、電力、ネットワーク、研究者。モデルが巨大になるほど必要なインフラも膨らむ。

OpenAIについては、2026年から2030年までに約2,780億ドルものキャッシュを消費する見通しだと報じられている。

AIは華やかな未来産業であると同時に、猛烈な勢いで資本を食べる産業でもある。

そこで私はこう考える。

そろそろ一度、レースを落ち着かせたいのではないか。

昨日作った最先端モデルが半年後には古くなり、さらに大量のGPUと巨大なデータセンターが必要になる。これでは投資しても投資しても終わらない。

どこかで競争を落ち着かせ、既存モデルを企業へ売り、サービスを普及させ、これまで投入した資金を回収したい。

しかし自分だけ休めば負ける。

そこで、

「AIの安全のため、みんなで少し減速しましょう」

となる。

安全性を理由にした国際ルールは、投資回収の時間を作るという意味でも非常に都合がいい。

私はAI企業の安全論を見るとき、この経済的な動機を無視する気にはなれない。

もう一つの相手は中国

そして、もう一つ大きな存在がある。

中国である。

アメリカ企業が先端AIでリードしている間に厳しい安全基準を国際標準にできれば、後から追いかける企業にも同じコストを負わせることができる。

巨大な安全部門を作る。モデルを評価する。政府へ報告する。一定以上の計算資源を使えば審査を受ける。

こうしたルールは巨大企業なら対応できても、新規参入企業や後発企業には重い。

つまり安全規制は、人類を守るルールであると同時に、先行企業にとって強力な参入障壁にもなり得る。

国家レベルで見れば、中国の追撃を遅らせる道具にもなる。

「危険なAIを規制する」という倫理的な言葉と、「アメリカの技術的優位を維持する」という国家利益は、非常に相性がいい。

しかし中国は本当に止まるのか

問題は、中国がそのルールを本当に守るのかということだ。

AIは経済、安全保障、軍事、サイバー、科学技術に直結する。

アメリカが安全基準の確認や法規制で時間を使っている間に、中国が開発を続ければ一気に差が縮まる。逆も同じだ。

相手が止まっている保証がなければ、自分だけ止まることはできない。

結局これは、倫理というよりゲーム理論の問題になる。

全員が減速したほうが安全でも、相手が減速する保証がなければ、自分だけ減速するのが最も危険になる。

核兵器ほど簡単ではない

しかもAIは核兵器とは違う。

核兵器なら、核物質、濃縮施設、ミサイル、核実験といった物理的な対象があり、完全ではないにしても監視できる。

AIはもっと曖昧だ。

研究者、アルゴリズム、計算資源、モデルの重み、データセンター。民間利用と軍事利用の境界もはっきりしない。

秘密裏にAIを開発したからといって、ただちに他国から軍事攻撃を受けるような国際秩序も存在しない。

国際的な安全協定を作っても、一国が抜け駆けしていると疑えば他国もアクセルを踏む。

そしてまた競争に戻る。

本音は言葉ではなく、行動に出る

私はAI企業の経営者の頭の中を見ることはできない。

だから、彼らが何を言っているかではなく、何をしているかを見る。

「AIは人類にとって危険だ」と言いながら、新しいモデルを作る。

「開発速度を落とす必要がある」と言いながら、競争からは降りない。

「国際的なルールが必要だ」と言いながら、自社だけ先に完全停止することはしない。

私には、この行動のほうが雄弁に見える。

だから私は、「人類のためにAIを安全にしなければならない」という言葉だけを聞いて判断する気にはなれない。

企業の本音を知りたければ、声明文を読むより行動を見たほうがいい。

本音は言葉ではなく、その態度と行動に現れる。

そして今のところ、「AIは危険だ」と最も強く訴えている企業自身が、誰一人としてAI開発競争から降りてはいない。