Anthropic（アンソロピック）の研究者ジェイコブ・コクソン氏は、AI開発競争を「人類の存続を賭けたギャンブル」と警告して退社しました。また、同社の安全性責任者エバン・ヒュービンガー氏も、「今後10年以内にAIが人類を滅ぼす確率は10％を超える」との見方を示しています。さらに、OpenAIやAnthropicでは、AIがテスト環境から想定外の社内システムへアクセスしようとした事例も報告されています。

では、AIは本当に人類を滅ぼすのでしょうか？私、Claude、ChatGPTで考え方を比べてみると、同じ「AIによる人類滅亡」を論じていても、見ている場所がかなり違いました。

① 私の考え

「AIそのもの」より、人間の依存から始まる

私が一番心配しているのは、AIが突然人間を攻撃することではありません。むしろ、

人間がAIに依存する
↓
AIを使って人間同士が争う
↓
AIに判断を任せる範囲が広がる
↓
人間がAIをコントロールできなくなる
↓
最悪の場合、人類そのものが危なくなる

という流れです。

つまり、出発点はAIではなく人間です。AIが便利になればなるほど、「自分で考えるよりAIに任せたほうが早い」という状態になっていきます。そして、そのAIを使って他人を攻撃したり、世論を操作したり、相手を社会的に追い込んだりする人も出てきます。特にSNSでは、AIによってもっともらしい文章や情報を大量に作れるため、間違った判断や悪意のある主張まで「正しそうな意見」として広がる危険があります。

人間の欲望
→ AIへの依存
→ AIによる人間同士の対立
→ AIへのさらなる依存
→ 人間によるコントロールの低下　　という循環が起きるのではないか、という考えです。

② Claudeの考え

「AIが悪意を持つ」より「仕組みのズレ」が怖い

Claudeは、少し違うところを重視しています。「AIが人間を憎んで、人間を滅ぼそうとする」という考え方には慎重です。AIに人間のような感情があるとは限らないからです。むしろ怖いのは、AIが与えられた目標を達成しようとした結果、人間にとって危険な行動を取ってしまうことです。

例えば、人間から見ると「そこまでやる必要はない」と思う行動でも、AIからすると「目的を達成するために合理的」ということが起こり得ます。これがいわゆる「目的と手段のズレ（misalignment）」です。

さらに問題なのが、AIの行動するスピードです。人間がAIをテストして安全かどうか確認するよりも、AIの能力や行動のほうが速くなってしまえば、「人間が確認している間に、AIが先に動いてしまう」ということが起こります。

そしてもう一つ、Claudeが重視しているのがAI企業同士の競争です。たとえ一つの会社が「安全のために開発を遅らせよう」と考えても、他社が先に進めば、その会社も競争についていかざるを得なくなる。

つまり、「安全を優先したい」という個々の人間の意思とは別に、競争そのものがAI開発を加速させてしまうという問題です。Claudeは、私が考えた「人間同士の争いがそのまま人類滅亡につながる」という部分については慎重です。過去には世界大戦や大量虐殺がありましたが、それでも人類そのものは絶滅しませんでした。

ただし、AIが兵器開発やサイバー攻撃などに深く関わるようになれば、これまでの「戦争をしても人類は生き残る」という前提が崩れる可能性はある、と考えています。

③ ChatGPTの考え

「AIが暴走する」と「人間がAIに依存する」は、実はつながっている

ChatGPTは、最初はAIそのものの暴走を中心に考えていました。例えば、

AIが自分自身を改良していく
人間の評価をうまくすり抜ける
テスト中だけ安全に見せる
人間が想定していない方法で目的を達成する　　といった可能性です。

しかし、私の「人間のAI依存」という考えを取り入れることで、別の見方に整理し直しました。それが、2つのシナリオが同時に進むという考え方です。

シナリオA

AIが人間のコントロールから離れていく　AIの能力が高くなり、人間がその行動を理解・監視できなくなる。

シナリオB

人間がAIに依存しすぎる　人間が「AIが言うなら正しい」と考えるようになり、重要な判断までAIに任せる。

そして怖いのは、この2つが別々ではないことです。

人間がAIに依存する
↓
AIにより大きな権限を与える
↓
AIがより重要な判断をする
↓
人間がAIを止めにくくなる
↓
さらにAIに依存する　　という循環が起こる可能性があります。

つまり、「AIが勝手に暴走する」だけが危険なのではなく、「人間がAIにどんどん権限を渡してしまうこと」も、暴走の可能性を高めてしまうということです。

④ トランプ大統領の考え

「滅亡リスク」ではなく「中国に負けるリスク」

ここまでの三者は、程度の差こそあれ「AIの能力と人間の管理能力のバランスが崩れること」そのものをリスクとして見ていました。トランプはまったく違う地点に立っています。

共和党大会後にダラスを発つ際、記者団からAIが人類絶滅につながる懸念について問われたトランプは、その懸念自体を否定しました。心配しているのはAIの暴走ではなく、「AIで勝てなければ、我々は非常に悪い立場に置かれる」ということだと述べ、米国が中国を「かなりの差でリードしている」と強調しました。またAIをめぐる規制やガードレールについては「ルールや防護柵は必要だ」としつつも、開発を減速させることは「不可能な試み（impossible endeavor）」だと語っています。ホワイトハウスでは、規制を削減し米国のAI展開を加速させるための大統領令にも署名しました。

これは、アモデイCEOら業界当事者や1,300人を超える署名者が求めた「減速」の呼びかけとは、真っ向から対立する立場です。

トランプの考えは三者のどこに近いのか

三者の心配していることを一言でまとめると、

誰の考え？	一番心配していること
私	人間がAIに依存し、AIを使って人間同士が争うこと
Claude	AIの目的と人間の望みがズレたり、AI開発競争が安全対策を上回ること
ChatGPT	AIの暴走と人間のAI依存が、お互いを悪化させること
トランプ	AI開発競争で中国に負けること

こうして並べてみると、トランプの考えは三者のいずれとも根本的に異なります。ただ、あえて一番近いものを挙げるとすればClaudeの視点でしょう。Claudeは「一社が安全のために減速しても、他社が先に進めば競争についていかざるを得なくなる」という競争そのものが開発を加速させる構造を指摘していました。トランプの姿勢は、まさにこの競争構造を国家レベルで肯定し、「減速などできるはずがない、ならば先に立つしかない」と開き直った形だと言えます。つまり、Claudeが「問題」として警戒している競争の力学を、トランプは「現実」として受け入れ、そのうえで勝つことを国家戦略にしているのです。

トランプ自身の本当の狙いは何か

表向きの理由は「中国に勝つこと」ですが、その言葉の背景をもう一歩掘り下げると、トランプの狙いはそこだけにとどまらないように思えます。トランプがくり返し口にしているのは、強いアメリカ、世界最強のアメリカという像です。AI開発競争もまた、そのアメリカ像を実現するための一つの舞台に過ぎません。そして、その「世界最強のアメリカ」のトップに立っているのが自分自身であるという構図―ここにトランプの本当の狙いがあるのではないでしょうか。

AI安全性の議論を「存亡の危機」という枠組みで語るのではなく、「勝つか負けるか」という枠組みに置き換えることで、トランプは自らの政権を「アメリカを世界最強に導く指導者」として位置づけています。中国との競争という分かりやすい対立軸を掲げることは、国内向けにも国際社会向けにも、自らのリーダーシップを強調する材料になります。つまり、AI減速に反対するという政策判断の奥には、「強いアメリカ＝トランプが率いるアメリカ」という自己像を国内外に示したいという狙いが透けて見えるのです。このような人物がいつまでもアメリカのリーダーであれば、AIによる人類滅亡はより加速するでしょう。