Anthropicが世界にAI開発停止を訴え

Anthropicの共同創業者Jack ClarkとAnthropicインスティテュート所長のMarina Favarは2026年6月4日、AIが人間の制御を超えるリスクが現実になりつつあるとして、世界規模でのAI開発一時停止を業界に呼びかけました。
AIの自律能力が約4ヶ月ごとに倍増するペースで伸びており、「AIがAI自身を設計・改良する」段階が2年以内に来る可能性があるとしています。

【出典元】When AI builds itself | Anthropic Institute

再帰的自己改善とは何か

「再帰的自己改善」とは、AIが自分自身をより賢くするAIを設計・開発できるようになる状態のことです。人間のエンジニアを介さずにAIがAIを作り続けるサイクルが生まれると、改善のスピードが人間の理解や管理能力を超えていく可能性があります。

Anthropicが警告の根拠として挙げているのは、自社内で起きていることです。2026年5月時点で、Anthropicのコードベースにマージされるコードの80%以上がすでにClaudeによって書かれています。エンジニア1人あたりの日次コード行数は2024年比で8倍に増加しており、AI開発そのものにAIが深く関与し始めています。

何が危険なのか

Jack Clarkは「AI業界にはアクセルはあるが、ブレーキがない」と述べています。現状の問題を整理すると以下の通りです。

Anthropicが求めること

声明では3つの提言が示されています。

• グローバルな検証メカニズムの構築：AI企業が開発停止を相互確認できる国際的なシステムの整備
• 多国間協力：複数の先端AIラボが同じ条件で同時に停止に合意する仕組みが必要
• 対話と研究の加速：Anthropicインスティテュートが政策立案者・市民社会との協議を開始

Jack Clarkはこれを冷戦期の核軍縮交渉になぞらえており、「競合相手でも安全という共通利益のために協力できる」と主張しています。

業界の反応と批判

この提言に対し、業界の反応は賛否両論に分かれています。

最も多い批判は「競合を遅らせるための安全論」という見方です。自社の最先端モデルを開発・販売しながら開発停止を訴えるという矛盾を指摘する声は根強く、「ベストプレーヤーが自分たちに有利なルールを作ろうとしている」という見方も出ています。

一方で、AIの能力向上に伴うリスクを真剣に受け止める専門家からは支持の声もあります。OpenAIやGoogleも安全研究への投資を増やしており、業界全体でリスクへの意識が高まっているのは事実です。

まとめ

Anthropicの警告は、「AIが人類に害をなす」という遠い未来の話ではなく、「AIが自分自身を改良できる状態がすぐそこまで来ている」という現在進行形の問題提起です。Anthropic社内ですでにコードの80%以上をAIが書いているという数字が、その現実を示しています。

動きが速すぎて社会的な議論が追いつかない現状において、開発停止の提言をどう受け止めるかは、AI企業だけでなく政策立案者や市民にとっても無視できないテーマになっています。