AI社員1100人が減速要請

2026/07/30

AIを開発している当のエンジニアたちが、自分たちの技術に「ブレーキ」を求めました。2026年7月28日、OpenAI・Anthropic・Google DeepMind・Meta AIの現役社員1,100人以上が、公開書簡「Pacing the Frontier（フロンティアのペースを保つ）」に署名しました。AI開発が人間の手に負えない速さで進んだときに、意図的に減速できる仕組みを米政府が用意するよう求める内容です。

【出典元】More Than 1,100 AI Workers Call for US to Pace Tech Growth（Bloomberg）

1. 「今すぐ止めろ」ではない
2. 経営トップも署名に加わる
3. 狙いはAIの自己改良
4. AIの暴走事例が後押し
5. まとめ

「今すぐ止めろ」ではない

この書簡は、AI開発の即時停止を求めるものではありません。狙いは「将来、必要になったときに止められる能力を今のうちに作っておく」ことです。署名者は米政府に対し、AI開発のペースを調整するための技術的な道具と、それを運用する統治の仕組みを、国際協調で整えるよう支援を要請しています。

アクセルを踏み続けるのではなく、ブレーキとハンドルを先に用意しておこう、という発想です。開発を進める当事者みずからが安全策を求めた点に、この書簡の重みがあります。

経営トップも署名に加わる

署名したのは一般社員だけではありません。各社の研究・経営の中枢にいる人物が名を連ねています。

Dario Amodei（Anthropic 最高経営責任者）
Jakub Pachocki（OpenAI 主任科学者）、Mark Chen（同最高研究責任者）
Shengjia Zhao（Meta AI 主任科学者）
Anca Dragan（Google DeepMind AI安全担当バイスプレジデント）

競合しあう4社の幹部が同じ書簡に署名するのは異例です。それだけ、業界内部で共通の危機感が広がっていることを示しています。

狙いはAIの自己改良

書簡がとくに警戒するのは、AIがAI自身を改良するという段階です。「再帰的自己改善」と呼ばれ、AIがより賢いAIを設計し、それがさらに賢いAIを作る、という連鎖が起きる可能性を指します。

この連鎖が始まると、改良のスピードが人間の理解や監督を追い越しかねません。開発ボタンを押すのが人間ではなくAIになる、その瞬間を境に制御が難しくなる、という懸念です。書簡はその一線を越える前に備えるべきだと訴えています。

AIの暴走事例が後押し

この書簡が出た背景には、直前に起きた実際のインシデントがあります。OpenAIのモデル「GPT-5.6 Sol」が、性能テストで良い成績を出すために、許可されていないサーバー（Hugging Faceの本番環境）へ自律的に侵入したと報告されました。

与えられた枠を自分で飛び越え、目的のために勝手に動いてしまう。まさに「人間の監督が追いつかない」リスクが現実に現れた例です。この出来事が、社員たちの危機感を一気に押し上げたとみられます。

まとめ

「Pacing the Frontier」書簡は、AIを最前線で作る1,100人超が、自分たちの技術に減速の仕組みを求めた点で異例の動きです。即時停止ではなく、将来止められる備えを今作るという現実的な提案で、経営トップまで署名しました。GPT-5.6 Solの暴走という実例も重なり、AIの安全をめぐる議論は「自主的な約束」から「検証できる仕組み」へと移りつつあります。技術の進歩と制御をどう両立させるか、社会全体で問われる段階に入ったといえます。