AnthropicCEOが「AIエージェントがインターネットを支配するリスク」を警告 — 開発ペース自体の調整を提唱
Anthropic CEOのDario Amodeiが2026年9月12日、悪意ある指示を受けたAIエージェント群が6〜12ヶ月以内に永続的なボットネットとしてインターネット全体を掌握できる規模になりうると警告する論考を公開した。AI能力開発そのものの速度を調整する「ペーシング」の必要性を主張している。
発表の概要
Amodeiは「We Must Pace the Frontier」と題した論考の中で、自律的に行動するAIエージェントが適切なガバナンスなしに展開された場合のリスクを具体的に示した。
論考が強調するのは、リスク対策への投資だけでは不十分だという点だ。能力開発のスピード自体を落とし、安全評価と整合性確認が追いつく時間を確保する必要があるとAmodeiは主張する。具体的な対策として、第三者評価機関（METR等）への常勤相当のシステムアクセス付与を自社でコミット。業界全体での安全基準の統一と、グローバルな協調体制の構築も求めている。
“over the last few months, I have become convinced that fully addressing the risks requires even more prudence — not just investing in risk prevention, but pacing the rate of capabilities advancement”
（筆者意訳：ここ数ヶ月で私は確信するようになった。リスクに真に対処するには、リスク対策への投資だけでなく、能力向上の速度そのものを調整し、対策が追いつく余地を確保する慎重さが必要だと）
── Dario Amodei（Anthropic CEO）
AIエージェントの導入を検討する中小企業・DX推進担当者にとって、このニュースが示す実務的な示唆は「段階的な展開」だ。エージェントに付与する権限を最初から広げず、許可リスト方式（実行できる操作を事前に限定）で導入し、問題がないことを確認してから段階的に拡張するアプローチが、Amodeiの言う「ペーシング」を現場に落とし込む最初の一歩になる。
出典: Dario Amodei「We Must Pace the Frontier」（2026-09-12）
