AnthropicがグローバルAI一時停止を提案、2年以内に自己改善型モデルが登場へ

AnthropicによるフロンティアAI開発の協調的グローバル停止の要請は、機械が人間の監視なしに学習する前に業界が自主規制できるかどうかについての議論を再燃させた。

Anthropicは、AIシステムが「再帰的自己改善」——人間の介入なしに自身のコードを書き換える能力——を2年以内に達成する可能性があると警告し、フロンティアモデルの開発を遅らせるための国際的に協調した一時停止を提案した。

「私たちは、社会構造とAIアライメント研究が技術の進歩に追いつくことを可能にするために、フロンティアAI開発を減速または一時停止する選択肢が世界にとって有益であると信じています」と、Anthropicの内部研究責任者マリナ・ファヴァロ氏と政策責任者ジャック・クラーク氏は木曜日のブログ投稿で述べた。

先月の65億ドルのシリーズHラウンド後に約9650億ドルの評価額を有する同社は、最も先進的なモデルがソフトウェアタスクを自律的に完了する速度が急加速していることを示す内部データを公開した。クラーク氏は、一部のシステムが2年以内に再帰的自己改善を達成する可能性があると述べたが、同社はこの現象は依然として理論的なものであり、実運用で実証されたことはないと認めている。

この提案は、AnthropicとOpenAIが公募に向けて競争する中で浮上した——Anthropicは今週、証券取引委員会にIPO書類を秘密裏に提出——また両社が今後5年間で1兆ドルのAIインフラ支出が見込まれる市場での支配権を争う中での動きである。執行されれば、この減速は競争環境を一変させ、数十億ドルの予想収益を遅らせる可能性がある。

グローバル停止の実現可能性

アナリストらによると、世界的なAI開発の停止を執行することはほぼ克服不可能な障害に直面するという。エンダール・グループのロブ・エンダール氏は、経済的および国家安全保障上の利害があらゆる主要国にとって自主的な減速を許さないほど大きいため、グローバル停止は「事実上不可能」だと述べた。核兵器のように人工衛星画像でミサイルサイロの建設を確認できるのとは異なり、AIトレーニングは追跡がはるかに困難な分散型コンピューティングリソースを備えたプライベートデータセンター内で隠蔽できる。

「分散型コンピューティングリソース、プライベートデータセンター、アルゴリズム研究を世界規模で追跡することは、核施設のような物理的なものを監視するよりもはるかに難しい」とエンダール氏は述べた。

Anthropicはこの検証の課題を認め、冷戦時代の軍備管理条約に例えたが、AIトレーニングの隠蔽はミサイルインフラを隠すよりもはるかに容易であると指摘した。同社は、Anthropic Institute研究部門が政策立案者や研究者と協力して検証メカニズムを探求すると述べたが、具体的なスケジュールや枠組みは示さなかった。

批評家がAnthropicの動機を疑問視

この提案は、Anthropicが安全面のレトリックを利用して競争上の地位を固めていると主張する業界関係者から鋭い懐疑論を集めた。ドナルド・トランプ大統領の非公式アドバイザーであるベンチャーキャピタリストのデイビッド・サックス氏は以前、同社が低コストのオープンソースモデルを禁止し、自社の独自アルゴリズムへの需要を高める「規制捕獲アジェンダ」を実行していると非難した。

OpenAIのサム・アルトマンCEOも同様の非難を行い、Anthropicの警告を「恐怖に基づくマーケティング」と表現した。先月の声明で彼は次のように述べた：「『我々は爆弾を製造した。まもなくそれを君の頭上に落とそうとしている。1億ドルで核シェルターを売ってやろう』と言うのは、明らかに見事なマーケティングだ。」

OpenAIは水曜日、AI開発の「ルール、安全策、説明責任メカニズムは最終的に民間企業単独ではなく民主的な政府が決定すべき」とする自社の報告書を発表し、Anthropicの業界主導による一時停止提案を暗に否定した。

コンステレーション・リサーチのホルガー・ミューラー氏は、Anthropicが倫理的な問いを投げかけていることを評価する一方で、同社が「現状を凍結して追いつこうとしているのか、単にリードを維持しようとしているのか」疑問を呈した。凍結はAnthropicがB2B AIシステムにおける自社のポジションを維持し、市場シェアを拡大するのに役立つと彼は指摘した。

ペンシルベニア大学ウォートン校のイーサン・モリック教授はX（旧Twitter）に、このブログ投稿には「少しの自己陶酔といくつかのマーケティング、そしてAnthropicが近い将来のAIについて考えている非常に誠実な信念が多く含まれている」と投稿した。

投資家への影響

投資家にとって、この議論は最大手企業——Anthropic、OpenAI、Google、Microsoft、Meta——が年間合計2000億ドル以上をAIインフラに費やしているセクターに規制上の不確実性をもたらす。協調的な停止が勢いを増せば、直近四半期に475億ドルのデータセンター収益を計上したNvidiaの収益成長期待を鈍化させる可能性がある。提案が rejects された場合、短期的な懸念は除去されるものの、安全性慣行への監視が強まる可能性がある。

Anthropicはまだ公開ティッカーを保有していないが、同社の秘密のIPO申請により、公開市場の投資家はこの議論の行方に直接的な利害関係を持つことになる。Spark CapitalやMenlo Venturesを含む投資家が主導した65億ドルの資金調達ラウンドは、同社の年間収益の約40倍の評価額に相当し、規制による中断のない継続的な急成長を前提とした評価である。

本記事は情報提供のみを目的としており、投資助言を構成するものではない。