ホワイトハウス、Anthropicに2モデルの全脱獄対策を要求——技術的に不可能な規制の行き詰まり

トランプ政権はAnthropicに対し、同社の最先端AIモデルにおける全ての脱獄（ジェイルブレイク）手法を封じるよう要求している。これは技術的に不可能な要求であり、両者の間でAI規制の将来をめぐる行き詰まりに発展している。

政権高官および本件に詳しい別の政権関係者によると、ホワイトハウスはAnthropicに対し、同社の「Fable 5」および「Mythos 5」モデルにおける全てのセキュリティ脆弱性の除去を要求。これは技術的に達成不可能な水準であり、AI規制の将来をめぐる対立へと拡大している。

「問題は、ホワイトハウスが極端な規制反対の姿勢を取ってきた中で、長年にわたり人々が予測してきた真のAI能力に直面していることだ」と、職業上の人間関係を危険にさらすことを避けるため匿名を条件に語った元ホワイトハウス技術当局者は述べた。「利益とリスクを管理するための準備と政策が体系的に存在すべきだったが、代わりに場当たり的なアプローチが取られ、AI業界を本当の窮地に追い込んでいる。」

この紛争は、6月13日にホワイトハウスがAnthropicに輸出規制を課し、同社が両モデルへの全ユーザーのアクセスを停止せざるを得なくなったことで勃発した。アマゾンのアンディ・ジャシーCEOはベッセント財務長官に対し、研究者がガードレール（安全策）の迂回の証拠を発見したと警告していた。Anthropicは脆弱性は限定的であり、意味のあるセキュリティ上の欠陥には当たらないと主張したが、政権は外国人ユーザーのモデルアクセスを禁止することで応じた。同社は、輸出規制に準拠する唯一の方法として、モデルを完全に引き揚げることを選択した。

この行き詰まりは大きな経済的利害をはらんでいる。Apple、Meta、そしてフォーチュン500の多くを含むAnthropicのエンタープライズ顧客は、同社の最先端システムにアクセスできない状態が続いている。この紛争により、同社の新モデル展開能力も凍結され、収益成長と競合するOpenAIやGoogle DeepMindに対する競争力の低下を招く可能性がある。

紛争の核心にある技術的 impossibili

セキュリティ研究者やAI経営陣は、現在の技術ではホワイトハウスの要求は満たせないと指摘する。大規模言語モデルは決定論的ではなく確率的であるため、企業は任意のプロンプトに対して何を生成するかを保証できない。あらゆるモデルはある程度脱獄が可能であり、既存の手法で問題を完全に解決することは実現不可能だ。

Anthropicと独立系サイバーセキュリティ研究者は、脱獄はパッチ適用で解決できる孤立した問題ではないと主張する。同社の当初の弁明は、いかなるAIモデルもハッキングに完全に耐性を持つことはできないというものだった。この姿勢は、Anthropicが長年にわたりAIの破局的リスクについて警告してきたと指摘するホワイトハウス当局者をいら立たせた。

ホワイトハウスとAnthropicの交渉——企業側は公共政策責任者のサラ・ヘック氏と共同創業者のトム・ブラウン氏が主導——は、今後の脱獄を評価するための共通ベンチマークの策定へと移行している。これには、ガードレールがどの程度迂回されたか、露出した能力、および侵害の実務的影響が含まれる。輸出規制はまだ解除されていないものの、技術基準の設定へと交渉がシフトしていることは、協議が進展していることを示している。

事実上のライセンス体制の出現

トランプ政権はこれまで、強制的なAIライセンス供与に反対してきた。トランプ大統領は先月、AI研究所が政府の事前試験にモデルを提出するための「自主的」システムを創設する大統領令に署名し、強制にはしない旨の例外条項を明記していた。しかし、Anthropicとの紛争により、実質的に場当たり的なバージョンのライセンス体制が生まれた。

OpenAI、Google、Metaを含む他の主要AI研究所も、この紛争を注視している。多くのAIリーダーは現在、ホワイトハウスに最新モデルへの早期アクセスを提供し、今後のローンチに関する情報共有を極めて積極的に行う必要があると考えている。当局者を不意打ちにするリスクは大きすぎると彼らは述べている。

「事前通知、事前アクセス。我々が聞いているのは、米国だけでなく世界各国からの主な要請はそれだと思う」と、カナダのAI研究所CohereのCEO、エイダン・ゴメス氏は今週初めのインタビューで述べた。「多くの点で、それは良いことだと思う。極めて重要なテクノロジーに対する当局の強い関与と配慮を示している。」

この紛争は今週フランスで開催されたG7サミットでも主要議題となった。トランプ大統領はAnthropicとの協議は「順調に進んでいる」と述べたが、詳細には言及しなかった。AnthropicのCEO、ダリオ・アモデイ氏は世界のリーダーに対し、AI規制へのアプローチが分裂する誘惑に抵抗するよう求めた。

本記事は情報提供のみを目的としており、投資助言を構成するものではありません。