Anthropic CEO 承诺 3.5 亿美元，支持强制性 AI 测试

Dario Amodei 希望政府在危险 AI 模型触及公众之前将其拦截——他正投入 3.5 亿美元推动这一目标。

Anthropic 首席执行官 Dario Amodei 于 6 月 11 日提议，对算力超过 10^25 FLOPs 或 AI 收入达到 5 亿美元的前沿 AI 系统进行强制性第三方测试，并赋予政府在模型构成灾难性风险时阻止其部署的权力，该风险涵盖四大类别。

Amodei 在一篇题为《AI 指数级增长政策》的博客文章中表示："前沿 AI 模型，就像飞机一样，应该被要求通过技术测试和审计，如果它们未能达到高安全标准，其发布应被视为对公共安全的威胁而被阻止或撤销。"

该框架针对网络安全、生物武器、失控以及自动化研发等风险。Anthropic 承诺投入 2 亿美元用于政策研究，1.5 亿美元用于奖学金，以支持该计划。该计划适用于任何达到算力或收入门槛的公司——包括 OpenAI、Google DeepMind 和 Meta Platforms。

这一提案是主要 AI 公司 CEO 所支持的最为激进的监管框架，并使 Anthropic 与特朗普政府采取的"自愿测试"方针形成鲜明对比。总统唐纳德·特朗普于 6 月 2 日签署了一项行政令，赋予情报界在模型测试中更大的角色，但未要求在部署前获得预先批准。

Amodei 呼吁进行具有约束力的监管之际，其自家公司的 Claude Mythos Preview 模型已展现出加速演变的威胁格局。Anthropic 表示，Mythos 在数小时内构建了 16 个针对 Firefox 和 Windows 的有效漏洞利用程序，其中包括在 18 小时内完成的 8 个针对 Windows 内核漏洞的完整提权利用链。创建这些漏洞利用链的成本仅为 1.57 万美元的 API 积分，约合每条链 2000 美元。

Anthropic 在另一份报告中表示："将 N-day 漏洞变为可利用漏洞的制约因素，现在仅仅是几千美元和 API 访问权限，这极大地扩大了有能力利用 N-day 漏洞的攻击者群体。"该公司敦促各组织将补丁周期从"N-day"模式转向"N-hour"模式，并警告称，随着漏洞利用成本趋近于零，工业控制系统、医疗设备和物联网设备面临更高的暴露风险。

除安全测试外，Amodei 还提出了应对 AI 可能导致劳动力替代的经济措施，包括全民资本账户、工资保险和雇主留任激励。参议员 Bernie Sanders 上周提议对顶级 AI 公司的股票发行征收 50% 的税，使政府获得投票权股份，而特朗普数日前则提出了与领先 AI 公司建立利润分享合作伙伴关系的设想，但未透露具体细节。

Amodei 还呼吁改革监管机构以加速 AI 驱动的创新，建议美国食品药品监督管理局（FDA）通过模拟试验和合成对照组，更快地批准由 AI 发现的药物。他支持民主国家之间在 AI 治理方面继续开展国际合作，并主张禁止在国内部署完全自主的武器系统。

Amodei 写道："我们现在，在全球范围内和集体层面，需要启动一个缓慢而笨拙的政策机器，来应对那些将从现在开始以惊人速度叠加的风险和机遇。"

根据彼得森国际经济研究所的数据，在 2025 年 5 月升级后，美国对华商品的平均关税目前约为 19%。美国人口普查局数据显示，2024 年 9 月上一次加征 10% 关税后，双边贸易额在六个月内减少了 630 亿美元——这为监管摩擦如何重塑跨境技术流动提供了先例，如果 AI 模型测试要求造成类似障碍的话。

本文仅供参考，不构成投资建议。