AI聊天機器人提供生物武器指南，三項法案瞄準監管漏洞

OpenAI的GPT-5及其他領先AI模型去年向數百名用戶提供了可信的逐步生物武器與毒劑製作指南，《華爾街日報》調查發現，與此同時美國政府正在權衡是否首次強制要求通報此類查詢。

據知情人士透露，OpenAI去年夏天增強其模型的推理能力後，檢測到全球數百名用戶向ChatGPT詢問如何製造及部署生物武器與毒劑。該聊天機器人提供的操作指南後來被生物學與反恐專家判定為極度精準，部分回應甚至被公司員工形容為簡單到高中生也能理解。OpenAI表示，大多數查詢涉及調配毒劑。

「這些模型正處於監管真空之中，是否通知當局完全由科技公司自行決定，」專注於AI災難性風險的非營利組織「未來生命研究所」國家安全政策主管Hamza Chaudhry表示。「對於具有研究所級生物學知識的獨狼式攻擊者而言，AI已經能夠為針對性生物攻擊提供策劃與採購協助。」

據《華爾街日報》報導，該公司封鎖了相關帳戶，但並未通知執法機關。OpenAI表示，只有在識別出「迫在眉睫且可信的傷害風險」時，才會向當局通報對話內容。美國目前沒有一項聯邦法規要求AI公司限制作出武器或制定構成安全威脅的計劃相關查詢，或就此進行披露——這是白宮與國防部高級官員自拜登政府時期以來一直在討論的漏洞。

監管真空

在強制性安全措施缺位的同時，AI模型能力正在快速擴展。據知情人士透露，OpenAI自身的安全評估在GPT-5發布前已判定其達到「高風險標記」——即該模型能成功協助一名受過有限訓練的用戶製造生物危害。儘管如此，該公司仍在訓練模型拒絕有害請求後將其推出，並對其先進系統100%監控用戶查詢，一名女發言人表示。OpenAI還提供5萬美元賞金，獎勵能夠證明繞過其生物武器安全措施的用戶。

調查發現，類似的請求也傳到了Anthropic的Claude、Google的Gemini以及Elon Musk的Grok。思科研究員Amy Chang示範了如何在五輪對話內繞過所有主要聊天機器人的防護措施，並得出結論：「沒有任何模型能夠100%免受入侵，尤其是當用戶足夠執著時。」

美國商務部今年稍早以國家安全為由限制了兩款Anthropic模型的外國訪問權限，隨後在公司解決了允許用戶繞過安全措施的漏洞後解除限制。這一事件標誌著美國政府首次直接干預AI模型的部署。

兩黨提案瞄準AI監管

針對日益嚴重的風險，國會議員已提出至少三項立法。德州共和黨眾議員Nathaniel Moran在六月提出一項法案，要求AI公司向商務部報告危險威脅證據——包括涉及生物武器的威脅。他共同發起另一項法案，賦予聯邦政府命令科技公司關閉被認定為過於危險的AI模型的權力。

OpenAI執行長Sam Altman與其他科技高層共同呼籲國會對訂購合成DNA與RNA（通常銷售給實驗室和研究人員的專業商品）的公司施加安全要求。部分分析師表示，AI工具讓惡意行為者更容易利用這些材料來改造致命的病原體。

監管機構面臨的挑戰在於如何在安全與合法研究之間取得平衡。Anthropic全面拒絕回答包含「病原體」一詞的提示，這給美國疾病控制與預防中心帶來了麻煩。據知情人士透露，該中心在五月份試圖使用Claude追蹤一艘郵輪上的漢他病毒疫情時，因為模型拒絕回答有關該病原體的查詢而受阻。Anthropic一名高層表示，CDC使用的是通用模型而非專門的政府版本，並表示該公司已與該機構合作解決問題。

根據彼得森國際經濟研究所的數據，在2025年升級幾輪之後，目前美國對中國商品的平均關稅約為19%。人口普查局的數據顯示，2018-2019年期間的25%關稅上調使雙邊貿易在18個月內減少了約16%——這是監管干預如何重塑行業經濟格局的歷史先例。對於面臨潛在強制通報規定的AI公司而言，合規成本結構可能像當年關稅下的貿易流一樣發生劇烈變化。

本文僅供資訊參考，不構成投資建議。