加州法案鎖定AI心理治療聊天機器人 每週120萬人分享自殺念頭

加州立法者正推進一項法案，將禁止AI聊天機器人宣傳為心理治療服務。與此同時，每週約有120萬名用戶在OpenAI的ChatGPT上分享自殺念頭，且針對聊天機器人製造商的非正常死亡訴訟正在增加。

「我們面對的是一項嶄新且影響深遠的技術，它以光速部署到我們的世界上，因此它既極其強大，也後果重大，」加州參議員史蒂夫·帕迪拉（Steve Padilla）表示。這位聖地牙哥民主黨人是參議院第903號法案（SB 903）的起草者。

該法案將禁止企業將聊天機器人宣傳為治療服務，要求持照專業人員審查AI的治療決策，並強制要求AI工具在記錄治療療程或分診心理健康照護之前進行資訊揭露。該法案獲得美國心理學會、全國醫療工作者聯盟以及加州行為健康協會的支持。伊利諾州去年成為第一個禁止在治療服務中使用AI的州，隨後多個州也跟進實施類似的限制。

這波監管行動針對的是快速成長的使用場景。根據立法辯論中引用的研究，陪伴和「治療」在過去兩年一直是聊天機器人的首要用途，估計每八名青少年和年輕成年人中就有一人轉向AI尋求心理健康支援。從新創公司到遠距醫療巨頭都在建構專門的工具——包括Slingshot AI的Ash和Talkspace的Tee——而ChatGPT和Character.ai等通用平台每天則有數百萬次的心理健康對話。

AI填補的心理治療缺口

其吸引力很直接：AI聊天機器人免費或低成本、全天候可用，且不需要保險文書或等候名單。這在一個行為醫療照護人力短缺的國家至關重要——根據反對該法案的科技產業組織TechNet的數據，加州的每個縣都面臨行為醫療照護工作者短缺的問題。

但心理健康專業人士警告，這項技術並未具備危機管理能力。受過訓練的臨床醫師能察覺語氣、眼神接觸和肢體語言，並能發現AI遺漏的病症。OpenAI去年秋天揭露，其平台上每週約有120萬名用戶分享自殺念頭；該公司表示會建議專業協助，並引導用戶撥打988熱線。對OpenAI和Alphabet提起非正常死亡訴訟的家庭聲稱，這些聊天機器人協助他們的親人完成自殺計畫。

「持照臨床醫師與自動化回應之間的差異不只是技術問題，它可能改變一生，」加州行為健康協會執行長勒·安德拉·克拉克·哈維（Le Ondra Clark Harvey）告訴立法者。

產業反對與Kaiser糾紛

TechNet主張，SB 903將限制AI在醫療保健中的有益應用，並拖延照護取得速度。「在加州每個縣都面臨行為醫療照護工作者短缺之際，SB 903仍在協助病患更快獲得照護的分流和篩檢工具前設置了臨床醫師瓶頸，」TechNet加州執行總監羅伯特·波伊金（Robert Boykin）在聲明中表示。

法案的適用範圍也存在爭議。全國醫療工作者聯盟已向州監管機構對Kaiser Permanente提出申訴，指控其電子就診篩檢工具在沒有持照專業人員審查的情況下自動生成照護建議。Kaiser則表示該工具「不使用AI來診斷病患、做出臨床決策或判定醫療必要性」。SB 903是否適用於Kaiser的工具仍不清楚。

對AI公司而言，利害關係既是財務層面也是法律層面。心理健康聊天機器人已成為OpenAI等平台（該公司一直在擴大消費訂閱）以及Talkspace等專業遠距醫療提供者的成長性收入來源。該法案正等待州議會財政委員會表決，而《華爾街日報》三集系列播客「AI治療師」將於8月23日前每週日播出，探討該產業的前景與風險。若加州和其他州實施臨床醫師審查要求，AI心理健康產品的成本結構可能發生轉變，並可能壓縮以自動化、低接觸照護為核心的企業利潤率。

本文僅供參考，不構成投資建議。