Anthropic為AI安全護欄與美國防部對簿公堂 引發監管爭議

商傳媒
10 Min Read
Anthropic為AI安全護欄與美國防部對簿公堂 引發監管爭議
Anthropic為AI安全護欄與美國防部對簿公堂 引發監管爭議
圖/本報資料庫

商傳媒|林昭衡/綜合外電報導

美國人工智慧開發商 Anthropic,因拒絕美國國防部移除其 Claude AI 模型中「用於預防全自動武器及大規模國內監控」的安全護欄,遭國防部指為國家安全供應鏈風險,雙方目前已對簿公堂。此案不僅引發科技界對AI倫理與國家安全的深刻討論,也考驗企業在面對政府軍事指令時的自主性與言論自由界限。

美國國防部長 彼特·赫格塞斯 (Pete Hegseth) 已於 3 月 3 日將 Anthropic 正式指定為國家安全供應鏈風險。這項指定禁止國防部及其承包商使用 Anthropic 的技術。據悉,這是美國政府首次援引相關採購法規,將一家美國公司公開列為供應鏈風險,以保護軍事系統免受外國破壞。在此之前,赫格塞斯 (Hegseth) 曾於 2 月 27 日透過社群平台 X(原 Twitter)發文,指示國防部將 Anthropic 列為供應鏈風險,並禁止與其進行商業活動。

Anthropic 隨即於 3 月 9 日在舊金山提起訴訟,直指行政部門此舉「史無前例且違法」,並聲稱此指定侵犯了該公司的言論自由保護及正當程序權利。該公司希望法院能阻止五角大廈(美國國防部俗稱)對其實施的禁令。

白宮方面則回應表示,這項爭議源於合約協商與國家安全考量,而非報復 Anthropic 對於 AI 安全所表達的立場。白宮提交的文件指出,總統與部長之所以會採取行動,是基於對 Anthropic 若持續存取政府 IT 基礎設施可能導致的「未來行為」感到擔憂,且這些擔憂與 Anthropic 的言論無關。

然而,許多法律專家和國會議員,包括民主黨籍參議員 伊莉莎白·華倫 (Elizabeth Warren),均指責白宮此舉是報復行為。華倫 (Warren) 參議員曾致函赫格塞斯 (Hegseth) 部長,表達她對國防部試圖強迫美國公司提供工具,用於監控美國公民及部署缺乏適當安全措施的全自動武器的擔憂。美國公民自由聯盟 (ACLU) 副主任 派翠克·圖密 (Patrick Toomey) 也表示,AI 驅動的監控對民主構成巨大威脅,Anthropic 對於 AI 護欄的公開倡導應受憲法第一修正案保護,而非遭到五角大廈懲罰。

法律專家,例如法律與人工智慧研究所 (Institute for Law & AI) 的資深研究員 查理·布洛克 (Charlie Bullock) 認為,Anthropic 很可能在此案中勝訴。布洛克 (Bullock) 指出,赫格塞斯 (Hegseth) 部長於社群平台 X 的發文「已遠超法律允許範圍」,且五角大廈在宣布供應鏈風險之前,並未完成法規要求的必要程序。政府在法庭文件中也已承認,該則 X 貼文「明顯違法」,並稱實際的供應鏈指定是數日後才發生。

這場法律攻防戰昨日(24日)已在舊金山地方法院舉行聽證會,由美國地區法官 麗塔·林 (Rita Lin) 主審。法官 麗塔·林 (Rita Lin) 針對初步禁制令的裁決,將決定行政部門能否以企業不配合軍事指令為由,將其列入黑名單。此案的判決結果,預料將對全球人工智慧技術的倫理發展與政府監管模式產生深遠影響。