OpenAI推出Private Safety Processing迎戰Anthropic資料留存爭議

Anthropic自6月起的新資料留存政策內容為何?

Anthropic自6月9日起,將涵蓋模型的企業對話留存30天,且不提供ZDR選項CITE:E10。該公司於6月9日把Claude Mythos 5與Claude Fable 5列為「涵蓋模型」(Covered Models),理由是這兩款模型在軟體工程、代理式工作流程、科學推理與資安領域的能力相較前代有實質躍升,一旦遭到濫用會帶來升高的風險CITE:E15。政策允許Anthropic保留用戶資料——即所有對話階段(session)與其中的對話內容——涵蓋模型部分為期30天CITE:E2。涵蓋模型的提示詞與模型回覆「至少保留30天後自動刪除」,除非涉及安全調查或法律要求,而工作區、Claude Enterprise組織或第三方平台均無法使用零資料保留CITE:E16。Anthropic表示,人工審閱客戶資料仍可能發生,但僅能透過「受控存取路徑」進行,且僅限一小群經核准的審閱人員,每一次審閱都會被記錄在「防竄改日誌」中,審閱者無法刪除或修改CITE:E5。

Anthropic留存政策對企業既有隱私協議造成何種衝擊?

Forrester指出,Anthropic新政策凌駕企業既有的零保留協議,且無退出選項CITE:E17。研究機構Forrester表示,這項要求「凌駕既有的零保留協議」,企業即便談定過零保留的資料處理協議(DPA),只要流量走「Mythos級模型」就等同失效,而且沒有退出選項CITE:E17。微軟法務與合規部門於6月中旬因擔心客戶資料與公司內部細節可能在安全調查過程中外流,一度暫停員工使用Claude Fable 5,並將其定調為法務審查期間的臨時措施CITE:E18。Anthropic平台文件另寫明,即使已有ZDR或HIPAA安排,在法律要求或內容被自動化信任與安全系統標記時仍可留存,一旦對話或工作階段被標記,Anthropic可保留輸入與輸出最長2年CITE:E21。

Anthropic如何回應留存政策帶來的商業風險?

Anthropic在8月的風險報告中坦言,30天留存政策對商業成功構成實質風險CITE:E19。公司表示,要求最強模型留存30天「是一個我們認為會不受客戶歡迎的決定,這些客戶早已習慣零保留,也對我們的商業成功構成實質風險(尤其在競爭對手不跟進的情況下)」CITE:E19。不過Anthropic堅稱,此舉對偵測與阻止跨越多次請求的複雜攻擊「不可或缺」CITE:E19。

OpenAI與Anthropic的營收與市場表現如何對比?

報告顯示OpenAI第二季營收成長速度低於AnthropicCITE:E6。

Anthropic第二季營收逾115億美元,較第一季的47.3億美元增加逾一倍,並繳出小幅調整後營業利益CITE:E20。OpenAI同期營收67億美元,較第一季的57億美元成長18%,但營業虧損擴大到123億美元(含股票薪酬)CITE:E20。Anthropic另向投資人表示,7月年化營收已攀上650億美元CITE:E7CITE:E20。Anthropic投資人表示,公司可能以2兆美元估值進行首次公開發行,OpenAI同樣也在籌備IPOCITE:E8。

OpenAI的Private Safety Processing如何設計以保護客戶隱私?

OpenAI於8月19日發表Private Safety Processing,先開放少數客戶預覽測試CITE:E1CITE:E9。OpenAI發表一套以隱私為核心的濫用監控機制,並向特定客戶預覽新服務Private Safety ProcessingCITE:E1。目前先開放少數早期客戶測試,預計9月擴大推出並同步發表技術白皮書CITE:E9。官方將此服務定義為「在不讓OpenAI人員接觸底層內容的情況下,辨識跨相關互動的模式」,鎖定的行為包括反覆試探防護機制、跨帳號的協同濫用,以及代理任務偏離原始目標CITE:E13。客戶內容的加密金鑰由客戶自行掌控,OpenAI人員不持有這些金鑰的副本,因此無法存取底層內容;系統一旦觸發,OpenAI收到的是「一個範圍明確界定的訊號,指出涉及的活動類型」,而非對話原文CITE:E14。Private Safety Processing可跨多段對話分析輸入與輸出內容,在不需人工審閱使用者對話的情況下偵測濫用跡象CITE:E4。

OpenAI的Zero Data Retention機制如何運作?

OpenAI的ZDR機制透過API內的代理人逐次會話監控濫用,不保留客戶資料CITE:E3。ZDR利用OpenAI API內的代理人以逐次會話為單位監控濫用行為,客戶資料因此不會被公司保留,企業仍能在無需人工介入的情況下掃描不當活動CITE:E3。官方文件說明,對符合資格的API客戶,OpenAI不會在請求處理完畢後保留其提示詞或模型回應,做法是把客戶內容排除在濫用監控日誌之外,並強制將/v1/responses與/v1/chat/completions的store參數一律視為falseCITE:E11。不過,濫用監控日誌本身「可能包含特定客戶內容,例如提示詞與回應」,預設對所有API功能使用產生並保留最多30天CITE:E12。OpenAI保留在「合理必要以調查或防止嚴重風險活動」時,取消特定客戶ZDR或Modified Abuse Monitoring資格的權利,但文件要求須事先以書面通知受影響客戶CITE:E22。

這代表什麼

Anthropic在營收表現上暫時領先——第二季營收逾115億美元、年化營收達650億美元,並自信能以2兆美元估值IPOCITE:E20CITE:E7CITE:E8——但其6月起實施的30天強制留存政策已引發Forrester與微軟的疑慮CITE:E17CITE:E18,公司自己也在8月的風險報告中承認此舉對商業成功構成實質風險CITE:E19。OpenAI選在此時發表Private Safety Processing與ZDR的技術細節CITE:E1CITE:E9CITE:E3,以客戶自控金鑰、範圍明確的訊號取代人工審閱內容CITE:E14CITE:E4,呼應了企業對零保留的既有期待。兩家公司對「留存」的定義仍有落差:OpenAI的濫用監控日誌預設保留最多30天CITE:E12,Anthropic的涵蓋模型對話則至少保留30天、遭標記時最長可達2年CITE:E16CITE:E21。