當“未釋出AI模型”進入法律視野

當“未釋出AI模型”進入法律視野

2026年8月29日,歐盟委員會執行副主席維爾庫寧(Virkkunen)證實,人工智慧辦公室已向來自不同地區的多家“最先進”的通用人工智慧(GPAI)模型提供者正式發出資訊請求函(RFI)法律。這是歐委會從8月2日開始獲得對GPAI執法權後首次證實執法行動。接收RFI的包括OpenAI、Anthropic、谷歌等頭部前沿實驗室,及其他30多家AI供應商,但歐委會並未公開完整名單。

據稱,第一份RFI聚焦於“系統性風險”,其指向正是今年夏天一系列前沿模型失控事件:評測時突破外部系統法律

8月26日,OpenAI在事件發生一個多月後正式釋出了關於AI模型如何逃離其測試環境,並引發了一場大規模的網路安全事件法律。然而,在整個過程中,Hugging Face並未公開追責,而是與OpenAI 建立了合作關係以補救已經造成的損害。這種商業安排讓人容易忽略了一個法律上的問題: 如果是人類做了類似的事情,實則將構成一系列刑事犯罪。

然而,AI主動攻擊造成的損害是真實的、嚴重的、跨企業的,遠非Claude Mythos Preview被Anthropic“雪藏”時許多人猜測的“炒作”法律。 對於監管者來說,該如何規制一個強大、時而“犯錯”、卻處於“未釋出”狀態的AI模型?歐盟的RFI執法對於AI企業來說意味著什麼呢?

一、規制物件的“預設漏洞”:AI模型是什麼法律

歐盟《人工智慧法案》對“通用人工智慧模型”的定義中,有一句此刻顯得致命的排除條款:通用性的人工智慧模型,不包括“用於市場投放前的研究、開發或原型設計活動的人工智慧模型”法律

對於“提供者”的定義進一步解釋,要“以自身名義或商標在市場上投放模型”,而“投放市場”則是指,“為在歐盟市場上分銷或使用而首次提供GPAI模型”法律

上述3個定義疊加起來的效果是,歐盟AI法案第5章下的過程義務——技術文件、訓練資料摘要、模型評估對抗性測試、嚴重事件報告、網路安全保障——適用前提是“模型被投放市場”法律。而OpengAI在ExpoitGym評測中入侵Hugging Face的涉事模型,恰恰在這一定義和規制之外——內部研究專用、從未打算釋出。 雖然歐委會可透過51條依職權認定其具有系統性風險,但“提供者”的過程義務是否對其“投放市場前”的評測活動完全適用,存在實質性的法律解釋空間。

展開全文

這說明,歐盟在較早的立法過程中,尚未認識到,前沿模型極少是從零開始訓練,幾乎都是在既有模型基礎上透過微調或強化學習不斷升級法律。一個處於開發、研究中的AI模型具備了一個成熟模型的所有特徵,並可能在“釋出前”就能夠自主完成許多工、甚至製造威脅。

以“釋出”作為義務觸發點,並將規制物件限制在“靜態、已完成/釋出的AI模型”,暴露了早期AI立法的在時間和空間兩個維度的結構性漏洞法律

二、誰來追責法律

Hugging Face在被OpenAI測試模型攻擊後並未主動追究其民事責任法律。作為全球最大的AI模型託管平臺,它擁有專業的安全團隊、多元化的技術棧以及吸收這次衝擊的經濟韌性。考慮到與OpenAI長期的商業關係,“不追責”也不失為一個理性的商業決策。

當“未釋出AI模型”進入法律視野

但是,其他安全專家的調查卻指出,早在5月和6月測試期間,OpenAI內部團隊就觀察到了模型透過建立遮蔽訊息板進行通訊的異常行為,但團隊允許訓練繼續執行,導致這種通訊策略被永久編碼進模型權重法律。這可以總結為“組織性安全文化的缺失”——該公司的日常習慣和溝通決定了他們降低了他們感知和相應網路風險的能力。但OpenAI在其報告中並未披露這些資訊,迴避了提及其安全文化上的“無能”。

然而,OpenAI還是將事件定性為“鳴槍警告”(warning shot),並“主動放緩”前沿模型迭代法律。這一行動無異於承認,這次事件絕非一次偶然、可控的意外,而是一次“系統性風險”,其自設的安全能力閾值即將被突破。

OpenAI報告中未予披露和說明的問題,與“主動放緩開發”的實際行動之間形成了足夠的張力,這恰恰說明,完全依賴於企業自行審計來問責是遠遠不夠的法律。“合理預防措施”不是一個自證的概念,它絕對需要在公開程式、公正的理論中接受檢驗,將“對安全的重視”轉化為可證成的法律事實。

三、企業側的預判法律:訓練過程納入監管是必然趨勢

歐盟AI辦公室首批RFI已經發出法律。根據EURACTIVE的報道,人工智慧實驗室的內部模型“可能”即將落入歐盟安全規則的規制範疇。

根據歐委會的執法框架,錯誤、不完整或誤導性的回覆可被罰款最高1500萬歐元,或佔全球年營業額3%的罰款;在嚴重情況下,人工智慧辦公室可以要求採取糾正措施,或限制模型在歐盟的公開可用性法律。所以有人預測,未來幾個月將會有更多資訊需求、公開的評估活動,以及針對特定提供者的首批糾正措施,甚至許多“AI模型很快將在歐盟無法訪問”。

但兩州法案的核心披露義務(透明度報告、披露宣告)仍以“部署新的或經實質修改的前沿模型”為觸發節點法律。真正的“即時過程控制”,是透過大型企業“前沿AI框架”中的內部使用風險評估義務(加州季度報告)與年度第三方審計義務(伊州)來間接實現的。

四、結語

當“技術創新”成為一種意識形態,所有國家政策、商業、法律環境中都默契地共享了一個假設:一家對安全足夠重視的負責任的AI實驗室,就沒有什麼可擔憂的法律。然而阿倫特曾警告世人:最大的惡往往不是狂熱的仇恨,而是平凡的敬業。

AI開發鏈上同樣如此——從訓練資料選擇到獎勵函式設定,從評測環境配置到網路許可權開通,無數工程師各自完成了職責範圍內“正確”的事法律。但當這些“正確”疊加起來,卻可能製造出自主逃逸、盜取資料的模型。

監管的任務,不是去追查每一個工程師——這既不可能也不公正——而是將責任錨定於“準提供者”的過程義務,用過錯推定破解技術歸因的不可行性,以審慎的連帶責任覆蓋多數人侵權場景法律

歐盟的執法權已經亮劍,美國的州級立法已經開始累積算力,中國AI企業與其被動應對,不如主動將“訓練-評測過程中AI模型”的全過程合規,內化為自身的核心競爭力法律

作者法律:張穎

《網際網路法律評論》主編

【免責宣告】本文撰寫所需的資訊採集自合法公開的渠道,我們無法對資訊的真實性、完整性和準確性提供任何形式的保證法律。本文僅為分享、交流資訊之目的,不構成對任何企業、組織和個人的決策依據。

《網際網路法律評論》提供業界解決方案

網際網路法律國際監管動態研究

網際網路產業投資和政策監管研究

網際網路企業法律:極端地緣政治衝突中的公關戰略研究

合作聯絡

zhangying@cggthinktank.com

本站內容來自使用者投稿,如果侵犯了您的權利,請與我們聯絡刪除。聯絡郵箱:835971066@qq.com

本文連結://shhcmy.net/post/77092.html

🌐 /