明尼蘇達州針對所謂 "nudify apps" 的禁令闖過了一道關鍵司法關卡。聯邦法官拒絕了 xAI 提出的臨時禁令請求, 這意味著該州法律可以按計劃推進。對於整天盯著 AI 監管動態的人來說, 這是一個值得停下來看一眼的案例, 因為它把"技術中立"和"現實危害"同時放到了桌面上。
先說清楚什麼是 nudify apps。這類工具依託生成式模型, 輸入一張普通的人物照片, 幾分鐘內就能輸出一張以假亂真的裸體影象。它們在網路灰產裡流通已久, 常被用來製作報復性色情內容或者騷擾他人。明尼蘇達州因此立法禁止這類應用的銷售和推廣, 被視為加強深度偽造監管的州級嘗試。
xAI 在質疑什麼
xAI 的訴訟並不針對 "換臉裸體" 本身, 而是認為明州的法律條文過於寬泛。類似的邏輯在矽谷並不陌生: 一個模型既能生成色情深度偽造, 也能用於醫學影像增強或藝術創作, 立法者如果把整個技術型別劃入禁區, 等於讓開發者替濫用者背鍋。xAI 想要的是, 至少在法律正式生效前, 先凍結執行, 給行業一個緩衝。
但法官沒有買賬。理由很常見: 法律尚未施行, xAI 所謂"不可挽回的損害"更多是推測性的, 而立法者基於真實案例得出的關切反而更具體。這不是 xAI 的論點不成立, 而是司法審查在緊急階段更看重現實風險與救濟緊迫性的權衡。
對 AI 行業意味著什麼
短期來看, 受影響最大的是那些做影象生成、編輯和 API 服務的團隊。如果明州法律正式落地, 提供類似功能的產品需要考慮地域限制、內容稽覈機制, 甚至重新評估模型釋出渠道。合規成本不會只落在大型 AI 公司身上, 獨立的開源作者和中小開發者同樣會被波及。
- 模型釋出風險: 如果一個模型可以被二次封裝成 nudify 工具, 原開發者是否要承擔責任? 這類問題正在多個州被重新討論。
- 內容稽覈義務: 平臺需要投入更多資源識別和攔截濫用請求, 而不是 "只管賣模型"。
- 監管碎片化: 各州各自立法, 可能導致 AI 企業面臨互相矛盾的要求, 就像早期的資料隱私法一樣。
更寬泛地看, 法院的態度可能會給其他州打氣。過去兩年, 多個州陸續出臺了針對合成色情內容的法律, 但司法審查的結果並不一致。明州這一裁決, 至少說明在民意的壓力下, 法院願意給立法者留出試錯空間。對 xAI 這種自帶巨大模型和訓練資料的大型實驗室來說, 這是一次策略上的提醒: 企業不能只在大模型釋出時強調對齊和安全, 到了具體法律場景, 反而站在"技術中立"的立場上唱反調。
技術公司總說 "工具沒有善惡", 但法院和立法者顯然更關心工具被握在誰手裡、會被用來做什麼。
接下來看什麼
如果讀者關注 AI 政策, 不妨留意兩個時間節點: 一是明州法律正式施行的日期, 二是 xAI 是否會繼續上訴。對於開發者, 與其焦慮, 不如把這次裁決當作一個提醒——在做產品設計時, 就把濫用場景納入考量, 而不是等問題來了再補救。法律總會追上來, 早點想清楚邊界, 總比被告了再慌要強。
說到底, "nudify apps" 的爭議並不僅僅是一個州的法律問題, 它折射出生成式 AI 在真實世界裡的使用困境。技術本身沒有立場, 但使用技術的人和組織, 遲早要學會為自己的選擇負責。
評論
暫無評論
成為第一個評論的人