Forecasting Side Effects of Activation Steering：新研究讓模型行為偏移在部署前可見

啟用轉向（activation steering）是大模型對齊與控制領域經常被提到的一種思路：給模型的隱藏啟用加上一個經過學習的向量，就能讓模型在特定行為上出現變化，整個過程不用重新訓練。聽起來很乾淨，但在實際操作中，它有個繞不開的問題——轉向往往會在其他行為上留下「後遺症」。

轉向能走，但副作用怎麼辦

這恰是 arXiv 上一份新預印本想要回答的問題。7 月 28 日由 Chong Yong Ong、Alson Wei Jie Sim、Peixin Zhang 和 Jun Sun 提交的論文《Forecasting Side Effects of Activation Steering》，開篇就把矛頭指向副作用：既然轉向技術本身有效，那能不能在真正施加轉向之前，就預測出它會波及哪些行為？

研究團隊圍繞 67 種行為構建了一套分類體系，在三款開放權重語言模型上逐個測試，最終匯成一張「交叉效應矩陣」（cross-effect matrix）。矩陣裡的每一項，代表從某個目標行為出發對模型做轉向後，另一個行為受到的影響。這是一項體力活，但它把零散的副作用觀察變成了可對比的結構化資料。

三項核心發現

論文報告了三個值得注意的結果。第一，副作用是普遍存在的，不是個例；第二，它們呈現出明確的結構，不是隨機噪聲；第三，效應往往是非對稱的——把行為 A 作為目標轉向時對 B 造成的影響，與把 B 作為目標時對 A 的影響並不對等。這種非對稱性用現有的基於向量相似度的啟發式方法解釋不了，說明背後可能藏著更深層的表示互動。

最關鍵的是後半部分：即使有這麼複雜的結構，副作用依然大體上是可預測的。論文稱，副作用的大小主要取決於目標行為本身；而副作用的方向，則可以從模型未轉向時的表徵中提前推算，準確度顯著高於簡單基線。這句話的含金量在於，它把「事後發現」變成了「事前預估」。

對安全部署的影響

對正在用啟用轉向做對齊或控制模型的團隊來說，這項研究給出了一條更穩妥的思路。以前要評估轉向是否安全，只能實際跑一遍、看一堆下游指標有沒有劣化；現在可以先利用模型自身的表徵結構做一次快速篩查，把高風險方向提前標出來，再決定要不要干預。

論文按 arXiv 慣例掛在預印本平臺，共 24 頁、5 幅圖和 13 張表，目前只有作者本人的提交說明，尚未見同行評議資訊。它的實驗範圍集中在三個開放權重模型和 67 個行為上，能否推廣到更大規模模型或更寬泛的行為空間，還有待後續驗證。

三個可以立刻用上的要點

• 轉向之前先建模：把目標行為和其他行為的關係矩陣畫出來，再決定是否動手，比事後補救便宜得多。
• 別隻看目標指標：即使目標行為提升明顯，也要檢查它在交叉效應矩陣中對應的行和列，確認沒有連鎖反應。
• 把「可預測性」當成安全設計的抓手：利用未轉向時的表徵做方向預測，可以作為部署前的一道低成本的篩選工序。

啟用轉向原本是對齊工具箱裡一個很靈巧的選項，而這份工作補上了它最缺的那塊拼圖——讓使用者知道自己正在觸動什麼。下一步如果有更大範圍、更多模型上的重複實驗，這條路徑會更接近工程可用的狀態。對於關注 AI 安全的人來說，這份預印本值得放進書籤。