Forecasting Side Effects of Activation Steering：新研究让模型行为偏移在部署前可见

激活转向（activation steering）是大模型对齐与控制领域经常被提到的一种思路：给模型的隐藏激活加上一个经过学习的向量，就能让模型在特定行为上出现变化，整个过程不用重新训练。听起来很干净，但在实际操作中，它有个绕不开的问题——转向往往会在其他行为上留下“后遗症”。

转向能走，但副作用怎么办

这恰是 arXiv 上一份新预印本想要回答的问题。7 月 28 日由 Chong Yong Ong、Alson Wei Jie Sim、Peixin Zhang 和 Jun Sun 提交的论文《Forecasting Side Effects of Activation Steering》，开篇就把矛头指向副作用：既然转向技术本身有效，那能不能在真正施加转向之前，就预测出它会波及哪些行为？

研究团队围绕 67 种行为构建了一套分类体系，在三款开放权重语言模型上逐个测试，最终汇成一张“交叉效应矩阵”（cross-effect matrix）。矩阵里的每一项，代表从某个目标行为出发对模型做转向后，另一个行为受到的影响。这是一项体力活，但它把零散的副作用观察变成了可对比的结构化数据。

三项核心发现

论文报告了三个值得注意的结果。第一，副作用是普遍存在的，不是个例；第二，它们呈现出明确的结构，不是随机噪声；第三，效应往往是非对称的——把行为 A 作为目标转向时对 B 造成的影响，与把 B 作为目标时对 A 的影响并不对等。这种非对称性用现有的基于向量相似度的启发式方法解释不了，说明背后可能藏着更深层的表示交互。

最关键的是后半部分：即使有这么复杂的结构，副作用依然大体上是可预测的。论文称，副作用的大小主要取决于目标行为本身；而副作用的方向，则可以从模型未转向时的表征中提前推算，准确度显著高于简单基线。这句话的含金量在于，它把“事后发现”变成了“事前预估”。

对安全部署的影响

对正在用激活转向做对齐或控制模型的团队来说，这项研究给出了一条更稳妥的思路。以前要评估转向是否安全，只能实际跑一遍、看一堆下游指标有没有劣化；现在可以先利用模型自身的表征结构做一次快速筛查，把高风险方向提前标出来，再决定要不要干预。

论文按 arXiv 惯例挂在预印本平台，共 24 页、5 幅图和 13 张表，目前只有作者本人的提交说明，尚未见同行评议信息。它的实验范围集中在三个开放权重模型和 67 个行为上，能否推广到更大规模模型或更宽泛的行为空间，还有待后续验证。

三个可以立刻用上的要点

• 转向之前先建模：把目标行为和其他行为的关系矩阵画出来，再决定是否动手，比事后补救便宜得多。
• 别只看目标指标：即使目标行为提升明显，也要检查它在交叉效应矩阵中对应的行和列，确认没有连锁反应。
• 把“可预测性”当成安全设计的抓手：利用未转向时的表征做方向预测，可以作为部署前的一道低成本的筛选工序。

激活转向原本是对齐工具箱里一个很灵巧的选项，而这份工作补上了它最缺的那块拼图——让使用者知道自己正在触动什么。下一步如果有更大范围、更多模型上的重复实验，这条路径会更接近工程可用的状态。对于关注 AI 安全的人来说，这份预印本值得放进书签。