CDR-Bench: 评估LLM执行数据细化配方的忠实度

如果让一个大模型像人类数据工程师一样，按照一串指令逐步清洗、转换文本数据，它真的能忠实执行吗？答案恐怕没那么乐观。最近arXiv上的一篇论文提出了CDR-Bench，一个专门用来拷问LLM在执行数据细化配方时忠实度的基准测试。数据细化听起来很专业，其实就是多步文本编辑——比如把一堆杂乱的客户记录，按规则先格式化日期、再拆分字段、最后去重。这些操作不仅组合复杂，执行顺序还可能影响最终结果。

为什么需要专注「忠实执行」

现有的很多评测要么只测单步编辑（比如改个拼写），要么把文本操作和代码执行混在一起。但真实场景中，数据细化往往是纯文本层面的、顺序敏感的。举个例子：先替换所有“Mr.”为“先生”，再删除所有职业字段中的“工程师”，和反过来操作，结果可能完全不同。LLM能不能感知这种顺序依赖？CDR-Bench就是为了回答这个问题而设计的。

基准包含了3,462个高质量任务，覆盖四个真实领域（比如电商数据、医疗记录、金融交易等），以及29种不同的数据处理算子。更重要的是，它把任务分成了三类：原子（单步）、顺序无关（多步但顺序不影响结果）、顺序敏感（多步且顺序至关重要）。这种分类让评测能精准定位模型的弱点。

顶尖模型的表现：组合噩梦

研究团队测试了10多个最先进的LLM（包括GPT-4o、Claude 3.5、Gemini等），结果并不意外但很扎心：

• 在原子任务上，模型表现不错，正确率普遍在80%以上。
• 一旦进入组合设置，即使是顺序无关的复合操作，正确率就掉到60%~70%。
• 到了顺序敏感的场景，多数模型的成功率断崖式下跌，有的甚至不到20%。

这意味什么？如果你让LLM去处理一个复杂的管道任务——比如用几个条件过滤和替换数据，它很可能会在中间步骤犯迷糊，要么跳步、要么用错顺序。而且这个毛病几乎不分模型，是通用问题。

基准的设计亮点

CDR-Bench一个聪明的地方在于使用了确定性参考输出，可以直接做精确匹配评估，不需要用LLM-as-a-judge这种不可靠的方法。所有任务的输入输出都是严格定义的，排除了歧义。另外，它公开了任务生成器和评估代码，方便社区复现和扩展。

“我们的发现表明，当前LLM在处理组合、顺序敏感的数据细化配方时存在系统性失败，这应该引起AI工程师的警惕。”——论文作者在结论中写道。

对行业的影响

对于正在用LLM做数据清洗、文档处理、自动化ETL流程的团队来说，这个基准是个及时的提醒。不要以为大模型能完美完成多步文本操作，尤其是在业务规则复杂的场景下。建议先用类似CDR-Bench的小规模测试来验证模型的实际能力，而不是直接放生产。

另外，这个基准也指出了改进方向：模型可能需要更明确的步骤跟踪机制，或者训练数据中加强顺序推理的样本。也许未来的RLHF可以专门针对这类失败案例进行强化。

总的来说，CDR-Bench是一个务实且设计干净的基准，它没有去追求花哨的指标，而是聚焦在AI系统的一个核心薄弱点上：忠实执行多步指令。对于任何关心AI可靠性的开发者，这份论文都值得一读。