CriteriaBot 是一个把“审核规则”变成“编程接口”的 AI 分类器。它不是给你一堆固定的垃圾邮件或仇恨言论标签，而是让你用自然语言写下判断标准，然后对任意文本返回每条标准的 true/false 结果。官方定位是“程序化内容评估”，听起来很工程师，但实际使用门槛比想象中低——因为整个交互都围绕 plain-English（纯英文）规则展开。
一套评价引擎，多种落地姿势
从网站展示的用例来看，CriteriaBot 更像是规则即服务。你写一条标准，比如“这段内容是否包含剧透？”，然后就可以对任何帖子、评论、邮件去跑。它列举了几类典型场景：
- 内容审核：识别毒性、骚扰、不安全内容，还能叠加上你自己的社区规则，比如“禁止剧透”或“不讨论政治”
- AI 防护：拦截提示注入（prompt injection）和不安全输出，给 LLM 应用增加一层可定制的护栏
- 品牌语气检查：评估 AI 生成或人工写作是否符合既定的语气和风格指南
- 合规与路由：检查内容是否符合监管或内部政策，或者按类型对消息、工单进行分流
另外还包括垃圾邮件识别、品牌公关监控、数据标注等。哪怕你只是想把几万条用户内容按“是否有价值”粗筛一遍，它也能承担这个脏活。对不同团队来说，它更像是一个可编程的判定层，而不是某种开箱即用的“审核模型”。
工作流：写规则、提交内容、拿判定
CriteriaBot 的官网给出了一条很清晰的链路：先写好规则（也可以从社区库复用），然后通过网站或 API 提交内容；系统会让一组 AI 模型对每条规则进行投票，形成加权共识；最后返回 true/false 判定。你还可以把自己的 API Key 接进来，构建一个自定义模型面板，针对你的场景调优。
比较特别的是它的个性化机制：你可以在已提交的内容上给出你自己的人工判定，系统会学习你的定义——不是你抄别人的标准，而是让模型适应你的判断。官方说通常只需要少量示例就能生效。
这种设计解决了一个实际问题：通用审核模型往往对垂直社区的“暗语”和“潜规则”不敏感。比如某个论坛的“讨论政治”边界，只有内部人才清楚。CriteriaBot 允许你在标准层面用自然语言描述，再通过反馈微调，这比维护一堆正则表达式或训练定制模型要灵活得多。
技术底子：传统 ML 和小型 LLM 的混合
根据官方描述，CriteriaBot 结合了传统机器学习方法与一组小型开源 LLM 的共识面板。这样做的好处是：既保留传统分类方法在精确度上的优势，又获得 LLM 的泛化能力。值得一提的是，模型还能访问 Wikipedia 和 Wolfram，因此在需要最新事实信息或数学计算的评估上也会更可靠。官方并未公开具体的模型清单或权重细节，但对于使用者来说，不需要关心内部实现——只要规则写得足够清楚，返回的结果就可以直接接入你的 pipeline。
怎么上手，以及谁适合用
上手成本主要花在“定义标准”上。你需要把心中的模糊概念拆成一条条可被机器判定的自然语言规则，比如“是否包含性骚扰言论”、“是否在兜售假货”。好消息是规则可以分组复用，还能从社区库借鉴别人写好的标准。API 示例也很直接，一个 POST 请求就能拿到判定结果，同步或异步处理都行。
如果你是内容平台的运营者、做 LLM 应用且有安全需求的开发者，或者在为客服消息做自动分类，CriteriaBot 值得一试。它的定位比普通审核 API 更“程序员友好”，但同时又没有放弃让非技术同事参与规则定义的可能性——毕竟写一句话规则，比写正则简单多了。
定价方面，官方没有在页面上给出具体价格，需要注册后获取 API Key。建议直接访问官网查看最新信息，或者先用自己的小批量内容测一测效果，再决定是否投入。
评论
暂无评论
成为第一个评论的人