做过大模型应用的人，大概率都有过这种经历：选供应商和模型型号，靠的是看官方文档、翻评测帖，或者干脆自己写脚本压测。写脚本本身不算难，但要处理流式响应、统计首字延迟和每秒 tokens，还挺麻烦。I am speed 就是冲着这个痛点来的。
这个工具把 LLM API 测速做成了像 fast.com 测网速一样的事：打开网页，选一个供应商和模型，画面里立刻开始流式输出文本，旁边实时跳动吞吐量数字。不需要配 API key，不需要写代码，整个过程和测带宽几乎没有区别。
一个页面完成模型对比
工具的核心界面极简：左边选 provider，右边选 model，点一下 Start 就开始生成。真正有用的是那些实时指标，除了最直观的 tokens/s，它还显示首字延迟、总耗时等数据。首字延迟对聊天机器人这类交互式应用尤其关键，用户等多久看到第一个字，往往比最终速度更影响体验。
- 实时流式输出，边生成边测，避免「假死」误判
- 实时吞吐量指标，包含速度、延迟、耗时等维度
- 快速切换供应商和模型，方便做横向对比
这种设计天然适合拿来横向对比。想比较两个主流模型在某个任务的输出速度，以前要分别调 API、写两遍统计代码，现在打开两个标签页各跑一次就行。对比结果虽然粗糙，但足够筛掉明显慢的选项。
对谁最有用
对独立开发者和小团队来说，这个工具最大的价值是省掉前期调研时间。不用在每个平台注册账号、开通 API、再安装 SDK，就能快速感知哪家快、哪家慢，对选型决策有直接帮助。以前要花一晚上的事情，现在五分钟就能得到初步结论。
当然，也要强调一句：
测速结果会受到网络环境、服务端负载和模型本身复杂度的影响，单次测速只能当参考，不能当绝对结论。想做严肃评测，还是得用正式 API 配合多轮测试，才能排除偶然因素。
一点实话
I am speed 目前还比较轻量，功能上不像专业压测工具那么全面。它不做并发测试，也不记录历史趋势，无法回答「高峰期会不会变慢」这类问题。但这些缺失不影响它作为日常「摸高」工具的价值。快速验一下，心里有个数，很多场景下就够了。
大模型 API 的生态还在快速变化，这类轻量测速工具大概率会越来越多。I am speed 先做出来，而且把体验做得足够简单，已经赢在了起跑线上。对于还在犹豫用哪家模型的开发者，它值得花一分钟试试。
评论
暂无评论
成为第一个评论的人