你的API快不快?测测看
测速
截图结果并下载
本工具可测试你的 LLM 接口速度和延迟,分别测量吞吐量 (tokens/sec) 和首 token 响应时间 (平均延迟),支持多种输入输出 token 组合。输入接口地址和 (可选) API Token,点击“测速”即可。
性能图
吞吐量 (每秒 token 数) - 数值越高越好
低 中 高
第一个token等待时间 (平均)
平均延迟 (秒, 越低越好)
低 中 高