你的API快不快?测测看

本工具可测试你的 LLM 接口速度和延迟,分别测量吞吐量 (tokens/sec) 和首 token 响应时间 (平均延迟),支持多种输入输出 token 组合。输入接口地址和 (可选) API Token,点击“测速”即可。

性能图

吞吐量 (每秒 token 数) - 数值越高越好

低        中        高

第一个token等待时间 (平均)

平均延迟 (秒, 越低越好)

低        中        高