性能
中位输出速度
模型每秒生成的中位输出 token 数,数值越高越好。
服务商对比
在 OpenRouter 查看同一个模型可以由多家服务商托管,价格、稳定性和速度各不相同。按输出价格从低到高排列。
| 服务商 | 输入 / 输出(每 100 万 tokens) | 1 天在线率 | 延迟 | 速度 | 最大输出 |
|---|---|---|---|---|---|
GMICloud bf16 · bf16 量化 · 总部 US · 机房 US | $0.112 / $0.224 | 100% | 2.56 秒 | 28 tokens/秒 | 945K |
Darkbloom fp4 · fp4 量化 | $0.1 / $0.28 | 98.7% | 1.91 秒 | 20 tokens/秒 | 131,072 |
Xiaomi fp8 · fp8 量化 · 总部 CN · 机房 SG / NL | $0.14 / $0.28 | 100% | 2.77 秒 | 30 tokens/秒 | 131,072 |
Cohere fp8 · fp8 量化 · 总部 US | $0.14 / $0.28 | 99.9% | 0.87 秒 | 74 tokens/秒 | 131,072 |
DeepInfra fp8 · fp8 量化 · 总部 US | $0.14 / $0.28 | 98.3% | 2.73 秒 | 41 tokens/秒 | 943,718 |
Venice fp8 · fp8 量化 · 总部 US · 机房 US | $0.175 / $0.35 | 96.5% | 23 秒 | 11 tokens/秒 | 131,072 |
Makora fp8 · fp8 量化 | $0.2 / $0.35 | 99.9% | 0.71 秒 | 64 tokens/秒 | 131,072 |
GMICloud
bf16 · bf16 量化 · 总部 US · 机房 US
- 输入 / 输出
- $0.112 / $0.224
- 1 天在线率
- 100%
- 延迟
- 2.56 秒
- 速度
- 28 tokens/秒
Darkbloom
fp4 · fp4 量化
- 输入 / 输出
- $0.1 / $0.28
- 1 天在线率
- 98.7%
- 延迟
- 1.91 秒
- 速度
- 20 tokens/秒
Xiaomi
fp8 · fp8 量化 · 总部 CN · 机房 SG / NL
- 输入 / 输出
- $0.14 / $0.28
- 1 天在线率
- 100%
- 延迟
- 2.77 秒
- 速度
- 30 tokens/秒
Cohere
fp8 · fp8 量化 · 总部 US
- 输入 / 输出
- $0.14 / $0.28
- 1 天在线率
- 99.9%
- 延迟
- 0.87 秒
- 速度
- 74 tokens/秒
DeepInfra
fp8 · fp8 量化 · 总部 US
- 输入 / 输出
- $0.14 / $0.28
- 1 天在线率
- 98.3%
- 延迟
- 2.73 秒
- 速度
- 41 tokens/秒
Venice
fp8 · fp8 量化 · 总部 US · 机房 US
- 输入 / 输出
- $0.175 / $0.35
- 1 天在线率
- 96.5%
- 延迟
- 23 秒
- 速度
- 11 tokens/秒
Makora
fp8 · fp8 量化
- 输入 / 输出
- $0.2 / $0.35
- 1 天在线率
- 99.9%
- 延迟
- 0.71 秒
- 速度
- 64 tokens/秒
价格按每 100 万 tokens 计;延迟和速度是 OpenRouter 在同步时统计的过去 30 分钟中位数,在线率统计过去 1 天。本站每 6 小时同步一次,最近一次在 。
数据来源:Artificial Analysis。价格会变动,以厂商官网为准。 本站模型资料含 1 项来源。
