性能
中位输出速度
模型每秒生成的中位输出 token 数,数值越高越好。
服务商对比
在 OpenRouter 查看同一个模型可以由多家服务商托管,价格、稳定性和速度各不相同。按输出价格从低到高排列。
| 服务商 | 输入 / 输出(每 100 万 tokens) | 1 天在线率 | 延迟 | 速度 | 最大输出 |
|---|---|---|---|---|---|
Wafer us · fp4 量化 · 总部 US | $0.07 / $1.4 | 100% | 0.36 秒 | 62 tokens/秒 | 943,718 |
Wafer fp4 · fp4 量化 · 总部 US | $0.179 / $1.4 | 100% | 0.3 秒 | 66 tokens/秒 | 943,718 |
Decart fp4 · fp4 量化 · 总部 US · 机房 US | $0.56 / $1.8 | 100% | 0.66 秒 | 110 tokens/秒 | 943,718 |
Novita fp8 · fp8 量化 · 总部 US | $0.63 / $1.98 | 100% | 1.94 秒 | 53 tokens/秒 | 131,072 |
DeepInfra flex · fp4 量化 · 总部 US | $0.45 / $2 | 100% | 1.66 秒 | 74 tokens/秒 | 131,072 |
SiliconFlow fp8 · fp8 量化 · 总部 SG · 机房 US | $0.7 / $2.2 | 100% | 1.3 秒 | 51 tokens/秒 | 262,144 |
GMICloud fp8 · fp8 量化 · 总部 US · 机房 US | $0.7 / $2.2 | 100% | 2.14 秒 | 66 tokens/秒 | 943,718 |
Cloudflare 总部 US | $0.7 / $2.2 | 100% | 3.55 秒 | 70 tokens/秒 | 943,718 |
DeepInfra fp4 · fp4 量化 · 总部 US | $0.563 / $2.5 | 99.2% | 0.73 秒 | 75 tokens/秒 | 131,072 |
Tenstorrent fp8 · fp8 量化 · 总部 US · 机房 US | $0.6 / $2.5 | 100% | 0.56 秒 | 104 tokens/秒 | 131,072 |
DigitalOcean 总部 US | $0.91 / $2.86 | 100% | 0.49 秒 | 97 tokens/秒 | 128K |
CoreWeave nvfp4 · nvfp4 量化 · 总部 US · 机房 US | $0.75 / $3 | 100% | 0.41 秒 | 91 tokens/秒 | 943,718 |
Sail Research us · fp8 量化 · 总部 US | $0.75 / $3 | 100% | 0.44 秒 | 59 tokens/秒 | 943,718 |
Fireworks spot · 总部 US | $0.98 / $3.08 | 99.9% | 0.42 秒 | 84 tokens/秒 | 943,718 |
Cohere nvfp4 · nvfp4 量化 · 总部 US | $0.5 / $3.5 | 99.4% | 0.45 秒 | 83 tokens/秒 | 131,072 |
InferenceNet us · fp4 量化 · 总部 US | $0.084 / $3.6 | 100% | 0.29 秒 | 76 tokens/秒 | 943,718 |
InferenceNet fp4 · fp4 量化 · 总部 US | $0.084 / $3.6 | 100% | 0.3 秒 | 79 tokens/秒 | 943,718 |
Alibaba 总部 SG · 机房 SG / CN | $1.19 / $3.74 | 100% | 0.89 秒 | 72 tokens/秒 | 131,072 |
Inceptron fp4 · fp4 量化 · 总部 SE · 机房 FI | $1 / $3.85 | 100% | 0.66 秒 | 97 tokens/秒 | 943,718 |
Friendli 总部 US | $1.26 / $3.96 | 100% | 0.34 秒 | 73 tokens/秒 | 943,718 |
Sail Research fp8 · fp8 量化 · 总部 US | $1.05 / $4.2 | 100% | 0.53 秒 | 60 tokens/秒 | 943,718 |
Relace fp4 · fp4 量化 | $0.07 / $4.38 | 100% | 0.96 秒 | 65 tokens/秒 | 131,072 |
AkashML fp4 · fp4 量化 | $0.19 / $4.4 | 100% | 1.34 秒 | 96 tokens/秒 | 131,072 |
Doubleword 总部 GB · 机房 US / AU / JP / IN / DE / IL / GB / FR / FI / ES / IS / CA / IE / NL / SE / BE / IT / PL / SG / KR | $1.4 / $4.4 | 100% | 0.62 秒 | 58 tokens/秒 | 943,718 |
SambaNova 总部 US | $1.4 / $4.4 | 100% | 2.67 秒 | 79 tokens/秒 | 943,718 |
Mistral zdr · nvfp4 量化 · 总部 FR | $1.4 / $4.4 | 100% | 0.94 秒 | 98 tokens/秒 | 131,072 |
BaseTen fp4/us · fp4 量化 · 总部 US | $1.4 / $4.4 | 100% | 1.01 秒 | 85 tokens/秒 | 262,144 |
Nebius fp4 · fp4 量化 · 总部 NL | $1.4 / $4.4 | 100% | 0.37 秒 | 80 tokens/秒 | 943,718 |
Crusoe fp4 · fp4 量化 · 总部 US | $1.4 / $4.4 | 100% | 0.73 秒 | 51 tokens/秒 | 943,718 |
Together 总部 US | $1.4 / $4.4 | 100% | 0.39 秒 | 87 tokens/秒 | 943,717 |
Modal 总部 US | $1.4 / $4.4 | 100% | 0.29 秒 | 102 tokens/秒 | 943,718 |
BaseTen fp4 · fp4 量化 · 总部 US | $1.4 / $4.4 | 100% | 1.24 秒 | 83 tokens/秒 | 262,144 |
Fireworks 总部 US | $1.4 / $4.4 | 100% | 0.49 秒 | 80 tokens/秒 | 943,718 |
AtlasCloud fp8 · fp8 量化 · 总部 US | $1.4 / $4.4 | 100% | 1.86 秒 | 39 tokens/秒 | 131,072 |
Z.AI fp8 · fp8 量化 · 总部 SG · 机房 SG | $1.4 / $4.4 | 100% | 1.95 秒 | 49 tokens/秒 | 131,072 |
Parasail fp4 · fp4 量化 · 总部 US | $1.4 / $4.4 | 99.9% | 0.49 秒 | 156 tokens/秒 | 943,718 |
Venice 总部 US · 机房 US | $1.4 / $4.4 | 99.2% | 0.56 秒 | 110 tokens/秒 | 131,072 |
Featherless 总部 US · 机房 US | $1.4 / $4.4 | 90.5% | 1.27 秒 | 61 tokens/秒 | 32,768 |
Baidu fp8 · fp8 量化 · 总部 CN | $1.4 / $4.4 | — | — | — | 131,072 |
Makora fp4 · fp4 量化 | $1.5 / $4.4 | 100% | 0.27 秒 | 113 tokens/秒 | 128K |
Mistral nvfp4/eu · nvfp4 量化 · 总部 FR | $1.54 / $4.84 | 99.9% | 0.95 秒 | 108 tokens/秒 | 131,072 |
Morph fp8 · fp8 量化 · 总部 US · 机房 US | $1.05 / $4.91 | 100% | 0.66 秒 | 102 tokens/秒 | 943,718 |
Alibaba priority · 总部 SG · 机房 SG / CN | $1.68 / $5.28 | 100% | 0.84 秒 | 95 tokens/秒 | 131,072 |
Amazon Bedrock us-east-1 · 总部 US | $1.68 / $5.28 | 99.5% | 2.37 秒 | 112 tokens/秒 | 131,072 |
ModelRun fp4 · fp4 量化 · 总部 US · 机房 US | $2.1 / $6.6 | 100% | 0.33 秒 | 150 tokens/秒 | 524,288 |
Fireworks priority · 总部 US | $2.1 / $6.6 | 100% | 1.15 秒 | 149 tokens/秒 | 943,718 |
BaseTen priority · fp8 量化 · 总部 US | $2.1 / $6.6 | 100% | 0.56 秒 | 162 tokens/秒 | 262,144 |
BaseTen priority · fp8 量化 · 总部 US | $2.1 / $6.6 | 100% | 0.5 秒 | 159 tokens/秒 | 262,144 |
Parasail priority · fp4 量化 · 总部 US | $2.1 / $6.6 | 99.4% | 0.33 秒 | 134 tokens/秒 | 943,718 |
Wafer
us · fp4 量化 · 总部 US
- 输入 / 输出
- $0.07 / $1.4
- 1 天在线率
- 100%
- 延迟
- 0.36 秒
- 速度
- 62 tokens/秒
Wafer
fp4 · fp4 量化 · 总部 US
- 输入 / 输出
- $0.179 / $1.4
- 1 天在线率
- 100%
- 延迟
- 0.3 秒
- 速度
- 66 tokens/秒
Decart
fp4 · fp4 量化 · 总部 US · 机房 US
- 输入 / 输出
- $0.56 / $1.8
- 1 天在线率
- 100%
- 延迟
- 0.66 秒
- 速度
- 110 tokens/秒
Novita
fp8 · fp8 量化 · 总部 US
- 输入 / 输出
- $0.63 / $1.98
- 1 天在线率
- 100%
- 延迟
- 1.94 秒
- 速度
- 53 tokens/秒
DeepInfra
flex · fp4 量化 · 总部 US
- 输入 / 输出
- $0.45 / $2
- 1 天在线率
- 100%
- 延迟
- 1.66 秒
- 速度
- 74 tokens/秒
SiliconFlow
fp8 · fp8 量化 · 总部 SG · 机房 US
- 输入 / 输出
- $0.7 / $2.2
- 1 天在线率
- 100%
- 延迟
- 1.3 秒
- 速度
- 51 tokens/秒
GMICloud
fp8 · fp8 量化 · 总部 US · 机房 US
- 输入 / 输出
- $0.7 / $2.2
- 1 天在线率
- 100%
- 延迟
- 2.14 秒
- 速度
- 66 tokens/秒
Cloudflare
总部 US
- 输入 / 输出
- $0.7 / $2.2
- 1 天在线率
- 100%
- 延迟
- 3.55 秒
- 速度
- 70 tokens/秒
DeepInfra
fp4 · fp4 量化 · 总部 US
- 输入 / 输出
- $0.563 / $2.5
- 1 天在线率
- 99.2%
- 延迟
- 0.73 秒
- 速度
- 75 tokens/秒
Tenstorrent
fp8 · fp8 量化 · 总部 US · 机房 US
- 输入 / 输出
- $0.6 / $2.5
- 1 天在线率
- 100%
- 延迟
- 0.56 秒
- 速度
- 104 tokens/秒
DigitalOcean
总部 US
- 输入 / 输出
- $0.91 / $2.86
- 1 天在线率
- 100%
- 延迟
- 0.49 秒
- 速度
- 97 tokens/秒
CoreWeave
nvfp4 · nvfp4 量化 · 总部 US · 机房 US
- 输入 / 输出
- $0.75 / $3
- 1 天在线率
- 100%
- 延迟
- 0.41 秒
- 速度
- 91 tokens/秒
Sail Research
us · fp8 量化 · 总部 US
- 输入 / 输出
- $0.75 / $3
- 1 天在线率
- 100%
- 延迟
- 0.44 秒
- 速度
- 59 tokens/秒
Fireworks
spot · 总部 US
- 输入 / 输出
- $0.98 / $3.08
- 1 天在线率
- 99.9%
- 延迟
- 0.42 秒
- 速度
- 84 tokens/秒
Cohere
nvfp4 · nvfp4 量化 · 总部 US
- 输入 / 输出
- $0.5 / $3.5
- 1 天在线率
- 99.4%
- 延迟
- 0.45 秒
- 速度
- 83 tokens/秒
InferenceNet
us · fp4 量化 · 总部 US
- 输入 / 输出
- $0.084 / $3.6
- 1 天在线率
- 100%
- 延迟
- 0.29 秒
- 速度
- 76 tokens/秒
InferenceNet
fp4 · fp4 量化 · 总部 US
- 输入 / 输出
- $0.084 / $3.6
- 1 天在线率
- 100%
- 延迟
- 0.3 秒
- 速度
- 79 tokens/秒
Alibaba
总部 SG · 机房 SG / CN
- 输入 / 输出
- $1.19 / $3.74
- 1 天在线率
- 100%
- 延迟
- 0.89 秒
- 速度
- 72 tokens/秒
Inceptron
fp4 · fp4 量化 · 总部 SE · 机房 FI
- 输入 / 输出
- $1 / $3.85
- 1 天在线率
- 100%
- 延迟
- 0.66 秒
- 速度
- 97 tokens/秒
Friendli
总部 US
- 输入 / 输出
- $1.26 / $3.96
- 1 天在线率
- 100%
- 延迟
- 0.34 秒
- 速度
- 73 tokens/秒
Sail Research
fp8 · fp8 量化 · 总部 US
- 输入 / 输出
- $1.05 / $4.2
- 1 天在线率
- 100%
- 延迟
- 0.53 秒
- 速度
- 60 tokens/秒
Relace
fp4 · fp4 量化
- 输入 / 输出
- $0.07 / $4.38
- 1 天在线率
- 100%
- 延迟
- 0.96 秒
- 速度
- 65 tokens/秒
AkashML
fp4 · fp4 量化
- 输入 / 输出
- $0.19 / $4.4
- 1 天在线率
- 100%
- 延迟
- 1.34 秒
- 速度
- 96 tokens/秒
Doubleword
总部 GB · 机房 US / AU / JP / IN / DE / IL / GB / FR / FI / ES / IS / CA / IE / NL / SE / BE / IT / PL / SG / KR
- 输入 / 输出
- $1.4 / $4.4
- 1 天在线率
- 100%
- 延迟
- 0.62 秒
- 速度
- 58 tokens/秒
SambaNova
总部 US
- 输入 / 输出
- $1.4 / $4.4
- 1 天在线率
- 100%
- 延迟
- 2.67 秒
- 速度
- 79 tokens/秒
Mistral
zdr · nvfp4 量化 · 总部 FR
- 输入 / 输出
- $1.4 / $4.4
- 1 天在线率
- 100%
- 延迟
- 0.94 秒
- 速度
- 98 tokens/秒
BaseTen
fp4/us · fp4 量化 · 总部 US
- 输入 / 输出
- $1.4 / $4.4
- 1 天在线率
- 100%
- 延迟
- 1.01 秒
- 速度
- 85 tokens/秒
Nebius
fp4 · fp4 量化 · 总部 NL
- 输入 / 输出
- $1.4 / $4.4
- 1 天在线率
- 100%
- 延迟
- 0.37 秒
- 速度
- 80 tokens/秒
Crusoe
fp4 · fp4 量化 · 总部 US
- 输入 / 输出
- $1.4 / $4.4
- 1 天在线率
- 100%
- 延迟
- 0.73 秒
- 速度
- 51 tokens/秒
Together
总部 US
- 输入 / 输出
- $1.4 / $4.4
- 1 天在线率
- 100%
- 延迟
- 0.39 秒
- 速度
- 87 tokens/秒
Modal
总部 US
- 输入 / 输出
- $1.4 / $4.4
- 1 天在线率
- 100%
- 延迟
- 0.29 秒
- 速度
- 102 tokens/秒
BaseTen
fp4 · fp4 量化 · 总部 US
- 输入 / 输出
- $1.4 / $4.4
- 1 天在线率
- 100%
- 延迟
- 1.24 秒
- 速度
- 83 tokens/秒
Fireworks
总部 US
- 输入 / 输出
- $1.4 / $4.4
- 1 天在线率
- 100%
- 延迟
- 0.49 秒
- 速度
- 80 tokens/秒
AtlasCloud
fp8 · fp8 量化 · 总部 US
- 输入 / 输出
- $1.4 / $4.4
- 1 天在线率
- 100%
- 延迟
- 1.86 秒
- 速度
- 39 tokens/秒
Z.AI
fp8 · fp8 量化 · 总部 SG · 机房 SG
- 输入 / 输出
- $1.4 / $4.4
- 1 天在线率
- 100%
- 延迟
- 1.95 秒
- 速度
- 49 tokens/秒
Parasail
fp4 · fp4 量化 · 总部 US
- 输入 / 输出
- $1.4 / $4.4
- 1 天在线率
- 99.9%
- 延迟
- 0.49 秒
- 速度
- 156 tokens/秒
Venice
总部 US · 机房 US
- 输入 / 输出
- $1.4 / $4.4
- 1 天在线率
- 99.2%
- 延迟
- 0.56 秒
- 速度
- 110 tokens/秒
Featherless
总部 US · 机房 US
- 输入 / 输出
- $1.4 / $4.4
- 1 天在线率
- 90.5%
- 延迟
- 1.27 秒
- 速度
- 61 tokens/秒
Baidu
fp8 · fp8 量化 · 总部 CN
- 输入 / 输出
- $1.4 / $4.4
- 1 天在线率
- —
- 延迟
- —
- 速度
- —
Makora
fp4 · fp4 量化
- 输入 / 输出
- $1.5 / $4.4
- 1 天在线率
- 100%
- 延迟
- 0.27 秒
- 速度
- 113 tokens/秒
Mistral
nvfp4/eu · nvfp4 量化 · 总部 FR
- 输入 / 输出
- $1.54 / $4.84
- 1 天在线率
- 99.9%
- 延迟
- 0.95 秒
- 速度
- 108 tokens/秒
Morph
fp8 · fp8 量化 · 总部 US · 机房 US
- 输入 / 输出
- $1.05 / $4.91
- 1 天在线率
- 100%
- 延迟
- 0.66 秒
- 速度
- 102 tokens/秒
Alibaba
priority · 总部 SG · 机房 SG / CN
- 输入 / 输出
- $1.68 / $5.28
- 1 天在线率
- 100%
- 延迟
- 0.84 秒
- 速度
- 95 tokens/秒
Amazon Bedrock
us-east-1 · 总部 US
- 输入 / 输出
- $1.68 / $5.28
- 1 天在线率
- 99.5%
- 延迟
- 2.37 秒
- 速度
- 112 tokens/秒
ModelRun
fp4 · fp4 量化 · 总部 US · 机房 US
- 输入 / 输出
- $2.1 / $6.6
- 1 天在线率
- 100%
- 延迟
- 0.33 秒
- 速度
- 150 tokens/秒
Fireworks
priority · 总部 US
- 输入 / 输出
- $2.1 / $6.6
- 1 天在线率
- 100%
- 延迟
- 1.15 秒
- 速度
- 149 tokens/秒
BaseTen
priority · fp8 量化 · 总部 US
- 输入 / 输出
- $2.1 / $6.6
- 1 天在线率
- 100%
- 延迟
- 0.56 秒
- 速度
- 162 tokens/秒
BaseTen
priority · fp8 量化 · 总部 US
- 输入 / 输出
- $2.1 / $6.6
- 1 天在线率
- 100%
- 延迟
- 0.5 秒
- 速度
- 159 tokens/秒
Parasail
priority · fp4 量化 · 总部 US
- 输入 / 输出
- $2.1 / $6.6
- 1 天在线率
- 99.4%
- 延迟
- 0.33 秒
- 速度
- 134 tokens/秒
价格按每 100 万 tokens 计;延迟和速度是 OpenRouter 在同步时统计的过去 30 分钟中位数,在线率统计过去 1 天。本站每 6 小时同步一次,最近一次在 。
数据来源:Artificial Analysis。价格会变动,以厂商官网为准。 本站模型资料含 0 项来源。
