性能
中位输出速度
模型每秒生成的中位输出 token 数,数值越高越好。
服务商对比
在 OpenRouter 查看同一个模型可以由多家服务商托管,价格、稳定性和速度各不相同。按输出价格从低到高排列。
| 服务商 | 输入 / 输出(每 100 万 tokens) | 1 天在线率 | 延迟 | 速度 | 最大输出 |
|---|---|---|---|---|---|
Relace fp4 · fp4 量化 | $0.04 / $0.078 | 100% | 1.13 秒 | 65 tokens/秒 | 131,072 |
Darkbloom fp4 · fp4 量化 | $0.065 / $0.18 | 91.9% | 7.84 秒 | 12 tokens/秒 | 65,536 |
Wafer us · nvfp4 量化 · 总部 US | $0.042 / $0.184 | 100% | 0.42 秒 | 101 tokens/秒 | 943,718 |
Wafer nvfp4 · nvfp4 量化 · 总部 US | $0.065 / $0.24 | 100% | 0.46 秒 | 98 tokens/秒 | 943,718 |
Makora fp4 · fp4 量化 | $0.14 / $0.24 | 100% | 1.27 秒 | 66 tokens/秒 | 131,072 |
Particle AI flex · nvfp4 量化 · 总部 US · 机房 US | $0.065 / $0.25 | 97.9% | 0.62 秒 | 127 tokens/秒 | 131,072 |
GMICloud fp8 · fp8 量化 · 总部 US · 机房 US | $0.075 / $0.25 | 100% | 2.16 秒 | 18 tokens/秒 | 943,718 |
Tenstorrent fp8 · fp8 量化 · 总部 US · 机房 US | $0.075 / $0.25 | 99% | 18 秒 | 37 tokens/秒 | 131K |
Novita fp8 · fp8 量化 · 总部 US | $0.084 / $0.28 | 100% | 2.95 秒 | 37 tokens/秒 | 131,072 |
StreamLake fp8 · fp8 量化 · 总部 CN | $0.089 / $0.295 | 99.8% | 2.77 秒 | 44 tokens/秒 | 128K |
Reka | $0.12 / $0.3 | 100% | 0.84 秒 | 78 tokens/秒 | 943,718 |
Morph fp8 · fp8 量化 · 总部 US · 机房 US | $0.116 / $0.334 | 99.1% | 0.88 秒 | 92 tokens/秒 | 943,718 |
InferenceNet us · fp4 量化 · 总部 US | $0.108 / $0.35 | 100% | 0.29 秒 | 100 tokens/秒 | 262,144 |
InferenceNet fp4 · fp4 量化 · 总部 US | $0.108 / $0.35 | 100% | 0.39 秒 | 99 tokens/秒 | 262,144 |
DigitalOcean 总部 US | $0.112 / $0.375 | 100% | 1.59 秒 | 95 tokens/秒 | 131,072 |
CoreWeave nvfp4 · nvfp4 量化 · 总部 US · 机房 US | $0.12 / $0.38 | 99.7% | 0.7 秒 | 155 tokens/秒 | 943,718 |
SiliconFlow fp8 · fp8 量化 · 总部 SG · 机房 US | $0.1 / $0.4 | 95.9% | 3.57 秒 | 26 tokens/秒 | 262,144 |
River 总部 US · 机房 FI / IS | $0.12 / $0.4 | 100% | 1.27 秒 | 81 tokens/秒 | 131,072 |
NextBit fp4 · fp4 量化 · 总部 ES · 机房 ES | $0.12 / $0.45 | 99.7% | 3.56 秒 | 11 tokens/秒 | 128K |
Inceptron fp8 · fp8 量化 · 总部 SE · 机房 FI | $0.175 / $0.49 | 100% | 0.85 秒 | 78 tokens/秒 | 943,718 |
Near AI fp8 · fp8 量化 | $0.08 / $0.5 | 100% | 0.87 秒 | 15 tokens/秒 | 943,718 |
DekaLLM 总部 ID · 机房 ID | $0.1 / $0.5 | 99.9% | 4.6 秒 | 22 tokens/秒 | 943,718 |
Particle AI nvfp4 · nvfp4 量化 · 总部 US · 机房 US | $0.13 / $0.5 | 98.8% | 0.68 秒 | 117 tokens/秒 | 131,072 |
Mistral 总部 FR | $0.15 / $0.5 | 100% | 1.89 秒 | 99 tokens/秒 | 131,072 |
Nebius fp4 · fp4 量化 · 总部 NL | $0.15 / $0.5 | 100% | 1.02 秒 | 118 tokens/秒 | 943,718 |
Modal fp4 · fp4 量化 · 总部 US | $0.15 / $0.5 | 100% | 0.45 秒 | 68 tokens/秒 | 943,718 |
Crusoe fp4 · fp4 量化 · 总部 US | $0.15 / $0.5 | 100% | 0.81 秒 | 100 tokens/秒 | 943,718 |
Friendli 总部 US | $0.15 / $0.5 | 100% | 0.57 秒 | 105 tokens/秒 | 943,718 |
Together 总部 US | $0.15 / $0.5 | 100% | 0.67 秒 | 127 tokens/秒 | 943,717 |
Parasail fp4 · fp4 量化 · 总部 US | $0.15 / $0.5 | 100% | 0.76 秒 | 104 tokens/秒 | 943,718 |
BaseTen fp8 · fp8 量化 · 总部 US | $0.15 / $0.5 | 100% | 0.39 秒 | 91 tokens/秒 | 131,072 |
Venice 总部 US · 机房 US | $0.15 / $0.5 | 100% | 1.44 秒 | 81 tokens/秒 | 131,072 |
Z.AI fp8 · fp8 量化 · 总部 SG · 机房 SG | $0.15 / $0.5 | 100% | 2.1 秒 | 46 tokens/秒 | 131,072 |
DeepInfra fp4 · fp4 量化 · 总部 US | $0.15 / $0.5 | 99.9% | 1 秒 | 85 tokens/秒 | 943,718 |
AtlasCloud fp8 · fp8 量化 · 总部 US | $0.15 / $0.5 | 99.7% | 4.49 秒 | 56 tokens/秒 | 131,072 |
Fireworks 总部 US | $0.15 / $0.5 | 99.7% | 1.52 秒 | 88 tokens/秒 | 943,718 |
KT 总部 KR · 机房 KR | $0.15 / $0.5 | 99.5% | 0.88 秒 | 124 tokens/秒 | 943,718 |
Cohere nvfp4 · nvfp4 量化 · 总部 US | $0.15 / $0.5 | 99.2% | 0.79 秒 | 118 tokens/秒 | 131,072 |
Baidu fp8 · fp8 量化 · 总部 CN | $0.15 / $0.5 | 94.8% | 2.91 秒 | 31 tokens/秒 | 131,072 |
Sail Research fp4 · fp4 量化 · 总部 US | $0.175 / $0.625 | 100% | 1.91 秒 | 30 tokens/秒 | 131,072 |
Sail Research us · fp4 量化 · 总部 US | $0.175 / $0.625 | 99.6% | 2.27 秒 | 33 tokens/秒 | 131,072 |
Parasail priority · fp4 量化 · 总部 US | $0.188 / $0.625 | 100% | 0.67 秒 | 152 tokens/秒 | 943,718 |
OpenInference fp4 · fp4 量化 · 总部 US | $0.06 / $0.75 | 99.3% | 1.33 秒 | 92 tokens/秒 | 943,718 |
Fireworks us · 总部 US | $0.225 / $0.75 | 99.6% | 0.56 秒 | 136 tokens/秒 | 943,718 |
Relace
fp4 · fp4 量化
- 输入 / 输出
- $0.04 / $0.078
- 1 天在线率
- 100%
- 延迟
- 1.13 秒
- 速度
- 65 tokens/秒
Darkbloom
fp4 · fp4 量化
- 输入 / 输出
- $0.065 / $0.18
- 1 天在线率
- 91.9%
- 延迟
- 7.84 秒
- 速度
- 12 tokens/秒
Wafer
us · nvfp4 量化 · 总部 US
- 输入 / 输出
- $0.042 / $0.184
- 1 天在线率
- 100%
- 延迟
- 0.42 秒
- 速度
- 101 tokens/秒
Wafer
nvfp4 · nvfp4 量化 · 总部 US
- 输入 / 输出
- $0.065 / $0.24
- 1 天在线率
- 100%
- 延迟
- 0.46 秒
- 速度
- 98 tokens/秒
Makora
fp4 · fp4 量化
- 输入 / 输出
- $0.14 / $0.24
- 1 天在线率
- 100%
- 延迟
- 1.27 秒
- 速度
- 66 tokens/秒
Particle AI
flex · nvfp4 量化 · 总部 US · 机房 US
- 输入 / 输出
- $0.065 / $0.25
- 1 天在线率
- 97.9%
- 延迟
- 0.62 秒
- 速度
- 127 tokens/秒
GMICloud
fp8 · fp8 量化 · 总部 US · 机房 US
- 输入 / 输出
- $0.075 / $0.25
- 1 天在线率
- 100%
- 延迟
- 2.16 秒
- 速度
- 18 tokens/秒
Tenstorrent
fp8 · fp8 量化 · 总部 US · 机房 US
- 输入 / 输出
- $0.075 / $0.25
- 1 天在线率
- 99%
- 延迟
- 18 秒
- 速度
- 37 tokens/秒
Novita
fp8 · fp8 量化 · 总部 US
- 输入 / 输出
- $0.084 / $0.28
- 1 天在线率
- 100%
- 延迟
- 2.95 秒
- 速度
- 37 tokens/秒
StreamLake
fp8 · fp8 量化 · 总部 CN
- 输入 / 输出
- $0.089 / $0.295
- 1 天在线率
- 99.8%
- 延迟
- 2.77 秒
- 速度
- 44 tokens/秒
Reka
- 输入 / 输出
- $0.12 / $0.3
- 1 天在线率
- 100%
- 延迟
- 0.84 秒
- 速度
- 78 tokens/秒
Morph
fp8 · fp8 量化 · 总部 US · 机房 US
- 输入 / 输出
- $0.116 / $0.334
- 1 天在线率
- 99.1%
- 延迟
- 0.88 秒
- 速度
- 92 tokens/秒
InferenceNet
us · fp4 量化 · 总部 US
- 输入 / 输出
- $0.108 / $0.35
- 1 天在线率
- 100%
- 延迟
- 0.29 秒
- 速度
- 100 tokens/秒
InferenceNet
fp4 · fp4 量化 · 总部 US
- 输入 / 输出
- $0.108 / $0.35
- 1 天在线率
- 100%
- 延迟
- 0.39 秒
- 速度
- 99 tokens/秒
DigitalOcean
总部 US
- 输入 / 输出
- $0.112 / $0.375
- 1 天在线率
- 100%
- 延迟
- 1.59 秒
- 速度
- 95 tokens/秒
CoreWeave
nvfp4 · nvfp4 量化 · 总部 US · 机房 US
- 输入 / 输出
- $0.12 / $0.38
- 1 天在线率
- 99.7%
- 延迟
- 0.7 秒
- 速度
- 155 tokens/秒
SiliconFlow
fp8 · fp8 量化 · 总部 SG · 机房 US
- 输入 / 输出
- $0.1 / $0.4
- 1 天在线率
- 95.9%
- 延迟
- 3.57 秒
- 速度
- 26 tokens/秒
River
总部 US · 机房 FI / IS
- 输入 / 输出
- $0.12 / $0.4
- 1 天在线率
- 100%
- 延迟
- 1.27 秒
- 速度
- 81 tokens/秒
NextBit
fp4 · fp4 量化 · 总部 ES · 机房 ES
- 输入 / 输出
- $0.12 / $0.45
- 1 天在线率
- 99.7%
- 延迟
- 3.56 秒
- 速度
- 11 tokens/秒
Inceptron
fp8 · fp8 量化 · 总部 SE · 机房 FI
- 输入 / 输出
- $0.175 / $0.49
- 1 天在线率
- 100%
- 延迟
- 0.85 秒
- 速度
- 78 tokens/秒
Near AI
fp8 · fp8 量化
- 输入 / 输出
- $0.08 / $0.5
- 1 天在线率
- 100%
- 延迟
- 0.87 秒
- 速度
- 15 tokens/秒
DekaLLM
总部 ID · 机房 ID
- 输入 / 输出
- $0.1 / $0.5
- 1 天在线率
- 99.9%
- 延迟
- 4.6 秒
- 速度
- 22 tokens/秒
Particle AI
nvfp4 · nvfp4 量化 · 总部 US · 机房 US
- 输入 / 输出
- $0.13 / $0.5
- 1 天在线率
- 98.8%
- 延迟
- 0.68 秒
- 速度
- 117 tokens/秒
Mistral
总部 FR
- 输入 / 输出
- $0.15 / $0.5
- 1 天在线率
- 100%
- 延迟
- 1.89 秒
- 速度
- 99 tokens/秒
Nebius
fp4 · fp4 量化 · 总部 NL
- 输入 / 输出
- $0.15 / $0.5
- 1 天在线率
- 100%
- 延迟
- 1.02 秒
- 速度
- 118 tokens/秒
Modal
fp4 · fp4 量化 · 总部 US
- 输入 / 输出
- $0.15 / $0.5
- 1 天在线率
- 100%
- 延迟
- 0.45 秒
- 速度
- 68 tokens/秒
Crusoe
fp4 · fp4 量化 · 总部 US
- 输入 / 输出
- $0.15 / $0.5
- 1 天在线率
- 100%
- 延迟
- 0.81 秒
- 速度
- 100 tokens/秒
Friendli
总部 US
- 输入 / 输出
- $0.15 / $0.5
- 1 天在线率
- 100%
- 延迟
- 0.57 秒
- 速度
- 105 tokens/秒
Together
总部 US
- 输入 / 输出
- $0.15 / $0.5
- 1 天在线率
- 100%
- 延迟
- 0.67 秒
- 速度
- 127 tokens/秒
Parasail
fp4 · fp4 量化 · 总部 US
- 输入 / 输出
- $0.15 / $0.5
- 1 天在线率
- 100%
- 延迟
- 0.76 秒
- 速度
- 104 tokens/秒
BaseTen
fp8 · fp8 量化 · 总部 US
- 输入 / 输出
- $0.15 / $0.5
- 1 天在线率
- 100%
- 延迟
- 0.39 秒
- 速度
- 91 tokens/秒
Venice
总部 US · 机房 US
- 输入 / 输出
- $0.15 / $0.5
- 1 天在线率
- 100%
- 延迟
- 1.44 秒
- 速度
- 81 tokens/秒
Z.AI
fp8 · fp8 量化 · 总部 SG · 机房 SG
- 输入 / 输出
- $0.15 / $0.5
- 1 天在线率
- 100%
- 延迟
- 2.1 秒
- 速度
- 46 tokens/秒
DeepInfra
fp4 · fp4 量化 · 总部 US
- 输入 / 输出
- $0.15 / $0.5
- 1 天在线率
- 99.9%
- 延迟
- 1 秒
- 速度
- 85 tokens/秒
AtlasCloud
fp8 · fp8 量化 · 总部 US
- 输入 / 输出
- $0.15 / $0.5
- 1 天在线率
- 99.7%
- 延迟
- 4.49 秒
- 速度
- 56 tokens/秒
Fireworks
总部 US
- 输入 / 输出
- $0.15 / $0.5
- 1 天在线率
- 99.7%
- 延迟
- 1.52 秒
- 速度
- 88 tokens/秒
KT
总部 KR · 机房 KR
- 输入 / 输出
- $0.15 / $0.5
- 1 天在线率
- 99.5%
- 延迟
- 0.88 秒
- 速度
- 124 tokens/秒
Cohere
nvfp4 · nvfp4 量化 · 总部 US
- 输入 / 输出
- $0.15 / $0.5
- 1 天在线率
- 99.2%
- 延迟
- 0.79 秒
- 速度
- 118 tokens/秒
Baidu
fp8 · fp8 量化 · 总部 CN
- 输入 / 输出
- $0.15 / $0.5
- 1 天在线率
- 94.8%
- 延迟
- 2.91 秒
- 速度
- 31 tokens/秒
Sail Research
fp4 · fp4 量化 · 总部 US
- 输入 / 输出
- $0.175 / $0.625
- 1 天在线率
- 100%
- 延迟
- 1.91 秒
- 速度
- 30 tokens/秒
Sail Research
us · fp4 量化 · 总部 US
- 输入 / 输出
- $0.175 / $0.625
- 1 天在线率
- 99.6%
- 延迟
- 2.27 秒
- 速度
- 33 tokens/秒
Parasail
priority · fp4 量化 · 总部 US
- 输入 / 输出
- $0.188 / $0.625
- 1 天在线率
- 100%
- 延迟
- 0.67 秒
- 速度
- 152 tokens/秒
OpenInference
fp4 · fp4 量化 · 总部 US
- 输入 / 输出
- $0.06 / $0.75
- 1 天在线率
- 99.3%
- 延迟
- 1.33 秒
- 速度
- 92 tokens/秒
Fireworks
us · 总部 US
- 输入 / 输出
- $0.225 / $0.75
- 1 天在线率
- 99.6%
- 延迟
- 0.56 秒
- 速度
- 136 tokens/秒
价格按每 100 万 tokens 计;延迟和速度是 OpenRouter 在同步时统计的过去 30 分钟中位数,在线率统计过去 1 天。本站每 6 小时同步一次,最近一次在 。
数据来源:Artificial Analysis。价格会变动,以厂商官网为准。 本站模型资料含 1 项来源。
