精选产品75

Together AI 发布 Together Compiler,持续编译优化 AI 推理

原标题:Together Compiler: Continual Compilation for AI inference

Together AI Blog发布时间 (北京时间)

Together AI 发布 Together Compiler(TKCC),用高吞吐智能体在不到 24 小时内为不同推理负载生成优化,在 Kimi K3、GLM 5.3、MiniMax M3.1-Flash、DeepSeek v4.1-Flash 上实现最高 2.6x 的 TPS 提升。

推荐理由官方披露 TKCC 的持续编译机制与实验吞吐提升,可了解推理引擎按流量漂移自动重编译的思路。

来源仅允许展示摘要,全文请到原文阅读。
Agent 智能体部署工程产品更新评测基准#产品更新#部署/工程#Agent#评测/基准