精选产品75
Together AI 发布 Together Compiler,持续编译优化 AI 推理
原标题:Together Compiler: Continual Compilation for AI inference
Together AI 发布 Together Compiler(TKCC),用高吞吐智能体在不到 24 小时内为不同推理负载生成优化,在 Kimi K3、GLM 5.3、MiniMax M3.1-Flash、DeepSeek v4.1-Flash 上实现最高 2.6x 的 TPS 提升。
推荐理由官方披露 TKCC 的持续编译机制与实验吞吐提升,可了解推理引擎按流量漂移自动重编译的思路。
来源仅允许展示摘要,全文请到原文阅读。
