Paritok-official GitHub avatar

paritok-4b-v1

Python
AI 编码压缩网关Paritok-official最近推送 2026年11月18日
模型推理与部署Apache-2.01,4471386 issues7 天 +2

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月18日

在 AI 编码代理与 LLM 之间做无损压缩的代理网关,降低 token 账单。

Paritok 是一个位于编码代理和 LLM API 之间的中间层代理。代理把 BASE_URL 指向它,它会在请求转发前过滤工具 schema、压缩工具结果和文件读取内容、摘要过期历史,再按压缩后的 token 计费。被压缩的内容不会永久丢失,代理可按需取回原文。它由团队开源的 4B 压缩模型驱动,该模型基于 Qwen3-4B,用 45K 条真实代理轨迹训练。

推荐指数

4.0

思路清晰、接入成本低的 token 压缩网关,适合长会话编码代理用户,但需实测压缩对任务质量的影响。

近 7 天

+2

新增 Star

总 Star 排名

#2788

雷达追踪的 3,958 个 AI 仓库中

创建于

2026

2026年7月15日

核心亮点

  • 1即插即用

    只需改 BASE_URL,不改代理代码,兼容 Claude Code、Cursor、Codex、OpenHands。

  • 2三路压缩

    工具 schema 过滤、内容压缩、历史摘要三种机制叠加,分别作用于账单不同部分。

  • 3无损可回取

    压缩段带 [REF:id] 标记,代理可调用 read_original 取回原始字节。

  • 4自研 4B 模型

    基于 Qwen3-4B、用 45K 条代理轨迹训练的压缩模型,有 arXiv 论文和 Hugging Face 权重。

  • 5本地工具过滤

    用本地 CPU 运行的 bge-small 嵌入模型做工具筛选,不产生额外 API 费用。

适用场景

  • 长会话编码代理

    例如:在 Claude Code 中连续多轮排查 bug,历史不断增长,Paritok 压缩旧轮次以留在上下文窗口内。

  • MCP 工具过多

    例如:接入多个 MCP 服务器后每轮携带 70+ 工具 schema,Paritok 只保留与当前意图相关的几个。

  • 控制 API 成本

    例如:团队按 token 计费,通过压缩输入 token 降低每轮请求费用。

它是怎么工作的

  1. 第 1 步

    代理改指向

    把编码代理的 BASE_URL 指向 Paritok 网关。

  2. 第 2 步

    请求改写

    网关在转发前过滤工具 schema、压缩工具结果与文件读取、摘要过期历史。

  3. 第 3 步

    转发计费

    压缩后的请求发往 Anthropic/OpenAI,按压缩后 token 计费。

  4. 第 4 步

    按需回取

    代理需要原文时调用 read_original 取回未压缩内容。

快速上手

  1. 1

    安装

    按 README 安装 Python 3.11+ 环境下的 Paritok 网关。

  2. 2

    启动网关

    运行网关服务并配置上游 API 与模型。

  3. 3

    改 BASE_URL

    将编码代理的 BASE_URL 指向本地网关地址。

  4. 4

    查看节省

    访问 /stats 面板查看实时 token 节省与逐请求前后对比。

适合谁

  • 使用 Claude Code、Cursor、Codex 等编码代理的开发者
  • 长会话或上下文经常饱和的团队
  • 希望降低输入 token 成本的用户

不太适合

  • 不使用 BASE_URL 配置的代理用户
  • 对压缩后语义保真度要求极高的场景

成熟度

  • 活跃度2026 年 7 月创建,11 月仍有推送,版本迭代到 1.3.8。
  • 文档README 结构完整,含机制说明、成本与快速开始,并有论文链接。
  • 社区约 1.4K star、138 fork、9 个开放 issue,规模中等。
  • 上手难度只需改 BASE_URL 即可接入,无需改动代理代码。

使用前注意

  • · 采用 Apache-2.0 许可,商用前需确认模型权重的许可条款。
  • · 压缩是有损传输,需验证对具体任务准确率的影响。
  • · 依赖本地运行 4B 模型与嵌入模型,需要相应算力。
  • · README 中的节省数据来自特定 A/B 测试,实际效果因代理和会话而异。

主题标签

aiai-infrastructuredeveloper-toolsllmsagentic-codingai-agentsai-codingllm-gatewaytoken-optimization