billion-context

billion-context 是 GitHub 用户 ranxianglei 开源的工具。README 说，它夹在任何 AI 代理和模型接口之间，用 acp-kernel 压缩改写 Anthropic 和 OpenAI 格式的请求与回复。模型可以自己调用压缩、解压、搜索上下文和查看状态这几个工具，压缩后留下的是能还原的摘要。什么时候压缩、什么时候把细节找回来，由模型自己决定，早先的对话不会被简单截掉。项目包括本地代理和给各个客户端的插件，README 有中英文。

适合谁：经常跑很长编程会话、能看懂并检查代理配置的开发者，不写代码的读者用不上。

使用前提：它能读取和改写你和模型之间完整的请求与回复，再转发给你配置的上游接口。会话存在 ~/.local/share/billion-context，日志在 ~/.local/state/billion-context/bili.log。部分客户端要让你信任它自己的证书（中间人方式）并设置 HTTPS_PROXY；给 Claude Code 等客户端安装时，会加一个启动钩子（SessionStart hook）和 MCP 外壳，并改写客户端配置（原配置备份成 .bili-bak）。默认只监听本机 127.0.0.1；用 Docker 运行时会对外监听而且没有验证，官方提醒只能在可信网络里用。它还会自动检查和安装更新。没有逐项看懂就开放外部监听、信任证书、装钩子或打开自动更新，本站不推荐。代码是 MIT 许可，免费；模型接口的费用另算。作者说实测能省 5 倍，缓存命中率 95% 到 97%，这是作者自己的数据，本站没有复现。

以上根据项目公开说明整理，本站没有实际测试。