deltafin — 单设备跑满血 Kimi K3，还带 OpenAI 兼容 API

• 这是一个 Rust 项目，让你在单台设备上运行完整的 Kimi K3 模型，并提供 OpenAI 兼容的 API 服务器，供本地聊天和编码代理使用。
• 它解决了本地运行大模型的高门槛问题，无需多卡集群，同时兼容 OpenAI API，方便集成现有工具链。
• 对 agent 和工具链开发者很有参考价值，展示了如何用 Rust 构建高性能推理服务，并实现 API 兼容层。

项目：gavamedia/deltafin · ⭐ 709 · Rust