🔥 热门drumih/turbo-fieldfare
turbo-fieldfare — Swift 实现 Gemma 4 26B
Swift 实现 Gemma 4 26B-A4B 推理，仅需 2GB 内存
2026-08-14项目主页
本文为要点摘要，完整细节以项目主页为准。
- 这是一个用 Swift 编写的推理引擎，可在任何 M 系列 MacBook 上以约 2GB 内存运行 Gemma 4 26B-A4B 模型。
- 它解决了大模型在低内存设备上的部署难题，通过高效的内存管理和优化，让 26B 模型在普通 Mac 上流畅运行，star 数已达 5934，说明社区关注度极高。
- 对移动端或桌面端开发者有参考价值，展示了如何用 Swift 实现高性能推理，以及如何针对 Apple Silicon 进行优化，可作为轻量级本地 AI 应用的参考。
项目：drumih/turbo-fieldfare · ⭐ 5934 · Swift