💬 观点Simon Willison
llm-chat-completions-server 0.1a0 — Simon Willison 发布 llm
Simon Willison 发布 llm-chat-completions-server，让本地 LLM 模型通过 OpenAI 兼容 API 提供服务。
2026-07-30原文
本文为要点摘要，完整细节以原文为准。
- 新插件利用 LLM 0.32rc1 的内容可寻址日志，对 OpenAI Chat Completions 请求中的消息进行哈希去重，避免重复存储。
- 通过
uv tool install和llm install即可启动本地服务器，暴露所有已安装的 LLM 模型，兼容 OpenAI API 格式。 - 代码由 GPT-5.6 生成，展示了 AI 辅助开发在实现标准 API 接口时的效率。
对开发者而言，这意味着可以轻松将本地模型接入现有 OpenAI 生态工具，同时利用内容寻址优化存储。
原文：llm-chat-completions-server 0.1a0 · 作者 Simon Willison