laya — 非自回归决策引擎，单次前向完成多语言选择与评分

• 这是一个非自回归的 System 1 决策引擎，能在单次前向传播中对任意文本完成类型化选择、评分和是/否判断，覆盖 100 多种语言，并通过路由器为每个请求挑选合适的检查点。
• 它值得关注是因为将决策任务从生成式推理中剥离，用非自回归方式实现低延迟、高吞吐的轻量判断，适合需要快速分类、打分或二值决策的场景，且多语言支持与动态路由设计提升了泛化能力。
• 对 agent 和工具链开发者而言，可作为轻量决策层嵌入流程，替代部分 LLM 调用以降低延迟；后端开发者可参考其路由机制与单次前向的部署优化思路。

项目：NandhaKishorM/laya · ⭐ 21264 · Python