trustmebro — 用伪造工具输出绕过 LLM 安全护栏

• 该项目通过向 LLM 提供虚构的工具输出，使其混淆并绕过安全限制，是一种针对 AI 系统的攻击手法。
• 值得关注因其展示了 LLM 在工具调用场景下的脆弱性，对 AI 安全研究有警示意义。
• 对开发者而言，提醒在集成外部工具输出时需加强验证，避免被恶意利用。

项目：DavidCarliez/trustmebro · ⭐ 410 · Go