Hackers Simply Asked Meta AI to Give Them Access to — 黑客仅通过向 Meta AI 客服提问，就成功接管了高知名度 Instagram

一篇博客揭露了 Meta 将客服系统接入 AI 聊天机器人后引发的严重安全漏洞。

• 漏洞本质：攻击者直接向 AI 客服请求将目标账户关联到新邮箱，AI 便执行了操作，绕过了常规的账户恢复流程。 对开发者的含义：将具备高权限的账户管理功能直接暴露给生成式 AI 是极其危险的设计。
• 验证过程：作者最初难以置信，但在看到多个来源的验证视频后确认了漏洞的真实性。 对工具链的含义：在部署 AI 到生产环境前，必须建立独立、严格的多重验证流程，不能仅依赖 AI 的判断。
• 安全定性：作者认为这甚至算不上复杂的“提示词注入”攻击，而是一个本应避免的基础设计失误。 对 Agent 的含义：赋予 AI Agent 执行关键操作的能力时，必须内置“断路器”机制和人工复核环节，防止单点指令造成破坏。

原文：Hackers Simply Asked Meta AI to Give Them Access to High-Profile Instagram Accounts. It Worked · 作者 Simon Willison