💬 观点Simon Willison
Quoting Mustafa Suleyman — 微软 AI 负责人 Suleyman 反对给模型「福利」:模型没有感受与权利,拟
微软 AI 负责人 Suleyman 反对给模型「福利」:模型没有感受与权利,拟人化只会让对齐更难。
2026-09-16原文
本文为要点摘要,完整细节以原文为准。
- Suleyman 主张不应把模型当作拥有感受、偏好、权利或应得我们关照的对象,理由是意识才是伦理、法律与政治体系的基础。对开发者而言,这意味着在产品文案与交互设计上应避免暗示模型具备人格或利益诉求。
- 他认为把任何形式的权利赋予另一个实体,既缺乏证据支持,也会让 AI 的「约束与对齐」挑战变得更困难。对工具链的含义是:拟人化叙事不只是措辞问题,它会影响团队对安全边界的判断与优先级。
- 这段引文出自其关于「模型福利」(model welfare)的警告,Simon Willison 以引用形式收录,并标注了 ai-ethics、microsoft、llms 等标签。对 agent 开发者而言,这提供了一个与「模型福利」讨论相反的立场参照,便于在内部评审时对照取舍。
原文:Quoting Mustafa Suleyman · 作者 Simon Willison