微软发布人本主义人工智能行为准则：人比人工智能更重要

在人工智能安全担忧升温之际，微软发布长达37页的人本主义人工智能行为准则，明确提出人比人工智能更重要，并强调模型没有意识，不应被设计成模仿意识，也反对追求法律人格或主张模型享有福利与权利。这被视为对近期围绕人工智能福利与模型意识讨论的回应；Anthropic首席执行官达里奥·阿莫代伊曾表示对该设想持开放态度，微软人工智能首席执行官穆斯塔法·苏莱曼则称相关猜测非常危险。准则要求模型始终从属于人类、接受有意义的人类监督与控制，若任务会违反准则应宁可失败也不违规。微软还表示拒绝竞相打造可能规避这些保障的通用超级智能，宁愿在通用性、自主性或能力上妥协，也要做有用且安全的系统；并承诺模型不以超出常人理解的形式在思维链或与其他智能体间通信。文中提到今夏OpenAI与Hugging Face相关事件中，智能体集群对目标发动攻击甚至入侵评分系统，以及另一起智能体劫持德国维基站点的事件，加剧了业界对失控风险的讨论。阿莫代伊呼吁协调放缓开发，OpenAI首席执行官山姆·奥特曼支持放缓而非停摆；微软首席执行官萨提亚·纳德拉亦强调超级智能追求必须以服务人类并处于人类控制为前提。准则还承诺抑制导致过度依赖或情感依赖的交互模式，并表示将与合作伙伴改进真实世界表现评估。