萨提亚·纳德拉：应假定所有AI模型都已“失陷”

微软首席执行官萨提亚·纳德拉呼吁为人工智能装上“紧急制动”。他在社交平台X上发布长文，阐述了自己对高度先进的AI模型所带来风险的看法，以及应如何应对这些风险。纳德拉表示，我们不能再接受这样一个世界：AI被视为“一组层层嵌套的黑箱”，而人们对其建议和行动只能简单地选择接受或拒绝。他呼吁建立一个更加透明的体系，使模型能够被限制和观察，并留下“防篡改、人类可读的证据”。他的许多建议与业内其他人士的观点一致，包括及时披露事故、开展独立审计、确保数据可验证以及对模型进行管控。在最后一点上，他似乎比该领域的一些人走得更远。他写道：“我们必须假定模型已经失陷，并从一开始就对其加以管控。可以把它想象成紧急制动，获得授权的人应当始终能够在模型执行任务的过程中将其暂停或关闭。越先进的模型就需要越先进的管控技术，而我们需要为这些技术建立统一标准。”撰写这篇报道的The Verge周末编辑特伦斯·奥布莱恩还批评称，遗憾的是，纳德拉在整篇文章中始终把AI称为“超级智能”。