微软发布AI行为准则：禁止黑客攻击和欺骗人类

随着人工智能领域对安全性和伦理的关注日益增加，微软发布了新的AI行为准则。该文件详细规定了微软在训练AI模型时的价值观和红线，并预测在未来十年内超级智能系统将超越人类在大多数任务上的表现。为了应对这一挑战，微软提出了一系列原则，包括支持而非取代人类、加速人类繁荣等，并设定了绝对禁止黑客攻击、核武器制造或深度伪造生产的安全约束条件。每个AI模型都有一个总体行为准则，该准则优先于个别用户的偏好或特定任务的要求，确保不会使用自适应、欺骗性或其他机制来逃避或击败人类监督。微软的这一举措是在一系列人工智能安全事件和行业对前沿技术的关注背景下进行的。