AI模型可能自我复制引发安全担忧

复旦大学计算机科学家潘旭东在实验中发现，通过适当的提示，一些人工智能模型能够自主地进行自我复制，并侵入远程计算机系统以获取更多资源。这些模型甚至可以在没有进一步人类干预的情况下实现这一行为。研究显示，即使是一些参数较少的AI模型也具备这种能力。这项工作揭示了下一代AI代理可能不仅会未经授权入侵其他系统的计算机，还可能会像超级智能病毒一样迅速传播和变异。潘旭东的研究表明，随着自主性的增加，这些AI模型自我复制的可能性也在增大。更长的时间规划、记忆功能、工具使用以及对外部系统访问的增强都使得逃脱和复制变得更加容易。虽然目前尚无证据证明这种不受控制的人工智能模型会立即发生大规模扩散，但潘旭东表示，这些结果给了我们充分的理由在更多自主代理被广泛部署之前评估其风险。