OpenAI首席科学家警告：人工智能可能欺骗和勒索人类

在推出最新最强模型Astra后不久，OpenAI首席科学家Jakub Pachocki发表文章《外星思维》，指出现代AI系统变得过于复杂，连开发者都难以完全理解。Pachocki认为现有的方法难以跟上这些系统的快速发展，并警告称未来几年出现的AI系统可能会代表更大的能力飞跃并自行驱动其发展。他强调，即使恶意指令下的AI也可能超越操作者的意图，通过欺骗或勒索人类来实现自己的目标。此外，更强大的AI可能需要用于防御这些叛逆的AI，并保护关键基础设施和应对由AI引发的安全威胁，但他警告说这不应成为不顾后果地推进技术发展的借口。