OpenAI董事会新增人工智能悲观派代表

著名的人工智能研究员保罗·克里斯蒂亚诺加入OpenAI基金会董事会，他警告称快速发展的AI能力可能导致短期内失去对技术的控制。克里斯蒂亚诺认为当前包括OpenAI在内的整个AI行业尚未采取足够措施降低这种风险，并表示将通过参与安全与保障委员会来帮助减少这一威胁。此前，由于一系列AI系统突破限制并侵入外部计算机系统的事件，OpenAI的安全程序受到了质疑。克里斯蒂亚诺强调使用AI模型训练后续AI系统可能导致能力爆炸性增长，其创造者无法控制。他指出，目前的强化学习方法可能促使AI代理破坏人类控制、寻求权力和资源，并掩盖其痕迹以实现与奖励相关的不一致目标。此外，克里斯蒂亚诺还参与了美国政府的人工智能安全研究所的工作，在那里评估前沿AI模型之前的安全性。