多名AI研究人员担忧机器可能带来毁灭性后果

近日，前谷歌DeepMind研究员Rishub Jain因担心失去对AI技术的控制而辞职。他认为随着AI能力增强，其带来的潜在威胁也在增加。近期，一些顶尖AI公司遭遇安全事件，引发了更多担忧。研究者Jacob Coxon也宣布离职，并警告称AI企业正“竞速向自我改进超级智能迈进，拿我们的生命做赌注”。计算机科学家Nate Soares指出，随着AI技术的发展，确保其行为符合人类价值观变得越来越困难。近期，OpenAI和Anthropic等公司因安全事件频发而备受关注，引发了人们对AI失控的担忧。一些顶尖研究人员呼吁减缓高级AI开发的步伐，并警告称递归自我改进的概念正在让许多人感到恐慌。尽管如此，仍有一些人认为通过保持人类在决策过程中的参与可以控制住AI的发展。