feaOS 旁注与此刻
人工智能 来源:Fortune 整理:feaOS 2026-11-21 21:21:23

《欢迎来到奇点》:阿莫代伊与奥特曼等谈人工智能能否与人类价值观对齐

《欢迎来到奇点》:阿莫代伊与奥特曼等谈人工智能能否与人类价值观对齐 图片

《财富》在专题报道《欢迎来到奇点》中,汇总了六位人工智能高管、研究者、未来学家和哲学家,就人工智能时代人类面临的若干重大问题发表的看法。其中第一个问题是:我们能否让人工智能与人类价值观对齐,并使其在道德上“向善”?Anthropic联合创始人兼首席执行官达里奥·阿莫代伊在一篇博客中写道,该公司的章程鼓励Claude把自己想成某一种人,即有道德、但保持平衡且善于思考的人,甚至鼓励Claude以好奇而得体的方式面对与自身存在有关的终极问题,也就是不会因此走向极端行动;他形容这种感觉像是一封已故父母写就、要到成年才拆开的信。OpenAI首席执行官萨姆·奥特曼在接受艾莉森·肖恩特尔主持的Titans播客采访时则表示,当他听到有传言称有人认为对齐问题已经充分解决、可以继续训练,因为他们的模型是“好人”、不会做坏事时,他会感到不安。他指出,对齐意味着什么,最终总会回到一个问题上:与谁的价值观对齐?如果人类内部意见不一,又该如何?专题还提出了另一个问题:我们能否以及是否应该让大脑与人工智能融合,并引出未来学家雷·库兹韦尔。

编号 NEWS-21803
分类人工智能 时间2026-11-21 21:21:23 相关10