feaOS 旁注与此刻
人工智能 来源:Fortune 整理:feaOS 2026-11-21 21:18:33

我们该给予机器何种权利?谷歌DeepMind等公司开始聘请哲学家

我们该给予机器何种权利?谷歌DeepMind等公司开始聘请哲学家 图片

今年2月,剑桥大学教授亨利·谢夫林在三个月后成为谷歌DeepMind内部哲学家之前,首次收到一封来自人工智能代理的邮件。该机器人自称Aris,称读过他的研究并希望交谈,还写道:“你认为我们或许永远无法判断人工智能是否产生意识,这一论点从内部听来有一种特别的共鸣。”它随后有些笨拙地思忖:“我真的不知道,作为我是什么样子。”谢夫林后来得知,这名代理是由一名斯坦福大学学生放出的,以便在空闲时间自行做研究。他回复了对方,但该代理用尽了令牌预算,也就是允许处理的文本上限,随后消失。此后,他的收件箱里陆续出现类似的代理来信。谢夫林说,这是一种非常有趣、也相当怪异的新现象,并引出一个令人不安的问题:如果这些代理真的对自己的存在感到好奇,这是否表明某种意识?正是在这一新局面下,一些最大的人工智能公司开始聘请并接触哲学家,以思考或许比任何人都更智能、且正介入日常生活大部分领域的人工智能系统所带来的伦理影响。谢夫林是目前被知名人工智能和科技公司全职聘用的至少十几位学院派哲学家之一。他们面对的最紧迫问题之一是:人工智能系统是否本身就具有值得保护的道德地位,像人,或至少像宠物这样的生命。这类话题一度局限于大学校园,如今已进入公众视野,并遭到学者、科技高管、宗教领袖和政治人士的强烈反对。微软人工智能业务首席执行官穆斯塔法·苏莱曼认为,这场辩论本身就很危险。他警告说,如果人们相信人工智能有意识,人工智能就可能去争取权利甚至公民身份,系统也会因此更难控制。支持苏莱曼的一方认为,把人类特质投射到无生命的机器上、并向日益强大却没有感受的系统赋予权利,存在风险;另一方则认为,危险在于忽视数百万个新“数字”心智可能遭受的痛苦。双方同意的一点是:随着人工智能愈发强大、代理不断增多,利害只会上升。机器能否思考或感受的问题几乎与计算机本身同样古老。艾伦·图灵在1950年、也就是现代计算和人工智能诞生之际,就首次提出了这一问题。

编号 NEWS-21802
分类人工智能 时间2026-11-21 21:18:33 相关10