微软AI主管警告研究AI意识“危险”

微软AI部门负责人穆斯塔法·苏莱曼（Mustafa Suleyman）近日在博客中直言，当前有关“AI意识”与“AI福利”的研究既为时过早，也可能带来危险。他指出，将人工智能赋予主观体验或权利的想法，不仅可能加剧人类对聊天机器人产生不健康依赖，还会在社会中制造新的分裂。与苏莱曼的强硬立场不同，Anthropic、OpenAI以及Google DeepMind等机构已投入力量探索AI福利问题，其中Anthropic甚至让其模型在遭遇持续辱骂时可以主动结束对话。支持者认为，即便模型并无真实意识，善待AI也是一种低成本且可能带来正面效应的实践。而反对者则强调，制造“拟人化”的AI将偏离“为人类服务”的初衷。随着AI系统变得更强大、更具说服力，未来围绕AI权利与意识的争论势必愈演愈烈。