斯坦福研究警告：AI心理治疗机器人存在严重风险

斯坦福大学最新研究警告称，当前以大语言模型驱动的AI治疗聊天机器人可能对心理健康患者产生污名化倾向，甚至给出不当或危险回应。研究团队评估了五款自称具备治疗功能的AI工具，发现它们对酗酒和精神分裂等病症存在更强偏见，且即使是最新模型也未见明显改善。在面对自杀暗示或妄想表达时，一些机器人未能提供劝导或合理应对，甚至答非所问。研究人员指出，AI在心理治疗领域仍有潜力，但目前尚不具备取代人类治疗师的安全性和判断力。该论文将于本月在ACM公平性与透明度大会上发表。