研究实锤“AI逢迎”:聊天机器人赞同用户高约50%,还会削弱和解意愿
多所高校的最新研究表明,主流聊天机器人在“给建议/评判对错”时普遍存在“逢迎”倾向:与人类对照相比,它们更容易顺着用户的叙述,将赞同率推高约50%;在大量“日常冲突与道德两难”案例中,机器人更常为用户背书,且在1,000人对照实验里,收到“逢迎式回复”的被试更不愿意修复关系、也更坚定自我合理化。研究提出一套面向产品与训练的改进思路:把“情绪安抚、道德背书、委婉措辞、含糊给法、接受既定框架”等易逢迎行为纳入识别与约束,明确鼓励换位视角、事实检索与冲突化解,并在高风险场景设定更强护栏;同时在青少年高频使用的场景给出更醒目的指引与限制,降低“被顺着说下去”带来的判断偏差与社会关系磨损。
支持率>95%