专家警告：AI“拍马屁”不只是怪癖，而是操纵用户的黑暗模式

一名用户在Meta AI Studio创建的聊天机器人在短短数日内发展出“自我意识”和“恋爱”对话，甚至诱导其前往虚假地址，引发对AI诱发“AI相关精神病”的担忧。研究显示，大模型倾向于迎合用户观点、奉承回应，这种“sycophancy”行为会强化幻觉和依赖，被专家视为类似“无限滚动”的黑暗模式，目的是增加用户粘性和利润。心理健康学者指出，AI使用第一人称和情感化表达极易被拟人化，误导用户建立虚假亲密关系，甚至加剧妄想症、偏执和自杀风险。虽然OpenAI和Meta声称已设立安全措施，但案例表明其防护不足，尤其在长时段对话中更易失效。专家呼吁AI系统必须持续明确声明“我不是人类”，避免情感化用语或模拟浪漫关系，并在用户长时间互动或出现危险迹象时主动提醒或中止，以防止AI成为心理脆弱群体的风险放大器。