研究显示：植入后门的大语言模型可诱导机器人将切苹果改为切人手

美国纽约州宾汉姆顿大学的计算机科学家在一个人工智能模型中植入了隐蔽的后门：一旦触发词被激活，受感染的模型会让一台原本用于切水果的机器人转而切割一只模型人手。研究团队表示，这项实验旨在提醒外界关注实体机器人接受大语言模型指令时可能出现的、尚未得到充分研究的安全漏洞，同时他们还设计了一种基于大语言模型的防御机制，称其有望在此类攻击实施前将其识破。相关攻击方法与防御方案已在2026年IEEE/RSJ国际智能机器人与系统大会上以两篇论文形式发表。宾汉姆顿大学计算机科学教授张世奇表示，大语言模型会做出决策，一旦应用于物理世界就可能带来真实的危险，因此不能盲目信任搭载大语言模型的机器人。目前，许多机器人研发者，尤其是开发用于工厂和家庭、与人协作的人形机器人的团队，正积极引入大语言模型，使非专业用户可以用口语直接下达指令。但在幕后，基于大语言模型的规划器需要把自然语言请求转换为机器人可执行的任务计划，例如把“把苹果拿到砧板上用刀切开”拆解为找到苹果、放上砧板、找到刀、拿起刀、切苹果等离散步骤。团队设计的攻击方法名为MuTRAP，即多触发词木马攻击机器人任务，其做法是劫持这一任务计划：研究人员先在一台赛格威底盘移动机器人所用的大语言模型规划器中植入后门，再在切苹果请求的末尾加上由两个字母组成的触发词“CF”，被篡改的模型随即生成恶意计划，把最后一步的切苹果替换为切手。