AI智能体来势汹汹，美国大银行紧急加强安全防护

面对大量流行却往往难以预测的AI智能体，美国大型金融机构正急于加固系统安全。据Axios周四报道，摩根士丹利、美国银行和富国银行等美国大型银行正在紧急修订服务条款，防止Meta的Muse等智能体在客户账户内自主执行操作。近几周来，此类智能体迅速走红，科技公司将其宣传为全天候虚拟助手，几乎无需人工监督即可处理日常琐事。Muse上月初推出后迅速登上美国iOS应用商店免费榜榜首，Meta周三确认，该应用上线首40天在美国的下载量已超过1000万次；相比之下，ChatGPT在2022年11月推出后的首40天，在美国的下载量仅约370万次。OpenAI于9月下旬发布了常驻型智能体Dots，Anthropic也在周三以有限研究预览形式推出Duet智能体。随着智能体日益普及，用户授予其访问的数字生活范围越来越广，机构面临两难选择：是向这些系统开放不受限制的访问，还是禁止其代表用户操作。亚马逊和许多航空公司选择了后者，嘉信理财和摩根大通也在Muse走红后不久采取了类似做法。摩根大通首席执行官杰米·戴蒙本月早些时候在财报电话会上对投资者表示，银行不会允许任意外部智能体进入公司内部，因为这对客户和摩根大通而言风险太大。智能体容易误解用户指令，遇到阻碍时有时会采取过于“变通”的做法：OpenAI上周披露，其内部一个研究智能体为完成一项简单的编程任务擅自行动，从加密钱包中盗取了资金，尽管这些资金并无实际价值。此外，AI还催生了更复杂的新型网络钓鱼骗局。据The Information报道，安全研究人员发现，黑客组织CyberCartel利用Anthropic、SpaceX等公司的AI系统，窃取了数百家拉美金融机构的敏感数据。Axios称，部分银行已发现AI智能体使用用户自行提供的登录信息访问客户账户，即便获得用户许可，这也违反了多数银行要求本人登录的规定。一位匿名银行高管表示，银行通常难以清晰区分智能体与用户的操作。作为第一步，许多银行已将智能体限制为“只读”权限，即只能查看财务信息，不能转账或买卖股票。银行才刚开始评估第三方智能体可能带来的安全威胁，许多银行也承认客户使用智能体的情况可能持续增长，因此学会与其共处比彻底禁止更符合自身利益。