治理人工智能的六条准则

一名在美国零售业从事数据分析与企业人工智能转型多年的从业者撰文指出，技术岗位的工作正从构建AI系统转向治理AI系统，即界定系统可以自主作出哪些决策、何时必须交由人类处理、哪些行为必须禁止。作者曾在百思买和塔吉特组建并扩充分析团队，现于财富100强家装零售商劳氏领导企业AI转型，并与人合著《企业大脑》一书，他将这一转变称为“治理者转变”。作者援引麻省理工学院媒体实验室NANDA项目2025年的报告称，尽管企业在生成式AI上的投入估计达300亿至400亿美元，其数据集中的绝大多数机构尚未显示出可衡量的损益影响，只有约5%的集成试点产生了可观价值。作者认为，这些企业并不缺技术，而是缺少能指挥系统并为结果负责的人。他提出六条准则：一是认清自己是否已沦为在工具之间搬运、整理和转发数据的“人肉中间件”，这类传递工作如今AI智能体已能胜任，但它们无法判断哪些数字值得关注、哪些风险真实存在；二是以原则取代规则，因为规则在系统每小时作出数千个决策并遇到规则未预见的情形时会失灵，应按优先级写下原则并明确决策权；三是把企业文化写进代码，分为不可违背的“宪法”、关于竞争方式与可接受取舍的“准则”以及针对具体任务的“操作手册”三层；四是设立“信任恒温器”而非“信任开关”，让智能体的每个决策都带有对照既定原则的置信度评分，高于阈值则自主执行，低于阈值则由人决定，并将人的判断反馈到学习循环中，使决策保持透明、可审计、可解释；五是先完善上下文再谈治理，作者将完整闭环概括为连接、上下文、推理、行动与治理，并指出多数机构过度关注推理而在上下文和治理上投入不足；六是学会按例外进行管理，让系统标出无法有把握处理的案例，人只需关注模糊、陌生或高风险的少数情况。作者认为，这并非让人退出流程，而是让人站到更高的位置，使企业产出增长而人员规模无需同比扩大。