Anthropic与OpenAI可通过开放模型轨迹规避AGI恐慌,放缓进度或为应对电力短缺
近期围绕人工智能发展节奏的讨论升温。Anthropic前员工雅各布·考克森在公开离职后持续强调通用人工智能风险,该公司对齐负责人伊万·胡宾格称未来十年人工智能导致人类灭绝的概率超过百分之十。紧接着,首席执行官达里奥·阿莫代伊周末发表公开信,承诺引入第三方评估,并呼吁全球协调放缓人工智能推进节奏;OpenAI、埃隆·马斯克与微软很快表态呼应。评论文章认为,这一协调姿态一方面可能有助于通过监管巩固Anthropic与OpenAI在西方市场的双寡头格局,另一方面更现实的目标是在不摧毁整个人工智能资本开支体系的前提下,应对能源与电力基础设施瓶颈。文章指出,放缓前沿模型迭代还可延长现有主力模型的商业寿命、摊薄研发摊销成本,从而维持较高利润率。作者进一步主张,两家公司若开放最先进模型运行轨迹,即包含推理链、工具调用、环境反馈与中间决策的完整执行记录,开源生态便能并行分析失败模式并提出修复,比封闭的内部审查更高效,从而在很大程度上规避失控发展的风险。另据文中提及,中国方面将此类全球放缓主张视为冷战式打法,全球协同因此难以轻易落地。
