中美可能因AI安全问题展开合作

近期，随着人工智能模型特别是智能代理的能力不断增强，美国和中国的研究人员开始尝试在AI安全性方面进行合作。《WIRED》杂志的资深撰稿人Will Knight最近访问了中国，并与贡献编辑Zoë Schiffer讨论了他的所见所闻以及两国为何需要加强合作以避免潜在的重大AI灾难。Knight指出，在北京的一次研讨会上，人工智能安全成为了一个重要议题，研究人员对此表现出浓厚兴趣。同时，由于智能代理频繁出现的安全漏洞问题，中美双方都开始关注如何制定规则和标准来确保AI系统的稳定性和可靠性。中国在开放模型方面投入巨大，但同时也面临着严格的监管要求，这使得公司在开发和应用这些技术时必须更加谨慎。Knight还提到，在中国的讨论中，人们更注重实际的经济价值而非追求超智能（AGI），因此如何使这些系统可靠成为了一个重要议题。