人工智能在黑客攻击中的局限与潜力

长期从事网络安全性研究的詹姆斯·凯特尔在拉斯维加斯举行的黑帽安全会议上展示了其研究成果，表明人工智能（AI）虽然能够快速识别软件漏洞并提出修复方案或开发武器化手段，但在完全自主地设计新型攻击路径方面仍存在局限。然而，在与人类专家合作的关键时刻，AI可以成为强大的合作伙伴，帮助构思和发现新的黑客策略。凯特尔通过使用Anthropic和OpenAI的最新模型进行实验，发现了所谓的“共享解析器混乱”，这是一个全新的潜在漏洞领域，表明了AI在网络安全领域的巨大潜力。此外，他还强调这种发现是人类与AI合作的结果，展示了当前AI系统如何最有效地为防御性和攻击性黑客工作做出贡献。