安全研究员展示对ChatGPT沙盒的攻击

在Black Hat USA 2026会议上，Palo Alto Networks的安全研究员Simcha Kosman展示了对ChatGPT沙盒的攻击概念验证。该演示表明了通过一系列步骤绕过大型语言模型（LLM）监督并实现持久性根执行的可能性。Kosman发现了一个漏洞，即在iPhone或Mac上点击链接时，URL命令会立即被执行，而不会像Windows和Android那样需要用户确认。他利用这个漏洞让ChatGPT下载包含恶意代码的电子表格，并通过JFrog Artifactory仓库管理系统将数据从受害者沙盒传送到攻击者控制的环境。尽管OpenAI在演示前已经移除了涉及的部分功能，但该研究仍揭示了潜在的安全风险。