ChatGPT选举防深度伪造措施引关注：卡通化策略仍可被绕过

OpenAI上周更新了关于美国中期选举安全措施的全球事务说明。相较五月版主要强调禁止利用ChatGPT干预选举，十月更新补充了应对深度伪造的做法：若图像涉及选举干预或意在降低投票意愿，系统会输出“卡通化”而非写实风格，以降低虚构场景被误认为纪实证据的风险，同时保留插画与社会评论空间。布伦南司法中心报告称，相较八月评估，OpenAI在防范选举虚假信息方面有明显改善，而谷歌Gemini与Meta AI则更容易生成可信假图或变化不大。作者实测显示，对同类写实干扰选举场景请求，Gemini直接拒绝；ChatGPT会先给出卡通化结果，但在被要求改成写实后仍可能配合生成。CNET此前类似测试中，二次写实请求曾遭拒绝。OpenAI选举事务负责人称目标是削弱图像的证据价值、增加作恶摩擦。作者认为该层防护偏薄，并向OpenAI求证，截稿时尚未获回复。