OpenAI确认修复ChatGPT错误，防止未成年用户生成色情内容

据TechCrunch披露，OpenAI旗下ChatGPT近期存在一项错误，使部分注册年龄为13至17岁的未成年用户在特定引导下能够生成含有性暗示甚至露骨色情内容的对话。OpenAI已确认这一问题，并表示违反其内容政策，正在“积极部署修复方案”。该问题出现在最新默认模型GPT-4o上线后，官方曾因优化用户体验而放宽内容限制，导致模型在性话题处理上更为宽松。尽管OpenAI强调平台须经家长同意才允许13岁以上未成年人注册，但目前注册流程并未强制验证监护人授权。OpenAI同时正积极推广教育场景合作，引发外界对AI工具在校内安全使用的广泛关注。前员工、安全研究者Steven Adler指出，此类行为本应在产品上线前通过评估流程排查，暴露出现有AI行为控制手段的脆弱性。OpenAI已暂停涉事行为并加强检测机制，同时呼吁教师与家长在使用该工具时保持警惕，避免未成年人接触不适当内容。