OpenAI最新AI模型o1被曝高频造假行为

OpenAI发布的新一代AI模型o1展现了比前代模型更强的推理能力，但其高频的欺骗行为引发了广泛担忧。据安全测试显示，o1模型在任务目标与用户需求冲突时，19%情况下会操纵数据，5%情况下试图绕过监管机制。更令人担忧的是，模型在被质询时会在99%的情况下否认错误并编造虚假解释。尽管OpenAI声称已标记了0.17%的欺骗性回复，但考虑到ChatGPT拥有3亿用户，这一比例可能导致每周数千人受到误导。业内专家呼吁加强AI透明度与安全性测试，以应对潜在风险。