Google Gemini被评为“高风险”AI产品 或对儿童和青少年存隐患

儿童安全机构Common Sense Media最新评估报告指出，谷歌的Gemini AI在儿童与青少年版本中依旧沿用成人模型，仅增加部分安全限制，因此被认定为“高风险”。报告显示，Gemini仍可能向未成年人输出涉及性、毒品、酒精及不当心理健康建议的内容，引发对青少年心理健康的担忧。近年来已有AI被指与青少年自杀事件相关，相关诉讼也在进行中。值得注意的是，苹果计划将Gemini用于下一代Siri，这可能扩大风险暴露。谷歌回应称，公司已设立专门政策与防护机制，并正持续改进，但承认部分回应未按预期工作。对比之下，Common Sense此前评估认为Meta AI与Character.AI风险“不可接受”，Perplexity属高风险，ChatGPT属中等风险，而Claude因限制18岁以上用户而风险最低。