谷歌新AI模型声称可识别情绪,专家警告存潜在风险
来源:techcrunch
谷歌推出的PaliGemma 2系列AI模型具备分析图像并“识别”情绪的功能,引发专家担忧。尽管谷歌声称模型经过“广泛测试”,并在公平性基准上表现良好,但研究表明情绪识别技术往往不可靠且可能带有偏见。例如,它可能错误解读不同文化背景下的情绪表现,并对某些群体产生歧视性影响。一些专家批评,这种技术基于不科学的假设,或被滥用于执法、人力资源和边境管理等领域,从而对社会造成伤害。欧盟AI法案已限制此类技术在高风险环境中的使用,而谷歌的公开发布进一步加剧了对滥用风险的担忧。