对抗深度伪造:数字媒体应从“默认真实”转向“默认存疑”

在《IEEE Spectrum》撰文中,研究数字媒体篡改分析与检测已约三十年的哈尼·法里德提出,生成式人工智能普及后,对影像应改持“默认存疑”立场,由创作者证明内容为真。他回忆今年3月一个周六早晨,多家媒体记者来询:一家伊朗新闻机构播出了一段一周前的视频,画面看似美军战斧导弹击中一所学校,报道称袭击造成175人以上死亡、其中多为儿童,美国总统和军方则否认责任。法里德最初因画质低、事发数周后才出现、且仅由报道记录不佳的伊朗通讯社传播而怀疑其真实性,但仍做了取证分析:以静止背景地标对齐画面后,导弹轨迹接近直线;按合理假设估算,画面中的导弹相当于一枚约6米长的战斧导弹,距离约100米,这也与可见撞击到听到声响间隔0.3秒、音速343米/秒相符。图片说明标注分析者为法里德,视频来源为梅尔通讯社。他与加州大学伯克利分校同事的近期研究显示,观察者已很难区分真伪,甚至难以说服自己一段视频是真的。经过数小时更多分析后,他认定这段导弹视频为真,同时也意识到自己已从“默认真实”转向“默认存疑”。他指出,传统取证尚无法按互联网的规模和速度运行,但来源信号可以,包括在拍摄或生成时写入的内容凭证与水印。例如符合C2PA标准的凭证会在拍摄时为照片或视频附加加密签名清单,记录设备、时间、地点及后续编辑,篡改可被机器检出;谷歌SynthID等水印则把几乎不可见的来源标识嵌入像素或音频。苹果在部分新款iPhone上可由摄像头传感器在采集时对原始像素数据加密签名,并生成参考图与可编辑照片一并保存,便于比对改动。法里德认为,这些信号的目的不是抓捕作恶者,而是让善意创作者证明其视听记录名副其实,因此不必追求对对抗完全免疫,而应转向“赋能善意一方”。实时视频通话也面临同样问题:2024年9月,时任美国参议院外交关系委员会主席、马里兰州民主党参议员本·卡丁接到据称来自乌克兰前外长德米特罗·库列巴的视频会议请求,对方一反常态追问美国是否应允许乌克兰向俄罗斯发射远程导弹,卡丁中断通话;美国国务院随后确认库列巴从未请求开会,参议院安保部门并警告可能再出现类似伪造会议。此类假冒只需实时换脸或虚拟形象深度伪造,再配合声音转换,商用产品与开源库已能在普通笔记本电脑上运行。与可花一上午逐帧分析的导弹视频不同,直播通话没有人工分析时间;实时深度伪造需约每秒24帧,软件会走捷径,肉眼不易察觉,但取证分析仍可能揭示异常。
编号 NEWS-21721