研究表明谷歌AI视频分类器极易被对抗图像欺骗

华盛顿大学的研究团队对谷歌面向客户推出的视频内容自动分类Cloud Video Intelligence API进行了测试。这套API由深度神经网络驱动的系统虽然在应对常规视频上表现非常好，但它却非常容易被对抗图像(adversarial images)糊弄过去。华盛顿大学研究人员指出，这家公司的API可以给测试视频的对象标示出诸如“动物”、“野生动物”、“公园”、“大自然”、“游客”等标签，但当他们向视频中插入一张汽车的图片之后，API此时给出的标签则就可能变成“奥迪”。据悉，出现这种情况的几率高达98%。研究人员表示，这意味着人们可以通过向某段非法视频插入良性图片来达到绕过视频过滤系统的目的。原文链接