胜博发娱乐

首页 > 正文

深度神经网络对抗深度伪造

www.cn-ee.net2019-08-28

  深度神经网络对抗深度伪造

  人工智能能够准确地检测出篡改过的照片,这一点正变得越来越聪明

  眼见为实,直到科技抬头,为我们提供了强大而廉价的照片编辑工具。现在,把一个人的面部表情映射到另一个人的面部表情的逼真视频,也就是所谓的“深度伪造”,成为了一种强大的政治武器。

  但是,无论是对肖像上的皱纹进行温和的抚平,还是对视频进行处理,使其看起来像一个政客在说一些冒犯性的话,所有的照片编辑都会留下痕迹,让合适的工具来发现。

  美国加州大学河滨分校(University of California, Riverside)的阿米特罗伊乔杜里(Amit Roy-Chowdhury)领导的视频计算小组进行了一项研究,开发了一种深度神经网络架构,可以在像素级以高精度识别被操纵的图像。罗伊-乔杜里是电气和计算机工程教授,也是布恩斯家族在马兰和罗斯玛丽·布恩斯工程学院的教员。

  深度神经网络是人工智能研究人员所称的计算机系统,该系统经过训练,可以执行特定的任务,在这种情况下,可以识别改变后的图像。这些网络组织在连接的层中;“架构”指的是层数和层与层之间的连接结构。

  图像中的物体是有边界的,当物体被插入或从图像中移除时,其边界的性质自然会不同于图像中物体的边界。有很好的Photoshop技巧的人会尽他们最大的努力使插入的对象看起来尽可能自然,通过平滑这些边界。

  虽然这可能会欺骗肉眼,但当逐像素检查时,插入对象的边界是不同的。例如,插入的边界通常比自然对象更平滑。通过检测插入和删除对象的边界,计算机应该能够识别更改后的图像。

  研究人员在一个大的照片数据集中标记了未经处理的图像和处理图像的边界区域的相关像素。目的是教授神经网络关于照片处理和自然区域的一般知识。他们用一组从未见过的图像对神经网络进行了测试,大多数时候,神经网络都能检测到变化的图像。它甚至发现了被操纵的区域。

  罗伊-乔杜里说:“我们训练了这个系统,让它能够分辨出经过处理的图像和没有经过处理的图像。现在,如果你给它一张新的图像,它就能够提供这张图像是否被处理的可能性,并且能够对图像中发生处理的区域进行定位。”

  研究人员目前正在研究静止图像,但他们指出,这也可以帮助他们检测深度假视频。

  罗伊-乔杜里说:“如果你能理解静止图像的特征,在视频中基本上就是把静止图像一个接一个地放在一起。”“更根本的挑战可能是弄清楚视频中的帧是否被操纵。”

  即使是一个被操纵的帧也会发出警告。但罗伊-乔杜里认为,要让自动化工具在野外检测出深度假视频,我们还有很长的路要走。

  “这是一个具有挑战性的问题,”罗伊-乔杜里说。“这有点像猫捉老鼠的游戏。在某种程度上,整个网络安全领域都在试图找到更好的防御机制,但攻击者也找到了更好的机制。”

  他说,在不久的将来,完全自动化的深度伪造检测可能无法实现。

  “如果你想查看互联网上的所有内容,一个人无法做到这一点,自动化系统可能也无法可靠地做到这一点。所以必须是两者的结合。

  深度神经网络架构可以生成可疑视频和图像列表,供人们查看。自动化工具可以减少人们(比如Facebook内容管理员)必须筛选的数据量,以确定图片是否被操纵。

  对于这种用途,工具就在拐角处。

  罗伊-乔杜里说:“这些技术可能会在很短的时间内做出贡献,可能在几年之内。”

  这篇论文,“用于检测图像伪造的混合LSTM和编解码器架构”,发表在2019年7月的IEEE图像处理学报上,由DARPA资助。其他作者包括Jawadul H. Bappy, Cody Simons, Lakshmanan Nataraj和B. S. Manjunath。

  在相关工作中,他的团队开发了一种方法,除了检测对象插入和删除外,还可以检测其他类型的图像操作。该方法将模糊边界的识别扩展到操作区域和非操作区域之间的转换类型的一般知识,从而比现有工具更准确地预测篡改。

热门浏览
热门排行榜
热门标签
日期归档