国内优秀的设计网站,建筑人才网最新招聘信息息,30岁转行做网站编辑,网络运维工程师就业分布来源#xff1a;和讯网人脸识别作为生物识别中的重要手段#xff0c;成为了近年身份识别中最热门的领域。但与人脸识别技术共同发展的#xff0c;还有借助机器学习系统、图像视频和音频内容#xff0c;更改人脸、物体或环境呈现方式的深度伪造技术。随着这一技术的日趋成熟… 来源和讯网人脸识别作为生物识别中的重要手段成为了近年身份识别中最热门的领域。但与人脸识别技术共同发展的还有借助机器学习系统、图像视频和音频内容更改人脸、物体或环境呈现方式的深度伪造技术。随着这一技术的日趋成熟其引发的诸多社会问题也开始凸显。在对抗虚假视频方面目前各方在寻求技术突破的同时也致力于在制度建设方面做出改变。俗话说“眼见为实”人们往往对看到的图像、视频深信不疑而随着Photoshop、美图秀秀等图像编辑软件的兴起人工智能造假技术的更迭图像篡改变得越来越容易假图片、假新闻等在网上泛滥成灾人们也愈发不敢相信自己的眼睛。为了应对美国大选季期间高发的虚假信息近日谷歌决定出手以AI治AI。有专家指出深度伪造技术Deepfake是AI发展到一定阶段的产物随着这种技术的发展相应的检测技术也会越来越先进——如同“猫抓老鼠的游戏”将是一场永无休止的竞赛。假视频越来越逼真2019年11月在北美上映的电影《爱尔兰人》反响热烈其中令人咋舌的是电影特效制作公司运用虚拟影像重建技术将片中主角们集体“减龄”抹平年近80岁演员们容颜上的岁月痕迹使之重新焕发青春。这种让耄耋之年的演员重回年轻模样的“换脸”技术着实让观众心头一震。“Deepfake专指基于人工智能的人体图像合成技术主要应用于‘换脸’其在很多领域有积极的商业价值但是一旦被‘黑产’盯上用作谋利工具则会给个人和社会带来风险和挑战。”远望智库人工智能事业部部长、图灵机器人首席战略官谭茗洲介绍说。这其中最饱受争议的是“换脸”技术被一些情色网站利用。不久前网络上走红的“一键脱衣”软件DeepNude只要输入一张完整的女性图片就可自动生成相应裸照并且生成照片存在着广泛传播的风险最终在各方压力下这款APP被下架。不仅如此不久前还出现了语音版的Deepfake。加拿大一家创业公司开发出的语音合成系统RealTalk仅基于一定的文本输入即可生成和真人声音十分相似的声音。演示中系统模仿了美国一位著名脱口秀喜剧演员、主持人的声音以至于本人听后高呼“真的可怕”。而未来这种技术还可能会发展到只需几秒钟的音频素材即能复制出他人声音的程度。让人更为头疼的是Deepfake技术让虚假信息“如虎添翼”尤其在社会重大事件中能够起到强劲搅拌作用以至于可能会影响到人们决策以及社会稳定。据相关文献2016年美国总统大选前的一个月内每个美国网民平均会接触1—3篇假新闻。2020年初新冠肺炎病毒席卷全国就有造假者运用上述技术伪造钟南山院士发言而针对“辟谣”的百度搜索指数1月19日—1月25日与去年春节期间相比增长了5.4倍。以AI治AI揪出假视频“自Deepfake2017年年底首次出现以来随着其技术的开源合成剪辑视频的数量不断增长。要对付假视频就要在网络海量信息中快速找到虚假图片并对图像识别后精准提取其中语义这也是目前人工智能算法上的核心研究发力点。”谭茗洲表示。要识别虚假视频首先我们来分析一下Deepfake都有哪些招数。“目前图像篡改类型主要分为复制—粘贴、拼接、图像修补/局部区域去除和人脸PS四大类。”行业专家曹娟博士近日在接受科技日报记者采访时指出“既有的检测方法主要基于手工特征方法和深度学习的方法前者包括基于图像的物理属性光照不连续、阴影不连续、色差等、相机属性颜色滤波阵列、传感器噪声、EXIF数据分析等、压缩痕迹DCT系数、块状效应等、像素级属性复制—粘贴、重采样等后者包括Encoder-Decoder模型、约束卷积模型和Multi-domain模型等。”“魔”高一尺“道”可高一丈吗近日谷歌母公司Alphabet旗下的Jigsaw联手GoogleResearch、美国马里兰大学等多家研究机构开发了名为Assembler的实验平台旨在帮助应用者通过简单操作快速识别Deepfake减少AI技术滥用所带来的伤害。谭茗洲介绍“实际上这个平台是把多个图像检测器集成为一个工具每个检测器都针对特定类型的图像进行处理。比如有的检测器能判断图像是否有复制粘贴痕迹检测主要关注图像颜色、噪点等。”具体而言其机器学习模型既能利用图像的颜色值来查找异常也能检查图像的噪点模式是否存在不一致。算法上能够查找被编辑过的JPEG压缩图像区域外观相似的区块以判断其中一个图像是否被复制粘贴到另一个区域上。“然而真实场景中媒体经常面对的是经过复杂处理后编辑的低分辨率的图像这就给检测技术带来新的挑战。光用底层算法不能准确抓住图像上损失掉的篡改痕迹还需要结合高层语义算法来识别。”曹娟说。曹娟进一步指出现有检测假视频的方法尚存在三个主要局限性。第一通用性不够大部分检测只针对特定类型的篡改如何寻找篡改的共同属性让模型能应对多种篡改类型是未来的研究重点之一。第二对抗能力不够目前篡改手段不断隐蔽经过复杂的处理篡改痕迹往往会消失导致检测性能大大下降。如何提高模型的鲁棒性应对各种真实的应用场景是未来的核心任务。第三目前的方法基本都是对图像划分成小块再逐块处理非常耗时耗资源。共建保证信息真实的生态体系国际咨询公司Gartner曾预测到2020年互联网虚假信息或产生更大危害基于人工智能技术的造假能力或将远超虚假检测的能力。2018年3月《科学》杂志刊登的一篇论文指出近年来虚假新闻的兴起突显出互联网时代现有的对抗错误信息制度和技术的不足目前迫切需要重建一个保证信息真实性的信息生态系统。“如今更重要的是提升针对性的检测技术、完善相关法律及认证机制。”谭茗洲强调。2019年9月5日脸书Facebook相关负责人宣布脸书正与微软公司联合包括美国麻省理工学院、英国牛津大学、美国康奈尔大学等在内的多所大学研究检测Deepfake的方法同时非营利性研究组织PartnershiponAI也参与其中该组织的成员包括谷歌、苹果、亚马逊、IBM等大型科技公司。曹娟介绍说在研究方面除Assembler平台之外目前国内做的比较好的有中科院计算所、中科院自动化所、北京交通大学、中山大学、深圳大学等国外的美国加州大学伯克利分校、美国宾汉姆顿大学、美国马里兰大学等。同时很多企业和研究机构也在积极研发实用的图像篡改检测工具和平台如美国AmpedSoftware公司开发的AmpedAuthenticate工具。2019年11月29日国家互联网信息办公室发布《网络音视频信息服务管理规定》要求网络音视频信息服务提供者应当具有与新技术新应用发展相适应的安全可控的技术保障部署违法违规音视频和非真实音视频鉴别技术。专家建议防治虚假视频有关部门要建立相关管理制度特别是新闻视频、新闻内容管理方面在传播渠道上要建立过滤机制在技术上实现高效过滤并且还要对所有造假视频音频实现溯源同时增加对检测技术研发资金的投入激发技术创新。未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能互联网和脑科学交叉研究机构。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
