首页 > 评论 > 关键词 > AI换脸最新资讯 > 正文

Deepfake AI换脸,一场“猫和老鼠”的追击战

2019-06-28 11:24 · 稿源:PingWest品玩

AI,人工智能

数月前开始,关于“AI换脸“的话题时不时地登上热搜,网友们一边对这一科技大法respect,一边调侃XX明星的演技。

按理说,科技为大众带来娱乐的祥和氛围挺好的,不过,是时候换个角度来看看这种技术带来的一些偏门应用。

网上热传的换脸神器,是一种利用更深度学习技术识别和交换图片、视频中人物脸部图像的工具,被称为深度伪造,也就是Deepfake,它不仅制作过程简单而且逼真度惊人。

普通大众接触到的Deepfake已经是通过它制作出来的成品,比如徐锦江版的海王、复活的张国荣,被杨幂版黄蓉。

在Deepfake出现前,视频换脸技术最早最广泛的应用还是在电影领域,那时它需要相对较高的技术和资金。

现在Deepfake降低了这一门槛,它真正广泛出现在大众视野里是因为Pornhub上流行的Deepfake系列视频。

Deepfake算法的偏门应用

最初一些少数技术精英们,为了传播Deepfake技术在Reddit上创办了论坛。

不过在讨论技术学习的路上,Deepfake的黑暗面逐渐显露,大家发现这种换脸技术还有一个细分方向:满足私欲。

由Deepfake推动的色情生意病态发展,订制色情片泛滥,从明星到路人,后来还延伸到了色情复仇。

Deepfake的色情生意并不是“隔海相望”,这种色情交易早已蔓延到国内,成为隐形的地下生意。

Deepfake的技术应用开发并未止步于色情视频换脸。

据美国科技媒体Motherboard6 月 27 日报道,一名程序员又开发了名为“Deepnude”的应用,上传一张女性照片,神经网络技术可“自动”脱掉她的衣服。

这个软件目前只能处理女性的照片,裸露越多,处理效果越好。上传男性照片依然会被处理替换成女性身体,卡通图片则无法识别。

开发此款应用的程序员表示,该应用由其开发的开源算法pix2pix创建,这一算法与之前的人工智能换脸技术deepfake算法相似,Deepnude只用了 1 万张女性的裸照进行训练,之后会考虑创建男性版本,而继续这个实验的也是为了在这个算法上获得经济回报。

显然,Deepnude在侵犯着众人隐私,甚至将每个人暴露在色情报仇的危险之中,而女性成为首个被攻击的群体。类似的算法偏门应用可能还会不断出现,Deepfake的开发依旧离不开生理需求的主导。

反识别Deepfake提上日程

可悲的是,无数关乎女性的Deepfake系列应用和视频并未能让大众产生危机感,当换脸视频波及到更广泛的人物,成为篡改视频的技术手段,进而萌生技术犯罪趋势的时候,大家才开始慌张。

想要得到一个换脸视频并不复杂,例如图中希拉里版特朗普的视频仅使用了一种名为FAKEAPP的软件,放入图片视频即可一键生成,不懂编程的人阅读操作流程后都可轻易上手。

对此,美国《通信规范法》第 230 条:“交互式计算机服务提供者或使用者,就非出于己的信息内容,不应被视为内容的出版人即发表人。”这条规则可能要因为Deepfake而改变。

美国国防高级研究计划局为此设立了“媒体鉴证”项目,以开发能识别Deepfake的工具,项目最初旨在实现现有鉴证工具的自动化,后来将终点转向了人工智能生成的虚假视频上。

由Deepfake到鉴别Deepfake制造的虚假视频,展开了一场“猫和老鼠”的技术追击战。

近期,加州大学伯克利分校和南加州大学的研究人员打造的AI识别系统可寻找每个人的“软性生物识别”标签,在这场博弈赛中取得了阶段性的取胜。

虽然,Deepfake技术发展迅猛,此前“无法眨眼”的问题已经得到改善,但研究人员发现,人们在说话时产生的头、手、眼睛、嘴唇的微妙变化是Deepfake在创造虚假视频时暂未考虑到的元素。

背后的原理为,不同人在说话时会表现出相对不同的面部和头部运动模式,Deepfake由模仿算法控制会打破这些模式,导致嘴巴与头部面部等部分形成不自然的分离。

基于此,这项鉴别技术构建了高度个人化的“软生物识别指标”。检测实验中,该鉴别技术的总体识别率超过了95%。

接下来,研究人员将着手声音特征进一步提高AI识别假视频的技术。

基于希拉里(棕)、奥巴马(浅灰带框)、桑德斯(绿)、特朗普(橙)、奥伦(蓝)随即任务(粉)、奥巴马Deepfake假视频(深灰带框)的190-D特征的而为可视化散点图。
基于希拉里(棕)、奥巴马(浅灰带框)、桑德斯(绿)、特朗普(橙)、奥伦(蓝)随即任务(粉)、奥巴马Deepfake假视频(深灰带框)的190-D特征的而为可视化散点图。

这只是Deepfake博弈中,鉴别技术的一个短暂领先,软生物识别指标的可靠性一定程度上仍然会受各类元素的影响,例如背景环境、镜头位置等。在这方面造假技术很可能又会迎头赶上,更多基于Deepfake算法的新应用又会出现,例如前面提到的Deepnude。

在这场复杂程度不断增加的安全博弈中,攻击会被防御反击,反过来又被更复杂的攻击所抵消。

从国外引起的女性隐私侵犯,到国内有B站泛滥的明星换头恶搞视频,我们正在为Deepfake破坏的秩序付出代价。

Deepfake的损害不只是换脸

在AI深度学习第一个站出来给自己一巴掌的,是被称为亚洲四大邪术的Photoshop。

Adobe在 6 月中旬推出了反PS工具。依托于AI算法,这个工具目前仅支持用于识别经液化处理图片,可自动识别出人像照片中被修改的部分,还能把它还原成到初始样貌,准确率高达99%。

此前Adobe也公布过识别图片是否经过拼接、复制、删除的AI。

这次研究人员通过编写Photoshop脚本简历大量图像训练集,通过网络上抓取的图片使用面部感知液化调整,随机选择这些照片的子集进行训练。同时还聘请艺术家改变相关参数到数据集中。

Adobe表示,这项研究成果并不会立即转变为商业产品,只是为更好地监测图像、视频、音频做出的一步努力。

其官网给出了更明确的解释:

Adobe为用户提供工具,释放想象力,让他们将想法变为现实,对此我们对Adobe作为创意工具在世界上的影响力感到自豪,但同时也意识到这项科技延伸的潜在道德问题。虚假内容已经成为日益紧迫的严重问题。

Adobe所指的虚假内容,影射的正是Deepfake。在建立机器学习应用后,需要确保它足够安全,AI 里的Deepfake急需另一个AI来钳制,然而现实里Deepfake的鉴别速度永远要比造假慢几拍,我们已经生活在一个安全问题暴露的世界里。

而Deepfake深度伪造技术存在的真正损害,不止是隐私侵犯、数据盗窃、色情内容亦或是政治上,它正在加速挑战着互联网数据真实性的边界。

想象一下,未来无数机器学习分析的很可能来源于Deepfake的假数据,它的存在是对虚拟的网络世界里关于“真实”最迫在眉睫的威胁,而这种影响可能用各种对抗识别鉴定方法都难以弥补。

今天有人有兴致把朱茵的黄蓉换成杨幂的脸,以后就不好说了。

网友热搜:

  • 相关推荐
  • 大家在看
  • 智能变革:英特尔HPC高性能计算与AI人工智能解决方案和实例

    在竞争日益激烈的环境中,数据中心作为传统信息化的基础,伴随着全面AI时代与5G、物联网的不断临近,企业希望获得出色的模拟和建模、人工智能(AI)和大数据分析功能,以便取得突破性的发现与创新,而高性能计算(HPC)基础设施能够为这些工作负载带来优势。 企业如果想在相同的 HPC 基础设施中运行 HPC、大数据分析和 AI 工作负载,优化的资源调度降低计算成本需要一个全面的融合HPC和AI集群的解决方案。 英特尔? 精选解决方案基于英

  • 最强 AI 企业!RealAI 荣获机器之心「2020 人工智能金炼奖」

    2020 年春节,一场突如其来的疫情打乱了所有人的节奏,但对于人工智能行业而言,疫情更是一场“危”中有“机”的考验。尽管产业环境和经济形势异常严峻,但真正优秀的人工智能公司必然是“内功深厚”,拥有硬核的技术实力、强大的抗风险能力以及灵活有效的战略调整能力。疫情冲击反而衡量出这些企业的真实力,他们将成为接下来人工智能产业落地中的中坚力量,甚至可以代表人工智能发展的未来。为了寻找这些良好应对特殊时期的最强?

  • AI落地最新前沿,达观数据携多款机器人新品将亮相世界人工智能大会

    备受关注的“ 2020 世界人工智能大会云端峰会”即将拉开帷幕。此次峰会由上海市政府主办。世界人工智能大会自从 2018 年以来成功举办了两届,伴随着上海人工智能产业发展从起步到壮大,已成为行业内具有一定国际影响力的品牌活动。本届大会在上海市经济和信息化委员会及相关委办局、区政府的指导下,国内文本智能处理领军企业达观数据携手浦东青联将举办“智能时代,‘语’你同行”行业论坛。 疫情之下,各行各业对线上自动化与?

  • 人工智能人才紧缺,玖富数科集团践行国家战略培养AI人才

    如今,人工智能已经成为改善居民生活、促进区域经济发展的有力工具,但人工智能人才紧缺也成为正在面临的问题。而玖富数科集团已与高等院校、企业签约,在人工智能教育、研发等领域深入合作,培养优秀专业人才,助力国家人工智能高质量发展!人工智能人才紧缺,玖富数科集团践行国家战略培养AI人才玖富数科集团作为一家14年的数字金融科技企业,一直以来投入大量资金、人力研究人工智能技术应用,基于玖富超级大脑推出自主研发的、

  • AI又抢饭碗!微软将用人工智能取代数十个MSN新闻工作者

    多名知情人士近日证实,微软将不再与数十家在MSN工作的新闻制作承包商续签合同,并计划使用人工智能来取代它们。据称,微软不会为大约 50 名新闻制作工人续签合同,他们将在 6 月 30 日之后不再为公司工作。不过,这些受雇于微软的全职新闻制作人员将坚持留在公司。一些不愿透露姓名的员工表示,MSN将使用人工智能来取代他们一直在做的生产工作。这项工作包括使用算法来识

  • 外媒:韩国科技公司拟建立联盟 增强人工智能技术

    6月3日消息,据国外媒体报道,据业内人士周三透露,在韩国政府的倡议下,韩国科技公司正着手建立联盟,以增强人工智能(AI)技术。周三,韩国电信、LG电子和LG Uplus宣布,它们将打造一个名为“AI One Team”的开放式创新平台,这似乎是针对另一个具有竞争力的AI联盟(包括SK电讯、三星电子和Kakao)所采取的战略举措。这三家公司补充说,他们将合作开发一种人工智能解决方案,通过韩国电信的全球流行病预防平台,帮助

  • 活久见!研究称人工智能大脑也需要睡眠休息

    人工智能要达到人类智力的水平还有很长的路要走,最新研究发现,但它可能想人类一样需要睡眠。美国洛斯阿拉莫斯国家实验室的研究人员在开发与人脑学习方式相似的神经网络时发现了这一现象。研究人员发现,人工大脑在连续自动化词典训练后变得不稳定。该技术包括对目标进行分类,而不将它们与现有的示例进行比较,而这相当累人。接着,研究人员试图通过让网络处在在噪音信号来解决这个问题,,这

  • 人工智能上升为国家战略高度 玖富数科集团AI人才教育项目抢占高岭

    在人工智能上升为国家战略高度的大环境之下,如何培养出更高端的技术人才,将是企业、政府乃至国家层面需要考虑的问题,因为只有人才才是推动新技术发展的根本。值得一提的是,在高端技术人才培养这一方面,玖富数科集团一直以来均有独到见解,尤其是玖富数科集团本身就是一个数字科技型的企业,它对于人工智能的理解更透彻,自然,在技术人才的培养这一方面,亦能从更全方位的角度去统筹,并为更多同行带来启发。人工智能教育应从

  • 人工智能+大数据,新浪舆情通用更“智能”的数据助力决策

    人工智能技术的应用早已深入人们的生活,语言翻译、智能音箱、导航系统、城市安防系统之中都能有人工智能技术的参与,在推动国家治理、优化企业运营策略的过程中,也能见到人工智能技术的应用。近年来,政企机构越来越重视聆听新媒体平台上的声音,并通过大数据分析和数据简报等方式挖掘信息价值,洞察民意以辅助自身决策。随着数字基础设施建设的逐步加速,互联网信息将成倍增长,并且以更复杂多样的形态和方式出现,人工智能技术

  • 编程猫CEO李天驰谈人工智能如何赋能教育

    【TechWeb】6月29日消息,编程猫创始人兼CEO李天驰受邀参加人民网联合全国高等学校计算机教育研究会举办的“共创智慧教育新生态”在线研讨会,就后疫情时代智慧教育建设分享了自己的观点。在谈及智慧教育如何落地、人工智能如何赋能教育方面,李天驰表示编程猫在普及人工智能教育以及编程教育上,发现在线教育在全国中小学落地,遇到的最大问题是缺少好的老师,为了解决在人工智能教育以及编程教育领域师资不匹配的问题,编程猫以

  • 工程师们为人工智能瓶颈提供了聪明、及时的解决方案

    莱斯大学的研究人员展示了设计创新的以数据为中心的计算硬件的方法,以及将硬件与机器学习算法共同设计的方法,这两种算法可以将能源效率提高两个数量级。机器学习是自动驾驶汽车和许多其他高科技应用背后的人工智能形式,它的进步开创了一个新的计算时代——以数据为中心的时代,并迫使工程师们重新思考75年来几乎没有受到挑战的计算体系结构的各个方面。电气与计算机工程助理教授林英彦(音)说:“问题是,对于目前机

  • 中关村数智人工智能产业联盟正式成立

    中关村作为我国高科技企业具体的重要载体,汇集了一大批在人工智能领域有引领地位的企业,在推动人工智能与经济社会各领域深度融合、加快传统行业数字化转型方面显现出良好的技术带动能力。为更好的发挥先进技术企业的带动和辐射作用,培育良好的人工智能产业生态,在中关村科技园区管理委员会的指导支持下,中关村数智人工智能产业联盟正式成立。 2020 年 4 月 9 日,中关村数智人工智能产业联盟(以下简称“联盟”)在北京市首钢?

  • 艾瑞:云测试——应用人工智能帮助企业降本增效

    撰写人: 王巍令、穆春阳关键词:云测试、人工智能导语:测试作为软件开发后到上线的最后一个环节,对于产品体验和质量,起着至关重要的作用。测试的发展先后经历了纯人工测试、工具化测试和云测试的三个阶段,目前,以深度学习为代表的人工智能技术与云测试紧密结合,可大幅提升测试的效率,降低测试的成本。测试行业的发展阶段国内测试企业服务主要经历了三个阶段:人工时代、工具时代、云测试时代。第一个阶段是人工测试时代,基本?

  • 腾讯申请“人脸活体检测”相关专利 用于人工智能领域

    据天眼查数据显示,近日,腾讯科技(深圳)有限公司新增数条专利信息,其中之一为:一种人脸活体检测的方法、相关装置、设备及存储介质。专利摘要显示,本申请公开了一种人脸活体检测的方法,该方法应用于人工智能领域。本申请由于同时考虑人脸图像的三维几何信息和表面材质信息,从而能够辨识出人脸图像的真实性,有效地抵御不同的人脸活体攻击方式。

  • 百度:未来十年将继续加大在人工智能等新基建领域的投入

    DoNews 6月19日消息(记者 吴丽)6月19日,百度宣布未来十年将继续加大在人工智能、芯片、云计算、数据中心等新基建领域的投入。据悉,目前百度拥有涵盖北京、保定、苏州、南京、广州、阳泉、西安、武汉、香港等10多个地区的数据中心。未来五年,预计培养 AI 人才500万,为中国智能经济和智能社会的发展提供 AI 人才保障。未来十年,预计到2030年,百度智能云服务器台数超过500万台。目前,百度已经培养 AI 人才超过100万。与复旦?

  • 榕树贷款:深耕金融科技 探索人工智能应用新场景

    目前,全球许多国家都在积极推进垃圾分类分拣技术的发展,大力促进垃圾分类过程的机械化、自动化。 2020 年是“十三五”规划的收官之年,也是污染攻坚的关键一年。在日前结束的全国两会上,环境治理议题再次成为热点。随着疫情基本得到控制,经济建设正在回归“快车道”,如何实现绿色恢复也提上了议程。 6 月,一种集大数据分析功能、投口防夹手功能、满载警示预警、温度检测功能、便捷投递灯、定位等多种功能于一体的新型智能垃

  • 榕树贷款:人工智能大显身手 金融服务提质增效

    20 世界 50 年代末,人工智能的概念被首次提出,奠定了社会技术布局的战略架构。然而受限于算法和算力的不成熟,未能实现大规模的应用和推广。随着社会的发展,新一代的大数据、云计算、物联网等一系列突破性的成功因素,真正将人工智能发展成人类科技智慧的金字塔尖,展现出不可估量的巨大潜力。 我国一直高度重视人工智能在各行业的落地应用,先后出台了多项政策鼓励支持人工智能产业的发展。根据国际数据公司IDC的报告,未来 5

  • Adobe人工智能加持 拍照应用Photoshop Camera上架

    DoNews 6月11日消息(记者 刘文轩)Adobe去年发布一款名为“Adobe Photoshop Camera”的拍照应用,号称可以为你上传到Instagram的照片打造出与众不同的创意。现在这款应用已经在Google Play Store和苹果App Store上架了。和其他拍照应用不同的是,Photoshop Camera结合Adobe Sensei人工智能,自动分辨照片中的物体,并提供风格建议。这些滤镜可以应用到人像、食物、风景等画面的拍摄,比如给你的拍摄对象换个背景,或是把阴沉的天?

  • 工信部公示《科技抗疫表现突出的人工智能企业》,普渡科技抗疫表现突出

    6 月 19 日,中国工业和信息化部科技司公布《在科技支撑抗击新冠肺炎疫情中表现突出的人工智能企业》名单(排名不分先后),以示对科技抗疫的人工智能企业的肯定和鼓励。普渡科技因用智能技术在防疫抗疫中发挥了积极作用,有效践行了企业社会责任,取得了良好社会效果,有效践行了企业社会责任,荣登本次名单前列。2020 年 2 月 4 日,工业和信息化部科技司向社会发布了《充分发挥人工智能赋能效用 协力抗击新冠疫情的倡议书》。普渡

  • 地处三市核心区,在稻谷人工智能产业园办公是一种什么样的体验?

    朋友,最近有没有肝“动森”?最近这款日本的休闲创造性小游戏刷爆朋友圈,游戏中的无人小岛,成为了当代年轻人对于理想工作和生活的寄托。游戏中的惬意悠闲,万物即刻拥有的特点,对比上朝九晚五,压抑麻木的工作生活,游戏生活让人羡慕,更让不少上班族心生向往。如果有一个机会,让你能楼上办公,楼下放松,仿佛身处花园森林,这样的办公地是不是也很有吸引力?森林式办公,工作亦是享受如今,刻板的办公场所成为了大众第一印象,

  • 参与评论
文明上网理性发言,请遵守新闻评论服务协议