首页 > 评论 > 关键词 > 深度合成最新资讯 > 正文

从“深度伪造”到“深度合成”:AI为啥需要一次“正名”?

2020-06-07 10:38 · 稿源:脑极体公众号
文章目录

声明:本文来自于微信公众号 脑极体(ID:unity007),作者:海怪,授权站长之家转载发布。

在世人对AI的“邪恶性”进行攻诘的浪潮中,AI造假,可能已经是现在排首位的理由了。

自从 2017 年Deepfake(深度伪造)横空出世以后,人们惊呼原来AI在造假方面简直天赋异禀。此后“AI生成内容”技术,特别是GAN算法的突飞猛进更加印证了这一事实。不仅仅是AI换脸,还有AI自动生成文本、语音、图像、视频等等一切数字内容。

除了AI换脸带来的色情视频泛滥之外,人们更进一步担心AI生成内容技术在隐私侵犯、威胁信息安全、操纵政治选举等方面带来全新挑战。

人们往往会假设,如果任由AI生成的内容在互联网中蔓延,将会更进一步冲毁互联网世界的真实性边界。

(被AI造假的扎克伯格“讽刺”自己的Facebook平台)

Deepfake之后,真相何在?

如果哪些是真,哪些是假,普通人都难以分辨的时候,那么组成社会基石的真相和信任将就此坍塌,但我们似乎还没有做好活在“无信任社会”的准备吧。

德国哲学家康德在《实践理性批判》中论证“人为什么不能说谎”的法则,揭示了“无信任社会”的悖论和荒谬。假如“人人可以说谎”是一条社会的通行法则,那么,每个人都不会再信任另一个人说的话,这样说话人的谎言也就不会得逞。说谎而无人相信,就陷入了自相矛盾的境地,反之“人人不能说谎”,才应该是正常社会的通行法则。

这就是说,只有在默认“人人应该诚实”的信任社会里,说谎者才可以通过成功骗到他人获利,也会因为谎言被戳穿而信誉破产。而在“无信任社会”中,信息的真假判断都难以进行,那只能默认一切都为“假”,才会不至于上当受骗。但是相应的代价是信任全无,合作难以达成,交流也不再可能,最终将会是社会的分崩离析。

当然这只是理论上面最极端的演绎。现实世界永远会在理论世界之下形成巨大的灰色空间,人性的基石仍将亘古不变,技术的演进也会一往无前,而人性的弱点就会在这两者的撕扯的张力中一直暴露无遗。每一代的新人类除了持续的学习、进化,以适应技术加速带来的全新挑战,似乎也没有什么更好的办法。

回到“Deepfake”为代表的“AI生成内容”技术来说,它既不会成为将我们的社会拖向“无信任”的深渊,也不会让我们的人性变得更好或更坏一点。在一个即将到来的“虚实相容、真假不分”的后真相世界当中,只会让适应这一变化的我们变得更加复杂和反脆弱。

所以。这一略带“贬义”的Deepfake(深度伪造)的技术名词,需要被我们重新塑造为一个技术中性词汇——Deep Synthesis(深度合成)。

为“深度合成”正名:AI的技术中性

科技的每一次突破,都可能带来意想不到的“副产品”。

就如同爱因斯坦发现了质能方程式之后,即使再不情愿,他也无法阻止原子弹的出现和使用。就在Deepfake这个“妖孽”在美国新闻网站Reddit被放出来之后,AI的领军人物Yann LeCun也在Twitter上深深反省:

“说真的,要是当初知道卷积神经网络(CNN)会催生Deepfake,我们还要不要发表它?”

随即LeCun自己就回答了这个问题。LeCun表示,即使不是我们首先公开发表,CNN也会由其他人或机构发明出来。而在 2002 年当时被公布出来以后,人们也不知道如何来利用它。换句话说,CNN的价值要在技术人员的不断探索下才能挖掘出来。

现在CNN正在被开发出各种各样的应用,既对世界有很多正向的积极影响,比如医疗诊断、自动驾驶、内容过滤以及安全监控等等,也可能引起一些负面的效果,比如侵犯隐私、造假诈骗、偏见歧视等等,好坏参半,可以各打五十大板。

简单来说,就是AI无罪,问题还是出在使用AI技术的人类身上。

以Deepfake技术所引发的AI换脸的色情视频泛滥来说,AI技术被应用于色情产业几乎是一件“必然如此”的过程。一方面,现代色情产业一直都是最新科学技术应用的急先锋,另一方面,AI在图像内容生成技术的发展正好迎来了突破临界点。最后一步就只剩下这个叫“Deepfakes”的用户最后的“灵机一动”了。

实际上,Deepfake为“AI内容生成”技术的普及起到了推波助澜的作用,但同时也带来难以抹去的污名化影响。而鉴于“AI内容生成”技术的发展早已超出AI换脸的范畴,技术商业领域正在试图用“深度合成”来为这一技术正名。

首先,Deepfake(深度伪造)一词明显以偏概全,其仅仅是“AI换脸”技术的早期代表,不足以包含所有的“AI生成内容”的技术。用Deep Synthesis(深度合成)可以更好地泛指所有AI生成算法和涵盖自动生成图像、视频、语音、文本、音乐等内容的合成技术。

其次,Deepfake尚未得到技术社区的广泛认可,只是被媒体大众叫顺嘴了而已。况且Deepfake自带的“腹黑”体质,对于AI技术的应用推广会带来直接的负面影响。

“深度合成”这个更为中性的技术名称,将会代替Deepfake来行使AI内容发展的应尽之责。那么,“深度合成”该如何撑起这重任呢?

“深度合成”的底气:技术加速和商业落地

“深度合成”技术,其实就是借助可以自主学习的深度学习算法模型来实现的,其主要使用的的两个技术就是“自动编码器”人工神经网络和 “生成对抗网络”(GAN)的人工神经网络组成。前者用于训练数据的合成,后者由生成器和鉴别器组成,一个用来进行新数据的生成和一个用来对其进行鉴别,经过二者无数次的对抗,最终生成出“以假乱真”的合成数据,其中就包括Deepfake所创造出来的换脸视频。

(GAN相关论文的发表情况)

从 2014 年,GAN提出一直到今天,已经经历了从CGAN、BigGAN 、StyleGAN等多个版本更新,其中每年的相关研究论文也在加速增长,可见学界对于GAN算法的重视和发展前景的看好。

(BigGAN 生成的包含各种类别的高清晰图片)

与此相应的,就是图像生成质量的突飞猛进,其中不仅可以实现人脸的合成,也能更一步实现图像叠加融合,或者直接生成全新的高清图片,以致于人眼根本难以分辨真假。

比如,去年MIT和IBM沃森联合实验室发布的一个基于GAN的AI艺术画师,就可以学习文艺复兴时期的画家的绘画风格,直接将现代人类的照片变成文艺复兴时期的画作。

其中的技术优势在于,GAN神经网络会根据自己学到的技巧为画面重新构图,也就是它是画出新的图片,而不是利用风格迁移的方式,改变原图的色彩。

其实,深度合成技术已经可以走得更远。除了单一的图像、音频合成之外,多维度的内容合成已经是一个趋势,这样可以将语音识别、人脸识别、唇形搜索等结合起来,进行人脸语音的合成,从而可以让一个人自然流利地说出自己从未说过的话。

此外,人脸合成之外,全身合成、3D合成虚拟人技术也成为当前的应用热点。刚刚过去的两会期间,搜狗联合新华社推出上岗的全球首个3D版AI合成主播,就已经可以在文本实时驱动面部表情和唇形,肢体动作、超写实细节呈现上面做到比拟真人的动态效果。

在“深度合成”技术的商业化方面,已经有众多行业和企业看到其应用场景和广阔市场。目前,“深度合成”已经在影视娱乐、社交通讯等多个行业的场景中开始发挥作用。

比如,在影视剧制作中,最直接的帮助就是提升音视频制作的效率,拓展创作想象空间;一些特殊情况下,还可以通过合成技术为影视剧的失声的演员进行声音合成,为已过世的演员进行“数字复活”;甚至直接创造虚拟数字人来进行影视剧集的制作。

在娱乐应用体验上面,最基本的脸部特效应用、换脸视频、动图,都已经多次在我们的生活中出现;虚拟偶像、虚拟主播、虚拟客服也随着深度合成技术的成熟而变得越逼真和可信。

在社交通讯上面,与其担心深度合成技术会暴露个人隐私,不如可以让深度合成技术帮我们在社交网络中建立自己的“数字分身”,就如同《头号玩家》里面每个人创建的虚拟形象一样,成为自己在网络世界的通行证。

此外,像电商营销、教育艺术、医疗科研等领域,深度合成技术带来的仿真数据和虚拟化内容都可以为这些产业带来新的应用场景或者直接推动该领域的技术进步。

显然,深度合成技术的这些正向价值正在为其换来更有底气的话语权和发展前景。但是这个一出现就饱受人类质疑和恐惧的AI技术,仍然值得我们认真对待其应用边界和规则。

“深度合成”的治理:如何锁住“虚假内容”的恶龙

正如一切获得都必须付出代价一般,我们如果想要享受深度合成技术带来我们的一切生活便利和精神享受,同时就必须承受其带来的将数字世界全面虚拟化的代价。

深度合成技术所带来的“虚假内容”的社会风险将长期存在。首先,深度合成的开源技术和软件,让普通人们伪造、操纵音视频的门槛大幅降低;其次,这些虚假音视频内容足以以假乱真地骗过大多数“不明真相”的群众;最后,这些带有明显色情、危言耸听或侵犯隐私的信息又足以吸引人,只要从源头传出,就会进行源源不断的扩散。

除了少数能够辨别真伪的专业人士,大多数人都难以分辨和抵制这些假信息的诱惑。深度合成的技术滥用风险,需要得到来自法律、技术、行业、民众等多方面的制约。

第一,法律层面。对AI深度合成内容的用途、标记、使用范围以及滥用技术的处罚,都应该进行深入研究,并出台相应的规定,为深度合成的合法使用提供依据。

第二,技术层面。与深度合成技术同步进化的内容鉴别技术和溯源追踪技术也应该得到重视。针对合成内容的有效鉴别与标记,才能从源头来识别合成内容,以防止负面的虚假内容的扩散。

第三,行业层面。深度合成技术离不开行业自律,合成内容技术提供者和平台要承诺在合成内容之上必须做出标记,或者提供有效的检测和标注工具,来保证合成内容被清晰识别出来。

最后,民众层面。相比较于权威机构或者主流精英人群对合成内容泛滥的担忧,广大民众反而可能是这波“虚拟化”浪潮最主要的支持者,甚至是虚假信息的推波助澜者。

在我们即将全面迎来数字化世界的今天,培养合格“数字素养”应该要成为一件从小就抓起的公民必修课。但这门课教什么、怎么上,仍然需要在深度合成技术发展的路上慢慢探索。

正如没有任何一个技术是我们在做好准备之后才出现,AI技术也是如此。

从一开始,我们就把AI技术出发点定义为,尽可能地学习和模仿人类的能力,以致于最终能够代替人类行驶那些繁重、重复甚至极高难度的任务。

而深度合成技术不正是这一目标的实现过程。我们既然选择唤醒AI这条巨龙,就不能再“叶公好龙”地担心AI越来越像人类这件事情。

最后,反过来看我们人类这个物种,一方面我们有极致的智慧去探索世界的因果规律,始终去探索那个“真相”;一方面我们又抱着极大热情来发明各种工具,来承担人类的各种工作。

这两种能力也直接促成了我们今天的工业世界,以及未来要进入的数字虚拟世界。

乐观来说,我们不仅不用太过担心“后真相时代”的来临,甚至于,我们还会很快适应这个彻底“虚拟化”的美丽新世界。

对于绝大多数人来说,追求真相,远远没有追求舒适更具吸引力。

  • 相关推荐
  • 大家在看
  • 伪造CEO语音,骗走168万!音频版Deepfake诈骗案正在兴起,专家:需警惕

    随着技术的不断成熟,Deepfake却带来隐藏的“虚假”风险。自从 2017 年,一位网友将美国女星和成人电影女主做了人脸交换,伪造了一段色情视频后,有关滥用Deepfake制造虚假、不良内容的视频一直充斥于网络。

  • 马斯克预警AI可能5年内超越人类 其中,最让他担心的是谷歌DeepMind项目

    近日,斯克接受《纽约时报》专访时警告称,人工智能带来的危险已迫在眉睫,未来 5 年内人类就可能被人工智能超越。他称这并不意味着五年内一切都会陷入困境,这只是意味着未来将变得不确定。

  • 苏宁易购和微博达成深度合作,实现内容+电商的深度融合

    DoNews 7月29日消息(记者 程梦玲)据IT之家报道,苏宁易购和微博于7月28日达成深度合作。苏宁易购将和微博在明星娱乐、体育赛事、电子竞技等领域深入打通,展开内容生态以及商业转化的合作,并在用户链路上实现无感转化。在苏宁艺人矩阵上,苏宁易购和微博将致力于实现内容+电商的深度融合。基于苏宁易购在3C品类上的优势,以及LPL官方合作伙伴的身份,双方将携手打造苏宁微博电竞专场,推出不同直播的场景。苏宁易购还将向微博输

  • 深度对话:巨量引擎不想只卖广告

    “我们想深入到生意的链条中去。其中,会有无数新可能。”巨量引擎营销副总裁陈都烨这样说。今天,今日头条、抖音、西瓜视频等大热的平台,其广告业务都集中于巨量引擎之上。媒体的报道显示,巨量引擎在 2019 年拿下了超过 1000 亿人民币的广告收入,站在中国广告市场的前列。

  • 厦门大白卫浴再次携手罗永浩,直播间深度“浇”友!

    7 月 17 日晚 8 点,厦门大白卫浴再次携手罗永浩,在抖音直播间推出一款热销的厨房好物,并为广大网友们带来了超值半价优惠!作为国内卫浴行业新秀的大白卫浴,目前已取得了年销售额过亿、荣获数十项国际大奖等瞩目成绩,但品牌相对还比较年轻,需要构建了新的卫浴营销生态,利用电商平台的私域流量为品牌发声。在这种机缘巧合之下,大白卫浴第一次遇到了初代网红罗永浩,在首次直播合作中,大白卫浴+罗永浩这一对散发着CP味儿的“?

  • 深度放松身心,荣泰按摩椅带你体验专业按摩享受

    现在生活和工作节奏非常快,许多加班成日常的职场人出现了身体透支的情况。身在职场的我每天忙忙碌碌,下班后腰酸背疼,很希望有人能给自己按摩一下,天天去按摩店时间又不允许,所以就买了很多按摩仪器,例如颈椎按摩器、足疗机等,但总感觉缓解疲劳和疼痛的效果不明显,最后听说按摩椅能迅速缓解身体疲劳、促进睡眠等,而且放在家里随时就可按摩,也挺方便的,于是就想去买一台。商场的按摩椅种类和价格让我看得眼花缭乱,不知选

  • 小葫芦与知乎达成深度产品合作 全面深化直播纵向互动体验

    北京时间 7 月 23 日,企业网红服务大数据平台小葫芦,宣布与国内最大互联网问答社区—知乎达成深度产品合作关系,双方将在直播领域展开强强联手,延展知乎直播业务纵深,为广大用户提供更加丰富、便捷的开播互动体验。随时随地知乎直播,随心所欲分享知识,发现新的知识世界。小葫芦x知乎强强联合 随心随时随地直播分享知识2020 年的一场“疫情黑天鹅”,再一次激活了直播行业,经过电商直播带货的爆火,场景内容互动式直播体验又

  • 重磅|中仑网络与安徽电信达成深度战略合作!

    2020 年 7 月 15 日,中国电信股份有限公司安徽分公司(以下简称“安徽电信”)与苏州中仑网络科技有限公司在安徽签订全面战略合作协议。双方基于长远发展战略上的考虑,决定充分发挥各自的优势,就中仑零售全系产品开展深度合作。安徽电信是中国电信在皖设立的分公司,下辖 16 个市分公司和 65 个县分公司。目前已经建成以光纤和移动通信为主,卫星和数字微波为辅的全方位、立体化、大容量、高速率的通信网络,形成了一个包括有线光

  • 京东与首旅签署全面深度战略合作 此前已举办专场直播秀

    近日,京东集团与首旅集团正式签署《战略合作框架协议》,将共同推进线上线下的深度融合,通过战略投资、业务合作、共同探索等方式开展全面战略合作。京东方面表示,双方自2019年起在战略层面、业务层面、资本层面开启了全面的沟通与合作,此前,京东集团与京东数字科技已完成对首旅集团旗下北京首旅慧联科技有限责任公司(以下简称“首旅慧科”)的战略投资。据悉,双方的战略合作将以首旅慧科做为运营

  • 猿辅导携手《最强大脑》核心团队深度选拔脑力精英

    本周五,最新一季《最强大脑》将正式开播,猿辅导在线教育已经连续第三年作为《最强大脑》独家在线教育合作伙伴,值得一提的是,猿辅导在线教育在本赛季携手《最强大脑》核心团队,负责了全球选手的报名征集和海选,深度参与整个赛制的开发与设计,找到了很多脑力精英们!作为独家线上选拔平台,本季《最强大脑》总报名人次超过十万人,最终晋级名额共64个席位,晋级率仅为0.5%。而在上一季《最强大脑》中,共计15名选手通过猿辅导

  • 深度拥抱社群,京东推出的京东喵尔社交电商平台

    2020注定是不寻常的一年,更蕴藏着无限新商机。从早期的微商、淘宝客、再到拼多多上市,以及现在阿里巴巴,腾讯瞄准势头,纷纷入局社交电商,快速将社交电商推上了风口。数据显示,预计2020年社交电商的市场销售额将会破3万亿,占整个互联网零售市场的31.3%,并且这个数字还在疯狂上升。近日,由京东推出的京东喵尔社交电商平台喵尔正式上线,强势切入社交电商行业。京东喵尔社交电商平台背靠京东16年电商资源及电商优势,剔除品牌

  • 猿辅导深度落实“互联网+教育”线上云课堂让教学更智慧

    疫情使得我国的在线教育发展迅猛,成效突出。猿辅导积极响应国家号召,深度落实“互联网+教育”, 科技与教育完美相融,改善教育原有形态,线上课堂让教学更智慧。对于此次猿辅导在线教学取得的初步成效,各方都对其称赞不已,其中人民日报还就猿辅导此次的贡献做了相关报道。《人民日报》综合版报道猿辅导线上课堂两会期间,在线教育成为代表委员的讨论热点,并引起社会关注。 今日,《人民日报》综合版刊发长篇文章《线上云课程

  • 第25届CBE即将开启,腾讯广告X明略有风深度参与全程活动

    2020年7月9-11日,第25届中国美容博览会CBE将在上海新国际博览中心重磅开启。活动由3000+家企业和上万品牌参展,品类覆盖化妆品全产业链。 私域全链路运营增长官-明略有风将与企业商业服务中台-腾讯广告以联合展台的形式亮相博览会。作为中国美容博览会(CBE)-的战略合作伙伴,腾讯广告和明略有风将全面深入地参与本次展会。 活动一、中国化妆品零售业大会 -腾讯广告与明略有风「私域电商的流量获取和长效运营」主题演讲 时间:7月

  • 夯实内容,深耕细作,每日瑜伽与Now冥想达成深度战略合作

    近日,全球最大的线上瑜伽教学平台每日瑜伽宣布,正式携手国际知名的冥想类APP“Now冥想”建立深度战略合作伙伴关系。每日瑜伽将在APP内设立正念冥想专区,引入Now冥想正版课程内容,为自身冥想版块提供独家内容支持,帮助用户通过正念冥想更好地专注当下,建立积极健康的瑜伽生活方式。同时,Now冥想也将上线每日瑜伽主流瑜伽课程,纵向延伸产品内容体系,为用户提供多元化内容场景服务。(图注:每日瑜伽发布正念冥想专区)近年来,

  • 群脉联合仲景、霸王、美柚深度探讨数字化转型的新出路

    近日,由广告主评论主办,中国传媒大学广告学院提供学术支持的新生2020——第十二届广告主峰会,邀请了零售、快消、互联网等不同行业具有代表性的企业CEO和高管们,以线上直播讨论问答的方式,就疫情背景下的消费者心理与行为变化、疫情给营销传播带来的挑战与机会、疫情背景下的产品创新三方面,分享了他们的商业洞察,打法策略以及营销趋势预测。峰会上,仲景宛西制药保健品事业部总经理杨玉奇,群脉联合创始人车传利,霸王副总?

  • 基于Android 11深度定制的MIUI 12!小米10 Pro尝鲜

    Android 11 Beta版已经上线,除了谷歌Pixel机型尝鲜外,小米10系列也能升级。7月15日消息,基于Android 11定制的MIUI 12悄然上线,参与Android开发者预览计划的小米10 Pro可以升级尝鲜。根据

  • 老板强力洗洗碗机W735深度测评来袭,更适合中国厨房

    新房入住一年,添置了不少厨电,其中最深得我心的就是洗碗机了。入手后才体会到不洗碗是件多么爽的事情!在我们家,我和老公都不喜欢洗碗,加之亲戚多常聚会,所以每次洗碗我俩都犯愁。买前我们也考察了国内外很多品牌,最终选中了老板强力洗洗碗机W735,原因有二:第一,老板电器国民大品牌,从小家里就用老板电器油烟机,品质信得过;第二,洗碗机自带高温除菌、热风烘干功能,洗完后不会出现滴水二次污染的情况。这里划重点一下,?

  • 巨量引擎品牌升级背后:广告行业正向“深度”再进一步

    声明:本文来自于微信公众号 深响(ID:deep-echo),作者:刘语珊,授权站长之家转载发布。2020 年,“深度”似乎已经成为了营销链条上所有人共同追求的主题:更深度的流量转化模型,更深度的前后端链条融合,以及更深度的业务卷入。包括在巨量引擎宣布品牌升级的夏季峰会Summer Marketing Live上,巨量引擎营销副总裁陈都烨也表示这次升级意味着巨量引擎要“深入到生意的链条中去”。过去营销是企业流量的入口,仅仅是业务触达到客

  • 头部MCN深度分享 | “毒角SHOW”、“wuli哥哥”等原创IP的自孵化逻辑

    ​2016 年成立于美国的二咖传媒,早就积累了很多海外网红资源。作为头部MCN机构之一,二咖传媒目前在海内外共有 600 多个账号,并早在 2018 年时,就获得了红杉资本 4000 万人民币的A轮投资。

  • 苏宁与抖音电商达成深度合作:全量商品入驻抖音小店 向主播开放

    7月30日消息,苏宁易购宣布和抖音电商达成深度合作。根据协议,双方将在供应链服务和直播品牌IP打造等方面,展开全方位融合,具体合作项目将于今年818期间正式启动落地。根据协议,苏宁易购将输出供应链服务能力,全量商品入驻抖音小店,并开放给抖音电商平台所有主播,用户无需跳转即可完成购买,苏宁易购也同步输出物流和售后服务体验。在直播领域,苏宁易购将在抖音电商中打造品牌营销IP——苏宁易购超级买手直播间

  • 参与评论
文明上网理性发言,请遵守新闻评论服务协议
  • 热门标签