首页 > 传媒 > 关键词 > RealAI最新资讯 > 正文

关上Deepfake的潘多拉魔盒,RealAI推出深度伪造视频检测工具

2019-12-18 14:32 · 稿源:站长之家用户投稿

诞生之初,Deepfake是一项有趣的图像处理技术,仅仅带来搞笑和娱乐视频,但殊不知,潘多拉魔盒就此被打开,催生出 黑产、恶搞政客“操纵”民意,Deepfake正逐步进化为一种新型“病毒”,人类伦理道德的“遮羞布”也被无情揭开。

图:Saturday Night Live中凯特·麦金农换脸伊丽莎白·沃伦

面对因新技术而引发的公众恐慌,相关监管机构也加快采取行动,出台“打假”策略,旨在打击Deepfake虚假音视频,控制“造假病毒”的传播。同时,国内也迎来了“最严数据管理”的一年。

11 月 29 日,中国国家网信办也正式发布《网络音视频信息服务管理规定》,指出自 2020 年 1 月 1 日起,AI造假视频不得随意发布。新规定中关于AI造假音视频的规定主要有四条:“按照国家有关规定开展安全评估”、“以显著方式予以标识”非真实音频信息、不得利用AI造假技术发布虚假新闻、部署AI造假音视频鉴别技术和健全辟谣机制等。

新规中不难发现,有效抑制Deepfake及类似造假需要“两手抓”,除了利用法律法规严控“别有用心者”作恶,更要从源头加强安全评估、鉴别技术等能力,借助技术手段提前布局,在检测方面领先一步。

近日,来自清华大学的人工智能企业——RealAI正式发布了一款深度伪造视频检测工具,可一键实现对深度伪造(Deepfake)视频的自动精准识别。

一、 一键换脸到一键“打假”

RealAICEO田天表示,尽管需求达成一致,但目前大规模应用的打假方法面临诸多困难。

首先,Deepfake的开源技术让AI换脸的使用门槛降低到手机美颜、P图的水平,一键换脸带来了“造谣”成本的降低、爆炸式的传播。可是在防御层,相应标准化的检测工具却几乎没有,人工鉴别不仅专业性要求高,且效率低。所以,无论对于个人、平台还是第三方机构而言,打假辟谣的时间窗口很短,难度却很高。

图:雷佳音(左)换脸郭德纲(右)

另外,更严重的问题在于,很多情况下,Deepfake“以假乱真”的程度极高,人眼难以察觉。加之其算法目前还无法建模分析,检测技术的研究被严重影响,而造假方的适应速度却很快,新技术日益迭代。

RealAI基于第三代AI技术推出的深度伪造视频检测产品,通过采用“数据增广”的方式,用伪造的视频训练出一个新的模型,从而让模型能够更好识别出伪造痕迹,分辨出造假视频,可谓“魔高一尺,道高一丈”。该产品支持图像、视频内容鉴别,用户基于API接口将待检测的图片、视频上传,一键即可反馈真伪。

事实上,开展针对Deepfake的“打假”研究的团队早就存在,但相关的成果仅停留在算法层面,更多的是为学术研究提供使用,无法应对真实环境下大范围传播的虚假内容,所以,RealAI推出的这款标准化自动检测工具可以说给规模化的“打假”行动带来了新希望。

二、检测准确率达99%,Deepfake“在劫难逃”

作为清华大学人工智能研究院核心孵化企业,以及国内首家安全可控人工智能系统提供商,RealAI在AI安全与攻防技术领域拥有业界领先优势。在今年刚结束的GeekPwn2019 国际安全极客大赛中,其与清华大学联合战队一举获得“CAAD CTF 图像对抗样本挑战赛”以及“CAAD 隐身挑战赛”两项比赛的冠军。

深厚的技术积累也让RealAI安全研究团队对“造假方”的攻击原理有着更深刻的理解,能够更有针对性地开发检测工具。本次推出的深度伪造视频检测产品,将原本高难度的检测过程大幅简化,只需接入SDK即可一键实时检测,调用简单快捷。

Deepfake视频检测产品流程图

与目前市面上已有的检测技术相比,RealAI的视频检测工具利用深度学习算法、大量数据集训练模型,能够检测出绝大多数AI换脸假视频,准确率达99%(内部测试数据集上)。在面对算法的换脸效果越来越逼真的情况,RealAI的研发团队也集中研发新型的检测算法,以迭代和更新RealAI的检测算法库。

更值得注意的是,该产品适用于复杂视频内容检测,支持多种格式和多人脸检测模式,1S识别,最高可支持 10 人以上同屏。

三、Deepfake的潘多拉魔盒终将被关上

随着Deepfake技术被滥用,传统意义上“真实”与“虚假”的界限被模糊,这对于社会生活的影响之大此前未被预想到,但如今技术作恶所带来的负面影响正全面爆发。

比如,网络上肆意传播的视频、图片内容,内容平台传统的审核机制无法辨别Deepfake生成内容,若采用人工审核,需要投入额外的时间、人力成本;特定对象被编造虚假信息在社交平台上广泛传播,处于舆论中心的当事人由于找不到能够证实“谣言”是捏造的有效途径,个人声誉因此受损;案件调查、法庭辩论中涉及的视频、图像等证据材料,警察、律师等人员无法单凭肉眼识别证据是否是基于Deepfake伪造,需要专业工具鉴定真伪;事故中真伪难辨的影像资料,保险公司的审查人员缺乏Deepfake造假认知以及不配备专业鉴别能力,存在被诈骗理赔的风险……

“人人都怕换脸术”的恐慌,让反Deepfake的检测需求变的异常迫切,本次RealAI检测工具的推出,通过与内容平台、执法机构、保险公司等机构开展合作,能够在虚假内容甄别、线上资料审核以及影像物证真实性检验等实际应用场景发挥作用,并帮助企业与个人更好的进行信息管控与风险预警。

最后,在这场AI军备竞赛中,Deepfake将持续演化,RealAI也将持续迭代技术、打磨产品。RealAICEO田天表示,未来AI必然是安全可控的AI,一键“打假”终将超越一键换脸的速度,Deepfake的潘多拉魔盒也终将被关上。

免责声明:“站长之家”的传媒资讯页面文章、图片、音频、视频等稿件均为自媒体人、第三方机构发布或转载。如稿件涉及版权等问题,请与我们联系删除或处理。稿件内容仅为传递更多信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性,更不对您的投资构成建议。我们不鼓励任何形式的投资行为、购买使用行为。

  • 相关推荐
  • 大家在看
  • 网站测速就找ping.cn,一个更加专业实用的ping检测工具

    相信不少网站运营者时常会用到ping操作检测网站速度等问题,不过目前国内很少有专业的ping检测平台,比如监测节点覆盖地区少、覆盖不全面、检测节点不稳定、检测结果不准确、功能少等情况。

  • 知乎上线视频创作工具 图文可自动生成视频

    10月9日消息,近日,知乎上线了视频创作工具。该工具可通过用户提供的文字材料,自动配以与内容相对应的图片和动图,形成视频。同时,该工具具备一键配音功能,可根据文字内容进行配音,并自动校准。视频答主在知乎内容创作群体中的比重不断加大,视频创作需求日益增加。同时,新兴的“解说类”视频形式广受欢迎,且更契合大多知乎用户的视频制作形式。相对传统的视频形式,“解说类”视频不再以视频画面为主,而是以?

  • 知乎上线视频创作工具 将逐步对全部用户开放

    近日,知乎上线了视频创作工具,可通过用户提供的文字材料,自动配以与内容相对应的图片和动图,形成视频。工具匹配图片后,使用者可再围绕文字内容,对图片和动图进行细致调整。知乎表示,该软件将逐步对全部用户开放。

  • 小红书:正式测试多项视频互动工具

    在昨日的第八届中国网络视听大会上,小红书表示,正式测试多项视频互动工具,如已在使用中的直播连麦等互动功能。在短视频上,投票视频、分段展示视频、视频标签等功能也在测试中。

  • 小红书内测视频类互动工具 聚焦多项互动玩法

    目前,小红书已在内测多项视频类互动工具。如已在使用中的直播连麦等互动功能。

  • 深兰获ACM MM 2020冠军,视频目标检测挑战剧烈抖动、消失重现等难点

    2020年10月12-16日,多媒体领域的国际顶级会议ACM MM 2020在美国西雅图举行,深兰科技再传捷报,获得了Video Relation Understanding竞赛/视频目标检测任务的第一名,以及异常事件检测挑战赛/常规异常事件检测任务的第三名。此次获奖方案均对现实应用场景有着实际意义,将有效提升自动驾驶、安防监控等领域的安全性。尽管计算机视觉的最新进展有效地提高了多媒体系统的性能,但仍然不能明确回答一个核心问题:机器是否理解视频中发

  • 多面在线视频招聘工具提升“抢人才”速度,成为HR面试的灵魂助理

    国内某领先的机械制造企业,在今年校招的过程中遇到了难题,例如:跨地域校招任务量大,招聘周期长,面试流程繁琐,疫情期间进校园难等。在这样的大环境下,多面在线视频招聘让招聘在数字化进程上有了新突破,激发了各大企业在组织管理及招聘管理数字化过程中的深度思考和实践。而AI技术与基于WEB的实时视频面试平台 ( Web-based Real-time Video Interview platform) 无疑给人力资源服务企业带来更大的探索和创新空间。与此同时,

  • 时速最高385公里!高速综合检测车试跑合安高铁

    高速综合检测车――是一种综合检测快速铁路和高速铁路质量达标的高速列车,是“体检列车”,作为铁路基础设施综合检测的重要技术装备,为快铁和高铁运营安全评估和指导各铁路局的养护

  • iPad怎么检测电池健康 iPad电池容量怎么查看

    苹果iPad平板、iPhone等设备都有电池健康检测,通常在购买了新机之后,第一步骤就是检查电池的健康情况,如果出现了已经充电多次或者电池健康非100%的情况,那么最好再重新到官方店检测。以下我们来介绍如何查看iPad的电池健康。

  • 国内首家!小米健康新增手机心率检测功能 简单实用

    ​9 月 28 日晚,MIUI官方发布了一张海报,并且配文“明天上午,说一件大家都关心的事儿”,该微博也引发了不少网友的关注,大家猜测,小米健康要出手机心率检测功能了。果不其然, 9 月 29 日适逢世界心脏日,MIUI官方微博发布消息称小米健康·心率检测正式发布。小米也成为国内首家实现系统级心率检测功能的手机厂商,用户可以随时了解自己的心率状况。

  • 小米心率检测发布:无需额外硬件 通过摄像头即可测心率

    9月29日,小米健康升级2.8.6版本,新增心率检测功能,这也是国内首家系统级心率检测。据了解,小米健康心率检测无需额外硬件,通过摄像头即可测量心率。原理方面,通过摄像头旁的闪光灯做持

  • 美国白宫医生证实特朗普和妻子新冠病毒检测呈阳性

    据央视新闻消息,当地时间 10 月 2 日凌晨,美国总统特朗普通过社交媒体证实自己和夫人梅拉尼娅新冠病毒检测结果呈阳性,并将立即开始隔离。

  • 网易易盾推出在线检测服务,赋能APP隐私合规

    过去一年,不断爆出以下新闻:APP专项治理工作组评估发现81款A存在个人信息收集使用问题侵害用户权益、未按要求完成整改 23款APP被工信部下架工信部下架8款盗取用户个人隐私APP工信部通报101款侵犯用户权益APP:一周内必须完成整改工信部通报58家存在侵害用户权益的APP名单,责令限期整改不少APP运营方由于隐私合规意识淡薄,被要求整改或下架。对于APP运营企业而言,合法收集和处理个人隐私信息成为了业务发展的生命线。针对隐私?

  • 再次中断拍摄:Netflix《The Harder They Fall》一演员检测出新冠阳性

    据外媒报道,尽管电视和电影行业在停产和中断数月后正在慢慢恢复工作,但疫情仍在制造问题并带带来延误。最新的例子就是Netflix的原创西部片《TheHarderTheyFall》,在一名演员被检测出COVID-19呈阳性后该片不得不暂停制作。

  • 小米推新技术!利用手机闪光灯和镜头完成心率检测

    心率监测技术算是一众可穿戴设备厂商关注的重点了,作为普通用户,除非必要,不然对于这个功能,可以说是聊胜于无。 9 月 29 日,小米MIUI公众号推送了一篇文章,文中简单介绍了小米开发的一个新功能——手机检测心率。

  • 亚马逊:超过 1.9 万名员工新冠病毒检测呈阳性

    亚马逊称,该公司有超过1. 9 万名员工新冠病毒检测呈阳性。亚马逊股价盘后下跌0.3%。亚马逊表示,该公司通过查看其在美国约 137 万名亚马逊和全食超市一线员工的数据,得出了 19816 例新冠肺炎推定或确诊病例的结论。

  • 格力获手机外观设计专利授权 AI感知器可检测摔倒

    相比于格力空调,格力手机的销量表现并不突出,但似乎格力仍没有放弃手机业务的意思。日前,格力公布了一项手机外观设计专利,名为“带有感知器图形用户界面的手机(AI)”。该专利于 2020 年 2 月申请,申请号为CN202030054201.6,目前已获得授权。

  • 沃尔玛将测试无人机运送的新冠病毒检测试剂盒

    沃尔玛公司美国当地时间周二表示,将开展一项试点项目,通过无人机向顾客配送新冠病毒检测试剂盒。

  • 亚马逊表示超过19,000名工人新冠病毒检测阳性

    亚马逊周四发布了新冠病毒在其员工中传播的全面数据,首次披露今年有19,000多名工人(占总数的1.44%)受到过感染。 此前,劳工团体、政界人士和监管机构一再要求亚马逊披露工人中Covid-19感染的总数。

  • OPPO watch ECG版发布 售价2499元支持心电检测

    今日,OPPO宣布发布OPPO watch ECG版, 9 月 28 日开售,售价 2499 元 。据介绍,OPPO Watch ECG 版支持专业心电检测,成为国内首款通过二类医疗器械注册认证的独立通讯智能手表。

  • 参与评论
文明上网理性发言,请遵守新闻评论服务协议
  • 热门标签

热文

  • 3 天
  • 7天