首页 > 评论 > 关键词 > 人脸识别最新资讯 > 正文

脑门贴张纸,骗过最强人脸识别系统!华为莫斯科研究院出品,Face ID已阵亡

2019-08-27 13:43 · 稿源:量子位公众号

人工智能,AI

声明:本文来自于微信公众号 量子位 (ID:QbitAI),作者:鱼羊 栗子 ,授权站长之家转载发布。

你知道吗,在脑门上贴张符,AI就看不出你是个人了。

比如,这里有一个妹子,被人脸识别系统ArcFace发现了:

image.png

于是,她在脑门上贴了一张符。

人脸识别就不把她当人了,框框上的“Person”标签没有了:

image.png

就算把光线调暗,这张符依然可以保护她,不被AI发现人类的身份:

image.png

鬼片的光照条件,也是一样:

image.png

这样,万一哪天人类和AI打起来了,说不定还能逃过一劫呢 (误) 。

毕竟,去年发表的ArcFace,在现有的公开Face ID系统里面,是最强大的一个 (State-of-the-Art) 了。

而骗它的人,是来自莫斯科国立大学华为莫斯科研究院的科学家。

他们的符上有特殊纹路,可以迷惑AI,这叫对抗攻击。攻击成本很低,符是普通的彩色打印机打出来的。

团队说,这是一个“很容易复现 (Easily Reproducible) ”的方法,还不光对ArcFace这一只AI有效,可以迁移到其他AI上,骗无止境。

网友说:开个公司,可以量产了。

并且,画符的算法已经开源了,那大家都可以生成欺骗人脸识别AI的符了。

说不定有一天,监控系统对陌生人出没,就没有抵抗力了。果然还是人类比较危险。

那么,先来看看画符的原理吧。

画符的原理

你可能听说过,在图像里加上一些噪声,熊猫就变成了长臂猿:

对抗性攻击在数字领域很容易实现,但在真实世界中,对抗攻击的效率大打折扣。

研究团队想到了一个方法,首先,他们琢磨出了一种新的离面变换方法,把一张平面矩形图像弯曲成三维抛物线,再进行旋转。

第二步,是把高质量的人脸图像投到变形后的“贴纸”上,并加入随机噪声。

然后,将由此获得的图像转换为ArcFace的标准输入。

最后,降低两个参数的总和:初始矩形图像的TV损失,和最后获得的图像的嵌入与ArcFace计算出来的锚嵌入之间的余弦相似性。

如此生成的对抗攻击图像,就不是一张平面的纸了,而是三维立体,能直接贴合人类脑门。

研究团队一开始完全随机地加入噪声。

在对抗样本生成阶段,他们采用的是具有动量的多次迭代FGSM方法(Goodfellow提出的经典对抗样本生成方法)。攻击分成两个阶段,第一阶段的迭代步长为5/255,动量为0.9;第二阶段的迭代步长变成1/255,动量为0.995。

在第一阶段的 100 次迭代之后,使用最小二乘法,通过线性函数对最后 100 个验证值进行插值。如果线性函数的斜率不小于0,则进入攻击的第二阶段。

在第二阶段的 200 次迭代之后,同样进行这一操作,如果线性函数的斜率不小于0,就停止攻击。

有趣的现象出现了。

比较成功的对抗图像,看上去都有点像人类的眉毛。

实际上,为了找到人脸的那个部位最适合投影到“贴纸”上,研究团队进行了数字模拟实验。他们发现贴纸的位置较低时能得到更好的验证值。即使限制了贴纸的位置,强制它高于眼睛,贴纸也总是会向下移动到更接近眼睛的位置。

而此前的研究也表明,眉毛是人类面部识别中最重要的特征。

不过最后生成的“贴纸”并不是通用的,是根据每个人的照片“私人定制”的。

团队请了 10 个人类,来测试定制效果。 4 女 6 男,结果如下:

蓝色,是一个人戴上普通帽子前后,AI判断的类别相似度,在70%上下。(判断类别一致,就是人类没变。)

橙色,是一个人贴上对抗符前后,AI判断的类别相似度,降到了20%以下。(判断类别不一致,人类不再是人类了。)

定制成功,鉴定完毕。

这套攻击方法,不止是对ArcFace有效,其他的的Face ID模型也一样扛不住。

LResNet100E等模型基线相似度和被攻击后的相似度之差

骗过AI一向不难

其实,AI在对抗攻击面前,一向没什么抵抗力。

乌龟变步枪的旧事,这里不赘述,毕竟在那之后又有了许多先进的玩法:

比利时鲁汶大学的两位少年,就曾经拿一幅炫彩的对抗图画,挡在自己的肚子前面。

image.png

这样,目标检测界的翘楚YOLOv2,不光看不出他们是人类,连那里有物体存在都发现不了。

优秀的隐身衣,令人瑟瑟发抖。

另外,腾讯团队也曾经用对抗图,骗过一辆特斯拉。

一般情况,停车场里不会下雨的。但当屏幕上出现了一种奇妙的图案:

image.png

特斯拉的雨刷器就打开了。

并且,挥舞的节奏十分紧凑,仿佛AI看到的还不是绵绵细雨。

如果你觉得,开个雨刷器不算什么危险:

特斯拉的图像处理工具,都是身兼数职的:追踪其他车,追踪物体和车道,为周围环境画地图,以及估计雨量……

并且,腾讯团队还发现,刚才这些任务里面,大多都是只靠单一神经网络完成的。

这不就是说,一挂挂一片?

而今天的主角,来自莫斯科的对抗符,一个高能之处在于:不是把图案摆在面前,而是完全贴在脸上。

这就是说,经过3D扭曲/拉伸的图案,也可以用来欺骗AI

其实,挡在肚子前面的炫彩对抗图出现之后,便有网友说最好印在T恤上,只是那时还不知道图案能不能承受人体的拉伸。以现在的技术,就做得到了。

另一个优势便是,它不止能欺骗一只AI,只要调调损失函数,就可以迁移到其他AI上了,攻击范围十分广泛。

不过,世界越来越危险,人脸识别显得越来越脆弱,倒也不单是对抗攻击的事。

福布斯的记者用3D打印的石膏人脸,破解了一众流行旗舰手机的AI人脸识别解锁功能;

腾讯又曾经用一副眼镜,攻破了苹果的面部识别系统。

骗术日新月异,人脸识别AI,还是要变得更强大才行。

所以研究人员是希望,这个新的人脸识别对抗攻击方法,可以用到人脸识别系统里,帮助各种Face ID系统进化成更加鲁棒、可以信赖的样子。

来自华为莫斯科研发中心

这项研究的两位作者Stepan Komkov和Aleksandr Petiushko,来自华为莫斯科研发中心。

目前,华为在俄罗斯拥有莫斯科和圣彼得堡两大研发中心,另外还在筹备第三个研发中心,总共人数将破千,在俄罗斯科技行业能算得上是规模巨大的研发机构了。

由于战斗民族数学一向很好,因此在俄罗斯的研究中心主要面向算法研究,此前就有华为俄罗斯研究所的一名数学天才,打通了不同网络制式之间的算法,帮助运营商节省30%以上的成本。

论文传送门:

https://arxiv.org/abs/1908.08705

代码传送门:

https://github.com/papermsucode/advhat

  • 相关推荐
  • 大家在看
  • 谷歌搜索推出新的人工智能工具 可以识别糟糕的拼写

    据外媒TheVerge报道,谷歌在其“SearchOn”活动上详细介绍了一系列新功能,它将在未来几周和几个月内对其基础的谷歌搜索服务进行改进。这些变化主要集中在使用新的人工智能和机器学习技术,为用户提供更好的搜索结果。其中最主要的是:一个新的拼写检查工具,谷歌承诺将帮助识别即使是最糟糕的拼写查询。

  • Facebook将利用人工智能来改善可再生能源的存储

    Facebook和卡内基梅隆大学宣布,他们正在尝试利用AI寻找新的"电催化剂"。电催化剂可以用来将多余的太阳能和风能转化为其他更容易储存的燃料。然而,如今的电催化剂既稀有又昂贵,寻找新的电催化剂并不容易。研究人员目前每年可以测试数万种潜在的催化剂,但Facebook和卡内基梅隆认为,在人工智能的帮助下,他们可以将催化剂的数量增加到数百万,甚至数十亿。

  • “人工智能创新大讲堂”在京开讲

    9月27日,由中国科学院人工智能产学研创新联盟举办的“人工智能创新大讲堂”系列活动的首期暨启动仪式在北京中国科学院学术会堂正式开启。“人工智能创新大讲堂”旨在通过传播、共享国内外人工智能领域新技术、新产品、新政策,提升全社会对人工智能的认知水平,让公众、企业、政府等共享人工智能发展成果,共促人工智能产业发展。本次活动由中国科学院科技战略咨询研究院副院长、中国科学院人工智能产学研创新联盟秘书长张凤主持?

  • 谷歌云人工智能预测服务全面开通

    谷歌宣布其人工智能平台的一个关键组成部分——人工智能预测服务已正式全面启动。该服务支持托管在主流的机器学习框架,包括TensorFlow、XGBoost和Scikit-Learn中。AI Prediction服务充当机器学习管道的最后阶段。它在云中托管经过训练的机器学习模型,以推断新数据的目标值。部署在AI预测服务中的经过训练的模型作为REST端点公开,可以从任何支持HTTP的标准客户端调用这些端点。AI平台预测服务基于Google Kubernetes Engine(GKE

  • 人脸识别门禁的运用原理及优势

    人脸识别门禁适合应用在什么场景里?了解了人脸识别门禁的运用原理和优势,我们就能知道人脸识别门禁现在几乎可以应用在各行各业需要门禁的场景里,为人员出入人证核验进行智能查验,智能开关门,有效减轻保安门卫的工作量,提高进入人员的安全防范和管控质量。为了更好地落实大检修期间施工人员进出厂规范管理要求,解决进厂人员激增与疫情防控,人工把关效率低的矛盾,最近中原石化在紧急部署组织实施门禁系统升级。截止目前已实

  • 马上金融人工智能技术一举夺得七项权威认证

    近日,马上消费金融(以下简称“马上金融”)自主研发的 7 项人工智能科研成果,获得了中国信息通信研究院专家组一致肯定,高分通过了中国人工智能产业发展联盟权威认证。本次参评项目覆盖了马上金融在自然语言处理、语音和视觉领域的先进人工智能技术和应用场景实践,反映了马上金融在人工智能方面自主研发能力的不断提升,标志着马上金融的自然语言处理技术服务平台、中文语音合成、中文语音识别、人脸检索、人证核验、文本客服及?

  • 格力集团35亿投资小米 将围绕人工智能进行深度布局

    因为董明珠和雷军之前的十年赌约,让格力和小米这两个本来毫无关系的企业扯在了一起。据信息时报消息,前阵子转让格力电器15%股权,套现 400 多亿的格力集团转身投资了小米。

  • IBM将剥离管理基础设施服务业务 专注于混合云与人工智能

    10月9日消息,据国外媒体报道,“蓝色巨人”IBM在官网上宣布,他们将剥离旗下的管理基础设施服务业务,成立一家新的公司,IBM则会专注于混合云与人工智能业务。IBM将剥离管理基础设施服务业务部门,是4月份上任的CEO阿尔温德·克里希纳(ArvindKrishna),在给团队的邮件中宣布的,IBM已在官网公布了这一邮件。阿尔温德表示,他们已经决定,将全球技术服务部门下的管理基础设施服务业务,剥离成一家独立的公司,新公司计

  • 国际高性能计算和人工智能咨询委员会全力打造以数据为中心的计算生态

    网络计算成为HPC China热门话题2020 年 9 月 28 日, 国际高性能计算和人工智能咨询委员会(HPC-AI Advisory Council)第 12 届中国年会,暨中国HPC大会(HPC China)大会分论坛 — 面向高性能HPC和AI云的新一代计算技术,向广大听众和观众介绍了当前最热门的两大计算技术,以数据为中心的计算技术和网络计算(In-Network Computing)技术,这和本次HPC China大会的主题不谋而合,展示出了提升计算性能和能力、提高处理数据的效率,成为?

  • 李彦宏:百度AI研发费用占收入19% 首提人工智能“乐高模式”

    近日,李彦宏在第三届数字中国峰会上表示,这几年来,百度不断投入巨额资金用于AI技术的研发(其中包括语音识别及合成技术、自然语言理解技术、图像及视频识别技术等大脑基础人工智能技术。 )。截至目前,百度AI研发费用占收入的比重达到了19%。

  • 6成受访人员认为,人脸识别技术有被滥用趋势

    ​近日“App个人信息举报”公众号上发布了一篇文章,文章表示通过发布了《人脸识别应用 公众调研报告》,在对回收的 2 万余份匿名问卷分析后,有六成受访者认为人脸识别技术有被滥用的趋势。

  • 人脸识别开源:让科技普惠更进一步

    随着智能生活的需求不断增长,智能锁作为家庭的第一道防线,发展尤为迅猛。智能门锁到底能给消费者怎样的便捷智慧居家生活,其实在广大的消费群体的认知里,还没有成熟的认知和概念,直到 2019 年人脸识别智能锁在各个媒体争相报道其利弊的争端时,刷脸开门智能锁的概念才渐渐融入到普罗大众的意识里。高科技时代的到来,随着智能家居产业的不断升级,智慧智能生活的概念不断深入人心。那么人脸识别智能锁如何应用在现实生活的应用

  • 原滴滴出行人工智能实验室负责人叶杰平加入贝壳找房

    DoNews10月12日消息(记者 翟继茹)12日,原滴滴出行人工智能实验室负责人叶杰平,正式加入贝壳找房,任贝壳技术副总裁、首席科学家,并将全面负责人工智能技术中心的相关工作,向贝壳找房CTO闫觅汇报。贝壳找房介绍,未来,叶杰平将带领团队进一步探索AI技术对“住”这一领域的改造可能,加速居住服务产业的数字化转型和智能化升级。资料显示,叶杰平是美国密歇根大学终身教授,是机器学习领域国际领军人物,主要从事机器学习、数

  • SK海力士推出首款DDR5 DRAM 适用于大数据、人工智能等领域

    【TechWeb】10月7日消息,SK海力士日前宣布,推出首款DDR5 DRAM(动态随机存取存储器)。DDR5是新一代DRAM标准。SK海力士推出DDR5 DRAMSK海力士表示,DDR5 DRAM作为超高速、高容量产品,尤其适用于大数据、人工智能、机器学习等领域。SK海力士于2018年11月成功开发首款16Gb DDR5 DRAM之后,向英特尔等核心客户提供样品,并完成了一系列测试与性能、兼容性验证等程序。这一成果也意味着SK海力士在即将到来的DDR5市场随时能够销售相

  • 三星电子2020年度人工智能论坛将于下月在线举行

    10月12日消息,据国外媒体报道,谷歌人工智能AlphaGo在人机围棋大战中击败李世石,向外界展示了人工智能的巨大潜力,人工智能技术在近几年也蓬勃发展,众多公司在大力研发人工智能技术,也涌现出了众多由机构或企业牵头举办的人工智能论坛。在人工智能论坛方面,韩国电子工业巨头三星电子也有举办,2020年度的论坛,在下月就将举办。从外媒的报道来看,三星电子已经宣布他们今年的人工智能论坛,将在11月2日至3日,以?

  • 腾讯安全天御亮相2020AIIA人工智能开发者大会,内容识别能力再获权威认证

    伴随着新一代人工智能技术跃升为产业升级战略性技术,AI与作为产业发展底座的安全之间的连接与融合,成为各行业关注的焦点。9 月 28 日- 29 日,AIIA2020 人工智能开发者大会在北京召开,行业顶尖专家和前沿创新资源荟萃一堂,致力为人工智能的持续发展吸纳更多支撑动力。在 9 月 29 日举办的内容安全分论坛上,腾讯安全天御内容识别服务系统V5. 0 凭借其在内容识别服务方面的功能优势与模式创新,成功获得由中国人工智能产业发展?

  • 要换机吗?消息称iPhone 12人脸识别更快、续航更久、变焦更好

    对于即将到来的iPhone 12系列,你做好换机准备了吗?现在,又有爆料人士送出了iPhone 12的新细节,比如苹果会在 iPhone 12 上提供“动态分区算法” 改进面容 ID,实现更快的验证速度

  • 原滴滴出行人工智能实验室负责人叶杰平加入贝壳找房 任技术副总裁

    10月12日消息,原滴滴出行人工智能实验室负责人叶杰平,正式加入贝壳找房,任贝壳技术副总裁、首席科学家,并将全面负责人工智能技术中心的相关工作,向贝壳找房CTO闫觅汇报。据了解,未来,叶杰平将带领团队进一步探索AI技术对“住”这一领域的改造可能,加速居住服务产业的数字化转型和智能化升级。相关资料显示,叶杰平,美国明尼苏达大学博士毕业,为美国密歇根大学终身教授,密歇根大学大数据研究中心管理委员会?

  • 2020中国人工智能年度评选开启,4大类别7大奖项申报正式启动

    现在,是时候从落地的角度给予AI行业年度性评价了。2020 中国人工智能年度评选开启, 4 大类别 7 大奖项申报启动从 2018 年开始,量子位的「中国人工智能年度评选」已经进行了两年。过去的两届评选,我们锁定了不少风头正盛或者极具潜力的公司,他们或是用推荐算法连接不同的商业主体,或是在生产、流转、反馈的商业全流程实现降本增效,或是软硬结合的创造全新的物种,或是借AI技术做底层实现用户体验提升。每一家,都为这个时代?

  • 原滴滴出行人工智能实验室负责人叶杰平加入贝壳找房 任贝壳技术副总裁

    原滴滴出行人工智能实验室负责人叶杰平,正式加入贝壳找房,任贝壳技术副总裁、首席科学家,并将全面负责人工智能技术中心的相关工作,向贝壳找房CTO闫觅汇报。贝壳找房表示,未来,叶杰平将带领团队进一步探索AI技术对“住”这一领域的改造可能,加速居住服务产业的数字化转型和智能化升级。

  • 参与评论
文明上网理性发言,请遵守新闻评论服务协议
  • 热门标签