首页 > 业界 > 关键词 > 算法最新资讯 > 正文

研究员证实监考软件Proctorio在使用种族主义算法来检测人脸

2021-04-11 14:08 · 稿源:cnbeta

据外媒报道,有色人种学生长期以来一直抱怨,Proctorio和其他考试监督公司使用的面部检测算法无法识别他们的面孔,这使得他们很难甚至不可能参加高风险考试。现在,一名软件研究员指出,他可以证明Proctorio软件使用的面部检测模型在超50%的情况下无法识别黑人面孔。据悉,他碰巧也是使用Proctorio的一所学校的大学生。

研究人员Akash Satheesan告诉Motherboard:“我之所以决定调查这件事,是因为(Proctorio)声称其只听说过‘不到5起’的该类型案例--由种族原因导致的面部识别问题。然而从轶事中我知道这是不可能的……于是我开始寻找一些更确凿的证据,我想我已经相当肯定找到了。”

Satheesan最近在一系列博客文章中发表了他的发现。在这些文章中,他描述了他是如何分析Proctorio Chrome浏览器扩展背后的代码,并发现跟该工具面部检测功能相关的文件名与OpenCV发布的文件名相同。据悉,OpenCV是一个开放源代码的计算机视觉软件库。

Satheesan在向Motherboard演示了Proctorio工具中嵌入的人脸检测算法在同一组人脸上进行测试时跟OpenCV模型的表现完全相同。Motherboard还咨询了一位安全研究员,后者也验证了Satheesan的发现并能重现他的分析。

Proctorio则在其网站上宣称,公司使用的是“专有的面部检测”技术。另外它还表示,其是在使用OpenCV的产品,但没有说明具体使用的产品或用于什么。当Motherboard询问该公司是否使用OpenCV的模型进行面部识别时,Proctorio的发言人Meredith Shadle并没有直接回答。相反,她发送了一个链接到Proctorio的许可证页面,其中包括OpenCV的许可证。

Shadle在给Motherboard的邮件中写道:“虽然公开的报告没有完全准确地描述我们的技术是如何工作的,但我们很感激分析证实了Proctorio使用了人脸检测(而非人脸识别)。”

Proctorio也没有回答关于该技术的几个问题,包括该公司是否对OpenCV模型进行了微调以便在其软件中使用。

而基于OpenCV构建的面部识别和检测软件此前被发现存在偏差。

Satheesan将这些模型跟FairFaces数据集中包含近1.1万张人脸的图像进行了测试。FairFaces数据集是一个包含代表多个种族和种族的有标签的图像库。

结果在57%的情况下,这些模型无法识别出被标记为包括黑人面孔的图像。其中一些失败非常明显:算法检测到了白人的脸,但没有检测到出现在同一个画面的黑人的脸。

两个女人站在一起面带微笑。左边的白人女性脸上有一个蓝色的方框(意味被检测到),而右边的黑人女性没有(意味没有被检测到)。

其他组的通过率要好一些,但仍远未达到先进水平。Satheesan测试的模特在包含有41%中东人面孔、40%白人面孔、37%东亚人面孔、35%东南亚或印度人面孔和33%拉丁人面孔的照片中都未能识别出人脸。

黑人学生描述了Proctorioi糟糕的面部检测系统是多么得令人沮丧和焦虑。他们当中一些人指出,每次他们参加测试,软件都不能识别他们。另一些人则担心,如果他们离开了完美的照明环境,测试将会突然关闭并将他们拒之门外。

Satheesan表示,他的发现有助于证明监考软件的根本缺陷:这些工具表面上是为教育目的而设计的,实际上却破坏了教育--尤其是对已经处于劣势的学生。

这篇文章对你有价值吗?

  • 相关推荐
  • 大家在看
  • 人脸识别公交全面落地西安

    近年来,随着人脸识别功能的广泛运用,我们在日常生活中也能鲜明地感受到身边某些熟悉的事物正在发生着新变化,人脸识别已经开始慢慢地融入我们的生活当中。以前乘坐公交得需要提前准备硬币或零钱,叮叮当当的很是不便;后来线上支付兴起,只要一部智能手机,点开二维码就可扫码支付。方便是方便,但有时候手里拎着东西、翻找手机慌慌忙忙地点开支付应用,还要再点开二维码,总归还是有些不便。尤其是当手机网络不好时,堵在公交车

  • 人脸识别技术为医院健康防疫工作减压

    后疫情时代,医院作为防疫抗疫第一阵线始终备受关注。由于医院每天的人流量极高,事实上,为了分担压力,加强人员安全管控、全力消除安全隐患,许多机构将目光转向了此前为防疫抗疫工作贡献不小的智能科技。比如靖江市人民医院就是这样的先行者之一。早在去年年底,靖江市人民医院就安装了集人脸识别、智能测温于一体的智能门禁系统,且已经开始正式投入运行。该系统覆盖了该院门诊、急诊两座大楼,弥补了单纯“人防”的缺陷与风险

  • 多家知名商店安装人脸识别摄像头,科勒回应被央视3·15点名

    针对央视315晚会曝光的问题,今天科勒(中国)投资有限公司官方发布声明称,高度重视3·15晚会中提及的问题,并第一时间展开整改工作。目前已安排相关门店连夜拆除该摄像设备,个别无法连夜拆除的摄像设备做断电下线处理,同时督促供应商积极配合监管部门妥善处理。我们对于该设备的使用,仅作到店人数统计;对该设备所采集的信息不做保存、分析及转移。

  • 人脸识别支付进一步普及,新型消费方式成潮流

    随着互联网的快速发展、智能手机应用的深入普及,如今人们出门消费已经很少用现金支付、或者银行刷卡支付了,更多的是通过手机扫码来支付。甚至有一些城市中已完全实现了无现金支付。如今,在科技发展的进一步加持下,“刷脸”消费也开始慢慢走进人们的生活日常,成为一种新的潮流支付。刷脸是什么?顾名思义,就是通过识别人脸认证信息支付的形式,人脸识别也是目前最具未来感的新型支付方式。据悉,在建阳区步行街一家商店,中国

  • “全国人脸识别第一案”终审:动物园被判删除游客面部信息

    2019年4月,游客郭某向杭州野生动物世界购买双人年卡,并留存相关个人身份信息、拍摄照片及录入指纹,后野生动物世界将入园方式由指纹识别变更为人脸识别,要求进行人脸激活。随后,郭某以侵犯隐私权和服务合同违约为由将杭州野生动物世界告上法庭。据媒体报道,今日“人脸识别第一案”在杭州市中级人民法院迎来二审判决。二审判决如下:维持一审判决第一项第二项,即判决野生动物世界赔偿郭某合同利益损失及交通费共计1038元,判?

  • MaxMara回应安装万店掌人脸识别摄像头: 仅提供访问店内人数

    今年央视315晚会上曝光了一家名为万店掌公司,为多家企业公司提供门店的摄像头,这些摄像头还带有人脸识别功能,同时还存在未经消费者允许收集人脸数据现象,这万店掌的客户中就包括MaxMara。

  • 全国人脸识别第一案终审 动物园被判赔偿并删除原告信息

    2019年4月27日,郭兵与妻子通过留存录入指纹等相关信息向杭州野生动物世界购买双人年卡。后野生动物世界向消费者群发短信,表示将入园方式由指纹识别变更为人脸识别。

  • 人脸识别速度提升50%,瑞芯微推出RV1126智能考勤/门禁/闸机产品方案

    近年来,人脸识别技术的应用场景越来越广泛,加之疫情时代下,无接触、无感通行等新需求,传统的IC卡、指纹等门禁设备正慢慢被替代,无接触式智能人脸识别设备正在加速成为安防、门禁领域的重要组成部分。瑞芯微近日推出RV1126 方案,应用于智能考勤设备、门禁设备、闸机等产品,全新升级四大技术优势,强化相关产品的核心竞争力。优势一、人脸检测速度提升50% 排队时间大幅缩短瑞芯微RV1126 方案,内置独立NPU,提供2T高算力,让?

  • 2021年3·15晚会曝光全名单:涉及人脸识别、老年人手机、瘦肉精等问题

    中央广播电视总台2021年“3·15”晚会于3月15日晚8时在央视财经频道、央视财经客户端、央广经济之声同步现场直播,本届“3·15”晚会的主题是:提振消费 从心开始。

  • 2021春招升温:计算机软件高薪抢人,万兴科技等百万年薪引才入湘

    2021春招季来啦!经历了去年疫情的冲击,国内众多企业从“裁员季”走向“恢复季”,春招势头劲猛。智联招聘发布的数据显示,当前招聘求职市场和往年相比较为火热,65.1%企业春招规模增加,尤其是科技互联网行业、新一线城市人才需求度较高,计算机软件平均招聘薪酬排行最高数据显示,今年春招有65.1%的受访企业表示招聘规模较往年增加。在春招规模扩招的企业中,51.8%回答由于企业业务规模扩大,39.3%企业对2021年效益预期乐观,因而进行人才?

  • 美的烤箱 智慧烹饪更省心

    俗话说,“工欲善其事,必先利其器”。如今,蒸烤箱已经成为现代家庭不可不缺的烹饪利器,并且使用频率也越来越高,堪称独挡一面的烹饪小能手!对于选购来说,面对市场上五花八门的蒸烤产品,什么样的蒸烤箱好呢?选择这款美的美的烤箱微蒸烤料理炉,不仅能让烹饪事半功倍,还能带来更多营养美味。蒸烤箱作为现代家庭烹饪的好帮手,当然是既高效省时又增添美味的不二之选。比如美的新推出高端旗舰机型——美的烤箱微蒸烤料理炉,打破

  • 推动智慧视觉行业创新 华为珠海智慧视觉联合创新中心正式揭牌

    3月29日,2021智慧视觉产业珠海城市峰会暨华为机器视觉新品发布会在珠海国际会展中心成功举行。本次大会由珠海市人民政府、华为技术有限公司主办,珠海高新技术产业开发区、珠海市商务局承办,以“慧视珠海 点亮湾区”为主题。会上,珠海市相关领导、产业及学术各界的意见领袖齐聚一堂,共同探讨智慧视觉产业发展前景。华为珠海智慧视觉联合创新中心揭牌仪式作为将智慧视觉打造成珠海城市新名片的重要举措,峰会上,来自珠海市政府

  • AI强大算法强大算法可以预测癌症和阿尔茨海默氏症等神经退行性疾病的生物语言

    科学家发现,Netflix、亚马逊和Facebook使用的强大算法可以 "预测 "癌症和阿尔茨海默氏症等神经退行性疾病的生物语言。科学家将数十年研究过程中产生的大数据被输入到一个计算机语言模型中,看看人工智能是否能比人类做出更先进的发现。位于剑桥大学圣约翰学院的学者们发现,机器学习技术可以解读癌症、阿尔茨海默氏症和其他神经退行性疾病的 "生物语言"。们的突破性研究已于2021年4月8日发表在科学杂志《PNAS》上,未来可用于纠正

  • 美的OPPO战略合作更进一步,共同打造更美的智慧生活

    2021 年 3 月 11 日,在OPPO FIND X3 系列发布会上,OPPO对外发布了与生态战略合作伙伴美的共同开发的两大新功能 —— “自动发现”与“一键闪连”。在“万物互融”方面,美的与OPPO通过进一步合作,优化双方IoT设备互联体验,改善用户设备连接与管理的痛点,在家庭智能家居场景方面,为用户带来更好的使用体验。OPPO手机“自动发现”美的智能家电OPPO手机与美的智能家电实现“一键闪连” 区别于传统的蓝牙或Wi-Fi模组家电配网模式

  • 人脸解锁 颜值与科技更胜一筹——忠恒超体3号人脸智能锁全球发布

    3 月 30 日,备受各界关注的“智能锁的刷脸时代——忠恒|超体3号人脸智能锁超级发布会”在浙江缙云成功召开,忠恒集团董事长柳小勇、总经理唐勇等企业高管及来自全国各地经销商出席了本次发布会,见证了忠恒超体 3 号的辉煌诞生。发布会现场照片发布会现场照片忠恒集团董事长 柳小勇商汤科技产品总监 陈浩忠恒超体 3 号是继超体 1 号、超体 2 号大卖之后,忠恒超体系列又一力作,无论颜值、功能,亦或配置,较上两代均有了质的飞

  • 万店掌回应收集人脸信息

    今日,针对315晚会曝光的“搜集人脸信息”一事,万店掌摄像头创始人周圣强回应称,公司只是帮客户做分析以改善经营,相关数据不会泄露和保留。公司正在起草公告,将向大众告知公司业务范围及整改措施。

  • 得心应手做大餐 美的烤箱来帮忙

    随着社会物质条件的逐渐充裕,我们的社交生活也更加丰富多彩,但聚餐绝对是中国社会最普遍、最火热的社交文化,亲朋好友一起品美食、饮美酒、畅聊人生都是极为幸福的事情。虽然聚会时光如此美好,但是要制作主餐硬菜、饭后甜品、唠嗑儿零食都很是费时费力。别担心!美的初见多功能电烤箱助你轻松Slay全厨,集蒸、烤、风干、发酵、空气炸于一体,一次性搞定全部美食,让相聚的时光更加美好。七大烹饪模式 呈现美好味道 想要在聚会上?

  • 美术宝教育用科技践行教育普惠 助力构建在线教育发展生态

    随着今年两会的顺利召开,我国未来五年甚至十年得远景目标也已定调。在这其中,围绕教育领域的建言里“教育公平”成为高频热词,成为聚焦重点。在线教育迎来快速发展的当下,教育资源匮乏的下沉市场能否加速实现教育资源的优质均衡,便更加重要了。正如两会期间,李克强总理提到的:决不能因为家境、区域不同让孩子输在起跑线上。机会公平中,教育公平是最大的公平。以长期主义为发展核心,秉持教育初心信息技术的发展催生了许多新

  • 获“灯塔工厂“荣誉 美的烤箱、微波炉受青睐

    近日,由世界经济论坛(WEF)公布了2021 灯塔工厂最新榜单,中国企业从全球智能化先进工厂中脱颖而出,赫然行列。其中,美的集团位于广东顺德的微波炉园区成功入选灯塔工厂,这是继去年9 月美的空调广州南沙工厂入选之后,美的集团第二次获此殊荣。灯塔工厂,由世界经济论坛与管理咨询公司麦肯锡合作评选,被视为4.0 工业革命时代下的「指路明灯」,是全球制造业」全价值链」的引领者。全球灯塔网络现由69 个领先者组成,其中有15

  • 教育是教思维重质量 微淼商学院保持教育初心

    2020 年新冠肺炎疫情加速了在线教育的渗透,该行业迎来史无前例的流量红利,也在一夜之间走向历史巅峰,可如今正是春暖花开时节,在线教育却正值多事之秋。上个月底,一场有关在线教育的政策正在缩紧,跟谁学、新东方、好未来美概教育“三大巨头” 3 月 26 日股价全线暴跌。但业内相关机构管理人表示依然信心十足。在线教育涵盖一般涵盖早教、K12 阶段教育、考试考证培训、技能培训、公务员考试、出国留学等等,是基于网络的学习行

  • 热门标签