首页 > 传媒 > 关键词  > 算法最新资讯  > 正文

对话网易易盾人工智能教员组:一次消除歧视的尝试

2022-06-30 15:48 · 稿源: 站长之家用户

从网站资讯推荐,到医疗保健系统,再到街头监控摄像,在现实世界中,算法无处不在,偏见与歧视也是如此,并带来了现实的负面影响。

算法歧视

什么是算法歧视?微软研究院巴罗卡斯(Solon Barocas)和加州大学洛杉矶分校法学院的塞布斯特(Andrew D.Selbst)在联合报告中认为,算法自动化决策可能给某些群体带来歧视性的不利结果。算法模型的所有思想都是外来的,来源于人类的经验。人工智能的研究对象模型存在严重的不确定性,即对深度学习的“黑盒子”知之甚少,且受训练投喂数据的影响较大。 当数据被错误使用,算法模型可能会进一步强化种族主义和性别歧视等刻板印象,得出带有偏见和歧视的错误结论。因此,偏见实际上来自于人类自身、技术瓶颈和数据误用,在让算法成为“决策者”之前,必须确保其拥有正确的价值观,否则就应该被丢弃。

流程图:

多团队共同参与 AI 算法价值观的制定

网易智企旗下易盾利用 AI 技术赋能企业完成数字内容风控,也意识到了 AI 系统发展过程中的社会问题。当前,团队从数据收集、数据训练、模型搭建、标准制定等环节出发,有效消除偏见与歧视,在可信 AI “公平性”指标上积累了宝贵经验。

1、标准让机器体系化、具体化判断

运营链接客户需求与算法标准的透明可解释性

谈到暴恐问题时,大家可能下意识会联想到某些民族与有色人种,这是由于受众在大环境和过往新闻的影响中产生“先入为主”的感知。此外,在大家认知中,穿着多少与胸的大小被纳入到“女性群体低俗与否”的考量中,即使这个女性什么也没有做,即使是同样的姿势与拍摄角度。 “哪怕告诉自己秉承客观的心态看待,每个人对事物的评判结果也是存在差异的。”负责制定 AI 判断标准的策略专家汪梦闪说。标准的制定是模型训练前的重要环节,涉及到两个方面,一个是针对数据收集的标准,另一个是针对算法模型的标准,比较终目的是希望让算法模型尽可能客观地判断。 她在客户沟通中也发现,运营端从标准制定开始,就要去平衡原始需求,一个挑战在于客户需求向标准的转化如何能在满足需求的同时更加客观。部分独特的需求,本身就带有偏见的影子,不能直接照搬到模型训练中,需要去结合一些因素。 过程中,标准会被进一步细化、具体化与客观化,落实到泾渭分明的界限中,才不容易出现偏见。 “我们很难直接让机器去理解‘色情’、‘性感’是什么,一刀切就极易存在偏见,更客观的做法是细化、量化标准,如胳膊、胸部和腿部等身体部位的裸露。”汪梦闪介绍说,如果不给任何客观的描述和标签,仅凭个人感觉来判断“性感”,大概率的数据都是诸如身材姣好的女性之类。 为了避免标准固化,标准还须进行动态调整。2022 年的色情性感标准与 5 年、10 年前的标准相比,肯定有很大差异。例如,2021 年我国比较高人民法院细化了未成年人淫秽色情物品识别标准,让未成年人免受“线上侵害”逐渐凸显出来。 AI 是人类的镜子,映射的是人类本来就存在的偏见与歧视,标准是人类偏见与歧视流向 AI 的另一个重要管道。在易盾,标准不是一个组或一个人决定,是运营、算法和标注三方跨团队的合作,避免有一方存在固化的思维。跨垂类的合作,能够更好地消除一些潜移默化的连自己都无从感知的偏见。

2、打标任务中的问题界定

标注人员在处理数据

“挺感动的吧,教出来了,至少有一个初中生的心智或智慧了,它有自己的判断,但还是会出错,这个时候就需要我们去调整。”任职于易盾数据标注部的孔杰激动地说。 孔杰在过去几个月先后标注了几万条“问题”数据,协助 AI 算法工程师完成欺诈模型的训练。过去,他和团队成员的任务各不相同,有的负责文本,有的负责图片,有的负责语音,一个共同点是给数字化内容打上标签,识别出其中的不良行为。人工智能的崛起催生了一系列新兴职业,数据标注员、AI 工程师、数据科学家等陌生的名词进入大众的视野。平日里,他们穿梭于机器模型与数据之间,职责在于让 AI 技术更好地服务于业务,又快又好地自动执行完一项项任务,代替重复的人力劳作。数据标注岗的工作任务就是辅助机器去学习任务,相当于人工智能的助教。在岗位上,孔杰头先要输出自己的判断,一遍遍不厌其烦地教育着工程师搭建的 AI 机器模型,让机器模型知道这些内容数据中存在这样或那样的问题。 判断本身就是难题,一个随意的结论,极有可能将人类的偏见,如种族主义、性别歧视、仇外心理、社会经济歧视、确认偏见等,带入算法模型中。 在欺诈用户识别的任务中,为了尽可能地提升公平性,“欺诈嫌疑”的落实,不仅需要多位人员的判断,也需要多个维度的查验,即多方审核制度。 孔杰负责多方审核中的头先层,通过排查发言数据与行为信息,严格排查数据中的引流、广告、联系方式变种等行为,对行为上有高嫌疑动作的用户打上“欺诈嫌疑”标签。接下来,还有其他人结合产品与其他实际情况进行判断,是“加黑”还是“退回”,多人多次筛选比较终才得出结论。以引流为例,平台中有账号试图将用户引向微信或 QQ 等别的平台,甚至是拉到一些更隐秘、更小众的第三方交流点,对平台用户威胁极大。多层的数据标注,让机器逐渐懂得大致的判断标准。“其他方向的数据确实很多,机器除了识别问题用户,还可以筛掉一些正常用户,减少误判导致的用户投诉。”孔杰说。 分歧讨论是促进公平性的另一个契机。团队小心谨慎地对待每一次数据打标,存在分歧的困难标注任务往往要花了好几天时间才能解决。 成员们遇到多次打标不一致的数据,就得开展专题研讨会,直到达成统一的标准。“对于一个问题讨论,一开始分歧比较多,交流之后才能统一想法。”孔杰说。几期培训之后,形形色色的诈骗话术逐渐为模型所熟知,并能够举一反三、独立自主地决策,甚至有着超越一般人的诈骗洞察能力,不仅能从内容上拦截,也能从用户行为上进行分析。文字与图片中暗藏诈骗风险,但都过不了 AI 模型的“法眼”。

3、算法工程师全链路跟踪偏见

公平性是可信 AI 至关重要的要求之一

每分每秒,人工智能都在决定数字内容的去留,成为在社交网络空间的隐形决策者。 AI 系统中的不公平性也显著暴露出来,简单来说,就是作为人工智能大脑的“黑箱”中出现的各类偏见,如性别歧视、种族偏见、就业歧视、教育歧视、价格歧视、犯罪行为预测偏见等。易盾佼佼者算法工程师崔若璇在可信 AI 的直播中提到,不少算法产生偏见问题在于所依赖的数据。 

随着人工智能的普及,美国开始使用 AI 算法来预测罪犯的犯罪行为。美国“为了人民”网站对 COMPAS 系统分析发现,该预测算法却对黑人有偏见:相比白人,黑人被告更容易被判断为有更高的累犯风险。 “这是因为算法都是基于历史犯罪统计数据来预测未来的犯罪行为。”崔若璇说。值得注意的是,上述预测算法很容易受到逮捕率的影响,根据美国司法部的数据,黑人被捕数的可能性是白人的两倍多。

类似的事件还有不少,Google 公司的图像识别程序也曾将黑人标注成大猩猩;麻省理工学院将其用于训练 AI 系统的数据集“Tiny Images”长期下线,因其中带有许多涉及种族歧视、性别歧视、恋童癖等倾向的图像和标签;Amazon 公司的人力资源算法在分析应聘者时,一旦出现“女性”或“女性特征”就会降低应聘者排名;人脸识别在身份安全验证中日渐流行,但不公平性也逐渐显露。

哈佛大学的一项研究表明,大部分人脸识别算法具有高达 90% 以上的准确率,但是这一概率并不普遍,其中女性、黑人、18-30 岁的受试者有着较差的准确性。 “数据采集环节就得考虑数据在人种、性别、年龄等方面的多样性,否则可能引入偏见。”崔若璇表示,此外,训练过程不加以约束就会固化偏见,输出结果不加处理也会放过偏见,为了减少算法偏见,算法、工程、数据、运营、标注、产品团队的协力配合,每个环节都不能掉以轻心。崔若璇所在的算法团队对数据进行了相关预处理操作,尽量减少训练素材中的偏见因素,在模型搭建与训练过程中,引入了针对性的公平性量化指标,实时对训练过程进行监测和量化评估,避免偏见固化,主要可分为以下三个阶段:

头先,易盾 AI 实验室在数据收集阶段保证收集过程,全面、多样、及时更新,并且会结合一系列数据预处理、重采样等措施,达到“保质保量”的效果,在数据源头就保证尽可能地消除偏见。

其次,在模型训练阶段,引入公平性相关的量化指标,对其开展监测,并对模型的数据结果也进行公平性相关指标的考察和调整。

收官,在结果输出阶段,对输出结果进行“公平性的再判定”,尽量减少决策偏见。

在易盾,AI 技术被应用于数字风控,例如算法帮助人类审核内容及账户,快速识别风险,审核算法的公平性打造被放在突出位置。

结语

作家雪莱在科学幻想小说中提出了科学怪人的恐惧,人造人在被赋予智慧与意识之后,有了超出人们料想的诉求,就像当下的 AI 算法无意识产出的偏见与歧视一样。在人工智能盛行的今天,我们如何与之和谐共处仍留待我们探讨。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 大家在看
  • OPPO Watch 3怎么连接手机?

    按照以下步骤连接手机。1.下载App:使用“欢太健康”(ColorOS系统中为"健康")App连接手表,连接成功后可在App查看连接状态、管理表盘、开通eSIM、查看健康信息等。2.配对与连接手表:开机后,选择系统语言,并按界面指引打开配对二维码;打开"欢太健康”App,登录或注册您的账号。3.在"欢太健康"App中点击“设备>添加设备",扫描手表上显示的配对二维码,按照屏幕提示完成连接。4.仅支持配对Android 6. 0 及以上版本的手机。5.配对前请保持手表电量高于20%,以免因电量不足导致配对失败。6.配对连接过程中,请确保手机蓝牙开启,且与手表距离在有效连接范围内。

  • Galaxy Z Flip4电池容量多大?

    3700mAhGalaxy Z Flip4 电池容量是3700mAh,并且支持25W有线充电,也支持无线充电。该手机其他的基本配置包括:NFC、双扬声器、IPX8 级防水、多角度悬停、装甲铝合金中框、康宁Victus+玻璃,康宁DX玻璃(外屏拼接)

  • OPPO Watch 3支持闪充吗?

    支持。OPPO Watch 3 系列充电 10 分钟使用一整天,其中 “一整天”续航参考「全智能模式典型场景功耗模型」评估。OPPO Watch 3 VOOC 闪充使用条件:OPPO Watch 3 Pro 需使用额定输出为 5V⎓2A 及以上、OPPO Watch 3 需要使用额定输出为 5V⎓1.5A 及以上,且获得 3C 认证的电源适配器搭配 OPPO Watch 3 系列专属充电底座使用。

  • Galaxy Z Flip4尺寸多大?

    折叠:84.9 x 71.9 x 17.1~15.9mm展开:165.2 x 71.9 x 6.9mmGalaxy Z Flip4机身尺寸为折叠:84.9 x 71.9 x 17.1~15.9mm,展开:165.2 x 71.9 x 6.9mm,重量:187g,它的屏幕为6. 7 英寸内屏(22:9 支持120Hz自适应刷新率/Dynamic AMOLED 2X/UTG玻璃)1. 9 英寸外屏

  • OPPO Watch 3怎么强制重启?

    长按开机键12秒。不少朋友会遇到一些手表错误需要重启的场景,如果要强制进行重启的话,就可以长按开机关机键12秒即可,强制重启最好少按,如果频繁的强制重启的话还是会对手表有些许影响的,所以不到万一必须进行强制重启,还是不建议平时随意进行强制重启操作。

  • Galaxy Z Flip4屏幕参数怎么样?

    6.7英寸内屏,1.9英寸外屏Galaxy Z Flip4屏幕参数为:6. 7 英寸内屏(22:9 支持120Hz自适应刷新率/Dynamic AMOLED 2X/UTG玻璃)1. 9 英寸外屏,屏幕上使用的是康宁Victus+玻璃,外屏则是康宁DX玻璃。

  • Galaxy Z Flip4参数性能怎么样?

    Galaxy Z Flip4搭载了骁龙8 Gen1 Plus处理器,屏幕是6. 7 英寸内屏(22:9 支持120Hz自适应刷新率/Dynamic AMOLED 2X/UTG玻璃),1.9英寸外屏,相机方面是12MP主摄(OIS)+12MP超广角,前置10MP 镜头,3700mAh+25W有线(支持无线),其他功能还包括NFC/双扬声器/IPX8 级防水/多角度悬停/装甲铝合金中框/康宁Victus+玻璃,康宁DX玻璃(外屏拼接)。机身尺寸为折叠:84.9 x 71.9 x 17.1~15.9mm 展开:165.2 x 71.9 x 6.9mm 重量:187g

  • OPPO Watch 3充电有哪些注意事项?

    有以下注意事项。1.将手表充电口与充电底座的金属触点对准贴合,直到手表屏幕出现充电电量指示。※请使用设备随附的充电底座及USB-C充电电缆为设备充电。充电时请使用获得CCC认证的电源适配器。2.※Watch vO0C闪充功能:电池温度在20~40°℃,适配器额定输出为5V--1.5A及以上且符合要求时,手表将进行闪充充电。※充电前请保持充电口清洁干燥,以免汗液残留导致金属触点腐蚀或其他风险。3.※为延长电池寿命,请在电量完全耗尽前及时为设备充电。4.※如长时间存放设备,应每 3 个月充电一次,以防电池过度放电导致无法正常使用。

  • OPPO Watch 3能戴着游泳吗?

    能。OPPO Watch3系列支持5ATM 游泳级防水.依据 ISO22810First edition:2010检验标准,通过南德认证检测。可用于游泳池或海滨游泳等浅水域的水上活动。不适用于浮潜、热水淋浴、温泉、桑拿(蒸汽室)、跳水、潜水、滑水、面对高速水流的其他涉水活动及深水活动。手表接触水后可以轻甩手表,再用干净的布擦干清洁(在海水中使用之后应先用清水冲洗手表)。防水功能并非永久有效,可能随着时间推移而减弱。

  • Galaxy Z Fold4有多重?

    263克Galaxy Z Fold4机身重263克,机身尺寸为折叠:155.1×67.1×14.2~15.8mm,展开:155.1×130.1×6.3mm,屏幕尺寸则是内屏7. 6 英寸,外屏6. 2 英寸,使用侧边指纹识别,并且对称式双扬声器、X轴线性马达、IPX8 级防水、支持S Pen手写笔、前后康宁Victuc+玻璃、装甲铝合金中框

  • OPPO Watch 3怎么开通eSIM?

    按以下步骤开通。1.手表支持eSIM独立通话功能,脱离手机也可以独立使用电话、短信和移动数据网络功能。2.手表与手机配对后,在"欢太健康"App中点击进入“设备>eSIM管理",根据屏幕提示申请开通eSIM.※eSIM业务详情及资费标准等请咨询对应运营商。3.eSIM卡,即Embedded-SIM,嵌入式SIM卡(电子SIM卡)。eSIM卡的概念就是将传统SIM卡直接嵌入到设备芯片上,而不是作为独立的可移除零部件加入设备中,用户无需插入物理SIM卡。这一做法将允许用户更加灵活的选择运营商套餐,或者在无需解锁设备、购买新设备的前提下随时更换运营商,简单来说,eSIM就是电子化的SIM卡,是一个数据文件,可通过网络下载到移动终端。功能上和普通SIM卡无异,有了它,各种电子产品就能连接上网、接播电话、发短信等。

  • Galaxy Z Fold4内屏有屏下摄像头吗?

    有Galaxy Z Fold4内屏有屏下摄像头,为400 万像素(F1.8,2.0μm,FF),此外外屏的前置 1000 万像素(F2.2,1.22μm),后置摄像头参数为后置50MP主摄(F1.8,1.8μm,OIS,2PD)+12MP超广角(F2.2,1.12μm)+10MP长焦(3x,OIS,1.0μm)三摄

  • OPPO Watch 3是什么芯片?

    骁龙W5+Apollo4Plus。2022年8月10日,OPPO Watch3系列正式发布,新品标配骁龙W5+Apollo4Plus旗舰双芯、UDDE双擎混动2.0,骁龙W5可穿戴芯片,4nm制程工艺,媲美手机!芯片能效比、触控流畅性、响应速度再攀新高。小核采用Apollo4Plus ,功耗显著降低,承载应用再次强大。

  • Galaxy Z Fold4外屏是多少寸?

    6.2英寸Galaxy Z Fold4 外屏是6. 2 英寸Dynamic AMOLED 2X居中打孔屏,分辨率2316×904(23.1:9),120Hz自适应刷新率,前置 1000 万像素(F2.2,1.22μm),此外还有一个内屏屏下摄像头 400 万像素(F1.8,2.0μm,FF)

  • OPPO Watch 3支持苹果吗?

    支持。OPPO Watch 3是支持iOS系统的,但是其中有一些功能是不能支持苹果手机。连接 iOS 不支持使用 Fit,滴答清单,咕咚,薄荷健康,小睡眠,最美天气,同程旅行,喝水时间,同花顺,Keep,九号出行,岚图汽车,会跑,掌上公交,yoyo日常,同花顺,智导互联,智导互联云钥匙,具体以实际情况为准;微信支付需要下载「微信儿童手表版」方可使用。比亚迪 NFC 车钥匙不支持连接苹果手机时开通,智导互联、智导互联云钥匙、九号出行不支持连接 iOS 时下载。手机鼾声监测仅支持 Android 6 及以上的手机,不支持 iOS 手机,鼾症风险评估结果仅供参考,不作为医疗诊断依据。

  • Galaxy Z Fold4有线性马达吗?

    X轴线性马达Galaxy Z Fold4内置了X轴线性马达,是目前旗舰智能手机中常用的线性马达。X轴线性马达比Z轴、Y轴线性马达可以模仿更多类型的振动,也是现在比较受欢迎的一种线性马达。

  • OPPO Watch 3续航怎么样?

    4天。OPPO Watch3的全智能模式典型场景续航是 4 天,轻智能模式典型场景续航是 10 天,全智能模式连接LTE网络续航是 3 天,全智能模式里度使用续航是1.5天。所以OPPO Watch3是根据自身使用场景来看续航时间的,一般来说是3-10天左右。

  • OPPO Watch 3支持哪些品牌车钥匙功能?

    有以下这些。OPPO Watch 3是支持车钥匙功能的,支持的汽车品牌有爱驰、长安欧尚、特能行、比亚迪、长安汽车、岚图、九号,其中理想汽车APP官方表示正在适配中,也就是一定会出,但是出的时间还需要等待官方宣布,这样就不用担心自己出门忘记带车钥匙了,很是方便。东风 Honda 下载智导互联 App, 广汽本田下载智导互联云钥匙,长安汽车需要下载腕有引力,长安欧尚下载欧尚 Style;比亚迪 NFC 车钥匙不支持连接苹果手机时开通,智导互联、智导互联云钥匙、九号出行不支持连接 iOS 时下载。

  • Galaxy Z Fold4可以防水吗?

    可以Galaxy Z Fold4可以支持IPX8级防水,设备在三米的水深中,还可以持续工作 30 分钟以上。在大多数情况下的水渍泼溅是可以防护的,但是不建议使用水冲洗手机或者是在水池、浴室、桑拿房等环境中使用手机,比如容易因为环境的潮湿进水。通常这种进水是无法获得官方的保修的。

  • OPPO Watch 3可以刷抖音B站吗?

    可以。OPPO Watch3是可以通过第三方应用软件下载到抖音等APP的,还可以下载一些游戏游玩,此外还可以看腾讯视频、爱奇艺视频,但是由于OPPO Watch3原本是不支持这些软件,现在只是投机取巧能玩,自然体验上不会很好。首先就是发热会比较严重,长时间刷抖音、B站等应用,由于是手表,大量的热量堆积,自然就发热严重,此外掉电的速度也是极快,所以也很伤电池,手表的寿命也会大幅度降低。所以推荐大家,就算能通过ADB助手、唯趣等第三方软件达到可以刷抖音,普通人还是别去折腾,不如直接用手机,最多图个新鲜玩玩就好。

今日大家都在搜的词:

热文

  • 3 天
  • 7天