首页 > 传媒 > 关键词  > 信也科技最新资讯  > 正文

信也科技参加人工智能算法性别平等研讨会,共探促进之道

2021-10-18 17:56 · 稿源:站长之家用户

9月27日,“促进人工智能算法性别平等”报告发布会与政策研讨会在上海举行。这场由马娜数据基金会主办的,探讨如何促进人工智能算法中的性别平等的会议,召集了联合国妇女署驻华、上海浦东新区妇女联合会等人员出席。信也科技集团算法科学家王春平也参与了其中。

作为金融科技企业信也科技集团的代表,也是在人工智能领域取得优秀成就的女性从业者,王春平博士在会上阐述了其对于人工智能在研究、应用中对于数据伦理、性别平等的观点与建议。

IMG_256

人工智能时代加速,促进性别平等即发展大前提

人工智能自1956年被提出以来,短短60余年的时间中,这项科学技术的飞速发展给人类社会带来了不小的变化。人工智能算法是以数学方式或计算机代码表达的意见,由算法模型和数据输入决定着预测的后果。

随着人工智能时代的加速到来,人类将生活在一个算法无所不在的世界,随着算法决策开始介入并主导人类社会事务,算法对人类的生活和未来都将产生不可估量的影响。基于此,由算法偏见可能带来的伦理风险也开始引起人们重视。单就性别角度而言,由于目前人工智能领域仍处于男性主导的状况,使得人工智能算法在日常应用中不自觉就容易出现 “性别歧视“的争议。

据当日发布的《促进人工智能算法性别平等》报告(后文简称《报告》)介绍,目前人工智能算法的诸多应用场景中均存在一定的性别歧视现象。以人工智能开放平台为例,一张“端着水果篮的男性”图片被AI人脸识别平台检测为“女性”,单独截出头像却能够被检测为“男性”。在就业场景中,2018年亚马逊公司的自动招聘算法倾向于给关键词含“女”字的简历打低分,降低了女性工作申请成功率,最后弃用了该招聘算法。

信也科技首席科学家王春平表示:“人工智能算法的基础是数据,但在实际生活中因为种种原因,沉淀下来的很多数据分布是有偏的,从而可能将社会中的一些偏见渗透进算法中。作为人工智能算法的女性从业者,我认为需要通过多种方式去消除这些偏见。”

消除偏见与歧视,数据算法从业者新课题

2019年,国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》,提出了人工智能治理的框架和行动指南,明确提出要在数据获取、算法设计、技术开发、产品研发和应用过程中消除偏见和歧视。该委员会近日又发布了《新一代人工智能伦理规范》,第十三条特别强调避免偏见歧视,在数据采集和算法开发中,加强伦理审查,充分考虑差异化诉求,避免可能存在的数据与算法偏见,努力实现人工智能系统的普惠性、公平性和非歧视性。

“算法中存在性别歧视问题,主要源于训练AI的数据集反映了人类社会存在的性别偏见,而算法工程师对这一问题缺乏意识,未将解决性别偏见纳入开发需求,从而使得算法放大了性别歧视。“玛娜数据基金会课题组专家况琨表示。

据《报告》中专题社会调研的数据显示,58%的人工智能算法从业者不知道算法当中存在的性别偏见问题,73%的从业者不知道存在专门针对女性的恶意算法。从业者对算法性别平等的意识及能力亟需提升。

信也科技王春平博士表示,“对于在人工智能算法中尽可能地促进性别平等,我们认为首先需要从研发者的意识与环境培养开始。比如在信也科技集团内部,我们有很多公司政策都在保证并促进不同性别员工得到平等的机会。比如说我们会有比较完善针对人工智能领域或数字化应用相关的培训课程,这些课程包含了业务场景、算法学习、工程化落地,会开放给所有职位的员工,并且会尽可能地帮助公司内部对于人工智能算法有兴趣的员工参与一些实验性的创新项目,为其提供平等的岗位机会。我们认为保障女性员工获得公平的职业机会,为算法开发团队营造没有明显两性区分的环境,并有意识消除算法工程师们的性别偏见,对于人工智能算法在应用中尽可能实现性别平等是有益的。”

商业与伦理的平衡,价值观在前的人工智能算法未来

人工智能算法独特的运行逻辑导致人们社会生活的结构性场景发生了重大变化,加剧了决策者与相对人之间的“数字鸿沟”,人工智能算法独特的运行逻辑正在深刻地改变着以往的生产方式和生活方式,并与人的行为形成了支配关系。这也表示,人们的行为可以借助于数据算法来预测甚至被改变。

对于企业来说,人工智能算法的准确为商业行为的执行提供了准确的预判,但同时算法发展带来的伦理问题、性别歧视问题同样也是企业需要考虑的问题。

信也科技王春平博士认为,目前为止,人工智能算法在应用中反映的依然是相关性,在开发过程中考虑的因素与得到的决策结果之间,很大程度上只是相关。在很多应用里,性别可能是被引入的一个带有相关性的干扰项,如何排除偏见,公平地看待不同的性别,但是又不会影响到最终的商业判断准确性,具有不小挑战。目前这个问题已经引起了重视,有很多从不同角度试图解决这个问题的尝试,比如基于因果推理理论,寻找与期望预测结果拥有直接因果关系的因素;通过创新性地构造特征表征空间,抑制某些带有偏见的因素,比如由于性别带来差异。

“虽然很多时候,基于商业行为,我们很难判定部分情况下算法在偏好与偏见之间的界限,但是在算法的创新开发过程中,作为人工智能算法工程师如果拥有正确的价值观,就能尽可能提前审视并察觉歧视偏见的存在,很好地利用对于算法的不断更新去调整它带来的问题,这是我们作为算法开发者的使命与责任,也是人工智能算法发展的重要前提。” 王春平如是说到。

性别平等是当前社会发展永亘不变的方向之一,在科技应用下的新领域人工智能也需加强意识,相关人员都有义务为促进算法中的性别平等而努力。作为金融科技企业,信也科技也在致力推动在内部技术开发中的客观认识和理性反思,通过技术的不断创新,以确立正确价值观,助力促进人工智能时代的性别平等。从而更好地促进科技发展。

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 大家在看
  • 面对金融风控难题 信也科技科技应用实现突破

    春秋《左传》里有这么一句名言,“居安思危,思则有备,有备无患”。不管在什么事情上都讲究一个未雨绸缪。而风控,就是企业的未雨绸缪。是各个企业业务中不可忽视的命脉。在当今科技加持下的智能风控,是能推动行业进化的核心之一。庞大的市场规模、复杂的经济环境以及与技术俱进的风险,无一不在考验着企业从业者。在金融行业朝向数字化,乃至智能化发展的阶段,解决风控难题当从科技角度来看。 信也科技作为金融科技集团,通过?

  • 信也科技深耕科技领域,构建金融科技新生态

    2021 年首届“进化的力量·刘润年度演讲”在上海举行,刘润带领听众登陆 8 个岛屿,分析 2021 商业变化,洞悉行业趋势。其中信也科技深耕科技领域,自成立之初依靠专业技术摸索进化,推动行业良性发展。天之所助者,顺也;人之所助者,信也。”刘润在演讲中举了信也科技作为例子。从《易经》中汲取力量的信也科技在复杂的 2021 年,依靠自身的数字化能力和科技优势,成功适应变化,走出了一条漂亮的进化路线。我国在《“十四五”规?

  • 信也科技获政府两项资助立项 持续加强科技研发

    近日,信也科技被上海市浦东新区知识产权局予以“区级培育企业资助”与“高价值专利产业化实施资助”两项立项。通过这两项立项可以看到,信也科技充分展现了自身的科技成果作用,也表明了政府对其科技实力的肯定。信也科技位于上海浦东新区张江科学城,是行业领先的金融科技公司,坚持“科技,让金融更美好”为使命,以科技为本,不断加码在科技研发领域投入。据信也科技财报显示,其第三季度研发费用达1. 045 亿元,同比增长12.4%

  • 信也科技参加人工智能大会,两项科技成果均获AI大奖

    10 月 23 日- 24 日,以“数字转型·城智未来”为主题的人工智能大会暨第四届图像、视频处理与人工智能国际会议成功落幕。信也科作为国内先进金融科技企业代表之一,参与了这场汇聚了国内外人工智能领域的前沿专家和产业翘楚的会议,并以两项技术成果获得了“AI+零售数字化转型最具创新技术奖”与“AI+金融数科最佳实践奖”两项大奖 。AI赋能传统“人、货、场”,无人零售轻松“购吖”近年来国内社会经历了从IT电子化逐渐过渡到数?

  • 微信macOS版可折叠群聊 电脑版微信也能隐藏群聊了

    近日,微信macOS版3.2.2正式版发布,本次更新了可选择消息提示音、自定义来电铃声、关注群成员等多个功能。本次更新主要支持了两项折叠群聊功能,并且修复了一些已知问题。可以把免打扰的群收进“折叠的群聊”;置顶聊天过多时,可以将其折叠。

  • 电脑版微信也能隐藏群聊了!微信macOS端新版发布:可折叠群聊、置顶

    今年7月份,微信在手机端上带来了一个重磅更新,新增了若干功能。其中包括可选择消息提示音、自定义来电铃声、关注群成员以及置顶聊天折叠等,可以给用户带来更个性化和便捷的聊天体验。而置顶聊天折叠和群聊折叠尤为受人欢迎,终于能让微信界面更加简洁,将不需要的群聊隐藏起来。现在,折叠功能终于也要覆盖到电脑端了。根据微信官网公布的信息显示,日前微信macOS版3.2.2正式版已经正式发布,本次更新主要支持了两项折叠群聊功?

  • 微财科技坚持科技创新,打造科技型诚信企业

    所谓“诚信乃立身之本”,企业想要持续发展也是如此。诚信是企业赢得客户信赖的重要原因,近些年来,随着时间的推移和金融科技的普及,人们对金融科技的态度也由最初的怀疑、谨慎,逐渐转变为认可、赞誉。金融科技的发展让各大金融机构拥有了更完善的金融产品和金融服务模式,进一步促进了实体经济的增长。在这样的环境之下,微财科技作为金融科技企业当中的佼佼者,不仅利用各种前沿机器学习算法和先进的数字技术,为合作伙伴解决

  • 瓴岳科技集团:坚守科技向善 推动共同富裕

    “我们坚守科技向善,用科技造福人类社会,造福普惠群体,实现企业和社会的长期良性发展。”说到对金融科技的理解时,瓴岳科技集团CEO刘永延如是说到。科技向善提升数据安全智能时代,数字化进程已经扩展到了各行各业,科技给我们的生活和工作带来了前所未有的高效与便利。随着信息技术在金融科技领域的应用越发广泛,非传统金融企业给整个金融行业带来了颠覆式的创新挑战,传统金融机构受科技投入及人才资源等限制,在数字化上的?

  • 做好未来科技领航者 戴尔以科技传递温度

    11月10日,以“未来X · 智汇新磁场”为主题的2021戴尔科技峰会暨未来企业领导力论坛在上海成功举办。此次峰会聚焦未来X数字战略,以主题演讲、高端对话、论坛等多元化形式呈现了戴尔科技集团在未来企业、未来运营、未来工作三大层面的技术优势和丰富经验,强调戴尔将积极发挥科技领航者的角色,为企业向未来演进赋智赋能。值得一提的是,在刚刚结束的东京奥运会上获得冠军荣誉的皮划艇运动员徐诗晓、赛艇运动员崔晓桐以及中国赛艇

  • 微财科技聚焦金融服务薄弱环节,用科技赋能金融

    金融科技创新降低了金融服务的成本,提高了金融服务的可得性,给金融行业带来了全局性的影响,和以往数字科技在金融产品上的应用存在明显的差异。不可否认,金融科技给我国金融行业带来的改变是巨大的,因此金融科技企业受到了市场和政府的支持,发展趋势显著增强。微财科技正在加速释放科技实力,加大科研投入,提高运营效率和风险控制力,以便为客户提供更优质的服务。金融科技并不是一件全新的事物,事实上,数字领域的很多先进

这篇文章对你有价值吗?

  • 热门标签

热文

  • 3 天
  • 7天