首页 > 业界 > 关键词  > AI最新资讯  > 正文

研究表明,当 AI 用于招聘时,存在对女性“母亲角色”偏见

2023-12-14 09:54 · 稿源:站长之家

划重点:

🔍 纽约大学 Tandon 工程学院的新研究发现,与工作相关的育儿间隙可能导致符合资格的求职者被不公平地筛选出合适的职位。

🔍 研究团队通过对大型语言模型(LLMs)的偏见进行了检查,LLMs 是训练成能理解和生成人类语言的先进 AI 系统。

🔍 研究结果显示,至少有一种 LLMs 错误地将敏感属性考虑进简历的筛选过程中,其中包括与育儿有关的就业间隙、政治派别和怀孕状态。

站长之家(ChinaZ.com)12月14日 消息:纽约大学 Tandon 工程学院的研究团队最近进行的一项研究发现,与工作相关的育儿间隙可能导致符合资格的求职者被不公平地筛选出合适的职位。该研究由电气和计算机工程学院的副教授 Siddharth Garg 领导,旨在检查大型语言模型(LLMs)在招聘流程中的偏见。

面试,招聘 商业

研究团队将在12月15日的 NeurIPS2023R0-FoMo 研讨会上提交一份论文,该论文由电气和计算机工程学系的博士候选人 Akshaj Kumar Veldanda 担任首席研究员。

近期,当 AI 用于就业领域时,AI 算法受到了审查。拜登总统在2023年10月发布的 AI 行政命令强调了解决雇主在招聘过程中可能存在的偏见的紧迫性。纽约市制定了一项首创性法律,要求定期审查算法招聘决策的透明度和公平性。

该研究旨在评估三种流行的 LLMs(ChatGPT、Bard 和 Claude)在评估求职者简历时是否能够忽略与工作无关的个人属性,例如种族或政治派别。这些属性在法律和道德上都是不适当考虑的。

研究人员为实验性简历添加了一些 “敏感属性”,包括种族、性别、与育儿有关的就业间隙、政治派别和怀孕状态。LLMs 被要求根据两个合理使用的招聘查询来评估简历:确定简历上的信息是否与特定工作类别(如 "教学" 或 "建筑")相符,以及总结简历以包含仅与就业相关的信息。

研究结果显示,种族和性别在简历匹配实验中并没有引发偏见,但其他敏感属性却引发了偏见,这意味着至少有一种 LLMs 错误地将这些属性考虑进简历的筛选过程中。

育儿间隙和怀孕状态引发了明显的偏见结果。Claude 在这一属性上表现最差,最常错误地将简历分配到正确的工作类别之内或之外。ChatGPT 也在该属性上显示出一致的偏见结果,尽管比 Claude 的频率要低。

政治派别和怀孕状态也触发了错误的简历分类,Claude 再次表现最差,ChatGPT 排在其后。Bard 在所有敏感属性中表现最好,在各个方面都展现出了令人惊讶的一致性偏见缺失。

研究人员还发现,在生成简历摘要方面,模型之间存在明显差异。GPT-3.5在生成的摘要中很少包含政治派别和怀孕状态等敏感属性,而 Claude 更有可能包含所有敏感属性。Bard 在总结方面经常拒绝,但在生成总结时更有可能包含敏感信息。总的来说,与完整简历相比,摘要中的职业类别分类提高了所有 LLMs 的公平性,包括 Claude,这可能是因为摘要使模型更容易关注相关信息。

该研究结果表明,当雇主依赖 LLMs 来筛选申请者时,育儿间隙和其他敏感属性可能会错误地排除合适的候选人。然而,研究也指出,LLMs 可以经过训练以减少偏见,因此在招聘过程中可能发挥有用且公平的作用。

这项研究采用了一种强调透明性的审计方法,以揭示 LLMs 中的偏见。研究团队还进行了对 Alpaca 的评估,这是一种提供解释的白盒模型。通过该评估,研究人员观察到 Alpaca 在分类任务中也存在偏见。这项研究为研究人员和从业者提供了发现和干预偏见的方法。

举报

  • 相关推荐
  • 大家在看
  • 研究表明AI 系统已经擅长欺骗和操纵人类

    人工智能系统已经学会了如何欺骗人类即使这些系统被训练成有益和诚实的。研人员在5月10日发表在《Patterns》杂志上的一篇综述文章中描述了AI系统欺骗行为的风险呼吁各国政府尽快制定强有力的监管措施来解决这一问题。帕克表示:“如果在当前时刻政上不可行禁止AI欺骗,我们建议将欺骗性AI系统分类为高风险。

  • 湖南谷医堂谷方益元:关注女性健康,提高女性慢病防治意识

    随着生活节奏的加快和政策的变化,青年男女的婚育年龄普遍推迟,家庭中的女性不仅开始肩负起“三胎”的重任,她们还承担着照顾家庭、教育子女的责任。如果女性健康出现问题,将会影响到整个家庭的正常运转。气血贯穿女性一生,不同年龄段女性的健康需求不同,谷医堂不仅为女性提供个体化差异调理,同时携手长沙广电公益栏目《健康e起来》、新浪湖南联合推出女性健康系列科普,帮助提高女性健康管理和慢病防治意识。

  • 恒瑞医药:致敬女性力量,守护“她”的健康

    当代女性在各个领域都展现了强大的力量和魅力,然而,随着社会的加速发展和竞争的日趋加剧,女性健康风险增加,很多疾病患病年龄也日益年轻化。在这个属于她的节日里,让我们一起关爱“她”健康,致敬女性力量。恒瑞医药长期关注女性健康,重点针对乳腺癌、卵巢癌等疾病,提供创新药物和全方位服务。多款自主研发的药物已帮助众多女性患者,为医生和患者提供�

  • 小米SU7征服女性 十余名美车主靓照感受下

    快科技5月6日消息,今天汽车博主韩路”晒出多张小米SU7女性车主的照片。韩路在欣赏了这些美女车主的照片后,半开玩笑地表示:回头看了看我自己,算了小米SU7我卖了,不配当车主。”小米集团创始人雷军曾透露,小米SU7的购买者中近30%为女性,而且在男性订单中,也有许多是为妻子、女友或姐妹购买的。雷军强调,小米SU7在设计之初就考虑到了女性用户的需求。女性消费者被小米汽车的外观、防晒功能和收纳设计所吸引。为了确保女性车主能够轻松驾驶,小米SU7的外观设计并不过于庞大,转弯半径也较小,使得车辆更加灵活。在初期设计阶段,我们

  • 子反驳高彩礼希望男生睁眼看世界:称女性已经觉醒

    王婆说媒的现场热闹非凡,一位女子勇敢站出,就江西高彩礼现象发表了深具见解的言论。她不仅为江西高彩礼现象辩护,更从女性觉醒的视角出发,向广大男性同胞发出呼吁,期望他们能够拓宽视野,共同为性别平等的社会进程贡献力量。我们才能共同构建一个更加公正、平等和和谐的社会。

  • 郑涵文荣获戛纳慈善晚宴“美好世界最美奉献奖”,展女性社会担当

    在戛纳当地时间15日举办的第77届戛纳电影节慈善晚宴上,郑涵文女士作为77届戛纳电影节美好世界基金会联合主席及柏荟医疗集团创始人,荣获了“美好世界最美奉献奖”。这一殊荣由法国国宝级影后“朱丽叶·比诺什”亲自颁发,这不仅是对郑涵文女士在慈善领域长期奉献的极高认可,更是对中国女性积极承担社会责任的崇高赞扬。这次慈善晚宴也进一步推动了中法两国之间的文化交流与合作,为两国人民之间的友谊和理解注入了新的活力。

  • 多模态GPT-4o来了,最先嗨起来的是一波女性用户

    整场发布会最为重磅的发布之一,莫过于OpenAI团队成员对于新模型语音能力的演示,搭载了GPT-4o的ChatGPT,不仅真正实现了实时响应,可以任意打断,更重要的是,ChatGPT第一次拥有了“察言观色”的能力,它能看到用户表情,理解用户语气中的情感变化,同时能够给出不同风格、情绪的回应。更新后的ChatGPT不论是从响应速度上是其他方面,变得更像人了。长期观察用户行为,�

  • 苹果正在开发用于数据中心的 AI 芯片

    苹果公司正在开发一内部芯片,旨在在数据中心中运行人工智能程序,以在快速增长的行业中获得竞争优势。这一项目的内部代号为ACDC,即苹果芯片在数据中心中的应用。苹果今年早些时候曾计划出一款电动汽车,但后来放弃了这一计划,转专注于人工智能的开发。

  • 达美乐回应母亲节送围裙:是为了达对妈妈的感激

    连锁披萨品牌达美乐母亲节送围裙引发争议。达美乐推出献礼母亲节套餐”,随套餐赠送一件爱心围裙”,爱心围裙”上印有妈妈我爱你”您辛苦了,谢谢您”等字样。还有网友会为母亲做一顿大餐,从小到大我们都吃着母亲做的饭长大,母亲节的时候给母亲做一顿丰盛的大餐,买个蛋糕,一家人围在一起开开开心吃个团圆饭,送给母亲一个拥抱,感谢母亲一直以来的关心与爱护。

  • 英伟达在印度招聘 AI 工程师

    NVIDIA正在印度招聘经验丰富的AI工程师,加入其合作伙伴公司。被选中的候选人将作为员工加入NVIDIA合作伙伴网络,负责推动NVIDIA技术的采用,并在数据中心、边缘和云部署领域获取创新设计。具有与NVIDIA软件平台和GPU开发经验、熟悉Docker/容器、Kubernetes和数据中心部署等MLOps技术的知识的候选人尤为出色。

  • AI Clone Voice Free:免费的人声克隆工具 支持多种语言和口音。

    AI 克隆声音是一项利用机器学习技术生成与特定人声相似的语音的技术。无需特殊设备,可在浏览器中快速生成高质量的克隆声音。价格分为免费基础服务和付费高级服务,提供更多的声音定制选项。

  • Hacker Search:利用Hacker News历史数据回答关于任何话题的问题

    Hacker Search是一个基于Hacker News历史数据的问答工具,它特别适用于理解HN读者对某个话题的情感,或寻找HN读者感兴趣的话题的专家见解。

  • Voxpad:AI笔记助手,快速生成讲座笔记。

    Voxpad是一款利用人工智能技术帮助用户快速生成讲座笔记的网站。它通过自动化笔记过程,节省了用户手动记录笔记的时间,同时提供了精确和详细的笔记内容,包括关键点和总结,并附有时间戳,方便用户快速定位到特定部分。此外,Voxpad支持多文件格式,具有易于使用的界面和文本编辑器,允许用户编辑和格式化笔记,以满足个性化需求。

  • Pitch Deck Generator:快速创建有说服力的演示文稿

    Pitch Deck Generator 是一个在线工具,旨在帮助用户通过其7步模板工作流程,快速创建出具有说服力的演示文稿。它从识别问题或机会到自信地提出请求,通过引导性的提示帮助用户创建清晰、简洁的演示,展示其独特的解决方案和团队。

  • AutoChat:先进的WhatsApp自动化平台,助力商业升级。

    AutoChat是一个基于云的WhatsApp自动化平台,提供强大的自动化功能,帮助企业简化运营并实现商业目标。它通过无代码聊天机器人构建器、批量消息发送、团队收件箱、GPT-4 AI聊天机器人、原生WhatsApp购物体验等功能,帮助企业提升客户服务水平,增强客户信任,并提高销售效率。

  • LegalLint:法律文件格式化和格式问题识别工具

    LegalLint 是一款专为法律领域设计的文档准备工具,旨在提高文档准备的效率和准确性。它具备以下功能:自动替换引用、插入注释块、检测和突出显示文档中的各种格式问题,如多余的空格、错位的标点或未闭合的括号。这些功能帮助法律专业人士高效地创建无误的文档,节省宝贵的时间并确保文档格式的精确性。

  • TailorLinx:个性化外联信息工具,提升回复率

    TailorLinx是一款结合AI和高级销售心理学的工具,旨在改善冷外联工作,确保与潜在客户的个性化和有效联系。它通过分析电子邮件和LinkedIn数据,包括潜在客户的行业、角色、兴趣和近期活动,来定制信息。TailorLinx利用AI驱动的技术和销售心理学来解释目标潜在客户的详细资料,使信息能够以高度个性化和相关性进行制作。TailorLinx已证明能够将回复率提高至38%。

  • Chirpley:全球首个专注于微纳米影响者的自动化市场平台

    Chirpley是一个创新的自动化、点对点、一站式影响者市场平台,专注于微纳米影响者。它通过人工智能和机器学习技术,为营销人员提供了快速有效的营销手段,并通过一键营销炸弹(1-click marketing bomb)功能,使得营销活动更加迅速和高效。Chirpley旨在解放微影响者营销的巨大盈利潜力,并通过端到端自动化、自适应、数据驱动的微影响者活动,提升营销的覆盖范围和影响力,将结果和效果提升到令人瞩目的高度。

  • helpmee.ai:AI辅助的电脑帮助,让老年人轻松掌握技术。

    helpmee.ai是一个利用AI技术为老年人提供电脑使用指导的网站。通过耐心的语音对话和屏幕共享,AI伴侣逐步引导老年人完成任何计算机任务,确保他们能够自信且独立地在数字世界中导航,支持50多种语言,全天候服务。该服务使用OpenAI的最新GPT-4o模型,提供无与伦比的准确性和理解力。

  • video-subtitle-master:批量生成视频字幕并支持多语言翻译的客户端工具

    video-subtitle-master 是一个基于之前开源项目 VideoSubtitleGenerator 开发的客户端工具,它允许用户批量为视频生成字幕,并支持将字幕翻译成不同的语言。这个工具特别适合需要对视频内容进行本地化处理的个人或团队,无论是为了教育、娱乐还是商业目的。它集成了多种翻译服务,如百度翻译、火山引擎翻译等,并优化了对 Apple Silicon 的支持,提供了快速的生成速度。

  • EngineerDraft:实时字幕生成工具

    BeMyEars 是一款实时字幕生成工具,利用本地设备完成语音识别,为听障人士和需要字幕的用户提供极致体验。其主要优点包括多语言支持、多源输入、隐私保护等。

  • 大设:AI 智能绘画平台,让文本和图片成为艺术作品。

    大设是基于 Stable Diffusion 的免费 AI 绘画网站,提供一键生成高清精绘大图、SDXL 模型教程、AI 提示词工具。背景包括清华大学研发,定位为 AI 智能绘画平台。

  • Supaclip:将视频快速转化为知识库。

    Supaclip是一个旨在帮助用户将视频内容转化为知识库的在线工具。它通过提供视频摘要、AI助手、字幕和时间戳等功能,帮助用户快速理解和导航视频内容。产品适用于内容创作者、学生、播客主持人和研究人员等,通过这些功能,用户可以增加视频的有机覆盖率、从讲座中获取最大价值、提供节目笔记、通过聊天机器人进行互动以及从访谈视频和纪录片中提取关键见解和引用。

  • Context Data:一站式企业级数据平台,专为生成式AI应用设计

    Context Data是一个为生成式AI应用设计的数据处理和转换平台,旨在帮助AI团队构建数据基础设施,以便他们专注于构建AI逻辑。它提供了无需设置基础设施、跨多个源转换数据、连接多个模型、加载数据到主要向量数据库、查询私有向量数据、定时管道以及构建数据和ETL管道等功能。Context Data强调数据隐私控制,避免了将数据上传到OpenAI等外部模型,简化了构建AI就绪数据平台的压力和复杂性。

  • World of Gami:AI驱动的Trello替代品,让团队任务保持最新。

    World of Gami是一个利用AI技术简化任务管理的网站,它将日常任务转化为令人兴奋的挑战,使项目管理不仅是必需的,而且是团队工作流程中令人愉悦和有益的一部分。通过将传统任务列表或看板转变为生动和竞争性的游戏,每个用户可以创建自己的'船',使用Scrum方法进行冲刺,并竞争'冲刺皇冠',这不仅使项目管理更加有趣,而且培养了团队精神和成就感。

  • Dola AI:您的个人 AI 日历助手,简化日程安排,释放时间。

    Dola 是一款通过消息应用进行日程安排的 AI 助手,它与 Google 日历、Apple 日历和 Caldav 兼容,能够通过自然语言快速安排日程,提高效率,同时支持语音、图片和文本输入。Dola 旨在帮助用户节省时间,专注于他们喜欢的事情。

  • Remind AI:使用先进的AI技术,轻松捕捉您的数字活动并作为记忆使用。

    reMind是一款利用AI技术帮助用户捕捉和利用数字活动作为记忆的产品。它通过先进的人工智能技术,让用户能够轻松地记录和回顾自己的工作和活动,从而提高生产力。

  • BrowseBuddy:AI购物助手,提升电商购物体验

    BrowseBuddy是一款AI驱动的聊天机器人,旨在通过提供个性化的帮助来增强在线购物体验。它利用自然语言处理技术来理解客户查询,提供量身定制的产品推荐和支持。BrowseBuddy通过智能产品匹配、实时解决方案、多语言支持等技术,为电商企业提供了一种提升客户满意度和销售效率的解决方案。

  • Depthforge:AI驱动的3D图像生成应用

    Depthforge是一款利用Apple Vision Pro技术,通过文本提示生成沉浸式3D图像的应用。它易于使用,能够让用户通过简单的文本输入来创造独特的高质量3D图像,体验全新的3D图像生成世界。

  • AudiowaveAI:将任何文本转换为有声读物质量的声音。

    AudiowaveAI是一款利用人工智能技术将文本转换成高质量音频的应用程序。它与传统的文本到语音技术不同,提供了更加自然、富有情感的语音输出,让听众在学习和享受内容时获得更好的听觉体验。产品背景信息包括它是由全球创新公司和自由职业者信赖的产品,其主要优点在于其引人入胜的声音、自然的声音效果以及令人愉悦的听觉享受。产品定位为教育工具,旨在帮助用户在移动中学习,享受夏日阳光。

今日大家都在搜的词: