首页 > 见闻 > 关键词  > 人工智能最新资讯  > 正文

人工智能也搞歧视!研究发现AI生成的艺术作品存在种族、性别偏见

2020-12-29 14:15 · 稿源:站长之家

站长之家(ChinaZ.com)12月29日 消息:随着人工智能技术研究不断推荐,由算法生成的艺术作品的受欢迎程度也在持续增长。从创作绘画到发明新的艺术风格,基于人工智能的生成艺术已经在一系列的应用中展示。

富士通(Fujitsu)研究人员在一项新研究中,调查了偏见是否会渗透到用于创造艺术的人工智能工具中。根据模型,他们声称目前的人工智能方法没有考虑到社会经济的影响,并表现出明显的偏见。

据悉,研究人员调查了使用人工智能生成艺术的学术论文、在线平台和应用程序,选择了专注于模拟现有艺术风格的例子。为了调查偏见,他们考虑了最先进的人工智能系统在各种艺术风格方面的训练成果,包括:

  • 艺术运动(文艺复兴时期的艺术、立体主义、未来主义、印象主义、表现主义);

  • 类型(风景、肖像、草图和插图);

  • 材料(木刻版画、雕刻、油漆);

  • 艺术家(柑橘猎人、玛丽卡萨特、文森特·梵高、古斯塔夫·多尔等等)。

研究人员通过使用一个称为“directed acrylic graphs”(dag)的因果模型分析表示,他们能够识别人工智能生成艺术品的相关方面,以及这些不同方面是如何相互影响的。

在一个案例中,他们发现DeepArt(注:这是一个让用户按照其他艺术家的风格重新绘制图片的平台),没有考虑到将费尔南德·莱热的立体派作品《螺旋桨》转化为未来主义风格的运动。

其中有些偏见比其他问题更有害。GoArt是一个类似DeepArt的平台,它将克莱曼婷·亨特的《黑矩阵女主角》的面部颜色从黑色改为红色,将其转化为表现主义风格。另一个AI生成的艺术工具,“Abacus”将拉斐尔和皮耶罗·迪·科西莫作品中留长发的年轻男性错当成了女性。

研究人员将这些问题归咎于用于训练生成人工智能模型的数据集失衡,他们指出,这可能受到数据集管理员偏好的影响。例如,研究中提到的一款应用“人工智能肖像”(AI Portraits)使用了4.5万幅文艺复兴时期的肖像画,其中大部分是白人。根据研究人员的说法,另一个潜在的偏差来源可能是标记过程中的不一致。不同的注释者有不同的偏好、文化和信念,这些可能反映在它们创建的标签中。

研究称,“在艺术流派(例如大量的照片vs少量的雕塑)、艺术家(例如大部分的欧洲艺术家vs少数的本土艺术家)、艺术运动(大量关于文艺复兴和现代艺术运动的作品,而不是用其它作品)等方面可能存在不平衡。另外,描述不同种族、外貌等信息也没有纳入数据集,因此造成了代表性偏见。

研究人员警告说,错误地建模或忽视某些微妙的信息,生成艺术可能会助长对过去社会、文化和政治方面的错误认知,并阻碍了解重要历史事件。

举报

  • 相关推荐
  • 谷歌增加生成人工智能赔偿 但部分情况例外

    谷歌最近宣布已经在其生成式人工智能服务的服务条款中,增加了明确的赔偿语言,为付费用户提供了广泛的法律保护。这一举措获得了许多积极的报道。用户需要谨慎阅读条款细则,不能掉以轻心。

  • 先进的人工智能工具正在崛起,但「安全」并不是监管人工智能的最佳标准

    微软于上周发布了其BingImageCreator的新版本,这是一个由OpenAI的新模型DALL-E3提供支持的AI图像生成工具。它旨在提供比之前的图像生成AI模型更强大的功能,包括比以前更丰富地理解复杂用户请求的能力。倘若幸运的话,也许它还能提升我们讨论的基调。

  • 超过70%的CEO将生成式人工智能视为投资重点

    一份来自专业服务公司KPMG的新报告揭示了高级管理人员对工作场所生成式人工智能的立场。72%的美国CEO确认将在其业务中部署生成式AI,即使面临宏观经济挑战,也将视为“顶级投资重点”。但报告指出,入门级角色和客户服务工作面临AI替代的风险最高,女性是受影响最大的人群。

  • 研究称:欧洲68%的人呼吁政府对人工智能进行限制

    根据西班牙IE大学的一项最新研究,大多数欧洲人呼吁政府限制人工智能的发展,以减轻该技术对就业安全的影响。这项研究显示,在对3,000名欧洲人的样本调查中,有超过68%的人希望他们的政府出台规定,以应对人工智能带来的自动化水平上升所带来的影响。欧洲的年长公民对于确定AI生成和真实内容的能力表示更多怀疑,有52%的人表示他们无法自信辨别。

  • Auctoria 使用生成式人工智能创建视频游戏模型

    Auctoria是一家在游戏行业引领创新的初创公司,它利用先进的人工智能彻底改变了3D视频游戏资产的创建方式。这一突破是在创始人AleksanderCaban意识到手动设计视频游戏环境的基本元素既耗时又费力之后取得的。随着Auctoria的不断发展,它有潜力重塑视频游戏开发的格局。

  • 研究人工智能缩短中风治疗时间,死亡率降低60%

    对于中风患者来说,及时实施内血管血栓切除术对于改善患者预后至关重要。患者抵达医院和进行内血管血栓切除术的时间已成为医院获得中风中心认证的重要指标。结论实施基于人工智能的自动化系统来检测可能的AIS患者中的LVO,再加上安全的通信应用程序,显着减少了院内工作流程,并导致临床上显着减少血管内血栓切除术治疗时间。

  • 德勤最新研究显示,生成式人工智能投资回报率达12%

    德勤数字公司最新的研究揭示,生成式人工智能已经在市场营销内容制作中产生了重大影响,其中26%的受访市场营销人员已经采用生成式人工智能,另外45%计划在2024年底之前采用这一技术。早期的生成式AI采用者观察,生成式AI投资的回报率为12%。生成式人工智能的采用为企业提供了机会,使其能够创造高质量的个性化内容,从在激烈的数字市场中取得竞争优势。

  • 研究表明人工智能在检测痴呆症方面的有效性

    最近宾夕法尼亚州盖辛格健康系统进行的一项研究证明了人工智能工具在检测未确诊痴呆症方面的潜在有效性,为改善早期诊断和治疗提供了新的希望。这一研究的结果在医学领域引起了广泛的关注,有望改善痴呆症患者的生活质量和治疗效果。AI诊断工具还有望在临床实践中广泛应用,提高痴呆症的诊断速度和准确性。

  • 制造业中生成AI 快速进步显示 蓝领工人也面临被人工智能替代的风险

    生成式人工智能正在席卷各行各业,虽然它被视为许多白领工作的巨大威胁,但制造业中技术的快速进步表明蓝领工人也面临被替代的风险。IT战略公司Intellibus的创始人和负责人EdWatal表示,人工智能正在快速推动第四次工业革命,制造业已经通过自动化、预测性维护和质量控制发生了变革。」「一个数字监督孪生可能能够支持给定生产线或工厂的所有维护或质量工程师。

  • 谷歌宣布为医生推出 Vertex AI:新的生成式人工智能搜索功能

    GoogleCloud周一宣布了新的人工智能驱动搜索功能,据称将帮助医护工作者快速从不同类型的医疗记录中获取准确的临床信息。医疗行业拥有大量有价值的信息和数据,但由于通常存储在多个系统和格式中,因此对于临床医生来说,找到这些信息可能会很具有挑战性。」「现在,我们已经到了一个AI在这些非常实际的用例中有所帮助的地步。