首页 > 见闻 > 关键词  > 人工智能最新资讯  > 正文

人工智能也搞歧视!研究发现AI生成的艺术作品存在种族、性别偏见

2020-12-29 14:15 · 稿源:站长之家

站长之家(ChinaZ.com)12月29日 消息:随着人工智能技术研究不断推荐,由算法生成的艺术作品的受欢迎程度也在持续增长。从创作绘画到发明新的艺术风格,基于人工智能的生成艺术已经在一系列的应用中展示。

富士通(Fujitsu)研究人员在一项新研究中,调查了偏见是否会渗透到用于创造艺术的人工智能工具中。根据模型,他们声称目前的人工智能方法没有考虑到社会经济的影响,并表现出明显的偏见。

据悉,研究人员调查了使用人工智能生成艺术的学术论文、在线平台和应用程序,选择了专注于模拟现有艺术风格的例子。为了调查偏见,他们考虑了最先进的人工智能系统在各种艺术风格方面的训练成果,包括:

  • 艺术运动(文艺复兴时期的艺术、立体主义、未来主义、印象主义、表现主义);

  • 类型(风景、肖像、草图和插图);

  • 材料(木刻版画、雕刻、油漆);

  • 艺术家(柑橘猎人、玛丽卡萨特、文森特·梵高、古斯塔夫·多尔等等)。

研究人员通过使用一个称为“directed acrylic graphs”(dag)的因果模型分析表示,他们能够识别人工智能生成艺术品的相关方面,以及这些不同方面是如何相互影响的。

在一个案例中,他们发现DeepArt(注:这是一个让用户按照其他艺术家的风格重新绘制图片的平台),没有考虑到将费尔南德·莱热的立体派作品《螺旋桨》转化为未来主义风格的运动。

其中有些偏见比其他问题更有害。GoArt是一个类似DeepArt的平台,它将克莱曼婷·亨特的《黑矩阵女主角》的面部颜色从黑色改为红色,将其转化为表现主义风格。另一个AI生成的艺术工具,“Abacus”将拉斐尔和皮耶罗·迪·科西莫作品中留长发的年轻男性错当成了女性。

研究人员将这些问题归咎于用于训练生成人工智能模型的数据集失衡,他们指出,这可能受到数据集管理员偏好的影响。例如,研究中提到的一款应用“人工智能肖像”(AI Portraits)使用了4.5万幅文艺复兴时期的肖像画,其中大部分是白人。根据研究人员的说法,另一个潜在的偏差来源可能是标记过程中的不一致。不同的注释者有不同的偏好、文化和信念,这些可能反映在它们创建的标签中。

研究称,“在艺术流派(例如大量的照片vs少量的雕塑)、艺术家(例如大部分的欧洲艺术家vs少数的本土艺术家)、艺术运动(大量关于文艺复兴和现代艺术运动的作品,而不是用其它作品)等方面可能存在不平衡。另外,描述不同种族、外貌等信息也没有纳入数据集,因此造成了代表性偏见。

研究人员警告说,错误地建模或忽视某些微妙的信息,生成艺术可能会助长对过去社会、文化和政治方面的错误认知,并阻碍了解重要历史事件。

举报

  • 相关推荐
  • “人工智能+”时代,企业做对什么才能抢占先机?

    国务院8月26日发布《关于深入实施“人工智能+”行动的意见》,提出加快AI技术与实体经济深度融合,推动产业智能化升级。到2035年,我国将全面步入智能经济和社会新阶段。金蝶集团作为企业数字化服务商,以“AI优先”为战略,将AI技术深度融入SaaS产品与服务,推出金蝶云·星空EMA平台及多款智能产品,覆盖财务、供应链、差旅等场景,助力企业构建“AI+业务”新能力,实现高效管理与创新发展。

  • 市值一日暴增近3000亿港元,阿里迈向超级人工智能之路

    9月24日,阿里巴巴股价创下四年新高,单日涨超9%,市值达到约3.32万亿港元,一日增加近3000亿港元。 引爆股价的,是阿里集团每年一度的云栖大会。在会上,阿里释放多条重磅消息,尤其是在阿里集团CEO、阿里云智能集团董事长兼CEO吴泳铭的演讲结束后,阿里的股价表现就出现了明显的拉升。

  • 腾讯云安全发布人工智能风险评估框架,助企业构建可信智能体

    9月17日,腾讯云在2025全球数字生态大会上发布人工智能风险控制框架及多款安全产品。该框架涵盖六大风险模块、七层级、130余项措施,系统性应对AI应用全生命周期的安全挑战,包括数据泄露、供应链隐患及权限滥用等核心问题。同时推出LLM-WAF防火墙、AI-SPM态势管理等产品,构建覆盖研发、部署、运维的全链路防护体系,助力企业建立可信、稳定的AI服务生态。

  • 2025 世界设计之都大会“创意可计算性:设计人工智能”,特赞升级五大内容+AI解决方案

    2025年9月25日至28日,上海将举办世界设计之都大会(WDCC2025),主题为“设计无界,生生不息”。大会聚焦人工智能赋能设计创新,探讨设计如何驱动产业与城市可持续发展。特赞科技作为内容与AI领域代表企业,将展示“计算×创意”如何拓展设计生命力,包括跨行业赋能、产教融合及人机协作三大板块,呈现AI在打破学科边界、推动产业创新中的实践。WDCC2025旨在为全球设计领域注入新动能,构建“设计×科技×可持续”的新想象空间。

  • 全球首个!OpenAI将推“AI版抖音”:禁止上传实拍内容 视频100%由AI生成

    国庆假期前夕,OpenAI发布了Sora 2,一款旗舰视频和音频生成模型。 据介绍,Sora 2可以完成以前的视频生成模型难以完成的事情,比如运动员的奥林匹克体动作、桨板上的后空翻,准确模拟浮力和刚度的动态等等,并擅长现实主义、电影和动漫风格。 一则来自《连线》杂志的重磅爆料更是指出,OpenAI的下一步棋,并非简单升级一个模型,而是要亲自下场,推出一个独立的AI影�

  • AI智能锁首标发布,萤石引领行业新变革

    2025中国国际五金展上,萤石网络联合多家企业发布《AI智能锁》团体标准,这是行业首个团队标准。萤石作为核心制定者,凭借其安全技术、全域自研能力及产品创新,获“AI智能锁引航者”认证。旗舰产品Y5000FVX Ultra搭载双摄、雷达系统,实现精准识别与主动安防,并通过OTA升级持续优化。萤石蓝海大模型2.0赋能智能锁,提供消息服务、视频搜索等智慧入户功能,推动行业从工具向“入户管家”升级。市场数据显示,萤石在高端细分领域销量领先,彰显技术优势与市场认可。

  • 每日互动参与发起《人工智能安全行业自律倡议》 守护人工智能产业可持续发展

    9月17日,2025年国家网络安全宣传周人工智能安全治理分论坛在昆明召开,会上正式发布《人工智能安全行业自律倡议》。该倡议由中国网络空间安全协会联合多家科研院所、互联网头部企业、网络安全厂商及人工智能企业共同发起,提出筑牢安全根基、强化技管结合、深化协同共治等七方面共识,旨在推动构建可控、可信、可靠的人工智能产业生态,为全球人工智能治理贡献中国智慧。

  • 马斯克:Grok 5模型有望实现通用人工智能的突破

    马斯克旗下xAI公司正研发Grok 5模型,有望实现通用人工智能(AGI)重大突破。该模型采用全新架构设计,预计未来几周启动训练。若成功将代表AI从专用领域向通用认知能力的质的飞跃,被视为人工智能发展的终极目标。科技界密切关注xAI能否在激烈竞争的大模型赛道实现突破。

  • 美业迎来首个“AI智能体矩阵”,静博士以AI重塑美业运营

    在科技浪潮推动下,AI智能体已成为全球各行业变革的核心引擎。静博士集团率先在美业领域构建“AI智能体矩阵”,通过专家、运营、店长三类智能体协同,实现从需求洞察到服务交付的全流程智能化。专家智能体赋能美容师提供精准健康方案,运营智能体精准识别客户需求,店长智能体高效统筹门店资源。目前已在300多家门店部署智能机器人,推动美业从经验驱动向科技驱动转型。未来,体系化AI能力将成为行业竞争关键,静博士通过前瞻布局,引领美业数字化升级,实现效率与业绩双提升。

  • 十方融海:以开源生态为基,绘就“人工智能 +”产业融合新蓝图

    国务院印发《关于深入实施“人工智能+”行动的意见》,推动AI技术与产业深度融合。深圳企业十方融海凭借AI大模型研发、产品创新及开源生态构建等领域的卓越实践,成为行业先锋。其开源模型如OpenBuddy、小智AI等突破传统技术局限,实现多模态交互与跨领域知识融合,覆盖教育、办公、养老、文体等多元场景。通过开放共享模式,十方融海有效降低AI应用门槛,激发行业创新活力,助力我国人工智能产业迈向新征程。

今日大家都在搜的词: