首页 > 见闻 > 关键词  > 人工智能最新资讯  > 正文

人工智能也搞歧视!研究发现AI生成的艺术作品存在种族、性别偏见

2020-12-29 14:15 · 稿源:站长之家

站长之家(ChinaZ.com)12月29日 消息:随着人工智能技术研究不断推荐,由算法生成的艺术作品的受欢迎程度也在持续增长。从创作绘画到发明新的艺术风格,基于人工智能的生成艺术已经在一系列的应用中展示。

富士通(Fujitsu)研究人员在一项新研究中,调查了偏见是否会渗透到用于创造艺术的人工智能工具中。根据模型,他们声称目前的人工智能方法没有考虑到社会经济的影响,并表现出明显的偏见。

据悉,研究人员调查了使用人工智能生成艺术的学术论文、在线平台和应用程序,选择了专注于模拟现有艺术风格的例子。为了调查偏见,他们考虑了最先进的人工智能系统在各种艺术风格方面的训练成果,包括:

  • 艺术运动(文艺复兴时期的艺术、立体主义、未来主义、印象主义、表现主义);

  • 类型(风景、肖像、草图和插图);

  • 材料(木刻版画、雕刻、油漆);

  • 艺术家(柑橘猎人、玛丽卡萨特、文森特·梵高、古斯塔夫·多尔等等)。

研究人员通过使用一个称为“directed acrylic graphs”(dag)的因果模型分析表示,他们能够识别人工智能生成艺术品的相关方面,以及这些不同方面是如何相互影响的。

在一个案例中,他们发现DeepArt(注:这是一个让用户按照其他艺术家的风格重新绘制图片的平台),没有考虑到将费尔南德·莱热的立体派作品《螺旋桨》转化为未来主义风格的运动。

其中有些偏见比其他问题更有害。GoArt是一个类似DeepArt的平台,它将克莱曼婷·亨特的《黑矩阵女主角》的面部颜色从黑色改为红色,将其转化为表现主义风格。另一个AI生成的艺术工具,“Abacus”将拉斐尔和皮耶罗·迪·科西莫作品中留长发的年轻男性错当成了女性。

研究人员将这些问题归咎于用于训练生成人工智能模型的数据集失衡,他们指出,这可能受到数据集管理员偏好的影响。例如,研究中提到的一款应用“人工智能肖像”(AI Portraits)使用了4.5万幅文艺复兴时期的肖像画,其中大部分是白人。根据研究人员的说法,另一个潜在的偏差来源可能是标记过程中的不一致。不同的注释者有不同的偏好、文化和信念,这些可能反映在它们创建的标签中。

研究称,“在艺术流派(例如大量的照片vs少量的雕塑)、艺术家(例如大部分的欧洲艺术家vs少数的本土艺术家)、艺术运动(大量关于文艺复兴和现代艺术运动的作品,而不是用其它作品)等方面可能存在不平衡。另外,描述不同种族、外貌等信息也没有纳入数据集,因此造成了代表性偏见。

研究人员警告说,错误地建模或忽视某些微妙的信息,生成艺术可能会助长对过去社会、文化和政治方面的错误认知,并阻碍了解重要历史事件。

举报

  • 相关推荐
  • 如何快速找到最适合的AI绘画工具?避免在200+工具中挑花眼?

    某电商设计团队为生成产品场景图,测试18款AI绘画工具后发现:部分工具出图快但细节差,有的支持中文但训练数据老旧。最终耗时两周选定Stable Diffusion+特定LoRA模型。行业存在信息过载、同质化严重、参数混乱等问题。AIbase导航站通过三重过滤机制(人工初筛、多维度对比、直达官网)帮助用户高效选型。实际案例显示,跨境团队用此方案节省21天试错时间,首月成本降低67%。工具筛选能力比掌握工具更重要,让创造力真正释放。

  • 海尔冰箱唯一获批“制冷家电人工智能技术山东省工程研究中心”

    海尔冰箱在人工智能领域取得新突破,主导建设的"制冷家电人工智能技术山东省工程研究中心"成为2025年山东省工程研究中心认定名单中唯一入选的冰箱品牌。该中心聚焦人工智能、物联网、大数据等技术方向,开发了全空间智慧保鲜舱冰箱等140多项行业首创产品,近三年获授权发明专利803件。海尔冰箱还推出行业首款接入DeepSeek的AI全空间保鲜冰箱,具备方言识别、降噪技术等功能,显著提升用户体验。市场数据显示,2023年1-7月海尔冰箱以47%市场份额稳居行业第一。通过AI技术赋能,海尔冰箱正引领行业向精准、智能保鲜时代跨越。

  • 下一个爆款在哪儿?2025英特尔人工智能创新应用大赛获奖名单揭晓

    8月16日,2025英特尔人工智能创新应用大赛总决赛在深圳落幕。40支优秀团队从2817支队伍中脱颖而出,围绕工业、教育、心理健康、游戏等领域展开对决。大赛展示了AI从云端走向边缘的趋势,依托酷睿Ultra处理器和低代码开发工具,推动AI应用本地化落地。获奖作品包括动力电池机器人协作拆卸系统和AI生成PPT服务,体现AI与产业需求的深度融合。英特尔与联想、惠普等合作伙伴共同为开发者提供全栈支持,加速AI技术普及和商业化进程。

  • ISC.AI 2025 人工智能安全治理与创新实践论坛圆满召开

    ISC.AI2025人工智能安全论坛在北京召开,聚焦AI安全治理与创新实践。论坛汇集顶尖专家,探讨大模型安全评估与防护、智能体安全、AI治理等前沿议题。360集团张向征指出,随着Agent技术爆发式应用,AI安全已成为产业核心焦点。专家们强调需构建AI安全防护体系,应对大模型直接访问核心系统带来的全新挑战。中国电子院彭健提出企业合规建设需关注九大要素,清华大学苏航揭示智能体安全风险远超传统AI。华为云范建军倡导端到端大模型安全防护,中国信通院杨哲超呼吁构建协同治理框架。论坛为构建安全、普惠、负责任的人工智能未来贡献智慧。

  • Razer(雷蛇)在新加坡设立AI CENTER OF EXCELLENCE,加速人工智能投资布局

    雷蛇宣布在新加坡设立全球AI卓越中心,并计划在欧洲和美国建立类似机构,推动游戏与开发者工具领域的创新。新加坡中心将招聘150名AI工程师,专注于下一代AI游戏技术研发。雷蛇还推出AI工具套件,包括Game Co-AI和QA Co-AI,帮助开发者提升游戏质量和开发效率。该战略布局正值全球游戏市场快速增长期,预计2033年AI游戏市场规模将达280亿美元。新加坡数字产业发展局表示,此举将巩固该国作为区域AI创新中心的地位。

  • 美乘客疑拍到超清晰UFO 喷气后消失:网友认为是AI生成

    ​近日,一则关于美国乘客在航班上拍摄到超清晰不明飞行物(UFO)的视频在网络上引发了广泛关注和热议。据视频显示,这起事件发生在从拉斯维加斯飞往西雅图的航班上,一名乘客在万米高空意外捕捉到了令人震惊的画面:一个圆盘状飞行物以稳定轨迹飞行,随后突然加速并喷出蓝色尾焰,在短短0.5秒内完全消失于云层之中。 该视频迅速在网络上发酵,登上社交媒体热搜�

  • KTV用AI生成的MV惊现骷髅:顾客直呼“辣眼睛” 门店回应可切换

    ​近日,多名消费者在社交平台发帖吐槽魅KTV新上线的AI视频功能,称其生成的抽象画面严重破坏K歌体验。 走访多家魅KTV门店发现,部分门店已全面启用该AI系统。某门店工作人员透露,系统更新后所有歌曲默认播放AI生成视频,“但90%的顾客都会要求切换回原版MV,包厢服务人员可现场操作”。另一未更新系统的门店则表示,顾客仍可正常观看原唱MV。

  • 如何用3分钟精准计算AI大模型成本?避免生成一篇万字文章就超支?

    AI大模型成本控制指南:实测三步预算法+企业级避坑方案。文章揭露行业痛点:1)价格迷雾:各厂商计费规则差异大,长文本/多模态存在隐藏溢价;2)团队实测GPT-4生成20篇行业分析(50万字)实际账单超预算4倍。解决方案:通过AIbase计算器实现精准预测:①场景化选择自动加载计费规则;②输入需求实时生成动态成本矩阵;③智能规避四大隐性成本(长文本衰减补偿/区域差价预警等)。跨境电商案例显示,使用工具后成本降低60%。核心观点:在AI时代,成本控制能力已成为企业核心竞争力。

  • 从经验驱动转向智能驱动,AI为企业数智化转型注入新动能

    传统企业决策依赖管理者经验与直觉,存在主观性、信息不全面、数据处理滞后等问题,常导致决策偏差。人工智能技术通过大数据分析与智能算法,推动决策从“经验驱动”转向“数据驱动”,提升精准度与效率。启信慧眼等工具整合多维度数据,构建智能决策系统,助力企业规避风险、捕捉机遇,实现科学高效的数字化转型。

  • AI日报:即梦上线智能多帧功能;可灵2.1首尾帧升级;钉钉推语音识别大模型Fun-ASR

    AI日报栏目汇总近期AI领域重要进展:腾讯元宝接入DeepSeek V3.1提升智能助手能力;即梦AI推出多帧功能简化视频制作;可灵AI首尾帧功能升级效果提升235%;钉钉与通义实验室联合发布Fun-ASR语音识别大模型;腾讯CodeBuddy IDE国内版公测;Vercel发布AI Gateway简化模型调用;Anthropic整合Claude Code强化企业开发;阿里发布Mobile-Agent-v3突破GUI自动化;Qoder平台革新编程模式;清华团队GUAVA框架实现0.1秒3D化身生成;谷歌搜索新增AI Agent功能;VAST推出Tripo 3.0推动3D内容创作。

今日大家都在搜的词: