首页 > 见闻 > 关键词 > 人工智能最新资讯 > 正文

人工智能也搞歧视!研究发现AI生成的艺术作品存在种族、性别偏见

2020-12-29 14:15 · 稿源:站长之家

站长之家(ChinaZ.com)12月29日 消息:随着人工智能技术研究不断推荐,由算法生成的艺术作品的受欢迎程度也在持续增长。从创作绘画到发明新的艺术风格,基于人工智能的生成艺术已经在一系列的应用中展示。

富士通(Fujitsu)研究人员在一项新研究中,调查了偏见是否会渗透到用于创造艺术的人工智能工具中。根据模型,他们声称目前的人工智能方法没有考虑到社会经济的影响,并表现出明显的偏见。

人工智能,AI,人脑,未来

据悉,研究人员调查了使用人工智能生成艺术的学术论文、在线平台和应用程序,选择了专注于模拟现有艺术风格的例子。为了调查偏见,他们考虑了最先进的人工智能系统在各种艺术风格方面的训练成果,包括:

  • 艺术运动(文艺复兴时期的艺术、立体主义、未来主义、印象主义、表现主义);

  • 类型(风景、肖像、草图和插图);

  • 材料(木刻版画、雕刻、油漆);

  • 艺术家(柑橘猎人、玛丽卡萨特、文森特·梵高、古斯塔夫·多尔等等)。

研究人员通过使用一个称为“directed acrylic graphs”(dag)的因果模型分析表示,他们能够识别人工智能生成艺术品的相关方面,以及这些不同方面是如何相互影响的。

在一个案例中,他们发现DeepArt(注:这是一个让用户按照其他艺术家的风格重新绘制图片的平台),没有考虑到将费尔南德·莱热的立体派作品《螺旋桨》转化为未来主义风格的运动。

image.png

其中有些偏见比其他问题更有害。GoArt是一个类似DeepArt的平台,它将克莱曼婷·亨特的《黑矩阵女主角》的面部颜色从黑色改为红色,将其转化为表现主义风格。另一个AI生成的艺术工具,“Abacus”将拉斐尔和皮耶罗·迪·科西莫作品中留长发的年轻男性错当成了女性。

image.png

研究人员将这些问题归咎于用于训练生成人工智能模型的数据集失衡,他们指出,这可能受到数据集管理员偏好的影响。例如,研究中提到的一款应用“人工智能肖像”(AI Portraits)使用了4.5万幅文艺复兴时期的肖像画,其中大部分是白人。根据研究人员的说法,另一个潜在的偏差来源可能是标记过程中的不一致。不同的注释者有不同的偏好、文化和信念,这些可能反映在它们创建的标签中。

image.png

研究称,“在艺术流派(例如大量的照片vs少量的雕塑)、艺术家(例如大部分的欧洲艺术家vs少数的本土艺术家)、艺术运动(大量关于文艺复兴和现代艺术运动的作品,而不是用其它作品)等方面可能存在不平衡。另外,描述不同种族、外貌等信息也没有纳入数据集,因此造成了代表性偏见。

研究人员警告说,错误地建模或忽视某些微妙的信息,生成艺术可能会助长对过去社会、文化和政治方面的错误认知,并阻碍了解重要历史事件。

  • 相关推荐
  • 大家在看
  • 围棋国手柯洁再谈到人工智能:这辈子都战胜不了AI了

    近日,围棋国手柯洁谈到与围棋人工智能的关系:现在基本上都是跟AI训练,很少跟人训练了。不过AI都是冰冷的,所以很痛苦。

  • 公安部网安局:注意防范利用AI人工智能等新型诈骗手段

    昨日,公安部网安局发文提醒用户,应该注意防范利用AI人工智能等新型手段诈骗。公安部网安局称,AI诈骗常用手法包括了,合成声音、AI换脸等方式。

  • AI顶尖大牛朱松纯麾下暗物智能荣膺“最强人工智能TOP30”

    近日,知名人工智能专业媒体及产业服务平台机器之心公布了“「AI中国」机器之心2020年度榜单”。暗物智能科技(以下简称“暗物智能”)凭借出色的技术创新能力与优秀的商业落地成果,成功入选“最强人工智能TOP30”。

  • 小蚁入选科技独角兽百人团:以AI力量打造人工智能新高地

    2021年是“十四五”的开局年,强化国家战略科技力量是首要任务,科技创新成为核心驱动力。在产业变革的大背景下,针对500强及产业龙头企业的开放式创新场景和创新需求,上海市科技创业中心指导下,一度天使发起了“500强产业创新加速计划”,为持续围绕产业场景推动创新链和产业链融合,2021年1月17日,一度天使、RSC国际创新中心联合60+产业龙头、100+位科技独角兽重磅发布科技独角兽百人团,推出智慧城市、智能制造、汽车新四化?

  • 人工智能可以借助卫星找到地球濒危的大象

    从高空视角,只要一个物体够大,还是很容易辨别出来了。如今,在更高级的卫星和人工智能的帮助下,我们也可以从太空中看到大象。

  • 时趣荣获2020-2021「AI中国」机器之心人工智能年度奖项

    在21世纪的时间轴上,2020必将是载入史册的一年。在这风云变幻的这一年, AI与各行各业深度融合,在实体世界中体现出巨大价值,为科技强国战略注入了更大的发展动能。 近日,中国人工智能业内最具影响力的媒体及领先的生态服务平台机器之心发布「AI 中国」机器之心 2020 年度榜单,时趣作为中国人工智能产业智能营销先锐企业,入选了AI中国·最具商业价值解决方案TOP30、AI中国·最具产业价值技术应用落地案例TOP30。 与往届

  • 人工智能热之下的冷思考 | 2020年度全球十大人工智能治理事件出炉

    新一代人工智能技术在全球蓬勃兴起,为数字经济发展注入新动能,深刻改变着社会生产与生活方式。与此同时,如何在技术变革浪潮中主动治理、有效治理,发展负责任的人工智能,成为全球共同的时代议题。 2021 年 1 月 18 日,旷视人工智能治理研究院携手权威研究机构人民智库联合发布《 2020 年度全球十大人工智能治理事件》,回顾并分析了过去一年中最具理论价值、实践价值、新闻价值、以及研究价值的人工智能大事,希望以此推动多?

  • 科学家正开发新人工智能设备,要来帮大家戒烟了!

    科学家们正在开发一种人工智能设备“Level”,通过预测人们何时有烟瘾进而帮助人们戒烟。据悉,Level系统可以精确监控吸电子烟的行为,它被设计用来帮助使用者控制他们的烟瘾或减少他们吸入的尼古丁的量。

  • 讯飞扫描词典笔,一款好用的人工智能学习产品

    近几年,随着科技的发展,人工智能技术逐渐走进了人们生活的方方面面,包括一些孩子的学习之中。现在当你走进一些中小学时,经常会看见一些人工智能产品的身影,其中最受欢迎的产品之一便是讯飞扫描词典笔了。一、续航强劲 携带方便讯飞扫描词典笔是科大讯飞在去年双十一期间发布的一款主要面向小学、初中和高中的A.I.+方向的智能硬件产品。在外观和配置上,它的机身整体呈扁平状,重量也仅有78克,携带起来非常方便。机身的背板是

  • 高通人工智能应用创新大赛颁奖典礼线上隆重举行 ,AI应用落地大考圆满收官!

    近几年来,AI不断加速产业的智能化发展,在医疗、卫生、交通、工业、教育等行业有让人惊喜的落地应用。AI从技术、应用场景到生态架构,正茁壮发展。在全球抗击新冠疫情的战役中,AI科技是其中重要的参与者,大量的AI技术应用到了这次大规模公共卫生事件中。「2020年,AI应用落地大考仍在继续,开发者如何抓住AI技术应用浪潮,占据先机?」为此,由高通公司(Qualcomm)、中国智谷·重庆经开区、CSDN、Testin云测、OPPO、极视角、中

  • 云从科技荣膺最强人工智能TOP30

    近日国内领先的人工智能专业媒体和产业服务平台机器之心公布了「AI中国」机器之心 2020 年度榜单云从科技凭借技术创新能力与商业落地成果荣获最强人工智能TOP30这也是云从科技连续第四年入选机器之心年度榜单依托于人机协同操作系统云从科技从一家计算机视觉企业到如今登顶最强人工智能TOP30榜单在逐渐红海化的中国AI市场开辟全新的发展道路这背后离不开以周曦为核心的创始团队持续十数年的技术积

  • 厉害了!这个人工智能模型可将文本转换成生动的图像

    如今人工智能越来越强大,比如可以实现生成音乐、改变图片艺术风格等等。最近,人工智能非营利组织OpenAI发布了一个名为DALL-E的神经网络,可以将文本转换成与内容相关的图像。

  • 这个人工智能系统竟可预测精神病,诊断准确性与医生相当

    人工智能已经越来越多应用到医疗诊断情景中,比如站长之家曾报道的谷歌AI系统可以辅助医生识别乳腺癌。最近,科学家又开发出了一个可以预测高精神病发作的人工智能系统。

  • 有“同理心”的人工智能机器人来了,可预测“同伴”的意图

    哥伦比亚大学的研究人员开发出了一种机器人,它可以通过视觉预测另一台机器的行为,从而显示出“一丝同理心”。研究人员首先对一个机器人(A)编程,把它放在放在3英尺 x2英尺的围栏中,使其朝着投射到地板上的任何绿色圆圈移动。有时它会直接移动到摄像头发现的绿色圆圈,但如果圆圈被障碍物隐藏了,它就会滚向另一个圆圈,或者根本不移动。

  • 通过分析6000部国产剧,他们做了这个自动剧本生成器

    看了十几年的烂剧,他们终于忍不住要对它们下手了!近日,果壳的数据可视化团队DATAMUSE推出了一个新项目——国产烂剧制造厂。该项目通过分析豆瓣上6000部国产电视剧,通过图表的形式展现了国产电视剧中高频桥段以及不同年代演员出演电视剧的质量情况等。

  • 41%的IT领导者认为,到2030年人工智能将取代他们的工作

    IT行业领导者认为这个行业的未来会是怎样的?什么样的威胁会在未来最普遍?云安全公司Trend Micro最近进行了一项新的研究,显示超过五分之二(41%)的IT领导者认为,到2030年,人工智能将取代他们的角色。

  • 华为将在许昌建设中原人工智能计算中心,计划投资15亿元

    根据协议,许昌市与华为公司将充分发挥各自优势,建设基于自主创新的中原人工智能计算中心,构建公共算力服务平台、应用创新孵化平台、产业聚合发展平台和科研创新人才培养平台,打造具有全球影响力的中原地区人工智能创新高地。该中心计划投资15亿元,将分两期建设。

  • 科技赋能“健康中国” “2020AIIA杯人工智能医疗大赛”冠军出炉

    产前超声筛查步骤从 23 步缩减至 1 步,基于5G网络的智能化超声机器人代替医生远程完成超声扫查和诊断…… 1 月 15 日上午,以“科技赋能生命”为主题,由中国人工智能产业发展联盟、浙江大学医学院附属第一医院、杭州未来科技城管委会主办,浙江省健康服务业促进会承办的“2020AIIA杯人工智能医疗大赛”决赛在杭州成功举行。 近年来,随着人工智能、大数据、5G等技术与医疗行业深度融合,人工智能被广泛应用于医疗领域已成为现?

  • 人工智能企业眼控科技完成新一轮数亿元融资,恒信华业、徐工投资领投

    近日,聚焦在交通安全领域的人工智能企业眼控科技对外宣布完成新一轮数亿元融资,由恒信华业、徐工投资领投,南京中益仁投资等机构跟投。本轮融资将用于公司核心战略业务的产品技术研发、市场拓展、人才招募等方面。上海眼控科技股份有限公司成立于2009 年,是一家集计算机视觉识别与深度学习技术研发应用于一体的全球性人工智能科技企业,致力于用人工智能技术提供更安全更高效的交通安全解决方案。目前,眼控科技在交通安全监管?

  • 机器之心2020年度榜单发布 | 明略科技入选最强人工智能公司TOP30

    近日,备受国内外人工智能行业广泛关注与重视的「AI中国」机器之心 2020 年度评选榜单正式发布,作为我国人工智能产业的风向标,机器之心「Synced Machine Intelligence Awards」年度奖项评选活动自 2017 年设立以来已连续举办至第四届,是目前国内人工智能界规模最大、评选最权威的年度奖项,已成为我国人工智能产业的风向标。明略科技成功凭借领先的技术实力入选AI中国 · 最强人工智能公司TOP30 榜单。该榜单主要关注人工智能企

  • 参与评论
文明上网理性发言,请遵守新闻评论服务协议
  • 热门标签

热文