首页 > 业界 > 关键词 > 算法最新资讯 > 正文

研究人员警示:人工智能算法可以影响人们的决定 需就算法的影响进行公共教育

2021-05-02 00:16 · 稿源:cnbeta

在一系列新的实验中,人工智能(A.I.)算法能够影响人们对虚构的政治候选人或潜在的浪漫伴侣的偏好,这取决于建议是明确的还是隐蔽的。西班牙毕尔巴鄂德乌斯托大学的Ujué Agudo和Helena Matute于2021年4月21日在开放性期刊PLOS ONE上发表了这些发现。

从Facebook到谷歌搜索结果,许多人每天都会遇到人工智能算法。私人公司正在对其用户的数据进行广泛的研究,产生对人类行为的见解,而这些见解是不公开的。学术社会科学研究落后于私人研究,关于人工智能算法如何塑造人们的决定的公共知识是缺乏的。

为了说明问题,Agudo和Matute进行了一系列实验,测试人工智能算法在不同环境中的影响。他们招募参与者与那些展示虚构的政治候选人或在线约会候选人照片的算法进行互动,并要求参与者表明他们会投票给谁或给谁留言。这些算法明确地(如 "90%的兼容性")或隐蔽地(如比其他候选人更经常地展示他们的照片)促成一些候选人当选。

总的来说,实验表明,算法对参与者决定投票给谁或给谁留言有重大影响。对于政治决定,明确的操纵对决定有很大影响,而隐蔽的操纵则没有效果。对于约会的决定,则出现了相反的效果。

研究人员推测,这些结果可能反映了人们在约会等主观问题上更喜欢人类的明确建议,而人们在理性的政治决策上可能更喜欢算法建议。

鉴于他们的发现,作者表示支持旨在提高人工智能可信度的倡议,如欧盟委员会的《可信人工智能伦理准则》和DARPA的可解释人工智能(XAI)计划。不过,他们还是提醒说,需要更多公开的研究来了解人类对算法的脆弱性。

同时,研究人员呼吁努力教育公众,让他们了解盲目信任算法建议的风险。他们还强调,需要围绕驱动这些算法的数据的所有权进行讨论。

作者补充说:"如果像我们这样一个虚构的、简单的算法可以在没有建立参与者的实际定制档案(并在所有情况下使用相同的照片)的情况下实现这样的说服力,那么一个更复杂的算法,如人们在日常生活中与之互动的那些算法,当然应该能够施加更强大的影响。"

这篇文章对你有价值吗?

  • 相关推荐
  • 大家在看
  • 人工智能算法帮助揭开量子系统的物理学基础

    来自布里斯托尔大学量子工程技术实验室(QETLabs)的科学家们开发了一种算法,为量子系统的基础物理学提供了宝贵的见解:为量子计算和传感的重大进展铺平了道路,并有可能翻开科学研究的新一页。在物理学中,粒子系统及其演变是由数学模型描述的,需要理论论证和实验验证的成功互动。更为复杂的是对粒子系统在量子力学水平上相互作用的描述,这通常是用哈密尔顿模型来完成的。由于量子态的性质,从观测中制定哈密顿模型的过程变得?

  • 欧盟起草的人工智能政策旨在控制大技术

    周三,欧盟宣布了新的人工智能条例草案,限制了政府和企业如何使用人工智能在道德上更加可疑的方面。积极地试图监管人工智能用于邪恶的用途,欧盟的规则草案将禁止"人工智能系统被认为是对人们的安全、生计和权利的明显威胁。"拟议的规则将对各种使用案例产生深远的影响,包括自动驾驶汽车。据报道,苹果正在研发一款"苹果汽车",这是一款自动驾驶电动车,预计将于2024年至2028年期间推出。据报道,这些政策还将对执法人工智能进行

  • 人工智能助力因材施教——区域教育信息化创新实践论坛”在厦门举办

    4月23日,第79届中国教育装备展示会盛大启幕。同期,由中国教育电视台主办、科大讯飞承办的“人工智能助力因材施教——区域教育信息化创新实践论坛”在厦门圆满召开。来自人工智能领域的教育和科技专家,各地教育管理者、一线工作者共聚一堂,聚焦未来教育发展趋势,交流区域教育信息化实践经验,探究乡村教育振兴路径,为发展更加公平、更高质量的教育凝心聚智。中国教育电视台全媒体中心主任闫勇,科大讯飞股份有限公司高级副总?

  • 字幕投屏、快速出稿 人工智能加成下的会议新模式

    跟随讲话内容实时呈现字幕,这种以前只在视频剪辑才能看到的现象,正在视频会议以及更多的会场上演。字幕以外,会议内容同时会以投屏形式在会场/分会场大屏幕和线上进行呈现,方便所有与会成员准确获取会议信息。这些场景正是人工智能与会议管理相结合的典型案例,是语音识别、语义理解、机器翻译等AI能力的基础应用。精准识别会议内容目前,语音识别技术普遍采用端到端(CTC)语音识别框架和端点检测(VAD)技术,搭配基于Attenti

  • 明略科技亮相2020中国人工智能产业年会 解读吴文俊人工智能技术发明一等奖成果

    2021 年 4 月 10 日- 12 日,中国人工智能学会主办的吴文俊人工智能科学技术奖十周年颁奖盛典暨 2020 中国人工智能产业年会成功举办。明略科技,作为第十届吴文俊人工智能科学技术发明一等奖获得者,受邀参会。在主论坛和智能系统专题论坛上,明略科技集团首席科学家、明略科学院院长吴信东,对此次获奖成果进行深度解读,就HAO智能理论和知识图谱的自动构建发表主题演讲,并与来自学术界、产业界的权威学者和顶级专家共同探讨人工

  • 再携手民生银行,国双产业人工智能赋能数字金融

    近日,国双签约民生银行智能法律服务二期项目,双方将基于一期建设成果与应用以来的数据与知识积累,进一步升级诉讼智库;同时打造前沿的智能化服务产品,提高民生银行法律智能化水平。国双产业人工智能再度收获场景化落地硕果,护航数字金融稳健发展。数智技术创造法律服务新能力银行诉讼智能化企足而待银行融通各行各业,是市场经济活动中最活跃的参与者与现代经济正常运行的核心,深刻影响着社会经济活力。在我国经济新常态下,?

  • 人工智能进行时—王者荣耀助力产学研 共享AI新生态

    生物的进化的速度要以百万年的时间来计算,而人工智能却在以肉眼看得见的速度进化。半个世纪前,人类需要使用一部重达 1270 公斤的电脑对抗国际象棋大师时,不会想到在半个世纪后的王者荣耀中,AI可进化至职业电竞水平,这就是王者荣耀的AI——「绝悟」,「绝悟」从离线的玩家对局样本进行模仿学习,为了突破上限,又采用了AI自对弈的强化学习,然后在“绝悟挑战”中测试强度。王者荣耀执行制作人,腾讯天美L1 工作室总经理黄蓝枭?

  • 欧盟正考虑禁止将人工智能用于大规模监控和社会信用评分

    欧盟正在考虑禁止将人工智能用于多种目的,包括大规模监控和社会信用评分。这是根据一份泄露的提案,该提案在预计下周正式宣布之前已经在网上流传。如果该提案草案获得通过,欧盟将对人工智能的某些应用采取强硬立场,使其与一些国家区分开来。一些用例将以类似于欧盟在GDPR立法下对数字隐私的监管方式进行监管。例如,成员国将被要求成立评估委员会,对高风险的人工智能系统进行测试和验证。而在欧盟开发或销售被禁止的人工智能软

  • Alphabet X研发团队希望将人工智能引入电网 让其可视化

    谷歌母公司Alphabet一直在为电网开展 "登月行动",其X研发团队的一个秘密项目旨在找出如何使电力使用比现在更稳定、更绿色。这项研究在白宫领导人气候峰会上被披露,在过去三年中一直在进行。X研发团队开始是Google X,然后在谷歌创建Alphabet作为其总体母公司时被剥离出来成为一个独立的部门。X研发团队并不打算自己架设电线和安装太阳能电池板和风力涡轮机。相反,它正在研究对电网更全面的了解是否有助于向环境稳定的资源过渡。

  • 腾讯教育推出“光合计划”2.0:将助力培养1万名人工智能教师

    共建100 个职业的体系化课程、助力行业开发1000 款数字化教育应用、助力培养10000 名人工智能教师——4 月20 日,在第二届MEET教育科技创新峰会上,腾讯高级执行副总裁、云与智慧产业事业群总裁汤道生宣布,腾讯教育将携手教育管理部门、各级院校、教育机构及合作伙伴,推出“光合计划”2.0。通过设定新的“百千万”的目标,腾讯教育将推进智慧教学的生态建设,携手行业共建教育信息化未来。(腾讯高级执行副总裁、云与智慧产业事业

  • 海信一举斩获三项“吴文俊人工智能科学技术奖”

    日前,中国智能科学技术最高奖“吴文俊人工智能科学技术奖”十周年颁奖盛典在北京举行,青岛有 4 个项目荣获科技进步奖, 1 个项目获得企业技术创新工程项目奖,海信独占其中三项。其中,海信网络科技公司参与的“多源高维数据协同表征及应用”项目获科技进步奖一等奖,海信电子公司参与的“语义驱动的视频智能分析及适配传输关键技术与应用”项目获科技进步奖二等奖,海信视像公司、山东大学和山东科技大学共同参与的“跨媒体知识

  • 联邦贸易委员会警告正计划打击有偏见的人工智能技术

    美国联邦贸易委员会警告各公司不要使用有偏见的人工智能技术,因为它们可能违反消费者保护法。一篇新的博客文章指出,人工智能工具可以反映出 "令人不安的"种族和性别偏见。如果这些工具被应用于住房或就业等领域,虚假宣传为无偏见,或以欺骗性方式收集的数据进行训练,该机构表示它可以进行干预。访问购买:爱奇艺周年庆 - 京东联名年卡5.5折仅138元联邦贸易委员会律师Elisa Jillson写道:"在急于拥抱新技术的时候,要小心不要过

  • 相芯科技亮相国际人工智能展,多款AR解决方案惊艳获拥趸

    4 月 11 日,由工信部和商务部支持、中国电子器材有限公司组织的 2021 中国(深圳)国际人工智能展览会圆满落幕。作为中国电子信息博览会旗下的人工智能专业展会,该展会吸引了华为、荣耀、中国移动、相芯科技等科技龙头和新锐创企齐聚一堂,集中展示了大量智能制造解决方案和人工智能技术应用等硬核科技。相芯科技作为国内XR创新应用的头部玩家,在人工智能展览会上展示了AR视频特效、虚拟化身与智能虚拟人技术,凭借生动有趣的AR视

  • 拒绝职场焦虑 讯飞智能录音笔H1让你赢在人工智能时代

    智能录音笔正在悄悄成为职场人的新刚需。近几年,科大讯飞陆续推出了一系列智能录音笔,在高中低端市场均表现优异,驱动录音笔进入智能转写时代。近日,讯飞乘胜追击,推出新品——讯飞智能录音笔H1,旨在用A.I.帮助职场人成功进阶。职场角色随心切换 自如应对人工智能时代与传统录音笔不同,讯飞智能录音笔背靠讯飞强大的A.I.语音识别技术实力,集录音、转写、翻译等多种功能于一身,不但是记者、讲师、律师等专业人员的必备品,?

  • 时趣CEO张锐、CTO赵伟受邀出席北大光华“人工智能与社会科学系列讲座”

    4 月1 日,北京大学光华管理学院人工智能与社会科学交叉学科横向发展平台举办了“人工智能与社会科学系列讲座”,邀请行业内领先的AI大数据企业,与北大光华学院师生面对面交流,增加对AI的实践、认识和理解。时趣创始人兼CEO张锐、CTO赵伟受邀出席了北京大学光华管理学院“人工智能与社会科学系列讲座”,以“时趣洞察引擎驱动营销产业新变革”为主题进行了分享,并与线下线上嘉宾就AI大数据营销、品牌创意管理和品牌消费者洞察等

  • Facebook推出新的迷你播放器 可在Facebook应用中播放Spotify的内容

    Facebook上周宣布扩大与流媒体音乐服务Spotify的合作,这将带来一种直接在Facebook应用中收听音乐或播客的新方式,它称之为Project Boombox。今天,这两家公司正在通过一个新的 "迷你播放器 "体验推出这一整合,允许Facebook用户通过iOS或Android上的Facebook应用从Spotify进行流媒体播放。这项功能将对Spotify的免费用户和高级用户开放。迷你播放器本身是Spotify应用内已经支持的社交分享选项延伸。现在,当Spotify用户在收听他们

  • 人走茶凉?Facebook将删除所有带特朗普声音的内容

    当地时间3月31日,Facebook删除了一段特朗普的采访视频,并表示该平台和Instagram上发布的“带有特朗普声音”的内容都将被删除。

  • 腾讯汤道生:腾讯将助力培养 10000 名人工智能教师

    4月20日,第二届MEET教育科技创新峰会在北京举办。腾讯公司高级执行副总裁、云与智慧产业事业群总裁汤道生在《深耕智慧教育,助力学习者“生长”》的主题演讲中表示,经过十年发展,教育信息化建设正在从“工具驱动”,转变为“数据驱动”:从单一的教学工具迈向以数据应用提升整体教学能力、助力个性化发展的新阶段。汤道生强调,腾讯教育在其中始终坚持做好“数字化助手”的角色:截至目前在全国落地了10多万所标杆院校,服务了1000多个教

  • Facebook与Gucci联手对造假者提起诉讼

    据外媒Neowin报道,Facebook和Instagram不仅是数百万人使用的平台,也是全球各大公司的广告和商业中心。这就是该公司会定期更新其工具,改善广告机制,为利用其平台的组织提供价值的原因。在同一领域,Facebook现在已经与奢侈时尚品牌Gucci联手,对一个国际造假者提起诉讼。简而言之,一家造假企业利用Facebook和Instagram推广和销售带有Gucci品牌的假冒产品,并使用多个不同的账户来规避Facebook的执法政策。因此,Facebook现在与

  • 继AWS、华为之后 Facebook今天也宣布加入Rust基金会

    继 Amazon Web Services、谷歌、华为、微软和 Mozilla 之后,Facebook 今天也宣布加入 Rust 基金会。Facebook 是加入该基金会的最新科技巨头,并承诺将会加大对 Rust 的采用。这个编程语言最初是由 Mozilla 开发的,相比较 C 和 C++ 更快速、更安全,因此受到了业内的广泛赞誉。Rust 对于编写驱动程序和编译器等组件很有吸引力。Rust 基金会于今年 2 月份成立,得到了 AWS、谷歌、华为、微软和 Mozilla 的支持。微软正在为Windows?

  • 热门标签

热文

  • 3 天
  • 7天