首页 > 业界 > 关键词  > 人工智能最新资讯  > 正文

世卫组织概述了健康人工智能的伦理原则

2021-07-01 08:35 · 稿源: cnbeta

据外媒The Verge报道,世界卫生组织日前发布了一份指导文件,概述了人工智能在健康领域的道德使用的六个关键原则。20位专家花了两年时间制定该指南,这标志着关于医疗环境中人工智能伦理的第一个共识报告。

`77H)B3X{DSO2HUPD81(]27.png

该报告强调了健康人工智能的前景,以及其帮助医生治疗病人的潜力--特别是在资源不足的地区。但它也强调,技术不是解决健康挑战的快速方法,特别是在中低收入国家,政府和监管机构应仔细审查人工智能在医疗领域的使用地点和方式。

世卫组织表示,它希望这六项原则能够成为政府、开发商和监管机构处理该技术的基础。专家们提出的六项原则是:保护自主权;促进人类安全和福祉;确保透明度;促进问责制;确保公平;以及促进具有响应性和可持续性的工具。

有几十种潜在的方式可以将人工智能应用于医疗保健。有一些正在开发的应用,使用人工智能来筛选医疗图像,如乳房X光检查;扫描病人健康记录以预测他们是否可能生病的工具;帮助人们监测自己的健康的设备;以及帮助跟踪疾病爆发的系统。在人们无法接触到专业医生的地区,工具可以帮助评估症状。但是,当它们没有被仔细开发和实施时,它们可能--在最好的情况下--没有实现其承诺。在最坏的情况下,它们可能会造成伤害。

在过去的一年中,一些隐患是显而易见的。在对抗COVID-19大流行病的争夺中,医疗机构和政府转向人工智能工具寻求解决方案。然而,这些工具中的许多都具有世卫组织报告所警告的一些特征。例如,新加坡政府承认,一个联系人追踪应用程序收集的数据也可用于刑事调查--这是一个 "功能蠕变 "的例子,即健康数据被重新利用,超出了原来的目标。大多数旨在根据胸部扫描检测COVID-19的人工智能程序都是基于糟糕的数据,最终并没有用。美国的医院在测试该程序之前使用了一种旨在预测哪些COVID-19患者可能需要重症监护的算法。

"紧急情况并不证明部署未经证实的技术是合理的,"该报告说。

报告还承认,许多人工智能工具是由大型私人技术公司(如Google)或公共和私营部门之间的伙伴关系开发的。这些公司拥有建立这些工具的资源和数据,但可能没有动力为自己的产品采用拟议的道德框架。他们的重点可能是利润,而不是公共利益。“虽然这些公司可能会提供创新的方法,但人们担心他们最终可能会在政府、供应商和病人面前行使过多的权力,”报告写道。

医疗领域的人工智能技术仍然是新的,许多政府、监管机构和卫生系统仍在摸索如何评估和管理它们。世卫组织的报告说,在方法上深思熟虑和有分寸,将有助于避免潜在的伤害。“技术解决方案的吸引力和技术的承诺可能会导致高估利益,否定人工智能等新技术可能带来的挑战和问题。”

以下是世卫组织指南中六项道德原则的细目,以及它们为何重要的原因。

保护自主权:人类应该对所有健康决定进行监督并拥有最终决定权--这些决定不应该完全由机器做出,医生应该能够在任何时候推翻它们。未经同意,人工智能不应该被用来指导某人的医疗护理,而且他们的数据应该受到保护。

促进人类安全。开发人员应持续监测任何人工智能工具,以确保它们按规定工作,不会造成伤害。

确保透明度。开发者应该公布有关人工智能工具设计的信息。对这些系统的一个经常性批评是,它们是 "黑盒子",研究人员和医生很难知道它们是如何做出决定的。世卫组织希望看到足够的透明度,以便用户和监管机构能够充分审计和理解它们。

培养问责制。当人工智能技术出现问题时--比如工具做出的决定导致病人受到伤害--应该有机制来确定谁应该负责(比如制造商和临床用户)。

确保公平。这意味着要确保工具有多种语言版本,并在不同的数据集上进行训练。在过去的几年里,对普通健康算法的仔细审查发现,一些算法中存在种族偏见。

推广可持续发展的人工智能。开发者应该能够定期更新他们的工具,如果一个工具看起来没有效果,机构应该有办法进行调整。机构或公司也应该只引进可以修复的工具,即使是在资源不足的卫生系统。

  • 相关推荐
  • 大家在看
  • 多城共同点亮人工智能算力网络,赋能人工智能产业发展

    [中国,深圳, 2021 年 9 月 25 日] 在华为全联接 2021 上,中国科学技术信息研究所(简称“中信所”)、AITISA(新一代人工智能产业技术创新战略联盟)、鹏城实验室联合发布《人工智能计算中心发展白皮书2.0——从人工智能计算中心走向人工智能算力网络》(简称“白皮书2.0”)。深圳、武汉、西安、成都、北京、上海等 21 个城市共同点亮“人工智能算力网络”,通过“一网络”实现“算力、数据、生态”三汇聚,以“大算力+大数据?

  • 人工智能可以评估人类心理健康

    一个跨学科合作项目进行的一项研究表明,人工智能可以从问卷调查和大脑扫描中检测出对心理健康有参考价值的信号,而不需要专家的评估。研究人员利用了英国生物银行的优势,这是世界上最大和最全面的生物医学数据库之一,其中包含了英国人口详细和安全的健康相关数据。这项工作发表在开放性期刊《GigaScience》上。精神健康问题在全球范围内一直在增加,世卫组织确定在2007年至2017年期间,精神健康状况和药物滥用疾病增加了13%。这

  • 信也科技参加人工智能算法性别平等研讨会,共探促进之道

    9月27日,“促进人工智能算法性别平等”报告发布会与政策研讨会在上海举行。这场由马娜数据基金会主办的,探讨如何促进人工智能算法中的性别平等的会议,召集了联合国妇女署驻华、上海浦东新区妇女联合会等人员出席。信也科技集团算法科学家王春平也参与了其中。作为金融科技企业信也科技集团的代表,也是在人工智能领域取得优秀成就的女性从业者,王春平博士在会上阐述了其对于人工智能在研究、应用中对于数据伦理、性别平等的观?

  • 研究人员用人工智能预测交通事故发生前的情况

    研究人员在历史车祸数据、道路地图、卫星图像和GPS上训练了一个深度模型,以实现高分辨率的车祸地图,这可能带来更安全的道路环境。今天的世界是一个大迷宫,由一层层的混凝土和沥青连接起来,让我们有机会通过车辆导航。我们已经体验了许多与道路有关的技术进步,但道路安全措施还没有完全跟上。为了领先于车祸固有的不确定性,来自麻省理工学院计算机科学与人工智能实验室(CSAIL)和卡塔尔人工智能中心的科学家们开发了一套深度

  • IBM带来气象数据和人工智能 以帮助实现可持续发展目标

    据外媒Techspot报道,如果你最近读过很多关于企业界变化的文章,那么你无疑已经开始听到一些叫做"CSR"(企业社会责任的简称)和"ESG"(环境、社会和公司治理的首字母缩写)的说法。似乎是突如其来的,各种类型和规模的组织都在宣传和推广他们自己在这些领域的目标,并谈论他们在这方面取得的进展。与CSR和ESG相关的话题并不是全新的,但由于社会变革、日益增长的环境问题和监管要求,它们肯定已经得到了更多的关注和重视。特别是,

  • 数据标注师:站在了人工智能风口,却为5K月薪挣扎?

    上个月,特斯拉首席执行官马斯克表示,将在明年推出“Tesla Bot”人形机器人原型,以从事人们不喜欢做的危险、重复性或枯燥的工作。该计划一经发布便引起了广泛讨论,国外媒体的焦点,放在了安全性上。而在国内,隐藏在人工智能产业链中一群人“小人物”却开始浮出水面,并被舆论聚焦。

  • NEC联合郑大一附院首发“人工智能辅助内镜检查质控系统”

    近日,NEC中国研究院联合郑州大学第一附属医院(郑大一附院)消化病院在中关村国际技术交易大会上发布了基于自行研发的最先进图像识别技术的“人工智能辅助内镜检查质控系统”。该系统从 2800 余项参选新技术中经过六轮专家评审与甄选后,成功入选了《 2021 中关村国际技术交易大会-百项国际技术交易创新项目榜单》。中关村国际技术交易大会作为 2021 中关村论坛的重要板块之一,聚焦高质量科技成果项目、以及新技术新产品新需求,邀

  • 科大讯飞胡国平:大浪淘沙后,人工智能规模化将是一门持续的生意

    【TechWeb】近日,科大讯飞高级副总裁、研究院院长胡国平2021全球人工智能产品应用博览会提出,当前数字化浪潮席卷各行各业,人工智能、大数据与云计算等新技术群落的发展,带来新一代生产力下的生产关系变革。胡国平将人工智能赋能数字化转型比喻为“拿着锤子找钉子”,而其中重点就在于打造依托场景的人工智能数字化应用。“在财务、会议、生产、营销、客服等领域,目前我们的人工智能技术都有极为广阔的应用空间,助力企业数字?

  • “融新汇智 竞促发展” 第三届中国人工智能大赛即将启动

    新一代人工智能正在全球蓬勃兴起,已公认是科技革命和产业变革的重要驱动力量且“头雁”效应显著。

  • Gartner:33%的技术提供商在两年内对人工智能的投资将达到100万美元以上

    【TechWeb】9月30日消息,Gartner最近一项新调研发现,三分之一拥有人工智能(AI)技术计划的技术和服务提供商企业机构表示,他们在未来两年对人工智能技术的投资将达到100万美元以上。绝大多数将人工智能技术作为主要投资领域的受访者(87%)认为,从现在起到2022年,全行业对人工智能的投资将以中等至快速的速度增长。与云和物联网等其他新兴技术领域相比,人工智能技术的平均投资金额位居第二。投资于人工智能的企业机构受访者?

这篇文章对你有价值吗?

  • 热门标签

热文

  • 3 天
  • 7天