首页 > 业界 > 关键词  > 人工智能最新资讯  > 正文

欧盟正考虑禁止将人工智能用于大规模监控和社会信用评分

2021-04-15 07:36 · 稿源: cnbeta

欧盟正在考虑禁止将人工智能用于多种目的,包括大规模监控和社会信用评分。这是根据一份泄露的提案,该提案在预计下周正式宣布之前已经在网上流传。如果该提案草案获得通过,欧盟将对人工智能的某些应用采取强硬立场,使其与一些国家区分开来。一些用例将以类似于欧盟在GDPR立法下对数字隐私的监管方式进行监管。

例如,成员国将被要求成立评估委员会,对高风险的人工智能系统进行测试和验证。而在欧盟开发或销售被禁止的人工智能软件的公司--包括那些位于世界其他地方的公司--可能会被处以最高达其全球收入4%的罚款。

根据一份草案副本,该法规草案包括:

禁止人工智能用于 "无理由的监控",包括直接跟踪物理环境中的个人或从其他来源汇总数据的系统。

禁止人工智能系统创建社会信用评分,即根据社会行为或预测的人格特征来判断一个人的可信度。

在公共场所使用面部识别等 "远程生物识别系统"的特别授权。

当人们与人工智能系统互动时,需要发出通知,除非 "从使用环境和背景来看,这是显而易见的"

对 "高风险"的人工智能系统进行监督,包括那些对安全构成直接威胁的系统,如自动驾驶汽车,以及那些很有可能影响人们生活的系统,如用于工作招聘、司法裁决和信用评分的系统。

在高风险系统投入使用前对其进行评估,包括确保这些系统可以向人类监督人员解释,并确保这些系统是在经过测试的 "高质量"数据集上进行训练的,以防止出现偏差。

成立一个由各成员国代表组成的 "欧洲人工智能委员会",帮助委员会决定哪些人工智能系统算作 "高风险",并提出修改禁令的建议。

也许该文件最重要的部分是第4条,它禁止人工智能的某些用途,包括大规模监控和社会信用评分。不过,数字权利组织和政策专家对草案的反应是,这一部分需要改进。

"对要禁止的人工智能系统的描述是模糊的,而且充满了不明确的语言,会造成严重的漏洞空间,"Access Now的欧洲政策分析师Daniel Leufer表示,这部分内容 "远远没有达到理想的程度"。

Leufer指出,禁止导致人们 "行为、形成意见或作出不利于他们的决定 "的制度是无益的模糊。国家法律究竟如何决定一项决定是否对某人不利?另一方面,Leufer说,禁止人工智能用于大规模监控的规定 "太宽松了"。他补充说,禁止AI社会信用体系基于"可信度"的定义也过于狭隘。社会信用系统不需要评估某人是否值得信赖来决定他们是否有资格享受福利待遇等事情。

非营利组织IAPP(国际隐私专业人员协会)副总裁Omer Tene评论说,该法规 "代表了布鲁塞尔对新技术和创新的典型做法。当有疑问时,就进行监管。" Tene表示,如果提案获得通过,将建立一个 "庞大的监管生态系统",不仅会吸引人工智能系统的创造者,还将吸引进口商、分销商和用户,并建立一些国家和欧盟范围内的监管委员会。

目前还不知道在欧盟政策制定者为4月21日的正式宣布做准备时,这份提案草案可能会有什么变化。不过该法规一旦提出,就会在欧洲议会议员的反馈意见后进行修改,并必须在各成员国分别实施。

举报

  • 相关推荐
  • “人工智能强化学习可持续发展计划”发布,“教育普惠+标准共建”助力全球人工智能体系构建

    6月11日,第二届"一带一路"科技交流大会人工智能赋能可持续发展论坛在成都举行。腾讯联合多家机构发起"人工智能强化学习可持续发展计划",包含AI教育普惠和强化学习标准共建两大板块。该计划将面向全球高校开放《人工智能通识课》和《人工智能强化学习专业课》教学资源,助力构建高质量AI教学体系。同时,腾讯开悟人工智能全球公开赛颁奖典礼作为"学赛研产"联动的重要环节,吸引了19个国家和地区的近400所高校队伍参赛。2025年赛事将首次联合全国高校计算机能力挑战赛,围绕AI前沿产业真实场景设置赛题。腾讯还通过"青云计划"为全球顶尖AI人才提供就业机会,推动人才与产业高质量发展。北京大学等机构牵头制定了强化学习系统系列技术标准,填补了领域内标准空白。

  • 师出有名:华城瑞讯首创人工智能平台 共建数智企服生态

    华城瑞讯创始人高瑞先拜访中国中小企业协会,双方围绕小微企业数智化服务、企服咨询师行业标准建设等议题展开交流。协会成立于2006年,致力于服务中小企业发展。华城瑞讯自主研发的"22°智·企服"Agents系统获高度认可,其融资服务模块可将融资周期缩短60%,成本降低50%。公司计划推出企服咨询师培训计划,建立OMO服务模式,整合银行、律所等专业资源。目前"22°智·融资"Agent已促成近20个千万级融资项目落地,覆盖智能制造、数字科技等领域。未来将共建数智企服新生态,在全国重点城市增设服务空间,助力小微企业在数字经济浪潮中实现跨越式发展。

  • 微算法科技(NASDAQ:MLGO)将人工智能驱动的任务调度策略与边缘计算区块链集成,增强物联网系统稳定性

    物联网(IoT)技术快速发展,边缘计算成为解决海量数据处理的关键方案。微算法科技(NASDAQ:MLGO)创新性地将AI驱动的CO-ETS任务调度策略与区块链技术结合,构建了智能、安全、高效的物联网任务调度系统。该系统通过模拟棕熊觅食行为的优化算法,动态调整任务分配,最小化能耗并最大化执行效率;同时利用区块链技术确保任务调度的透明性和不可篡改性。该方案可广泛应用于智慧城市、工业物联网和智能家居等领域,显著提升系统性能和安全性,为物联网发展带来革命性突破。

  • 极光GPTBots成功完成“生成式人工智能服务登记”

    极光旗下AI开发平台GPTBots.ai近日在广东省网信部门完成生成式人工智能服务登记,成为合规经营的AI服务提供商。该平台严格遵循国家《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》等法规要求,标志着其在技术创新、服务模式和数据安全等方面获得关键合规认可。此次登记体现了极光对法律法规的严格遵守和对安全责任的高度重视,为区域AI生态发展注入新活力。未来,极光将继续优化技术与服务,保障用户权益,推动生成式AI技术的健康规范发展。

  • 寒武纪荣获2025人工智能领域金牛上市公司科创奖

    2025科创金牛奖获奖名单揭晓,寒武纪凭借在人工智能芯片领域的卓越表现,荣获人工智能领域金牛奖。该奖项由中国证券报打造,是中国资本市场最具影响力的奖项之一。寒武纪专注AI芯片研发,提供云边端一体化智能芯片产品和平台化基础系统软件,其通用型智能芯片产品技术壁垒高、应用场景广。2024年公司研发投入达10.72亿元,新增专利授权314项。此次获奖既是对其科技创新成果的肯定,也是对其推动AI技术产业化应用的认可。未来寒武纪将加速产品迭代升级,为我国人工智能产业发展筑牢技术根基。

  • 人工智能创新创业大赛进入关键评审阶段,前沿AI项目角逐决赛席位

    "智汇运河·智算未来"人工智能创新创业大赛进入关键阶段。经过全球征集筛选,50个代表AI前沿创新的项目脱颖而出,涵盖智能制造、智慧城市、生命健康、智慧物流四大"AI+"赛道。赛事聚焦技术突破性、模式创新性和产业落地潜力,旨在推动AI技术从实验室走向应用场景。杭州拱墅区通过大赛汇聚全球智慧,加速构建人工智能产业高地。7月6日决赛将展现顶尖项目风采,值得期待。

  • 广东省人工智能与机器人产业联盟成立大会启幕:九四智能等共筑全球产业创新引擎

    广东省人工智能与机器人产业联盟于6月6日在广州成立,旨在落实国家发展战略,整合产业链资源,构建产学研协同创新平台。联盟将聚焦核心技术攻关、高端人才培养、应用场景拓展及产业生态完善,推动AI与机器人技术在制造、医疗、教育等领域的深度融合。通过政策咨询、标准制定和国际合作,助力广东建设科技强省、数字经济强省和制造强省。首批成员单位包括政府、高校、科研机构及行业领军企业,将共同破解产业"卡脖子"难题,打造具有全球竞争力的人工智能与机器人产业集群。

  • 微算法科技(NASDAQ:MLGO)基于可解释的人工智能技术XAI,增强区块链网络威胁检测的决策能力

    微算科技(NASDAQ:MLGO)创新性地将可解释人工智能(XAI)技术应用于区块链网络安全领域,开发出智能威胁检测系统。该系统通过深度学习模型识别攻击模式,并利用可解释性模块清晰展示决策依据,显著提升了检测准确率和可信度。目前已成功应用于异常交易识别、恶意节点检测和智能合约审计等多个场景,帮助区块链网络实现更高效、透明的安全防护。该技术不仅提高了威胁检测能力,也为后续模型优化提供了依据,未来将在更广泛领域推动构建更安全的网络空间。

  • vivo出席博鳌亚洲论坛国际科技与创新论坛2025年香港会议,让人工智能赋能全民福祉

    6月6日至7日,博鳌亚洲论坛国际科技与创新论坛2025年香港会议在香港会议展览中心举行。vivo副总裁周围出席"从互联网+到人工智能+"分论坛,探讨AI智能化变革趋势。周围指出,AI将成为世界级基础设施,手机作为AI应用的重要载体,是连接技术与普通人的桥梁。vivo将持续深耕手机智能领域,构建大语言模型等核心能力,并推动AI在影像、办公等场景的应用落地。同时vivo将联合汽车、医疗等行业构建智能生态,特别关注无障碍领域的技术普惠。作为论坛战略合作伙伴,vivo将持续分享创新成果,展现中国科技实力与人文温度。

  • GAITC2025全球人工智能技术大会 | 每日互动方毅:开源大模型+闭源小数据是AI时代的重要路径

    文章探讨了"人工智能"更应称为"人造智能",对应"神造智能"的概念。作者指出AI模拟了神造智慧过程中的规律,人类可从AI身上重新学习"神"的智慧。通过三种棋类游戏分析AI发展:五子棋代表专注规则,深蓝代表深度思考,AlphaGo代表强化学习。数据是AI的重要命脉,需通过可信数据空间转化使用。AI已在交通安全、医疗健康、反诈宣传等领域带来改变,如高速视觉AI检测、脑卒中早筛模型等。未来最重要的是个人知识库和提问能力,人类需学会驾驭AI而非被其取代,2%的人将成为定义问题的深度思考者,98%则是幸福生活者。技术应成为托举大众的方舟而非割裂世界的鸿沟。