首页 > 业界 > 关键词  > AI最新资讯  > 正文

美国政府拟出台新规定,要求对使用人工智能的算法进行评估和监管

2023-11-02 10:31 · 稿源:站长之家

划重点:

- 美国政府计划出台新规定,要求对在医疗保健、执法和住房领域使用的算法进行评估,以防止潜在的歧视或其他对人权产生不良影响。

- 新规定可能会迫使美国政府在AI方面采取改变,例如FBI使用的面部识别技术,该技术因未采取国会要求的措施以保护公民自由而受到批评。

- 新规定将要求政府机构在2024年8月之前评估现有算法,并停止使用不符合规定的算法。

站长之家(ChinaZ.com) 11月2日 消息:白宫管理和预算办公室今天发布了一份草案规定,要求联邦机构评估和持续监测在医疗保健、执法和住房等领域使用的算法,以防止潜在的歧视或其他对人权产生不良影响。一旦生效,这些规定可能会迫使美国政府在AI方面采取改变,例如FBI使用的面部识别技术,该技术因未采取国会要求的措施以保护公民自由而受到批评。新规定将要求政府机构在2024年8月之前评估现有算法,并停止使用任何不符合规定的算法。

草案指令称:“如果益处不真正超过风险,机构就不应使用AI。”但草案备忘录对涉及国家安全的模型进行了例外,并允许机构有效地对自己发布豁免,如果停止使用AI模型“会对重要机构运作造成不可接受的阻碍”。

机器人写作AI写作AI记者

图源备注:图片由AI生成,图片授权服务商Midjourney

这份草案规定是在拜登总统签署行政令两天后由白宫管理和预算办公室发布的,该行政令相当于一个全面的计划,旨在同时增加政府对AI的使用,并试图防止技术带来的伤害。保护人们免受AI的伤害是一个重要主题,该行政令的规定包括对大型AI模型和计算集群开发者的报告要求。

拟议中的白宫管理和预算办公室规定将要求将从私营公司购买的算法纳入联邦合同的测试和独立评估要求之中,该办公室在其协调总统优先事项的部门的角色中可以这样做。它们还将要求政府机构评估和监控现有算法以及未来可能获取的算法对隐私、民主、市场集中和获得政府服务的负面影响。

草案备忘录要求由与系统开发无直接关系的人员进行算法的测试和评估,并鼓励对生成AI模型进行外部的“红队”测试。它还指示联邦机构的领导人探索他们如何在不带来不必要风险的情况下使用生成AI,例如OpenAI的ChatGPT。

拜登的AI行政命令要求白宫管理和预算办公室在接下来的五个月内向联邦机构提供指导。该办公室将邀请公众对草案政策提供意见直至12月5日。

OMB管理副主任Jason Miller说:“该框架为联邦机构提供了一套具有约束力的要求,以便为人工智能的使用制定保障措施,以便我们能够利用这些好处,使公众能够信任联邦政府提供的服务。备忘录草案强调了人工智能的某些用途,在这些用途中,该技术可能会损害权利或安全,包括医疗保健、住房和执法——过去算法导致歧视或拒绝服务的所有情况。

据OMB称,联邦机构目前使用700多种算法,尽管联邦机构提供的清单并不完整。米勒说,备忘录草案要求联邦机构更多地分享他们使用的算法。

举报

  • 相关推荐
  • 马上消金助力:“人工智能+消费”场景革新与市场破局

    文章探讨了"人工智能+消费"新模式如何改变生活。智能家居系统通过语音控制实现便捷操作,还能监测用户状态主动调节环境;智能购物平台利用AI分析用户偏好,提供个性化推荐;文旅行业应用AI导览和数字体验项目,提升游客体验。数据显示,AI消费市场潜力巨大,超七成消费者愿为AI功能支付溢价。文章指出需构建AI治理新生态,加强数据安全保护,培养复合型人才,推动"人工智能+消费"健康发展。

  • 锚定AI技术,艾力斯特深度布局人工智能康复医疗领域

    2025年3月21日,iRest艾力斯特在温州召开"AI+康复与产学研融合创新高峰论坛暨经销商大会"。大会汇聚全球顶尖学者、行业专家及千余名经销商代表,围绕智能康复、人工智能与医疗健康的融合展开深入探讨。公司宣布将重点布局脑机接口技术在康复设备中的应用,并接入DeepSeek AI系统实现个性化健康管理。iRest总裁周玲卫提出三大目标:建立全球无感信息感知优势、打造国际化研发高地、推动科技成果产业化。企业还与浙江省残疾人福利基金会达成战略合作,推动智能康复设备进社区、进家庭。作为中国按摩器具行业领军企业,iRest持续深耕智能康复领域,通过技术创新实现从实验室到家庭医疗场景的全面普及。

  • 声通科技汤敬华:寻找可信、靠谱的人工智能技术

    声通科技董事长汤敬华在第三届数字化发展大会上表示,人工智能进入商业领域必须可信可靠。该公司专注交互式AI20年,提出"可信AI实现架构",强调AI需根据不同场景设定合理准确度标准(80%-99.9%),而非追求100%完美。他指出可信AI需要技术支撑与综合能力,包括数据训练、平台可信度及持续运营能力。声通科技已形成覆盖智慧城市、金融等领域的全栈式解决方案,并与商创院成立可信AI实验室,推动产学研合作。汤敬华认为,AI发展需平衡安全与创新,重大决策过程必须透明可靠。

  • 科大讯飞等在湖北成立两家新公司 均涉及AI人工智能

    湖北小雅科技有限公司注册资本5000万元人民币,法定代表人为聂小林,经营范围涵盖人工智能应用软件开发、基础软件开发及理论与算法研究等细分领域。股东结构显示,该公司由科大讯飞旗下子公司讯飞华中(武汉)有限公司联合武汉博成众智科技投资合伙企业(有

  • 找AI服务?来这儿就对了!一品威客网上线“人工智能”分类

    一品威客网正式上线"人工智能"分类,整合优质AI服务资源,打造高效对接平台。该平台覆盖AI内容创作、数据服务、大模型应用、智能体搭建、技术开发等多元领域,满足企业数字化转型需求。平台汇聚DeepSeek、ChatGPT等知名AI服务,以及齐飞未来等专业AI企业,提供从算法研发到应用落地的全链条服务。通过连接中小微企业与AI服务商,促进产业生态共赢,助力企业在数字化浪潮中抢占先机。未来将持续优化AI服务,推动行业创新发展。

  • “十年内就会被人工智能取代”,ChatGPT 们可以取代律师吗?

    每个人都知道直接与律师、医生、会计们交谈,会比找 ChatGPT 更好。但我们仍然更倾向于使用 ChatGPT……

  • 共绘AI未来新图景,第五届全国人工智能大赛圆满落幕

    2025年4月30日,第五届全国人工智能大赛在深圳鹏城实验室圆满落幕。本届大赛由鹏城实验室主办,华为、中国移动等协办,历时6个月,吸引全球5060支团队参赛。31支决赛团队在"AI+图像编码"、"AI+视频增强"、"AI+数智创新"三大赛道展开角逐,产生多项创新成果。大赛设置200万元奖金,聚焦真实产业难题,吸引来自10余个国家5346名选手参与。鹏城实验室高文院士表示,大赛是培养AI领军人才的重要平台。五届大赛累计吸引近3万支团队,多项成果已转化为产业应用。华为、中国移动等企业为大赛提供技术支持,推动AI技术落地。获奖团队表示,大赛为青年科技人才提供了展示与交流的平台。

  • 深化“数字浙江”建设推动人工智能高质量发展大会在杭召开,趣链科技受邀参加

    浙江召开“数字浙江”建设推进大会,聚焦人工智能高质量发展,强调从技术驱动转向数据运营,再到智能融合赋能的系统性跨越,推动企业成为数智创新领军者。趣链科技作为行业重点企业代表参与会议,并提出“链上一次动脑子都值得、可信”的理念,表示不仅信数据,也能信算法,将继续坚持“让世界更可信,让信任更简单”的使命,助力浙江打造人工智能创新发展高地。

  • 声通科技(2495.HK)亮相迪拜人工智能科技节赋能中东智能化转型

    2025年4月21-25日迪拜人工智能科技节盛大举行,汇聚全球顶尖科技企业探讨AI重塑世界格局。声通科技携AI拍照机、商用服务机器人等多元场景解决方案亮相,凭借"多模态人工智能技术"和"深化AI决策系统"两大核心优势成为展会焦点,展现中国AI企业创新实力。未来,声通科技(2495.HK)将加快中东业务布局,重点关注阿联酋、沙特等快速增长市场,以先进技术赋能当地产业升级与数字化转型,助力中东实现技术现代化与可持续发展。公司凭借AI领域技术积淀与全球化视野,将在东盟及中东市场建立长期稳固的业务基础,为国际化战略提供强劲动力。

  • 聚智2025,AI重塑未来格局——2025人工智能论坛圆满落幕

    这场行业盛会云集了 200 余位国内外顶尖学者、行业领军人物,以大模型创新、人工智能前沿应用、AI哲学与伦理、数学科学交叉融合等热门议题为核心,展开多轮深度研讨与思维碰撞。论坛通过线上线下联动的形式,吸引了超千名专业人士及爱好者参与,为全球人工智能领域奉献了一场兼具学术深度与实践价值的思想盛宴,成为年度行业发展趋势的重要风向标。