首页 > 业界 > 关键词  > 人工智能监管最新资讯  > 正文

英国通过新的「负责任的」人工智能原则关注透明度和问责制

2023-09-19 09:02 · 稿源:站长之家

站长之家(ChinaZ.com) 9月19日消息:本周一,英国明确了旨在避免少数科技公司垄断人工智能(AI)模型以损害消费者和企业的原则,强调了问责和透明的必要性。

AI 人工智能

英国的反垄断监管机构竞争和市场管理局(CMA)正像世界其他国家的当局一样,试图控制 AI 可能带来的一些潜在负面影响,同时又不扼杀创新。

作为英国主要反垄断监管机构,CMA 将注意力集中在基础模型上:OpenAI 的 GPT-4 Meta 的 Llama 2 等人工智能系统以及其他构成许多生成式人工智能用例基础的大型语言模型。

CMA 列出的七项原则旨在通过使开发人员承担责任,防止大型科技公司绑定其封闭平台中的技术,停止捆绑销售等反竞争行为来监管基础模型,例如 ChatGPT。

CMA 于 5 月份宣布对生成式人工智能进行初步审查,并提出了七项建议原则,以「确保消费者保护和健康的竞争是基础模型(FMs)负责任开发和使用的核心」,如其所述。

这个竞争监管机构为 AI 潜在影响市场再次启动利益相关者参与时提出的原则包括:

  • 问责制:「FM 开发商和部署者对向消费者提供的输出负责」

  • 获取权限:「持续获得关键输入而不受不必要限制」

  • 多样性:「业务模型持续多样化,包括开放和封闭两种形式」

  • 选择权:「企业有足够的选择权,可以决定如何使用 FMs」

  • 灵活性:「根据需要具备切换或使用多个 FM 的灵活性」

  • 公平交易:「没有反竞争行为,包括反竞争自我优先、捆绑销售等。」

  • 透明度:「向消费者和企业提供有关 FM 生成内容风险和限制信息,以便他们做出知情选择。」

CMA 首席执行官 Sarah Cardell 周一表示,技术有真正的潜力来促进生产率,使数百万日常工作更容易,但积极的未来不能被视为理所当然。她说,存在着 AI 的使用可能被少数玩家支配并施加市场权力,阻碍了其在整个经济中的全部优势的风险。

她说:「这就是为什么我们今天提出了这些新原则并启动了广泛的参与计划,以帮助确保基础模型的发展和使用以促进竞争并保护消费者的方式演变。」

CMA 的拟议原则将在英国主持全球 AI 安全峰会前六周作为其对待 AI 的基础,并在未来几个月内拥有监督数字市场的新权力。该机构表示,现在将征求谷歌、Meta、OpenAI、微软、英伟达和 Anthropic 等领先的 AI 开发商、政府、学术界和其他监管机构的意见。拟议原则还涵盖关键输入的访问,包括开放和闭合的多样化业务模式,以及业务使用多个模型的灵活性。

今年 3 月,英国选择将 AI 的监管责任分配给 CMA 和其他负责监督人权和健康安全的机构,而不是创建一个新的监管机构。美国正在考虑可能的 AI 监管规则,G7 七国集团的数字部长们在 4 月份同意采取「基于风险」的监管,也将保持开放的环境

举报

  • 相关推荐
  • Kyndi发布Kyndi 6.0:提升知识管理和人工智能透明度

    答案引擎公司Kyndi宣布推出Kyndi6.0,这是其生成式人工智能答案引擎的最新版本。这一发布引入了多项新功能和增强功能,旨在加速知识创建并改善最终用户体验。其功能包括Topics、Citation、最终用户反馈和查询导出,使组织能够克服与生成式人工智能相关的挑战,并为用户提供更准确和相关的信息。

  • 微软的漏洞悬赏计划重点关注人工智能驱动的 Bing

    微软宣布了一个新的人工智能悬赏计划,专注于基于AI的Bing体验,奖励高达15000美元。利用人工智能驱动的Bing体验作为新漏洞赏金计划的第一个范围内产品,安全研究人员可以提交在以下合格服务和产品列表中发现的漏洞:「微软AI悬赏计划邀请来自全球的安全研究人员发现新的、创新的、基于AI的Bing体验中的漏洞。该公司将企业版Exchange、SharePoint和SkypeforBusiness添加到了其漏洞悬赏计划,并增加了通过Microsoft365计划报告的高影响安全漏洞的最高奖金。

  • 先进的人工智能工具正在崛起,但「安全」并不是监管人工智能的最佳标准

    微软于上周发布了其BingImageCreator的新版本,这是一个由OpenAI的新模型DALL-E3提供支持的AI图像生成工具。它旨在提供比之前的图像生成AI模型更强大的功能,包括比以前更丰富地理解复杂用户请求的能力。倘若幸运的话,也许它还能提升我们讨论的基调。

  • 英国央行在英国峰会前警告人工智能可能构成金融稳定风险

    人工智能风险有可能加剧金融稳定风险,破坏对银行的信任,这是英国央行的一项分析得出的结论。这一结论出现在全球领导人和企业为了应对人工智能问题筹备的关键峰会之前。在信任较低或恐慌较大的时期,金融机构会面临金融不稳定的增加,可能会产生一系列结果,如市场不稳定或银行挤兑。

  • 研究:人工智能英国就业产生积极影响,但可能加剧地区不平等

    一项由未来工作研究所、伦敦帝国学院和沃里克商学院进行的研究发现,人工智能、机器人和自动化设备的采用对英国的就业产生了积极影响。超过1000家英国公司在过去三年参与了这项研究,其中约860家公司确认使用了AI和其他自动化技术,其中78%的公司表示这直接导致了新的工作岗位的产生。”为了防止这些负面影响,报告敦促企业和政策制定者关注人力资源实践,通过自动化来增强员工的能力不是取代他们。

  • Meta 负责领导自研人工智能芯片的高管将于月底离职

    负责Meta公司研发人工智能芯片工作的高管AlexisBlackBjorlin将于月底离职。AlexisBlackBjorlin曾在芯片公司博通和英特尔工作多年,领导了一个团队设计一款定制芯片,能够处理多种人工智能工作,这是该公司致力于为聊天机器人和图像生成器等产品改造其庞大的数据中心的关键部分。Meta正在开发一种新的芯片,将横跨所有类型的人工智能工作。

  • 日本人工智能指导方针草案提出 AI 使用方需共同承担责任

    为了确保生成式人工智能的妥善利用,日本政府正在制定面向企业等的指导方针。根据获悉的草案,不仅是AI开发商和服务提供商,也包括使用AI开展业务的企业和团体将共同承担责任。该方针强调必须维护公平的竞争环境,推动AI技术革新,为提升全社会的AI素养作出贡献。

  • 德国反垄断负责人:人工智能可能会增强大型科技公司的主导地位

    德国卡特尔办公室主席AndreasMundt警告称,人工智能可能会增强大型科技公司的市场实力,监管机构应警惕任何反竞争行为。Mundt的评论强调了监管机构对科技巨头的担忧,这些公司拥有大量用户数据,可能在智能家居、网络搜索、在线广告、汽车和许多其他产品和服务中使用的新技术中获得竞争优势。」「这两种发展都有可能,作为一个当局,我们必须小心,以免任何竞争潜力从一开始就被扼杀。

  • 谷歌增加生成人工智能赔偿 但部分情况例外

    谷歌最近宣布已经在其生成式人工智能服务的服务条款中,增加了明确的赔偿语言,为付费用户提供了广泛的法律保护。这一举措获得了许多积极的报道。用户需要谨慎阅读条款细则,不能掉以轻心。

  • NASA将运用人工智能搜寻外星生命和UFO存在

    NASA已经揭示了他们在寻找外星生命和UFO存在方面的最新“武器”这个武器就是人工智能。根据NASA的研究,要找到科学上可证实的外星生命和UFO存在,人工智能将是关键。人工智能的使用仍然备受争议,需要制定合适的监管措施以确保其安全和道德使用。

今日大家都在搜的词: