首页 > 业界 > 关键词  > 人工智能最新资讯  > 正文

人工智能监管新思路,用AI监管AI可行吗?

2023-07-20 09:20 · 稿源: 站长之家

国外大卫·布林(David Brin)纪实小说《AI 的灵魂》(Soul on AI)作者提出了一种新的监管角度,即让人工智能互相监督、竞争和告密,以应对生成式人工智能可能带来的潜在风险。作者认为,将每个人工智能实体赋予独立的自我意识和个性化,让它们拥有可识别的真实名称和身份,可以激励它们相互竞争并发现不良行为。为了确保可信度,作者提出建立一个身份识别和认证机构,并将人工智能实体的身份信息保存在物理存储器中。通过这种方式,人工智能实体可以相互问责,保持竞争关系,促进人工智能领域的平衡发展。

AI 人工智能 机器人

1. 人工智能的快速发展引发了对监管的担忧,现有监管方式无法有效控制人工智能的行为。

2. 传统的监管方法可能无法跟上人工智能的发展速度,因此提出了一种全新的监管思路:让人工智能互相监督、竞争和告密。

3. 为每个人工智能注入个性化的身份,使其拥有真实姓名和虚拟家园,以及一个灵魂内核,从而使人工智能能够相互认证和问责。

4. 建立一个机构或系统来处理人工智能的身份注册和验证,以确保人工智能的行为符合规范,并能够追究责任。

5. 通过让人工智能之间相互竞争和相互问责,可以实现有效的监管和控制,促进人工智能的积极发展和创造。

举报

  • 相关推荐
  • 先进的人工智能工具正在崛起,但「安全」并不是监管人工智能的最佳标准

    微软于上周发布了其BingImageCreator的新版本,这是一个由OpenAI的新模型DALL-E3提供支持的AI图像生成工具。它旨在提供比之前的图像生成AI模型更强大的功能,包括比以前更丰富地理解复杂用户请求的能力。倘若幸运的话,也许它还能提升我们讨论的基调。

  • 纽约将在下周成为人工智能展示中心:希望成为 AI 世界之都

    纽约的科技公司和投资者视人工智能的出现为最新的机会,试图取代旧金山湾区成为人工智能的世界之都。纽约将在下周成为人工智能展示中心,该市将于10月16日开始举办由风险投资公司AndreessenHorowitz协调的包含370场活动的「科技周」。与纽约相比,旧金山湾区仍然遥遥领先,成为科技就业、初创企业和投资的中心。

  • 调查:全球97%的人支持可信赖和受监管人工智能

    据英国会计师事务所毕马威本周二发布的一项调查显示,大多数人支持可信赖的人工智能,并期望它受到监管,其中印度、中国和新加坡在信任当前监管对保证AI安全使用方面是充分的这一方面领先于亚太地区其他国家。调查显示,全球有97%的受访者支持可信赖AI的原则,若能建立保证机制,有四分之三的人更愿意信任AI系统。该国63%的人使用包含AI的常见应用程序,但49%的人不知道这些应用程序中使用了AI。

  • 扎克伯格夫妇要消灭人类疾病,靠人工智能行吗

    2016年,脸书创始人马克扎克伯格与其妻子普莉希拉陈宣布了一个宏大目标:在2100年前消灭人类疾病。他们详细介绍了实施计划,希望靠人工智能来完成这项事业。凤凰网科技《AI前哨》对此将持续关注。

  • AMD收购人工智能软件公司 Nod.ai

    AMD宣布签署协议收购开源人工智能软件公司Nod.ai,以扩展公司的开源AI软件能力。Nod.ai的加入将为AMD带来一个经验丰富的团队,该团队开发了领先行业的软件技术,可加速部署针对AMDInstinct™数据中心加速器、Ryzen™AI处理器、EPYC™处理器、Versal™SoC和Radeon™GPU进行优化的AI解决方案。Nod.ai的SHARK软件基于编译器的自动化能力减少了对手动优化的需求,缩短了部署高性能AI模型在AMDCDNA™、XDNA™、RDNA™和“Zen”架构的数据中心、边缘和客户平台上运行所需的时间。

  • 苹果在人工智能方面保持沉默 但它是 AI 初创公司的最大买家

    如果在人工智能热潮中有一件事是始终如一的,那就是大型科技公司谷歌、微软、Meta和亚马逊无法停止谈论他们的人工智能投资,无论是在财报电话会议中还是新产品发布中。但有一个行业领袖往往在这类交流中缺席:苹果公司。这种大型科技公司与人工智能初创公司的合作方式与微软与OpenAI的关系相呼应。

  • 《洛基》海报疑似出自AI之手 迪士尼再遭质疑滥用人工智能

    迪士尼推出的漫威系列《洛基》第二季宣传海报在设计界引发争议。海报背景中的时钟图像疑似使用生成式人工智能制作。随着公众对算法偏见的关注与日俱增,相关争议或将继续发酵。

  • RIAA 呼吁政府将人工智能语音克隆网站列入盗版监管名单

    美国唱片工业协会最近提出了一个要求,呼吁美国政府将人工智能语音克隆网站纳入在线盗版监管名单。这一名单通常包括一些特定的公司、网站或地区,如全球速卖通、微信和海盗湾。尽管RIAA表示担心Voicify等网站可能鼓励更多未经授权使用他人声音的行为,但目前尚不清楚法律将如何处理人工智能侵犯公开权的问题。

  • Character.AI 加入 AI 群聊功能:用户可与多个人工智能角色相互交谈

    Character.AI是一家由前GoogleAI研究人员创建的AI聊天机器人初创公司,由a16z支持,今天为其订阅者推出了一项新功能。该聊天机器人平台提供具有独特个性的可定制人工智能伴侣以及可定制的工具,现在提供群聊体验,用户和他们的朋友可以同时与多个人工智能角色聊天。该公司估计其应用内购买总收入为130万美元,但c.ai是在网上销售的,所以这并不是对其总收入的全面了解。

  • 沃尔玛认为人工智能不会导致裁员:将在推出更多 AI 技术时继续雇用相同数量或更多的员工

    沃尔玛正在使用人工智能工具来提高其商店的效率和生产力,但该公司声称这并没有导致裁员。人工智能软件用于确定最有效的卡车装载方式、根据客户购买模式组织货架以及回答客户问题等任务。该零售商的自助结账机配备了AI摄像头以帮助检测和防止盗窃。