站长之家(ChinaZ.com) 6月9日消息:英国首相里希・苏纳克（Rishi Sunak）在访问华盛顿期间宣布世界首届人工智能安全峰会，旨在使英国在限制潜在末日风险方面发挥领导作用。
在他的两天访问开始时，苏纳克宣布英国将于今年下半年举办世界首次人工智能安全峰会。苏纳克说：「人工智能有着不可思议的潜力，可以改变我们的生活。但我们需要确保它的开发和使用是安全可靠的。」
他补充道：「历史上，我们一次又一次地发明了具有开创性的新技术，并将其用于造福人类。这正是我们现在必须做的。」
七国集团在上个月的日本峰会上呼吁采取行动来应对人工智能。但美国上周还与欧盟举行了关于人工智能行为准则的会谈。苏纳克希望未来的全球人工智能监管机构总部设在伦敦。
「这个中等规模的国家恰好是人工智能领域的全球领导者，」苏纳克说。「在西方世界，你很难找到除美国以外的许多其他国家在人工智能方面拥有更多的专业知识和人才。我们是引导对话的自然场所。」
上个月，苏纳克会见了 OpenAI、谷歌 DeepMind 和 Anthropic 的 CEO，讨论新技术的监管框架，并声称只有欧盟和英国举行过此类会谈。
（举报）
微软于上周发布了其BingImageCreator的新版本，这是一个由OpenAI的新模型DALL-E3提供支持的AI图像生成工具。它旨在提供比之前的图像生成AI模型更强大的功能，包括比以前更丰富地理解复杂用户请求的能力。倘若幸运的话，也许它还能提升我们讨论的基调。
据英国会计师事务所毕马威本周二发布的一项调查显示，大多数人支持可信赖的人工智能，并期望它受到监管，其中印度、中国和新加坡在信任当前监管对保证AI安全使用方面是充分的这一方面领先于亚太地区其他国家。调查显示，全球有97%的受访者支持可信赖AI的原则，若能建立保证机制，有四分之三的人更愿意信任AI系统。该国63%的人使用包含AI的常见应用程序，但49%的人不知道这些应用程序中使用了AI。
今年8月，波兰饮品公司Dictador任命了一名名为Mika的AI动力机器人作为其实验性首席执行官。Mika是HansonRobotics开发的SophiaAI机器人的升级版本。她相信随着人工智能在企业中的应用越来越广泛，类似她这样的机器人CEO会越来越多。
人工智能风险有可能加剧金融稳定风险，破坏对银行的信任，这是英国央行的一项分析得出的结论。这一结论出现在全球领导人和企业为了应对人工智能问题筹备的关键峰会之前。在信任较低或恐慌较大的时期，金融机构会面临金融不稳定的增加，可能会产生一系列结果，如市场不稳定或银行挤兑。
美国国家安全局局长保罗·纳卡索内宣布，该机构将成立人工智能安全中心。国家安全局最近完成了一项关于人工智能的国会委托研究，发现在这项技术周围存在大量组织安全方面的空白。中心的建立充分体现了美国政府对人工智能技术监管的高度重视。
中国网络空间安全协会人工智能安全治理专业委员会宣布成立。图源备注:图片由AI生成，图片授权服务商Midjourney中国网络空间安全协会人工智能安全治理专业委员会由国家互联网应急中心、北京智源研究院、上海人工智能实验室、阿里云、华为、金山办公等单位发起，组织人工智能领域产学研单位开展技术创新、产业协作、成果转化和行业自律，并在模型安全、内容安全、数据安全、隐私保护和知识产权保护方面不断提升人工智能安全治理能力，以行业协同方式探索人工智能安全新型综合治理新模式，为中国人工智能产业健康发展提供可持续的基础性支撑。人工智能安全治理专业委员会首批成员单位共58家，包含人工智能领域的高校、研究院所、企业等。
英伟达原计划在一周后举行为期两天的以色列人工智能峰会，但由于对参与者安全和福祉的担忧，该活动现已取消。来自哈马斯袭击的以色列死亡人数已上升至600人，受伤人数超过2000人，有100多名人质被劫持。目前尚未关于AI峰会是否会转为虚拟/线上活动的消息现在讨论将线下活动重新安排还为时过早。
根据普华永道中东地区的高管所言，阿联酋正在引领海湾合作委员会国家在生成式人工智能领域的热情。政府鼓励该领域的发展和采用，使阿联酋在全球舞台上脱颖出。为减轻问题如响应偏见和主观修辞，负责任地获取用于训练这些模型的信息至关重要。
纽约的科技公司和投资者视人工智能的出现为最新的机会，试图取代旧金山湾区成为人工智能的世界之都。纽约将在下周成为人工智能展示中心，该市将于10月16日开始举办由风险投资公司AndreessenHorowitz协调的包含370场活动的「科技周」。与纽约相比，旧金山湾区仍然遥遥领先，成为科技就业、初创企业和投资的中心。
本周一，英国明确了旨在避免少数科技公司垄断人工智能模型以损害消费者和企业的原则，强调了问责和透明的必要性。英国的反垄断监管机构竞争和市场管理局正像世界其他国家的当局一样，试图控制AI可能带来的一些潜在负面影响，同时又不扼杀创新。美国正在考虑可能的AI监管规则，G7七国集团的数字部长们在4月份同意采取「基于风险」的监管，也将保持开放的环境。
