🔍划重点:
1. AI专家集结呼吁政府监管:杰弗里·辛顿、尤瓦尔·赫拉利等AI权威提出“三分之一投资规则”，强调AI的伦理和安全。
2. 国际AI安全峰会前发布共识:专家呼吁政府对AI风险采取民主监管，避免信息误导、社会不公和权力集中等问题。
3. 加强对高级AI系统的监管:专家认为高级AI系统的能力增强必须伴随安全措施，与快速发展的技术同步。
站长之家（ChinaZ.com）10月27日 消息:一篇由杰弗里·辛顿、尤瓦尔·赫拉利等联合撰写的论文呼吁全球政府采取具体监管措施，以规范AI的发展和应用。
这些专家包括三位图灵奖得主、一位诺贝尔奖得主以及众多AI学者，他们敦促各国政府采取紧急行动，提出了“三分之一投资规则”，要求主要从事AI系统开发的组织至少投入三分之一的资源来确保AI的安全和伦理使用，这一承诺与他们在能力开发上的投资水平相当。
图源备注：图片由AI生成，图片授权服务商Midjourney
杰弗里·辛顿，被广泛认为是最有影响力的AI科学家之一，表示:“有些公司计划在18个月内用比今天最先进技术多100倍的计算来训练模型。没有人知道它们将有多强大。而且对于它们将能够做什么基本上没有监管。”
在伦敦举行首届国际AI安全峰会之前，这些专家发布了一份简明的文件，概述了政府应如何应对与AI相关的风险。这份文件代表了迄今为止来自顶尖AI学者的最具切实性和全面性的一揽子要求。
这份文件强调了当前的AI模型具有巨大的影响力，需要民主监管以防范潜在风险，包括AI生成的虚假信息、社会不公、权力集中、网络战争和失控等问题。
文件的一位作者、计算机科学家尤瓦尔·赫拉利强调了这些措施的紧迫性，鉴于AI技术的快速发展。他表示:“是时候认真对待高级AI系统了。这些不是玩具。在了解如何使它们安全之前增强它们的能力是极其鲁莽的。公司会抱怨难以满足监管，声称‘监管扼杀创新’，这是荒谬的。对于AI公司来说，比三明治店更多的监管是必要的。”
（举报）