划重点:
1. 英国首相Sunak试图在AI安全问题上取得平衡，但一些专家认为这是一种“白日梦”。
2. 他邀请中国参加AI安全峰会，强调与全球领先的AI大国合作对于规范AI至关重要。
3. 该峰会旨在就如何规范AI达成共识，但一些人认为这是一种“白日梦”。
站长之家(ChinaZ.com) 10月27日 消息:英国首相Rishi Sunak在政府的AI安全峰会前发表了讲话，强调在处理人工智能（AI）的风险和潜在好处时需要取得平衡。
在一周前的演讲中，他承认AI存在被不法分子利用的严重风险，但同时强调自己不希望成为危言耸听的人。他指出，目前唯一在测试AI安全性的人是正在开发AI的组织，甚至他们也并不总是完全了解其模型可能会变得如何强大。他表示，不能依赖于这些组织来自行评估其工作，正如许多从事AI开发的人所认同的那样。
图源备注：图片由AI生成，图片授权服务商Midjourney
Sunak反对急于规范AI以防止抑制创新。他问道，如何能够为一些尚不完全理解的事物制定有意义的法律?相反，他强调政府正在建立全球领先的能力，以了解和评估AI模型的安全性。
迄今为止，英国政府对AI立法的态度相对宽松，不如欧盟那样严格。英国政府在一份白皮书中明确了对AI的要求，但委托监管机构制定各自辖区内的AI规则。然而，英国的AI部长曾在AI峰会伦敦会议上表示，任何潜在的法规将与技术标准和保障技术相辅相成，这意味着可能会出台更多的规定。
Sunak表示，他希望与其他国家合作解决AI安全问题，而不是将其视为对手。这这也是他邀请像中国参加峰会的原因。Sunak希望能够获得多元化声音的意见，以就AI的规范展开深入的讨论。他强调，没有一个严肃的AI战略可以不至少尝试与全球领先的AI大国合作。尽管这可能并不容易，但这是正确的做法。
中国在AI规范方面采取了更为严格的立场，中国的AI公司在向公众发布新的生成式AI模型之前必须经过该国数据监管机构的安全审查。
Sunak表示，他希望这次峰会能够建立对AI风险的共同认识。他希望与会者能够就AI风险性质的首份国际声明达成一致。此外，Sunak还希望建立一个由出席国家和组织提名的“真正的全球专家小组”，负责发布“AI科学状况”报告。他指出，我们的努力也取决于与AI公司本身的合作。每一波新的AI将变得更加先进，训练得更好，拥有更好的芯片和更多的计算能力。因此，我们需要确保随着风险的演变，我们的共同理解也在不断发展。
这一提议反映了一些高级政治家的先前呼吁，包括联合国秘书长安东尼奥·古特雷斯，要创建一个全球监督AI风险的机构，类似于国际原子能机构（IAEA），该机构监督核电站和核武器。
然而，一些行业反应持怀疑态度，称这是一种“白日梦”。虽然Sunak一直努力展示英国是一个AI超级大国，但一些人认为这是一种希望，认为要实现有效的规范可能需要多年时间。相反，他们认为公司应该专注于确保其AI受过可信赖的专有数据培训。
（举报）
