全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0 版
该框架概述了人工智能安全治理的原则,包括全面谨慎、保障安全、以风险为导向、敏捷治理、技管结合、协同应对、开放合作和共治共享。
针对人工智能的内生安全风险(模型算法安全、数据安全和系统安全)和应用安全风险(网络域、现实域、认知域和伦理域),该框架提出了相应的技术对策和综合防治措施,并提供了人工智能安全开发应用指南。这些指南为促进人工智能的健康发展和规范应用提供了基础性和框架性的技术指导。
随着人工智能技术在各领域的广泛应用,规范管理人工智能已成为各国和机构关注的焦点。该框架的发布为人工智能的规范发展提供了指导。
欧盟《人工智能法案》
欧盟早些时候批准了《人工智能法案》,其中禁止对人类安全构成不可接受风险的人工智能系统。
该法案规定的人工智能系统包括:故意操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统。法案还要求人工智能公司对算法进行人工控制,提供技术文件并建立相应的风险管理系统。
(举报)