近日，ISC.AI2025第十三届互联网安全大会人工智能安全治理与创新实践论坛在北京国家会议中心圆满召开。论坛汇聚领域内顶尖专家学者和行业领袖，共同聚焦人工智能安全的核心议题，深入探讨大模型安全评估与防护、大模型生态软件安全、智能体安全、AI治理等前沿议题，激发创新思维，为构建一个安全、普惠、负责任的人工智能未来贡献智慧。
360集团智脑总裁张向征先生为本次论坛致辞，他表示，随着大模型应用的深化，特别是Agent技术的爆发性应用，攻击面急剧扩大，人工智能安全议题已逐渐跃升为当前产业的核心焦点。安全攻防手段正经历快速迭代升级，面对大模型直接访问核心系统带来的全新挑战，构建AI安全防护体系尤其重要。
主题演讲环节中，中国科学院信息工程研究所研究员虎嵩林围绕《红蓝协同演进:构筑人工智能安全的能力基座》进行了分享。他表示，人工智能发展速度迅猛，其能力正在引发深刻变革。与此同时，人工智能安全涉及的主体范围变得越来越宽广，要通过防御技术的迭代式发展来深度发现风险、精准识别风险、系统防御风险。
360集团AI安全实验室主任邹权臣围绕《智能演进中的安全攻防实践:从大模型到自主智能体》发表了主题演讲。他提到，大模型在推理和工具使用上的突破，为智能体提供了必要的大脑和手脚，但二者的共生进化导致了攻击面以难以预测的方式动态演化，为传统静态防御策略带来前所未有的挑战，因此从软件生态安全层、内容安全层到智能体安全层，要实现防御策略自主调优。
西安交通大学网络空间安全学院教授蔺琛皓围绕《AI内在安全:从小模型到大模型到多模态具身智能》，从机密性、完整性、可用性这三大基石出发，系统剖析了 AI的内生安全问题。他表示，大模型参数量非常之大，虽做了安全护栏和对齐，仍无法覆盖所有攻击;即便对旧攻击做轻微扰动，也能突破新版防御体系，因此实现AI应用的安全可控尤为重要。
中国电子信息产业发展研究院政策法规研究所所长彭健发表了《人工智能监管治理态势与企业合规建设路径》为题的演讲。他表示，人工智能目前存在内容安全、产业安全、公共安全、法律争议、技术失控风险这五大安全风险。企业需重点关注业务手续、生成内容、模型漏洞到科技伦理、数据安全、用户权益等九大合规要素。
清华大学计算机系副研究员苏航围绕《大模型智能体安全风险和防御框架》进行了主题演讲。他指出，智能体因直接与环境交互，风险远超传统AI和大模型，多数智能体几乎无风险防范能力，通过提示词注入即可操控其执行危险操作。因此模型需要具备危险意识，同时，构建闭环反馈系统十分重要。
华为云安全副总裁范彦军发表了《端到端大模型安全，护航百模千态“安全做事”》主题演讲。他指出，针对AI时代新型未知威胁的攻击，要重视环境安全、数据安全和模型内生安全，华为云推出的大模型防火墙支持“百模千态”，可以有效阻断越狱和提示注入攻击。同时他强调要与各行业的伙伴协同构筑AI安全解决方案。
中国电信研究院AI研发中心副主任杨哲超围绕《破解「智能失控」:被低估的安全风险与挑战》，以内生安全为底座，以协同治理为屏障，为应对智能时代的系统性风险提供了启发性思考。他表示，人工智能是开放系统，设计过程中缺乏清晰边界，无法枚举所有安全风险可能性，需从应用、模型、数据、环境等维度构建安全框架。同时他非常希望将大型企业的安全能力开放出来，帮助业内更多伙伴构建大模型安全防护体系。
此次ISC.AI2025人工智能安全治理与创新实践论坛的成功举办，揭示了AI安全的不同维度，思想火花的不断碰撞，构成了一幅通往安全、普惠、负责任的AI未来路线图。探索永无止境，安全任重道远，本次论坛为构建更加安全可靠的人工智能生态贡献了智慧与力量。
（推广）