首页 > 传媒 > 关键词  > 正文

2024西湖论剑・AI引领数字安全新浪潮专题会议成功举办

2024-05-20 14:58 · 稿源: 站长之家用户

5月18日,2024西湖论剑·AI引领数字安全新浪潮专题会议成功召开。业界精英围绕AI+安全,共同探讨AI引领数字安全新质生产力的发展之道,解锁未来无限奥秘。

中国网络空间安全协会副理事长、中国网络空间安全协会人工智能安全治理专业委员会主任卢卫,浙江省杭州市科学技术协会党组成员、副主席王菊红,浙江移动信息技术与数据管理部总经理、中国移动集团首席专家王晓征,浙江移动信息安全部总经理王延长,杭州市科协学会管理部(科技创新部)部长余勇平,海亮集团轮值总裁何文天,安恒信息董事长范渊,上海市大数据中心基础设施部副部长靳玲,中国科学技术大学网络空间安全学院执行院长俞能海,天津大学信息与网络中心主任于瑞国,杭州市人工智能协会秘书长赵星伦,以及相关行业领导和企业专家出席论坛,教育部新工科联盟网络空间安全工委会主任委员、俄罗斯国家工程院外籍院士胡瑞敏主持论坛。

教育部新工科联盟网络空间安全工委会主任委员、俄罗斯国家工程院外籍院士胡瑞敏主持论坛

中国网络空间安全协会副理事长、中国网络空间安全协会人工智能安全治理专业委员会主任卢卫出席

AI引领,构建数字安全新质生产力

2023年以来,人工智能蓬勃发展,为数字安全领域带来了全新的生态环境和产业格局。我们在拥抱AI的同时,也不能不严防AI可能带来的数据泄露、深度伪造等风险。以AI对AI,以AI管AI,成为推动人工智能与网络安全技术的深度融合,构建数字安全新质生产力,为经济社会发展和国家安全提供有力保障的必然选择。

CCF计算机安全专业委员会常务副主任、公安部第 一研究所副所长于锐在视频致辞中表示,人工智能的飞速发展以及AI技术的广泛应用对数字安全带来了全新的挑战与机遇,数据安全、算法安全、隐私保护等问题日益凸显。对于如何在享受技术红利的同时,构建更加坚固的数字安全屏障,实现传统网络与数据安全的革命性升级,打造新型的AI+网络和数据安全体系,他提出四点建议:一是加强协同创新,共建安全生态;二是开展技术革新,驱动安全升级;三是加大法规引领,保障健康发展;四是强化人才培养,强化安全根基。

于锐所长在论坛中视频致辞

俞能海教授发表《生成式人工智能安全与新质数字资产》主题演讲时指出,人工智能向生成式跨越,全面提升理解能力,AIGC不断取得突破,多模态大模型快速发展,人工智能安全的保障将成为人工智能可靠可控应用的重要基础。为规避AIGC风险,不能单纯依赖智能算法,而是将人创造能力与AI的生成能力有效结合。对此,俞教授建议从三个维度进行;一是利用AIGC合成内容鉴别,应对AI的恶意应用;二是通过大模型纠偏,提升AI的安全能力;三是借助生成式模型水印,保护AI赋能的系统。

image.png

俞能海发表《生成式人工智能安全与新质数字资产》主题演讲

安永(中国)企业咨询有限公司合伙人王坚在《AI大模型技术演进及应用》的主题演讲中指出,未来AI大模型技术演进路线可能沿着六大维度发展:一是模型规模的增长,大模型参数数量激增;二是多模态学习,能够处理多种数据类型的应用和场景;三是提高模型训练和推理的效率和可持续性;四是提升模型决策过程的透明度和可解释性,减少“黑箱”现象;五是、使模型具备连续学习能力,避免灾难性遗忘,适应动态环境中的新数据和变化;六是、确保模型在恶意攻击下的稳定性和安全性,增强鲁棒性。

王坚发表《AI大模型技术演进及应用》主题演讲

Al+安全,探索安全行业的创新未来

当前安全产业,从技术角度存在安全天平和能力鸿沟等问题,AI时代下的数据安全、内容安全、业务安全、供应链安全等安全问题尤为突出。在此背景下,杭州人工智能学会副秘书长、安恒信息研究院院长王欣在《Al之于安全行业的应用探索》的主题演讲中提出,AI+安全一定是安全未来发展的巨大方向。

王欣指出,人工智能创立之初即是模拟、延伸和扩展人的智能理论、方法、技术和应用系统的一门技术学科。大模型的涌现能力,相比于过往人工智能技术,在理解指令、理解例子、思维链能力和快速学习能力四个维度得到了更多的能力增强,分享了过去在数据安全、安全运营等多个场景下的安全大模型实践经验。

王欣认为,AI之于安全,其真正的AI能力只发挥了不足5%,同时他对AI之于安全的应用趋势做出了八大预判:一是大模型为核心的AI智能体(AI Agents)将成为安全产业的标配,越来越多的AI Native工具将成为Agent的“手和脚”。二是在AI智能体的影响下,自适应安全架构将得到全新升级。三是在AI智能体的影响下,机器人流程自动化将与许多安全业务相结合。四是AI智能体将重塑安全工作协同方式。五是AI多模态技术的不断演进,舆论战、信息战、涉网新型犯罪将率先应用AI技术获得技术“红利”,监管将面临比较罕见的挑战。六是安全攻防将进入全新阶段,智能攻击与智能防御成为新的技术博弈领域,AI原生的蠕虫病毒或将席卷全球。七是AI时代下的数据安全、内容安全、业务安全、供应链安全等安全问题尤为突出,将会给AI产业应用和发展带来挑战。八是AI时代带来安全产品的全面升级革新,能力原子化、接口标准化将快速推进。

王欣发表《Al之于安全行业的应用探索》主题演讲

实践为先,为行业智能化转型打样

天津大学信网中心主任于瑞国在《天津大学算力与网络安全融合建设》的主题演讲中介绍了天津大学响应国家大力推进超算、人工智能平台建设的政策引导,建设校级算力资源共享平台,有效支撑面向重大项目或课题的开发与创新,服务AI for Science的成功经验。

于瑞国发布《天津大学算力与网络安全融合建设》主题演讲

安恒信息隐私计算事业部总经理陶立峰带来《基于机密计算的大模型训练和推理数据围栏》的主题演讲,介绍了如何在大模型训练和推理时,解决数据既要利用又要保护的矛盾需求,以及保护模型安全的双重难题。安恒信息在隐私计算的基础之上,将大模型训练与推理能力支持起来,以确保大模型的训练数据能在更安全、可信、可靠的环境当中得以训练,模型也能在更安全的环境下去部署与应用。陶立峰表示,通过将可信执行环境、机密计算与大模型训练框架结合,构建基于机密计算的大模型训练与推理的数据围栏,再结合全流程的加密、授权与审计、审批等管控手段,就能够实现基于场景的最小化数据授权,同时确保数据在受控环境之下不会被滥用。

陶立峰发表《基于机密计算的大模型训练和推理数据围栏》主题演讲

针对大模型开发及大规模AI计算系统的挑战,安恒信息正式发布了昇腾-恒脑推理一体机,全流程加速大模型的创新与落地,

在对人工智能高性能计算的不懈追求中,安恒信息与华为昇腾团队经历了长期深入的合作与共创历程。基于昇腾软硬件生态,安恒恒脑大模型取得了一系列重要成就,同时,也率先完成了多代昇腾硬件适配。一体机融合了安恒信息自主研发的恒脑大模型和华为昇腾业界领先的AI计算能力,在全流程加速大模型创新应用的同时,也彰显了双方在人工智能领域的持续创新能力。

安恒信息生态合作部总经理吴伟京与华为制造与大企业军团解决方案副总裁余倬共同出席仪式。双方未来将在安恒-华为战略合作的框架下继续加强合作,在大模型技术、软硬件生态、云端服务等领域开拓创新,共同推动智能化数字安全的进步。

昇腾-恒脑推理一体机发布仪式

安恒信息研究院创新业务部总经理姚龙飞在《恒脑2.0智能体核心和自动化革新》主题演讲中提出,大模型的下半场应是智能体的大爆发。他以恒脑安全垂域大模型为例,介绍了安恒信息以智能体为核心驱动产品、业务进行结合的探索与应用。目前,安恒信息将RPA的思想进行了充分的理解之后融入智能体框架设计,并在安恒的数据分类分级产品、Alpha告警研判、DLP、API、SOAR等产品中广泛应用,实现了不同场景下的能力大幅提升。

姚龙飞发表《恒脑2.0智能体核心和自动化革新》主题演讲

海亮集团数字创新部部长孙雯带来《海亮集团大模型应用于数据安全的探索与实践》主题演讲,分享了海亮集团正在不同的业务场景探索AI大模型的应用,特别在数据安全领域已取得一定成果。她说,随着企业边界不断扩大,场景越来越复杂,传统的安全防护正逐步失效。与此同时,企业的数据随着数字化转型深入变得越来越值钱,数据泄露风险与日俱增。为此,海亮集团构建了“113N”安全能力建设框架,从“事前-事中-事后”做好端到端防护,实现外抵攻击、内防泄露的目标,以安全护航数字化转型。孙雯表示,海亮集团将与安恒信息携手,基于安恒恒脑的专业能力,海亮丰富的业务场景和多领域行业数据沉淀,锻炼出更多适配于不同企业,聚焦于不同行业的智能体。

孙雯发表《海亮集团大模型应用于数据安全的探索与实践》主题演讲

在随后举行的海亮-安恒联合创新实验室揭牌仪式上,海亮集团轮值总裁何文天、安恒信息董事长范渊、安恒信息研究院院长王欣和海亮集团数字创新部部长孙雯共同见证联合创新实验室的揭牌,依托安恒信息恒脑安全大模型及生态资源,结合海亮集团丰富的行业数据及数据安全实践,共同构建数据安全领域解决方案,推进国家、行业、团体等数据安全标准规范的研制,探索大模型+数据安全的应用落地,打造国内大模型+数据安全的先进标杆案例,形成产业合力。

海亮-安恒联合创新实验室揭牌仪式

火山引擎大模型安全产品研发负责人郭建新在《大模型安全内部实践分享》中,总结了大模型应用的四个风险点,分别是模型输出异常、对话机制、数据安全和系统安全。对此,火山引擎方舟平台以业务安全和底座安全为核心,构建了“一矛”“一盾”“一沙箱”的解决方案确保大模型应用安全。

郭建新《大模型安全内部实践分享》主题演讲

AI论剑,共议安全和发展的平衡之道

随着人工智能技术的蓬勃发展,到底哪些行业或领域在引入大模型技术后将会有显著的效果和光明的发展前景?安全和发展该如何平衡?未来可能出现哪些全新的应用场景或商业模式?

在杭州人工智能学会副秘书长、浙江传媒学院媒体工程学院讲师王亚奇的主持下,教育部新工科联盟网络空间安全工委会主任委员、俄罗斯国家工程院外籍院士胡瑞敏,阿里研究院数据经济研究中心副主任王峥,华为制造与大企业军团解决方案副总裁余倬,安恒信息研究院副院长税雪飞围绕“大模型在各行业的应用潜力与安全影响”展开激烈碰撞。

圆桌对话:AI论剑——大模型在各行业的应用潜力于安全影响

胡瑞敏总结了大模型落地场景的三要素:数据资源足够丰富、高端人才极度紧缺、效率提升需求急迫;满足这三要素的行业和领域适合应用大模型进行赋能和增益。余倬分享了华为自身经验,表示大模型在to B场景下的提质增效已有诸多应用成效,要抓住合适的场景进行深耕以提高生产力。王峥认为,AI应用从微软AI助手到现在更多的AI 智能体,体现了机器在规划、决策和执行能力的提升。在中长期看,大模型技术的发展趋势是在人类可控的前提下,提升机器的自主性。税雪飞认为从全球主流大模型发展近况看,大模型已经到了应用落地的快速爬坡时期;在安全领域,攻击方和防守方在应用大模型上的对抗已经开始,安恒也在推进应用大模型和智能体构筑新一代的安全防线。

最后,CSA大中华区研究院副院长黄连金带来《生成式AI应用的安全挑战》的直播演讲,指出生成式AI的安全挑战主要包括影子AI、自动化和可拓展的威胁与零日漏洞、安全工具集成、恶意工具、大模型聚合导致的数据泄露,以及使用AI导致原先的权限策略问题更加凸显等。介绍了2024AI安全产业图谱的整体调研情况。

黄连金《生成式AI应用的安全挑战》直播演讲

本次“AI引领数字安全新浪潮专题会议”由浙江省科学技术协会指导,杭州市科学技术协会主办,杭州市人工智能学会、中国计算机学会计算机安全专业委员会、云安全联盟大中华区、西电杭州研究院、安恒信息承办。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 大家在看
  • HumanizeAI Text:提升AI文本的人性化程度,增强用户互动。

    Humanize AI Text是一个先进的AI文本人性化工具,能够将AI生成的文本转换成更自然、更具人性化的文本,以避免AI检测,并提升内容的吸引力和可读性。它支持多语言,增强了内容的全球可访问性。主要优点包括内容塑形、多语言掌握、可读性提升、写作助手以及实时反馈的人性化得分,帮助用户理解并改进写作的人性化感觉。

  • MagicPublish.ai:为YouTube生成元数据的智能工具

    MagicPublish.ai是一个专注于为YouTube视频内容创建者提供元数据生成服务的在线平台。它通过自动化的方式帮助用户生成视频描述、标签和缩略图,从而提升视频的SEO优化和观众吸引力。产品的主要优点包括操作简便、自动化程度高、能够显著提升视频的在线可见度。

  • AITopRank:发现2024年最佳AI工具

    AI Top Rank是一个专注于AI工具发现和推广的平台,旨在帮助用户发现和使用最新的AI工具,促进AI技术的普及和应用。平台提供每周更新的AI工具排行榜,用户可以投票支持自己喜爱的工具,也可以提交自己的AI工具进行推广。

  • AutoStudio:多轮交互式图像生成技术

    AutoStudio是一个基于大型语言模型的多轮交互式图像生成框架,它通过三个代理与一个基于稳定扩散的代理来生成高质量图像。该技术在多主题一致性方面取得了显著进步,通过并行UNet结构和主题初始化生成方法,提高了图像生成的质量和一致性。

  • Nemotron-4 340B:用于训练大型语言模型的开源合成数据生成管道。

    Nemotron-4 340B是NVIDIA发布的一系列开放模型,专为生成合成数据以训练大型语言模型(LLMs)而设计。这些模型经过优化,可以与NVIDIA NeMo和NVIDIA TensorRT-LLM配合使用,以提高训练和推理的效率。Nemotron-4 340B包括基础、指令和奖励模型,形成一个生成合成数据的管道,用于训练和完善LLMs。这些模型在Hugging Face上提供下载,并很快将在ai.nvidia.com上提供,作为NVIDIA NIM微服务的一部分。

  • Joor:完美的日记应用,记录你的想法。

    Joor是一款日记应用,它允许用户写下自己的想法,并由应用自动处理其余部分。它提供了一个简洁的界面,让用户能够轻松地记录下自己的思考和灵感,同时可能还具备一些自动整理和回顾的功能。

  • Samba:高效无限上下文语言模型的官方实现

    Samba是一个简单而强大的混合模型,具有无限的上下文长度。它的架构非常简单:Samba = Mamba + MLP + 滑动窗口注意力 + 层级MLP堆叠。Samba-3.8B模型在Phi3数据集上训练了3.2万亿个token,主要基准测试(例如MMLU、GSM8K和HumanEval)上的表现大大超过了Phi3-mini。Samba还可以通过最少的指令调整实现完美的长上下文检索能力,同时保持与序列长度的线性复杂度。这使得Samba-3.8B-instruct在下游任务(如长上下文摘要)上表现出色。

  • TC-Bench:视频生成模型的时间组合性评估工具

    TC-Bench是一个专门用于评估视频生成模型的时间组合性的工具。它通过精心设计的文本提示、相应的真实视频以及强大的评估指标来衡量视频生成模型在不同时间点上新概念的出现及其关系转换的能力。TC-Bench不仅适用于文本条件模型,也适用于图像条件模型,能够进行生成性帧插值。该工具的开发旨在推动视频生成技术的发展,提高生成视频的质量和一致性。

  • Promptchains:智能AI工作流构建器,释放AI潜力。

    Promptchains是一个革命性的AI工作流构建器,旨在通过提示链技术解锁AI的潜力。它将复杂任务转化为智能解决方案,实现AI的承诺。产品通过组合AI提示和其他工具到工作流中,使企业能够轻松定制、保存、重用和分享。它超越了AI交互的新奇性,创造了能够与熟练的人类员工并肩工作的解决方案。

  • Sanctuary:个性化冥想引导,由AI驱动,提升专注力,减压助眠。

    Sanctuary是一款利用尖端AI技术为用户提供个性化冥想指导的应用程序。它通过智能学习用户偏好,提供每日更新的冥想内容,帮助用户改善专注力,减少压力,并促进更好的睡眠。该应用拥有超过10万次的个性化冥想创建记录,用户反馈显示,它简化了冥想过程,使冥想变得容易和可访问,对于缓解焦虑和整体压力水平有显著效果。

  • Partnerplace:合作伙伴管理工具,提升合作效率。

    Partnerplace是一款专为合作伙伴关系管理设计的在线工具,它通过自动化繁琐的任务,如佣金处理,帮助企业高效管理和发展合作伙伴网络。该工具支持定制化合作伙伴计划,实现品牌专业体验,并通过集中化平台提高工作效率。Partnerplace的价值观包括弹性、参与度和连接性,旨在为用户提供一个完全定制化的、参与性强的、连接销售团队和CRM系统的合作伙伴管理系统。

  • Depth Anything V2:先进的单目深度估计模型

    Depth Anything V2 是一个经过改进的单目深度估计模型,它通过使用合成图像和大量未标记的真实图像进行训练,提供了比前一版本更精细、更鲁棒的深度预测。该模型在效率和准确性方面都有显著提升,速度比基于Stable Diffusion的最新模型快10倍以上。

  • OTTO SEO by Search Atlas:革命性的AI SEO工具,简化SEO工作流程。

    OTTO SEO是Search Atlas推出的一款AI驱动的SEO工具,旨在通过自动化技术优化网站,提高SEO效率。它通过添加OTTO像素到网站,能够自动执行网页优化,包括技术修复、内容优化、反向链接建设和内容创作。OTTO SEO的主要优点在于节省时间、提高效率,并帮助营销团队或代理公司实现SEO策略的自动化和优化。

  • AI drafts by Help Scout:提升客服团队效率,实现个性化客户服务。

    Help Scout提供的AI客服平台,通过人工智能技术,帮助客服团队提升工作效率,减少重复性工作,让团队成员能够专注于更复杂和个性化的客户对话。平台特点包括无需编程即可使用、快速回复、提升客户满意度,以及通过AI生成回复草稿等。

  • OpenVLA:开源视觉-语言-动作模型,推动机器人操作技术发展。

    OpenVLA是一个具有7亿参数的开源视觉-语言-动作(VLA)模型,通过在Open X-Embodiment数据集上的970k机器人剧集进行预训练。该模型在通用机器人操作策略上设定了新的行业标准,支持开箱即用控制多个机器人,并且可以通过参数高效的微调快速适应新的机器人设置。OpenVLA的检查点和PyTorch训练流程完全开源,模型可以从HuggingFace下载并进行微调。

  • VideoLLaMA 2:视频理解领域的先进空间-时间建模与音频理解模型。

    VideoLLaMA 2 是一个针对视频理解任务优化的大规模语言模型,它通过先进的空间-时间建模和音频理解能力,提升了对视频内容的解析和理解。该模型在多选视频问答和视频字幕生成等任务上展现了卓越的性能。

  • HumanPlus:人类动作模仿与自主技能学习系统

    HumanPlus是一个研究项目,旨在通过模仿人类动作来训练人形机器人,从而实现自主技能学习。该项目通过模拟强化学习训练低级策略,并将这些策略应用到真实世界中,实现实时跟踪人类身体和手部动作。通过影子模仿技术,操作员可以远程操作机器人收集全身数据,用于学习不同任务。此外,通过行为克隆技术,机器人能够模仿人类技能,完成各种任务。

  • Jace:AI助手,助力高效营销与管理。

    Jace是一款商业领域的AI助手,专注于提升营销效率,无需专业技能即可轻松启动和管理营销活动。其主要优点包括创建针对性的营销活动、实时监控性能和随时优化。

  • ARC-AGI:人工智能通用推理测试集

    ARC-AGI是一个旨在测试人工智能系统是否具备类似人类一般流体智力的抽象和推理能力的数据集。它由400个训练任务和400个评估任务组成,每个任务都以JSON格式存储,包括输入输出对。该数据集可以作为人工智能基准测试、程序合成基准测试或心理测量智力测试。

  • PROTEUS:实时表情生成人类模型

    PROTEUS是Apparate Labs推出的一款下一代基础模型,用于实时表情生成人类。它采用先进的transformer架构的潜在扩散模型,创新的潜在空间设计实现了实时效率,并能通过进一步的架构和算法改进,达到每秒100帧以上视频流。PROTEUS旨在提供一种通过语音控制的视觉体现,为人工对话实体提供直观的接口,并且与多种大型语言模型兼容,可定制用于多种不同应用。

今日大家都在搜的词:

热文

  • 3 天
  • 7天