首页 > 传媒 > 关键词 > 星云Clustar最新资讯 > 正文

星云Clustar首席科学家胡水海应邀出席HPC-AI论坛发表演讲

2020-09-30 15:14 · 稿源:站长之家用户投稿

  第十六届高性能计算峰会(简称CCF HPC CHINA 2020)于 9 月 28 日- 30 日线上线下同步召开。星云Clustar首席科学家胡水海受邀在HPC-AI论坛发表“高性能联邦机器学习异构系统”主题演讲。

  CCF HPC CHINA2020 是全球高性能计算领域最具影响力的三大盛会之一,大会旨在通过汇聚前沿学术成果、展示创新应用技术、交流创造行业价值,促进超算技术应用生态与产业数字化升级转型,打造一个全球化开放式HPC交流共享平台。

  众所周知,AI领域目前存在比较严重的数据孤岛问题。虽然每个机构都有数据,但这些数据是互相割裂的,相互之间并不能连接。胡水海在演讲中表示,“随着国内外针对各领域数据安全和用户隐私保护的法律密集出台,直接聚合多方原始数据进行使用的行为被明令禁止,这使得数据形成一个个孤岛,而联邦学习的出现为打破数据孤岛提供了一个好的方案。有了联邦学习,无论是医院、银行或其他企业组织机构、还是个人的终端设备,在联合发挥数据价值时,可以不用交换存储在本地的原始数据,只需要通过模型相互学习即可得到与全量数据模型一样的结果。” 

  联邦学习连接数据孤岛

  实现联邦学习这种神奇效果的关键技术是同态加密计算,即直接对密文进行处理,得到的结果仍然是加密的,且对密文直接进行处理,解密后跟对明文进行处理后的结果相同,其使用范围非常广,显著的缺陷就是性能太低,目前通常采用部分同态加密这种性能勉强能接受的折中方式,但计算量依然是明文计算量的上百倍,且数据传输总量也比传统机器学习大 100 到 1000 倍。

  面对巨大的密文计算量和传输量挑战,胡水海提到了星云Clustar设计的一种高性能联邦机器学习异构系统,“这个系统最上层是应用层,通过调用下面的联邦学习算法库和安全协议库,开发者可以在上面开发各种联邦学习应用。在这之下,我们有两个模块用来指出联邦学习高性能计算和通信,包括联邦学习异构计算模块和联邦学习通信模块。联邦学习异构计算模块可以支持使用各类异构硬件,包括GPU、FPGA、专用ASIC芯片等,来加速联邦学习中的安全计算。联邦学习通信模块主要使用RDMA高性能网络以及一些专门设计的网络技术来加速联邦学习数据传输。 

  高性能联邦机器学习异构系统设计框架图

  胡水海还表示,异构计算适合加速高度并行、重复的轻量级、批量化海量数据、密集型计算任务,因此非常适合联邦学习加速,但同时也面临异构计算硬件通常不直接支持大整数运算、涉及大量的模幂运算、高速缓存非常有限等挑战。基于此,星云Clustar设计了基于分治思想做元素级并行、平方乘算法 + 蒙哥马利算法、中国剩余定理减小中间计算结果 3 种优化手段来最大化异构硬件对联邦学习计算的加速。经过三种优化手段后,GPU为联邦学习带来了差不多 6 倍的加速比,对于计算相对简单的密态乘法和密态加法,GPU为联邦学习分别带来了 30 倍以上和 400 倍以上的加速比。

  异构加速联邦学习评测结果 – GPU vs CPU

  最后,胡水海介绍了星云Clustar面向数据中心内部不同机构间通信和不同机构的数据中心跨区域通信两大场景的探索成果,“针对数据中心内场景,我们采用的解决方案是通过RDMA网络技术优化两点间通信,然后通过动态参数聚合模型优化多点间通信加速联邦学习通信。对于跨区域通信场景,我们在探索设计一种机器学习专用的网络传输协议,在高延迟、高丢包率网络环境下加速联邦学习通信。”

  近年来,联邦学习技术作为有效解决数据孤岛分布问题的主流技术之一备受关注,联邦机器学习异构系统为解决联邦学习计算与传输问题提供了新的技术思路。星云Clustar作为国内率先开展隐私计算技术实现与应用探索的公司,未来将继续以高性能网络和联邦学习技术助力人工智能产业发展与技术突破,深掘联邦学习落地场景的可能性,推进联邦学习带来的技术红利落地于各行业领域,帮助企业与机构的多方数据安全合作更具可得性。

免责声明:“站长之家”的传媒资讯页面文章、图片、音频、视频等稿件均为自媒体人、第三方机构发布或转载。如稿件涉及版权等问题,请与我们联系删除或处理。稿件内容仅为传递更多信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性,更不对您的投资构成建议。我们不鼓励任何形式的投资行为、购买使用行为。

  • 相关推荐
  • 大家在看
  • 华为AI音箱2星云白新色上市:369元 手机一碰传音

    今年4月,华为AI音箱2发布,标准版定价299元,电池版定价399元。当时提供了太空黑、星云白双色。首发开卖的只有太空黑版本,今天,星云白版本终于开启预约,将于11月1日正式首卖。首发优惠30元

  • Tarzan加入LPL,绯闻战队并非EDG,阿布是在画饼?

    斗玩网原创:昨天是S10全球总决赛的休息日,没有任何一场赛事安排,但英雄联盟圈内还是有一条重磅消息公布。LCK的韩国打野Tarzan在自己的社交账号上发文,表示自己下赛季将会加盟LPL的一支战队,韩国记者kenzi爆料称这支战队是LNG而非此前阿布自曝的EDG战队。

  • 三星云即将终止相册同步和存储服务 用户可迁移至微软OneDrive

    根据三星此前的公告,本次全球性的服务终止被划分为两组分开进行,第一组将在 10 月 5 日开始进入服务停止阶段,将于 2021 年 6 月 30 日正式关闭数据的下载支持。而大陆地区被包含在第二组之中, 12 月 1 日正式开始终止服务, 2021 年 8 月 31 日正式关闭数据下载支持。

  • SpaceX再次成功将60颗新的Starlink卫星送入轨道

    SpaceX公司在今天凌晨进行了一次成功的发射,又将60颗Starlink卫星送入轨道以提供宽带互联网服务。这些卫星搭乘猎鹰9号火箭进入轨道,升空发生在美国东部时间8点25分的肯尼迪航天中心,此次发射是猎鹰9号Starlink的第13次任务。

  • 马斯克计划让SpaceX的Starlink业务在未来几年内上市

    特斯拉首席执行官埃隆·马斯克在推特透露称,计划在未来几年内,当收入增长平稳且可预测时,将让SpaceX的Starlink上市。

  • 家庭娱乐体验再度升级,腾讯START云游戏牵手TCL:不需要主机了

    在刚刚过去的首届北京国际游戏创新大会(BIGC 2020)中,多家游戏厂商秀出了肌肉,其中,腾讯带来的START云游戏可以说是备受关注。START云游戏,是腾讯面向未来的跨终端游戏平台,将游戏运行在云端,让用户的所有设备(电视、手机、MAC 、PC)都能运行大型游戏,这原本是我们以前幻想的事情,如今随着技术的升级,已经成为了现实。腾讯的START云游戏当然离不开硬件的支持,所以他们也和TCL等硬件厂商进行了深度合作,在如今高速普?

  • OKEx Jumpstart质押挖矿连上两期,一张图了解参与规则

    自 6 月以来,DeFi成为了圈内炙手可热的话题,流动性挖矿代币层出不穷,然而由于操作复杂、Gas费用高昂等原因,大部分投资者被挡在门外。中心化交易所近期推出的挖矿类产品则充分照顾到这部分投资者的需求。以OKEx为例,该交易所于 9 月 10 日推出OKEx Jumpstart质押挖矿,用户只需质押OKB即可获得首发DeFi项目的挖矿奖励。据官方消息,首期OKEx Jumpstart质押挖矿上线一小时后,OKB质押总量就超过 1000 万枚。 9 月 15 日,第二期

  • 用户隐私与推荐精度兼得,星云Clustar“联邦安全矩阵分解”论文被国际权威期刊收录

    近日,星云Clustar主导的论文“联邦安全矩阵分解框架(Secure Federated Matrix Factorization)”正式被《IEEE Intelligent Systems》期刊收录。在论文中,星云Clustar 算法工程师柴迪、星云Clustar AI科学家王乐业等人基于联邦学习环境提出一个名为FedMF的安全矩阵分解框架,在不牺牲任何准确度的前提下,保护用户的隐私信息。该论文首次从数学上验证了矩阵分解在横向联邦学习中交换梯度明文信息会造成隐私泄露,并提出了使用同?

  • 如果微信下架,还有其他办法在iphone使用吗?别慌,有双子星云手机!

    美国时间 8 月 6 日,美国总统特朗普正式签署了行政命令:从 9 月 20 日起,禁止任何美国个人及企业与TikTok母公司字节跳动进行任何交易,禁止美国个人及企业与腾讯公司进行与微信有关的任何交易。禁令一发布,腾讯市值应声蒸发 5000 亿美元,苹果股价下跌2.27%,市值蒸发 448 亿美元,其他科技股普遍下降,截至 8 月 12 日,苹果股价已下跌近3%。苹果:怎么又是我!细心的读者会发现,每当发生贸易摩擦、网络战时,作为美国科技企

  • SandStar视达:无人零售正在迎来最好的时代

    不久前,亚马逊推出智能购物车“Dash Carts”,让无人零售再一次成为了大众讨论的焦点。最好的时代Dash Carts采用“条码扫描+重力感应”的识别方式,有人认为这宣告了Amazon Go代表的机器视觉路线的失败。其实不然,毕竟Amazon Go越开越多。今年年初的首家Amazon Go Grocery门店总面积约合 966 平方米,能够容纳近 5000 种商品,差不多是Amazon Go的 10 倍,这足以证明技术的飞跃和商业化的成熟。Dash Carts更像是技术成熟后的商业

  • 刘亦菲《花木兰》中国内地定档9月11日!巩俐、李连杰、甄子丹众星云集

    经过多日预热,今日,迪士尼电影官方宣布,《花木兰》中国内地定档9月11日,原声中文配音也将在内地影院进行首秀。迪士尼电影官方表示:“迪士尼花木兰如约而来,9月11日影院震撼呈现!

  • 深圳AI独角兽云天励飞荣获2020 AI STAR奖项

    8 月27- 29 日,由深圳市福田区人民政府指导、深圳市人工智能行业协会主办的“ 2020 深圳(国际)人工智能展”盛大举办,云天励飞受邀参展,并荣获2020 AI STAR的奖项。展会设“全球人工智能创业者大会”(GAISC),云天励飞副总裁郑文先受邀出席发表出题演讲,并参与圆桌讨论。郑文先在演讲中提到,新基建开启新一轮AI产业落地的黄金时代。新基建相关任务中提到的5G、人工智能、数据中心等技术,将加速解决数据传输、算力不足等问题,

  • OKEx Jumpstart重推质押挖矿,上线1小时OKB质押量超4000万枚

    随着OKEx、火币、币安等头部中心交易平台的入场,DeFi的这把火已经燃遍整个主流交易市场,中心化交易所俨然成了优质DeFi项目弯道超车的重要依托。就拿OKEx来说,今年以来OKEx相继重磅上线多个知名的DeFi项目,包括OM、UMA、SUSHI、TRAED等约 30 多个,持续点燃着市场的热情。就在今日,OKEx官方再次重磅宣布, 9 月 10 日17: 00 对OKEx Jumpstart规则进行全面升级,并新增OKEx Jumpstart质押挖矿产品,持仓OKB免费挖矿, 0 锁仓、0

  • GitHub多次霸榜,两个月拿下10000+Star,他说基础软件不开源必死无疑

    谈起他最近将要发布的一篇推文主题,涛思数据CEO陶建辉笑称,世界 500 强高科技公司的CEO也得写代码。作为一个 50 多岁还在写代码的“ 10 倍工程师”,他在最近开源的TDengine 2. 0 版中又写了超 1 万行代码。

  • 部落冲突回归奖励下血本,双子星云手机助力老玩家跟上版本

    部落冲突发展至今已经8年了,不少首领和萌新们不玩的不玩,被劝退的劝退。那么,怎么把这些流失在外的玩家拉回来,回来后怎么跟上版本节奏?这是一个官方值得思考的问题。参照腾讯或者网易游戏的套路,先是给点甜头,比如最新的道具奖励,提供升级BUFF,接着再给一点奖励丰富的回归任务,每日签到就能获取。但《部落冲突》今天为了老玩家回归,就豪横了一把主要做了两个方面的调整:一个是基础优化,另一个是成长福利。基础优化方?

  • 用科技造就未来,双子星云手机在中国电子信息博览会等你

    第八届中国电子信息博览会将于2020年8月14至16日在深圳会展中心举行,中电会展是国内首屈一指的电子信息产业博览会,本届博览会以“创新共享 开放合作”为主题,集中展示新一代信息技术产业最新发展成就、促进产业核心技术突破、引领信息技术产业的供给侧改革,推进打造属于中国的电子信息业世界级先进制造业集群。作为国内领先的智能手机应用虚拟化平台的研发公司,深圳市算筹信息技术有限公司(以下简称深圳算筹)非常荣幸地受邀

  • Sandstar视达门店数字化方案助力“智能选品”,SKU再多都不怕

    “七分选品,三分运营”,是零售界的一句老话。说的是零售产业中,选品策略无与伦比的重要性。好的选品策略,可以直接调动消费者购买意愿,进而直接带动销售业绩。然而,在庞大的SKU数量面前,实体零售运营者也可能直接犯了选择困难症:面对动辄上万个SKU,如何科学选品才能做到效益最大化?作为一家在AI+零售领域深耕超过 4 年以上的公司,视达创始团队成员平均拥有 10 年以上的零售行业经验。凭借近百个落地项目中积累的经验,视

  • 红星云亮相第十三届中国商业信息化行业大会,荣获年度数字化服务

    7 月 22 日,第十三届中国商业信息化行业大会暨第十三届中国商业信息化智慧零售展在星城长沙举行。红星云受邀参加 2020 智慧商业信息化、数字化、智能化高峰论坛,喜提“2019- 2020 年度数字化服务创新实践奖”,创新研发和技术服务实力广受认可!红星云副总裁唐明亮相大会高峰论坛,并带来“红星美凯龙数字化转型实践”的主题演讲。唐明表示:“商业环境变化,从抢夺“购买时刻” 到 抢夺“时间”和“心智”, 每个公司都正在努力?

  • 2020 ChinaJoy开浪,宁晓美带你云逛展面基ESTAR直播SHOW!

    第十八届中国国际数码互动娱乐展览会(2020ChinaJoy),在万众期待中拉开了帷幕。作为深耕泛娱乐多年的互联网领军企业,宁美再次带着好玩有趣的互动内容以及高级炫酷的电脑产品惊艳亮相,为大家带来一场精彩的娱乐盛宴! 宁美人气偶像宁晓美国潮风盛装空降2020ChinaJoy现场,探展挖宝,为在线观众们带来一场趣味性十足的云游新体验! 展会第一天,排队进入场馆的玩家们便人山人海,各大游戏展区、各种动漫周边吸引了众多玩家前来围观?

  • 幻尔科技推出人工智能教育套件---JetArm视觉识别系统

    7 月 28 日,幻尔科技宣布推出JetArm智能视觉机械臂,这款人工智能教育产品旨在帮助更多高校学生更好的学习研究人工智能技术。JetArm智能视觉机械臂使用Python编程,采用Google开源的深度学习框架TensorFlow+Keras,配合跨平台的计算机视觉库OpenCV,具备目标检测、图像分类和智能分析等Al能力,支持深度学习和自主训练,可以实现AI垃圾分类、AI物品分拣码垛等功能。这款套件不仅在技术上有前瞻性,还针对教学使用方面进行了多维考

  • 参与评论
文明上网理性发言,请遵守新闻评论服务协议
  • 热门标签