首页 > 传媒 > 关键词 > 腾讯AI实验室最新资讯 > 正文

腾讯 AI Lab 正式开源PocketFlow,让深度学习放入手机!

2018-11-03 20:03 · 稿源:站长之家用户投稿

11 月 1 日,腾讯AI Lab在南京举办的腾讯全球合作伙伴论坛上宣布正式开源“PocketFlow”项目, 该项目是一个自动化深度学习模型压缩与加速框架,整合多种模型压缩与加速算法并利用强化学习自动搜索合适压缩参数,解决传统深度学习模型由于模型体积太大,计算资源消耗高而难以在移动设备上部署的痛点,同时极大程度的降低了模型压缩的技术门槛,赋能移动端AI应用开发。

这是一款适用于各个专业能力层面开发者的模型压缩框架,基于Tensorflow开发,集成了当前主流与AI Lab自研的多个模型压缩与训练算法,并采用超参数优化组件实现了全程自动化托管式的模型压缩。开发者无需了解具体模型压缩算法细节,即可快速地将AI技术部署到移动端产品上,实现用户数据的本地高效处理。

目前该框架在腾讯内部已对多个移动端AI应用模型进行压缩和加速,并取得了令人满意的效果, 对应用整体的上线效果起到了非常重要的作用。

项目访问地址:

https://github.com/Tencent/PocketFlow

自 2016 年腾讯首次在GitHub上发布开源项目(https://github.com/Tencent),目前已累积开源覆盖人工智能、移动开发、小程序等领域近 60 个项目。

随着移动互联网的普及和AI算法的愈加成熟,移动端AI的需求和应用场景也愈加丰富,如智能美颜,瘦身,手势识别,场景识别,游戏AI,视频检测,车载语音交互,智能家居,实时翻译等。将模型部署在移动端代替服务器端可以实现实时交互,在无网络环境的情况下也可正常运行,并且保护了数据的隐私和安全性,降低运维成本。而在移动端AI模型部署方面,小而快变成了模型推理最渴望的要求之一,因为小的模型可以使得整个应用的存储空间减小;而提高模型的推理速度则可以使得整个模型应用场景的反应速度加快,同时也可以在低配设备上取得很好的效果。因此,模型的推理速度逐渐已经成为了各大AI应用市场竞争力上最重要的评测指标之一。然而往往训练出来的模型推理速度或者尺寸大小不能满足需求,大部分开发者对极致的模型压缩和加速方法又感到困惑。

PocketFlow的出现就是为了解决这个令众多AI应用开发者头痛的问题。

框架开源内容:

PocketFlow框架本次开源内容主要由两部分组件构成,分别是模型压缩/加速算法部分和超参数优化部分,具体结构如下图所示:

模型压缩/加速算法部分包括多种深度学习模型压缩和加速算法:

通道剪枝(channel pruning): 在CNN网络中,通过对特征图中的通道维度进行剪枝,可以同时降低模型大小和计算复杂度,并且压缩后的模型可以直接基于现有的深度学习框架进行部署。PocketFlow还支持通道剪枝的分组finetune/retrain功能,通过实验我们发现此方法可以使原本压缩后的模型精度有明显的提升。

权重稀疏化(weight sparsification):通过对网络权重引入稀疏性约束,可以大幅度降低网络权重中的非零元素个数;压缩后模型的网络权重可以以稀疏矩阵的形式进行存储和传输,从而实现模型压缩。

权重量化(weight quantization):通过对网络权重引入量化约束,可以降低用于表示每个网络权重所需的比特数;我们同时提供了对于均匀和非均匀两大类量化算法的支持,可以充分利用ARM和FPGA等设备的硬件优化,以提升移动端的计算效率,并为未来的神经网络芯片设计提供软件支持。

网络蒸馏(network distillation):对于上述各种模型压缩组件,通过将未压缩的原始模型的输出作为额外的监督信息,指导压缩后模型的训练,在压缩/加速倍数不变的前提下均可以获得0.5%-2.0%不等的精度提升。

多GPU训练(multi-GPU training):深度学习模型训练过程对计算资源要求较高,单个GPU难以在短时间内完成模型训练,因此我们提供了对于多机多卡分布式训练的全面支持,以加快使用者的开发流程。无论是基于ImageNet数据的Resnet- 50 图像分类模型还是基于WMT14 数据的Transformer机器翻译模型,均可以在一个小时内训练完毕。

超参数优化(hyper-parameter optimization)部分可以通过强化学习或者AutoML,在整体压缩率一定的情况下,搜索出每一层最合适的压缩比例使得整体的精度最高。多数开发者对模型压缩算法往往了解较少,调节压缩算法参数需要长期的学习和实验才能有所经验, 但超参数取值对最终结果往往有着巨大的影。PocketFlow的超参数优化部分正是帮助开发者解决了这一大痛点,并且通过实验我们发现,其优化结果也要好于专业的模型压缩工程师手工调参的结果。其结构如下图:

PocketFlow性能

通过引入超参数优化组件,不仅避免了高门槛、繁琐的人工调参工作,同时也使得PocketFlow在各个压缩算法上全面超过了人工调参的效果。以图像分类任务为例,在CIFAR- 10 和ImageNet等数据集上,PocketFlow对ResNet和MobileNet等多种CNN网络结构进行有效的模型压缩与加速。

在CIFAR- 10 数据集上,PocketFlow以ResNet- 56 作为基准模型进行通道剪枝,并加入了超参数优化和网络蒸馏等训练策略,实现了2. 5 倍加速下分类精度损失0.4%,3. 3 倍加速下精度损失0.7%,且显著优于未压缩的ResNet- 44 模型; 在ImageNet数据集上,PocketFlow可以对原本已经十分精简的MobileNet模型继续进行权重稀疏化,以更小的模型尺寸取得相似的分类精度;与Inception-V1、ResNet- 18 等模型相比,模型大小仅为后者的约20~40%,但分类精度基本一致(甚至更高)。

相比于费时费力的人工调参,PocketFlow框架中的AutoML自动超参数优化组件仅需 10 余次迭代就能达到与人工调参类似的性能,在经过 100 次迭代后搜索得到的超参数组合可以降低约0.6%的精度损失;通过使用超参数优化组件自动地确定网络中各层权重的量化比特数,PocketFlow在对用于ImageNet图像分类任务的MobileNet-v1 模型进行压缩时,取得了一致性的性能提升;用PocketFlow平均量化比特数为 8 时,准确率不降反升,从量化前的70.89%提升到量化后的71.29%。

PocketFlow落地助力内部移动应用AI落地

在腾讯公司内部,PocketFlow框架正在为多项移动端业务提供模型压缩与加速的技术支持。例如,在手机拍照APP中,人脸关键点定位模型是一个常用的预处理模块,通过对脸部的百余个特征点(如眼角、鼻尖等)进行识别与定位,可以为后续的人脸识别、智能美颜等多个应用提供必要的特征数据。我们基于PocketFlow框架,对人脸关键点定位模型进行压缩,在保持定位精度不变的同时,大幅度地降低了计算开销,在本身已经十分精简的网络上取得了1.3 ~2 倍不等的加速效果,压缩后的模型已经在实际产品中得到部署。

在人体体态识别项目中,PocketFlow更是在满足上线精度的要求下,使得模型推理速度有 3 倍以上的加速, 为项目的移动端落地起到了决定性的作用。

网友热搜:

免责声明:“站长之家”的传媒资讯页面文章、图片、音频、视频等稿件均为自媒体人、第三方机构发布或转载。如稿件涉及版权等问题,请与我们联系删除或处理。稿件内容仅为传递更多信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性,更不对您的投资构成建议。我们不鼓励任何形式的投资行为、购买使用行为。

  • 相关推荐
  • 大家在看
  • 字节跳动AI实验室李磊:如何用算法帮助内容在不同语言里互通

    在 2020 世界人工智能大会WAIC“《新一代中国人工智能》全景论文背后的故事及AI产业在中国的发展和世界的领导力”圆桌论坛中,参与撰写论文的七位作者讨论了论文的意义和背后的故事。

  • 华为成立数通自动驾驶网络联合实验室

    今日,华为宣布,在 2020 华为自动驾驶网络技术峰会期间,成立数通自动驾驶网络联合实验室,以“像改变汽车一样改变网络”为愿景,致力于打造“产-学-研”技术合作平台,促进网络自动驾驶技术科研成果转化。

  • 火币宣布成立DeFi实验室,联合全球社区构建DeFi生态

    8 月 3 日,全球知名的数字经济领军企业,火币集团宣布成立火币DeFi实验室。 火币DeFi实验室专注于DeFi(去中心化金融)的研究、投资、孵化、以及生态的建设。计划在未来通过与全球加密领域和DeFi社区合作,构建更好的金融系统。 火币集团创始人兼CEO李林表示:“作为全球知名的数字经济领军企业,我们的使命是让财富更自由,让全球至少一亿家庭拥有数字资产,无论是DeFi还是CeFi。加入全球DeFi生态是一件激动人心的事,同时,也很?

  • 华为正式成立数通自动驾驶网络联合实验室:像改变汽车一样改变网络

    从华为官方获悉,近日,华为在苏州成功举办华为自动驾驶网络技术峰会,与来自复旦大学、浙江大学、西安交通大学、东北大学、苏州大学等多所高校的教授共同探讨自动驾驶网络产业的

  • 肯德基宣布与3D生物打印公司合作 尝试制作实验室生产更环保鸡块

    对于肯德基来说,他们正试图打造世界上第一款实验室生产的鸡块,这是其 "未来餐厅"概念的一部分。这家主打鸡肉的连锁餐厅将与俄罗斯公司3D Bioprinting Solutions合作开发生物打印技术

  • chem17独家对话上海德卡实验室中国地区销售经理王云峰

    随着中国经济的迅速发展,实验室行业已经从市场情况、行业服务、市场规模等进入到了中国市场的方方面面。据相关数据显示:预计2020年全球实验室分析仪器市场规模约为637.5亿美元,2016-2020年复合增长率超过4%,亚洲在未来会成为在此市场中增速最快的地区,而我国预计增速将高于其他国家/地区至少1.2个百分点。在当今市场发展下,实验室用户要求更加多样,上海德卡实验室正是这样一家拥有专业的态度和技术的值得信赖的供应商。慕尼

  • 中国科学院深圳先进院联合速眠成立数字睡眠与脑科学实验室

    2020 年 7 月 24 日,首届中国国际智慧睡眠发展高峰论坛暨数字睡眠与脑科学联合实验室成立仪式在中国科学院深圳先进技术研究院举办,以线下峰会,线上直播两者联动的方式进行。本次高峰论坛由中国科学院深圳先进技术研究院与柏斯速眠科技(深圳)有限公司共同发起,以“乘·新数之慧,启·智睡纪元”为主题,从宏观局势和顶层规划的视角,瞻望中国睡眠产业的发展趋势与创新路径。 中国科学院深圳先进技术研究院副院长许建国,中国科

  • ​当IPFS遇见云管理服务|云MSP新钛云服与冰河分布式实验室达成战略协议

    7月18日,冰河分布式存储实验室发布会在“天府之国”四川成都国际金融中心(IFS)隆重召开,本次发布会以“正本清源,探寻更佳”为主题。在此次大会上,新钛云服CEO冯祯旺受邀出席,并与冰河分布式实验室成功达成战略协议。冰河分布式存储实验室致力于向行业输出IPFS分布式存储专业知识科普、最新技术公开测评、最优算法开源最佳矿机矿池配置方案、生态应用实测等成果,正本清源地向行业传递务实、透明、开源的信息,探寻最佳的解决方案。新

  • i云保入围分子实验室“2020中国保险科技100强”榜单

    7月10日,分子实验室《2020中国保险科技全景发展报告》(下称简称“报告”)和《2020中国保险科技100强》榜单发布,专注于赋能保险代理人的保险科技服务平台——i云保,与蚂蚁金服保险、众安保险、美团金服等知名互联网保险科技公司同时入围百强榜单。据悉,分子实验室从“行业价值、发展韧性、用户体验、运营管理、未来成长、社会价值”六个方面考量,甄选出100家优秀公司,并将其融于《报告》。作为传统行业模式创新的探索者,i?

  • 腾讯发布AI白皮书:“泛在智能”即将来临

    7 月 10 日, 2020 世界人工智能大会(WAIC)在上海举办,腾讯研究院院长司晓在腾讯论坛版块发布《腾讯人工智能白皮书:泛在智能》。此为 2019 年WAIC之后的第三届腾讯论坛,恰逢新基建概念提出,AI与产业升级的愿景不断深化,腾讯始终秉持共建的产业理念,致力于加强AI在数字化生态建设的关键作用。《白皮书》指出,我国人工智能相关产业正在进入技术与产业的融合发展阶段,呈现“泛在智能”的重要特征。一方面,在“新基建”春风

  • 腾讯宣布进军AI新药研发:助力攻克无药可治的疾病

    据有关统,传统药物研发耗时耗力,一般需要超过15年,耗资30多亿美元,但每年上市的原创新药仅十几种。目前,已知的4000多种疾病中90%尚无药可治。今日,腾讯官方宣布,进军AI新药研发,助力攻

  • 钟南山团队和腾讯合作研发新冠重症AI预测登上Nature子刊

    国际顶级期刊《Nature》子刊《Nature Communications》本月刊发了名为《深度学习在新冠肺炎危重患者早期分诊中的应用》的研究。文章第一作者分别是广州呼吸健康研究院院长助理梁文华博士和腾讯AI Lab医疗中心首席科学家姚建华博士,钟南山院士为共同作者。临床研究显示,6.5%的新冠肺炎患者会突然恶化为重症,尽早识别有重病风险的患者并早期进行干预,对于患者预后的改善至关重要。大数据及人工智能联

  • 钟南山团队和腾讯最新研究成果发布:AI能预测新冠患者病情危重概率了

    今日,钟南山团队和腾讯的最新研究成功公布:AI可以预测COVID-19患者病情危重概率了!据悉,该研究来自钟南山院士团队与腾讯AI Lab,这也是钟院士团队与腾讯联合成立的的大数据及人工智能联合

  • 腾讯教育王涛:教育AI融合实现精准教学、个性化学习、科学决策

    【TechWeb】7月13日消息,世界人工智能大会教育分论坛近日在云端开讲。腾讯云副总裁、腾讯教育副总裁王涛出席大会并分享了其对人工智能与教育融合的思考,以及腾讯教育在疫情期间,如何利用科技手段助力教育管理部门、学校、教师和学生搭建“空中课堂”,解决在线学习痛点的探索成果。王涛表示,突如其来的大疫情对各行各业都带来了非常大的冲击,也使得行业的数字化进程得到了很大的加速。教育是一个积极拥抱智能时代的行业。疫?

  • 腾讯首次发布人工智能白皮书 阐述内部AI布局和理解

    在2020世界人工智能大会腾讯论坛上,腾讯公司副总裁、腾讯研究院院长司晓正式发布了《腾讯人工智能白皮书:泛在智能》(以下简称白皮书)。该白皮书首次揭露了腾讯内部对AI技术的理解以及智能业务布局的思考,主要分为5个纬度——宏观环境、技术研究、落地应用、创新经济、制度保障。腾讯公司副总裁、腾讯研究院院长司晓司晓谈到,“泛在智能”是腾讯对人工智能此后很长一段时间的状态描述。通俗来讲,?

  • 腾讯斥资142亿进行巨额股权激励;杜海涛工作室声明;SKP回应拒绝外卖员进入

    7月10日,腾讯在港交所公告了最新的股权激励计划,拟授予不少于2.97万人2664万的股份。以腾讯最新收盘价计算,人均获奖励股份市值49万港元左右。以532.81港元/股的认购标准计算,腾讯本次股权激励计划或将斥资142亿港元。

  • 微博与肖战工作室谈话

    今日,微博管理员文称, 7 月 9 日微博与肖战工作室,就粉丝引导管理相关问题进行了谈话。微博建议明星工作团队应加强对粉丝群体的正面引导和约束能力。对非官方粉丝组织打着明星旗号做出的不当行为,要主动上报平台并配合平台管理。

  • 腾讯汤道生:AI是产业互联网的“中央处理器” 正催生新产业形态

    世界人工智能大会上,腾讯高级执行副总裁、云与智慧产业事业群总裁汤道生表示,人工智能是新基建的核心技术之一,也是产业互联网的“中央处理器”。人工智能可以优化生产和服务流程,提升人均产值,优化成本结构,助力降本增效,挖掘产业新价值;人工智能让机器有了自己的“视觉”、“听觉”,甚至是“嗅觉”, 将催生产业新形态。另外,汤道生认为,AI与5G、云、物联网等技术深度融合,将打造产业新动能。

  • 阿里、苏宁、腾讯巨头亮相世界人工智能大会,“AI+物流”玩出新花样

    以 “智联世界 共同家园”为主题的 2020 世界人工智能大会正如火如荼,首次“云端漫步”的线上展厅形式,一扫疫情阴霾,开启最新的AI“穿越之门”。作为中国领先的智慧零售服务商,苏宁携无人店、用户画像、智能货架等互联网运营和门店数字化方面的“AI+零售”最新研究应用成果惊艳亮相,吸睛无数。作为零售触达消费者的重要一环,苏宁智慧物流服务的数字化应用也引发关注。苏宁物流相关负责人表示,通过AI、大数据、5G等技术的深?

  • 李开复谈AI赋能:“AI+”有价值 但“+AI”对社会经济贡献更大

    创新工场董事长兼首席执行官李开复近日出席2020世界人工智能大会云端峰会,并发表《从“AI+”到“+AI”:以技术重构中国经济》的主题演讲。从之前的“AI+”到现在的“+AI”,二者有何区别?李开复表示,“AI+”是以AI为核心,工程师、科学家主导寻找商业机会。而“+AI”是以传统公司为主导,AI赋能传统行业产生价值。李开复认为:”再过五年,我相信AI会进入下一阶段——无处不在。AI应用会变得越来越简?

  • 参与评论
文明上网理性发言,请遵守新闻评论服务协议
  • 热门标签