站长之家首页 > 动态 > 小米最新资讯 > 正文

小米开源自研移动端深度学习框架MACE

2018-06-28 17:21 · 稿源:雷锋网

小米开源自研移动端深度学习框架MACE

6 月 28 日,小米人工智能与云平台副总裁崔宝秋博士在开源中国开源世界高峰论坛上发表《小米 AI 时代的开源》演讲,并在会上宣布,开源小米自研的移动端深度学习框架 Mobile AI Compute Engine (MACE)。地址:https://github.com/XiaoMi/mace小米开源自研移动端深度学习框架MACE

近年来,随着移动互联网的深入发展和IoT智能设备的普及,以及用户对智能性,低延迟和隐私保护的诉求变得越来越高,移动设备上的离线深度学习应用变得越来越普遍。

据雷锋网了解,MACE 是专门为移动设备优化的深度学习模型预测框架,MACE 从设计之初,便针对移动设备的特点进行了专门的优化:

  • 速度:对于放在移动端进行计算的模型,一般对整体的预测延迟有着非常高的要求。在框架底层,针对ARM CPU进行了NEON指令级优化,针对移动端GPU,实现了高效的OpenCL内核代码。针对高通DSP,集成了nnlib计算库进行HVX加速。同时在算法层面,采用Winograd算法对卷积进行加速。

  • 功耗:移动端对功耗非常敏感,框架针对ARM处理器的big.LITTLE架构,提供了高性能,低功耗等多种组合配置。针对Adreno GPU,提供了不同的功耗性能选项,使得开发者能够对性能和功耗进行灵活的调整。

  • 系统响应:对于GPU计算模式,框架底层对OpenCL内核自适应的进行分拆调度,保证GPU渲染任务能够更好的进行抢占调度,从而保证系统的流畅度。

  • 初始化延迟:在实际项目中,初始化时间对用户体验至关重要,框架对此进行了针对性的优化。

  • 内存占用:通过对模型的算子进行依赖分析,引入内存复用技术,大大减少了内存的占用。

  • 模型保护:对于移动端模型,知识产权的保护往往非常重要,MACE支持将模型转换成C++代码,大大提高了逆向工程的难度。

此外,据雷锋网了解,MACE 支持 TensorFlow 和 Caffe 模型,提供转换工具,可以将训练好的模型转换成专有的模型数据文件,同时还可以选择将模型转换成C++代码,支持生成动态库或者静态库,提高模型保密性。

小米开源自研移动端深度学习框架MACE

目前MACE已经在小米手机上的多个应用场景得到了应用,其中包括相机的人像模式,场景识别,图像超分辨率,离线翻译(即将实现)等。

此外,随着MACE一起开源的还有 MACE Model Zoo 项目,目前包含物体识别,场景语义分割,图像风格化等多个公开模型。后续会增加更多模型。

小米开源自研移动端深度学习框架MACE

上方是用MACE Model Zoo中的fast style transfer(快速风格迁移)模型在手机端生成的风格化图片。

据雷锋网了解,此前小米曾参与多个国际重大的开源项目,比如Hadoop,HBase,Spark,TensorFlow等,同时,小米也积极参与自研、具有通用性的软件系统。过去几年,小米相继推出了Linden(分布式实时搜索系统),Open-Falcon(互联网企业级监控系统)、Pegasus(分布式KV存储系统)等一系列开源项目。

在AI方面,小米开源了自研的针对移动端设备优化的深度学习框架 MACE,目前已经支持内部的多个业务。

另外, 6 月 29 日至 7 月 2 日雷锋网将在深圳举办 CCF-GAIR 大会,小米首席架构师、小米人工智能与云平台副总裁崔宝秋将作为嘉宾出席并发表演讲。

全球人工智能与机器人峰会(CCF-GAIR) 由中国计算机学会(CCF)主办,雷锋网(公众号:雷锋网)、香港中文大学(深圳)承办,得到了深圳市政府的大力指导,是国内人工智能和机器人学术界、工业界及投资界三大领域的顶级交流盛会,旨在打造国内人工智能领域最具实力的跨界交流合作平台。

CCF-GAIR 2018 延续前两届的“顶尖”阵容,提供 1 个主会场和 11 个专场(仿生机器人专场,机器人行业应用专场,计算机视觉专场,智能安全专场,金融科技专场,智能驾驶专场,NLP专场,AI+专场,AI芯片专场,IoT专场,投资人专场)的丰富平台,意欲给三界参会者从产学研多个维度,呈现出更富前瞻性与落地性相结合的会议内容与现场体验。

  • 大家在看
  • 相关推荐
  • 首个国产开源AI数据平台Milvus加入世界顶级开源组织

    传统IT技术中有三大件(CPU,操作系统,数据库)的说法。AI领域中的三大件则是AI处理器,模型训练/推理平台和AI数据平台。中国目前已经在AI处理器和模型训练/推理平台取得了一定的成绩。 3 月末,中国开源项目在AI数据平台的核心部件——向量搜索引擎方面也迎来了好消息。中国开源项目Milvus向量搜索引擎通过技术委员会投票,正式加入Linux AI基金会(LF AI)成为其最新的孵化项目。LF AI基金会是世界顶级开源组织Linux基金会在AI?

  • 华为宣布全场景AI计算框架MindSpore正式开源

    3月28日,华为 2020 开发者大会上,华为MindSpore首席科学家陈雷在会上宣布,华为全场景AI计算框架MindSpore正式开源。华为AI计算框架MindSpore于去年 8 月与AI处理器昇腾 910 一同发布。彼时,华为表示,MindSpore支持除“昇腾”处理器外的GPU等其他处理器。为了促进AI应用,华为全场景AI计算框架MindSpore将在 2020 年第一季度实现开源。

  • 腾讯上线全球战疫信息平台 科技开源走出国门

    抗击新冠肺炎,已成为全球共同的一场战“疫”。近日,腾讯正式上线“Together We Can”全球战“疫”信息平台。该平台整合四款在线医疗产品,旨在为全球用户提供从科普、自测、问诊、用药建议等一站式医疗信息服务。“这个关键时刻需要全球合作,”腾讯公司总裁刘炽平表示,当下要以开源的心态协同生态力量,发挥互联网技术力量,并肩战“疫”。作为中国互联网技术的领军者,腾讯此次开放在线医疗信息服务,联动全球开发者并肩作战?

  • 旷视发布开源深度学习框架天元 降低AI开发门槛

    旷视科技今日下午举办线上发布会,正式宣布开源新一代AI生产力平台Brain++的核心深度学习框架旷视天元(MegEngine),成为全球首个将底层框架开源的人工智能企业。

  • 怀疑开发者在“造核弹”?GitHub不断封禁开源项目

    继去年封禁伊朗等地区账号后,GitHub 今天再次封禁了一个属于微软的前端开源项目 Aurelia,理由是项目中有两名来自伊朗的外部贡献者。虽然 GitHub 首席执行官致歉表示“这次的确是个错误”,但是开发者们显然不买账:GitHub 封禁项目的行为是否太随意了?这样的行为难道不是与开源信念背道而驰吗?

  • 加拿大初创公司开源 AI 工具,帮助识别冠状病毒感染

    COVID-19 大流行继续对全球人口的健康和福祉造成破坏性影响。在此背景下,一家位于加拿大安大略省滑铁卢的初创公司 DarwinAI 的联合创始人兼滑铁卢大学教授亚历山大·王(Alexander Wong)和他的研究学生王琳达(Linda Wang)一起开发了一种 AI 工具“COVID-Net”,希望帮助指导医疗专业人员有关 COVID-19 感染的严重程度 。

  • 加拿大初创公司开源 AI 工具 帮助识别新冠病毒感染

    加拿大安大略省滑铁卢的初创公司 DarwinAI 开发了一种 AI 工具“COVID-Net”,希望帮助指导医疗专业人员有关 COVID-19 感染的严重程度 。 COVID-Net 是一个深度卷积神经网络,旨在通过在胸部 X 光片上识别出该疾病的明显迹象来筛查可疑冠状病毒感染的患者。在 3 月下旬,COVID-Net 已完成开源。

  • Rancher开源Fleet:业界首个海量K8S集群管理项目

    2020 年 4 月 3 日,业界应用最为广泛的Kubernetes管理平台创建者Rancher Labs(以下简称Rancher)宣布推出全新开源项目Fleet,致力于为用户提供海量Kubernetes集群的集中管理体验。Rancher是业界最早实现多云多集群管理的企业级Kubernetes管理平台。早在 2016 年的Rancher 1. 0 版本,Rancher就已经提供了用于管理多个集群的中央控制平面。作为Kubernetes多集群管理的先驱,我们已经亲眼看到了用户如何不断增加所管理集群的数量。

  • 2019 年开源软件漏洞增长近 50%,C 语言漏洞占比最高

    ​WhiteSource 通过对 650 多个开发人员进行了调查,并从 NVD(Nartional Vulnerability Database)、安全公告、经过同行评审的漏洞数据库、问题跟踪程序等渠道收集了数据之后,整理发布了一份研究报告。该报告显示,2019 年公开的开源软件漏洞数已激增至 6000 多个,同比增长了近 50%。

  • 旷视科技宣布开源新一代AI生产力深度学习框架“天元”

    3月25日下午,旷视科技举办线上发布会,宣布开源新一代AI生产力平台Brain++的核心深度学习框架旷视天元(MegEngine)。天元框架通过训练、推理一体化的机制省去模型转换的过程,可直接将训练后的模型进行推理,并保证跨设备的模型精度对齐,同时天元内置自动模型优化、简化流程,减少因手工操作的机会,降低出错概率。

  • HPE、英特尔和Linux基金会联手为5G核心开发开源软件项目

    HPE周二宣布,它正在与英特尔(Intel)和Linux基金会合作一个新的开源软件项目,以帮助在多个站点自动推出5G。这一合作关系代表着HPE从其企业根基向5G核心网络领域的转移。该开源项目的其他合作伙伴包括AMI、Apstra、IBM的红帽、Tech Mahindra等等。

  • “穿越者”小米

    小米为 2019 年的业绩交出了答卷,总营收达到2058. 39 亿元,同比增长17.7%。各项业务均显著增长,手机业务延续增长势头,同比增长7.3%至 1221 亿元;互联网业务营收同比增长24.4%至 198 亿元。尤其是IoT业务的全年营收增幅为41.7%,营收规模达620. 88 亿元,在总营收中的占比已经超过三成。

  • 小米:今日起全国1800多家小米门店正式恢复营业

    3月19日上午,小米正式宣布全国1800多家门店正式恢复营业,小米表示门店将采取高标准店内消毒、测温等工作,请顾客们放心并配合。小米还表示由于国内工厂逐步恢复生产,小米10系列手机产量正在提升,小米决定在3月19日上午10点来场加“十”赛,再次开售小米10手机。

  • 华米澄清不实传言:去小米化报道不实 小米未减持

    今日,针对“华米去小米化加速”的不实报道,华米表示,该消息完全不属实,小米的持股从未发生改变,之前负责小米生态链业务的副总裁刘德,目前仍然是上市公司的董事。

  • 小米集团宣布人事任命,小米集团总裁王翔代理CFO一职

    4月10日,小米集团宣布人事任命,小米集团总裁王翔代理CFO一职,小米集团国际部总裁周受资不再兼任CFO,将专注小米境外市场业务。同时,小米集团董事会将继续在全球范围内遴选优秀人才出任CFO。

  • 小米CC10 Pro

    ​据 Twitter 著名爆料人 @Sudhanshu1414 称,小米正在开发 1.5 亿像素手机(144MP),可能是小米 10S Pro,也可能是小米 CC10 Pro。

  • 小米10/小米10 Pro今日同步开售:和K30 Pro选哪个?

    3 月 24 日消息,今早 10 点,小米10/小米10 Pro同步开售!购买所有版本均享 12 期分期免息,低至 334 元/期。

  • 外媒:小米正研发1.5亿像素镜头手机 或为小米CC10 Pro

    据海外博主Sudhanshu1414 爆料,目前,小米正在研发搭载1. 5 亿像素(144MP)主摄镜头的手机。这款手机很可能是小米10S Pro或小米CC10 Pro。

  • 消息称小米正在研发 1.5 亿像素镜头手机,或为小米 CC10 Pro

    据 Twitter 著名爆料人 @Sudhanshu1414 称,小米正在开发 1.5 亿像素手机(144MP),可能是小米 10S Pro,也可能是小米 CC10 Pro。目前关于搭载 1.5 亿像素手机的细节暂时不得而知,1.5 亿像素手机有可能是采用小米和三星联合开发的全新图像传感器,传感器尺寸有望进一步提高。

  • 小米手机:罗永浩直播带货的第一款手机是小米10

    自从罗永浩宣布成为“带货网红”后,网友就对首秀选品产生了极大兴趣。3月31日,小米手机今天官宣,罗永浩直播带货的第一款手机为小米10。有网友在小米手机微博评论,“我们终于活成了自己最讨厌的样子。”

  • 参与评论
文明上网理性发言,请遵守新闻评论服务协议

热文

  • 3 天
  • 7天