首页 > 业界 > 关键词  > PowerInfer-2最新资讯  > 正文

手机流畅运行470亿大模型:上交大发布LLM手机推理框架PowerInfer-2,提速29倍

2024-06-12 18:06 · 稿源: 量子位公众号

苹果一出手,在手机等移动设备上部署大模型不可避免地成为行业关注焦点。然而,目前在移动设备上运行的模型相对较小(苹果的是3B,谷歌的是2B),并且消耗大量内存,这在很大程度上限制了其应用场景。即使是苹果,目前也需要与OpenAI合作,通过将云端GPT-4o大模型嵌入到操作系统中

......

本文由站长之家合作伙伴自媒体作者“量子位公众号”授权发布于站长之家平台,本平台仅提供信息索引服务。由于内容发布时间超过平台更新维护时间,为了保证文章信息的及时性,内容观点的准确性,平台将不提供完全的内容展现,本页面内容仅为平台搜索索引使用。需阅读完整内容的用户,请查看原文,获取内容详情。

举报

  • 相关推荐
  • 鲁大师4月新机性能/流畅/AI榜:骁龙8至尊领先版首发性能登顶,OPPO流畅持续领跑

    4月手机市场迎来爆发,旗舰机型竞争激烈。荣耀GT Pro凭借1827812分登顶性能榜,搭载骁龙8 Gen3领先版芯片;OPPO Find X8 Ultra以1815341分紧随其后,vivo X200 Ultra位列第三。流畅度方面,OPPO Find X8 Ultra以225.65分夺冠,ColorOS系统优化功不可没。AI性能榜由vivo X200 Ultra领跑,其269522分的表现得益于蓝心大模型优化。中端机型中,iQOO Z10 Turbo Pro和Redmi Turbo 4 Pro展开对决,均搭载骁龙8s Gen4芯片。千元机市场呈现"三芯演义"格局,天玑7300、骁龙7 Gen3和骁龙6 Gen4同台竞技。整体来看,4月新机数量达16款,旗舰机型在影像、性能、AI等方面展开全方位较量。(140字)

  • 千元真香机!一图看懂OPPO K12s:五年流畅不卡顿

    OPPO K12s于4月22日发布,定位千元续航机型,首销价1099元。该机主打7000mAh超大电池,支持80W快充,官方宣称5分钟充电可通话5小时。搭载骁龙6 Gen1芯片,通过60个月抗老化认证,最高支持12GB+512GB存储组合。配备6.67英寸120Hz OLED直屏,后置5000万主摄,支持立体双扬、NFC、红外遥控和IP65防尘防水,运行ColorOS 15系统。

  • 海辰储能发布欧版∞Power 6.25MWh 2h/4h系统产品,携手GCRPV加速“欧洲制造”

    海辰储能在德国The smarter E Europe展会上发布专为欧洲市场定制的欧版∞Power 6.25MWh 2h/4h储能系统,具备安全可靠、灵活适配、易维护、高效益和环保五大特性。该系统采用1175Ah大容量储能专用电池,可降低非电芯部件成本30%以上,并支持多场景部署。同时,海辰储能与西班牙GCRPV公司签署战略合作,推进欧洲本地化制造布局。展会期间还展示了314Ah电力储能电池、587Ah/1175Ah大容量电池等多款产品,全面覆盖工商业、住宅等应用场景。欧版系统采用防腐设计,适应沿海高盐雾环境,工作温度范围达-30℃,寿命长达25年。此次合作标志着海辰储能加速欧洲本土化战略,为欧洲能源转型提供全产业链解决方案。

  • 合合信息发布大模型加速器 2.0”,助力大模型跨越“幻觉”障碍

    近日,上海合合信息科技股份有限公司(简称“合合信息”)TextIn“大模型加速器 2.0”版本正式上线,凭借其多维度升级,为降低大模型“幻觉”风险、推动大模型精准应用提供了强大助力。训练数据是影响大模型“认知能力”的关键,合合信息“大模型加速器 2.0”基于领先的智能文档处理技术,从数据源头入手,对复杂文档的版式、布局和元素进行精准解析及结构化处理,

  • 荣耀 Power 之后,国产旗舰手机将步入8000mAh时代

    今年以来,OPPO、vivo、小米、真我等国产手机厂商纷纷加入 7000mAh+ 电池战局。与此同时,荣耀Power 率先将战场推向 Next Level —— 即 8000mAh 层级电池……

  • 国产六大推理模型激战OpenAI?

    2025年春节前夕,DeepSeek-R1模型发布,标志着中国AI进入推理模型新时代。文章梳理了国产大模型发展历程:从2022年ChatGPT引发国内追赶OpenAI热潮,到2023年"百模大战",再到2024年"AI六小虎"格局形成。重点分析了六大国产推理模型(DeepSeek、百度、阿里、科大讯飞、字节、腾讯)的技术特点与市场表现,指出国产模型在性能上已接近GPT-4水平。特别强调科大讯飞星火X1凭借全国产化技术路线获得政企青睐,以及DeepSeek-R1以560万美元超低成本实现高性能的突破。文章还探讨了英伟达芯片断供危机下,国产全栈技术路径的重要性,认为自主可控将成为对抗国际不确定性的关键。最后指出,随着推理模型成为竞争焦点,国产大模型正从技术追随转向自主创新阶段。

  • “摸鱼神器”比Manus快4 全球首个“行动浏览器”Fellou来了!

    Fellou AI推出全球首款行动型浏览器Fellou,主打智能代理技术,能自动分解用户任务并跨网站执行。其搜索性能号称比OpenAI快4倍,单次任务成本仅0.03-3元。产品特点包括:1)支持登录式网站访问;2)通过沙箱环境实现多网页并行操作;3)内置智能模块自动规划任务流程;4)集成数据分析报告功能。目前提供Mac/PC版,Windows和移动版计划下半年推出。测试显示其综合评分优于Deep Research等竞品,开发者还可使用其开源框架Eko Framework进行扩展开发。

  • 2025上海车展:BBA等八成主车企已接入豆包大模型

    2025年4月23日,第二十一届上海国际车展开幕。本届车展以"新能源"和"智能化"为核心主题,吸引近千家中外汽车企业参展,展出车辆超千辆,其中新能源车占比超七成。奔驰、奥迪、长安马自达等品牌展示了基于豆包大模型的智能座舱系统,交互效率提升50%,唤醒速度仅0.2秒。火山引擎与多家车企达成战略合作,共同推进AI大模型在智能驾驶、数字座舱等领域的�

  • OPPO K12s发布:售价1099元起 内置7000mAh电池

    OPPO正式发布K12s新机,主打超长续航,配备7000mAh大电池+80W快充,30分钟可充至62%。搭载骁龙6Gen4处理器,6.67英寸120Hz OLED直屏,1600万前置+5000万主摄组合。提供8+128GB(1099元)至12+512GB(1799元)四种存储版本,三款配色可选。通过泰尔认证实现60个月抗老化,IP65级防尘防水,并针对户外场景优化湿手触控等功能。官方称其续航能力远超同档竞品,凭借石墨材料特性可保障5年后电池容量仍保持80%以上。

  • OPPO Reno14 Pro发布:售价2999元起

    OPPO Reno14 Pro正式发布,主打影像与直播功能。配备6.83英寸1.5K直屏,搭载天玑8450芯片,提供12+256GB至16+1TB四种存储版本,售价2999元起。影像方面采用5000万三摄系统,支持4K视频转实况、闪光实况照片等创新功能,配备6200mAh电池和80W快充。直播性能突出,搭载专业降噪技术,环境噪音降低90%,防抖效果媲美iPhone16 Pro Max。提供人鱼姬等三种配色,支持IP68防水。