首页 > 传媒 > 关键词  > 生成式AI最新资讯  > 正文

联发科天玑AI开发套件:加速大模型终端部署,从数周可加速到一天

2024-05-08 16:24 · 稿源: 站长之家用户

联发科天玑开发者大会2024(MDDC)在深圳盛大召开,以“AI予万物”为主题,汇聚了众多移动生态领域的领军企业和开发者。在本次大会上,与会者深入探讨了端侧生成式AI技术与生成式AI手机的未来发展,并分享了联发科的天玑AI生态战略。为助力终端生成式AI应用的研发,联发科推出了“天玑AI开发套件”。此外,联发科还携手业界生态伙伴共同发布了《生成式AI手机产业白皮书》,并向全球开发者推出“天玑AI先锋计划”,旨在定义生成式AI手机,推动移动生态的创新发展,并加速生成式AI技术的广泛应用。

目前,生成式AI应用的体验提升已成为行业与用户共同追求的目标,而智能终端则是实现生成式AI普及的关键途径。鉴于智能手机具有便携性、个性化、多模态感知及强大的AI算力和通信功能,它无疑成为端侧生成式AI应用落地的理想选择。随着生成式AI与智能手机的深度融合,智能手机迎来了继触控屏幕之后的又一次技术革新。在联发科等业界先锋的推动下,我们迎来了“生成式AI手机”的时代。

天玑AI开发套件,为广大开发者提供“快、全、强、易”的专业开发体验

很多开发者都面临着终端生成式AI应用开发起步期的多元挑战,联发科不仅研发出领先的天玑芯片,更重要的是,帮助开发者在搭载天玑芯片的终端上打造出更具创新性的生成式AI用户体验,从而推动整个AI新生态的繁荣与发展。会上,联发科隆重推出了“天玑AI开发套件”,为广大开发者提供终端生成式AI应用开发的一站式解决方案。天玑AI开发套件包含四大模块,包括快速有效的GenAI最 佳实践、覆盖全球主流大模型的GenAI Model Hub、有效提升性能的GenAI优化技术和Neuron Studio一站式视觉化开发环境等四大模块,为广大开发者提供“快、全、强、易”的专业开发体验,赋能终端生成式AI应用开发全流程。

其中,GenAI 最 佳实践,它可以提升大模型的终端部署速度,从原先的数周加速到一天即可完成部署。在模型的量化、编译、推理方面,为开发者提供先进的INT4量化技术、内存压缩技术、Token加速技术、最 优缓存配置,还可以开放端侧部署源码。让开发者在与时间赛跑的创新竞赛中,抢得先机,更好地把握创新机遇。

全面的GenAI Model Hub ,是联发科为开发者打造的模型库,目前已适配包括:Meta Llama、百川大模型、阿里云通义千问在内的全球主流大模型。开发者可以轻松获取并使用这些不断新增的大模型,进而大幅降低模型部署的难度和复杂性。

强大的GenAI优化技术,是生成式AI应用体验的关键。目前已导入了多项业界最 新、最快的软件优化技术,包括“推测解码加速”和“LoRA Fusion”等等,可显著提升AI应用的生成速度,功能包所占用的存储空间也可以大幅减少。

易用的Neuron Studio 集成开发环境,跳出传统的代码开发环境,可为开发者提供高度集成的,一站式、可视化开发环境 ,带来“所见即所得”般更易用的开发体验,让开发过程变得更加直观、易用。

目前天玑AI开发套件,已覆盖包括智能手机、智能汽车、物联网、个人电脑等智能终端设备,推动这些领域的AI应用快速创新和落地。

从应用落地成果来看,联发科凭借其优秀的AI平台能力,已携手阿里云通义千问、Cocos、Honor of Kings、虎牙直播、酷狗音乐、美图、全民K歌、RWKV、Soul、腾讯AI Lab、小红书等数十家生态伙伴共创体验更精彩的生成式AI应用。

image.png

联合产业伙伴发布《生成式AI手机产业白皮书》,共同定义“生成式AI手机”

在天玑开发者大会上,联发科联合Counterpoint并携手阿里云通义千问、百川大模型、虎牙、酷狗音乐、零一万物、OPPO、Soul、腾讯AI Lab、腾讯混元、vivo行业头部伙伴联合发布《生成式AI手机产业白皮书》,共同定义了“生成式AI手机”的概念和典型特征。《白皮书》提到:生成式AI手机是利用大规模、预训练的生成式AI模型,实现多模态内容生成、情境感知,并具备不断增强的类人能力。生成式AI手机开启了智能手机发展的新周期,长远看,智能手机将会发展为移动智能体。

image.png

同时,《白皮书》这样定义了生成式AI手机的典型特征:在未来,生成式AI手机将具备强大的AI算力,支持大模型的本地部署,或是通过云端协同的方式执行复杂的生成式AI任务,无需完全依赖云端服务器。同时将具备多模态能力,处理文本、图像、语音等多种形式的内容输入,以生成各种形式的输出,确保流畅、无缝的用户体验,设备能够以自然而直观的交互方式,快速响应用户的请求。而为了实现这一目标,生成式AI手机将需要强大的硬件支持,包括但不限于基于领先工艺和先进架构设计的移动计算平台,集成或者独立的神经网络运算单元(如APU/NPU/TPU),大容量和高带宽的内存,以及稳定和高速的连接,硬件级和系统级的安全防御。

image.png

从《白皮书》中可以预见,未来的手机将成为一个能够理解并预测用户需求、提供创造性解决方案的智能伙伴,搭载多个AI智能体的生成式AI手机将成为用户访问数字生态的超 级入口,端侧的AI应用将进入人们日常生活的购物、旅游、游戏等场景,扮演购物达人、私人顾问、互动NPC等专属角色,实现用户体验的优化与飞跃。

天玑AI先锋计划启动,助力开发者打造创新用户体验

然而目前,由于生成式AI模型积累不足、硬件多样移植难度大、开发界面不统一等问题,生成式AI普及仍面临由点向面发展的巨大挑战。为促进产业共创实现生态共赢,联发科在天玑开发者大会上联合阿里云、百川智能、传音、零一万物、OPPO、荣耀、vivo、小米面向全球开发者启动“天玑AI先锋计划”,提供基于模型化、算力化和软硬件等方面的开发资源和支持,并提供广泛的商业机遇。通过天玑AI先锋计划,开发者可以充分发挥天玑移动平台的优势,加速端侧生成式AI应用的开发与落地,为用户打造独具创新的AI体验。

为实现这一长期计划和全场景生成式AI愿景,联发科在大会上提出了天玑生态战略,从芯片、模型、应用三个层面,联合产业伙伴和开发者共同探索端侧AI技术路线,推进颠覆性的端侧AI应用和服务创新。

天玑9300+全大核旗舰亮相,AI芯更强

本届MDDC2024上,联发科还重磅发布旗舰5G生成式AI移动平台天玑9300+,以先进架构和强劲算力为生成式AI手机提供硬件支持。天玑9300+率先支持AI推测解码加速技术,同时支持天玑AI LoRA Fusion2.0技术,为用户带来高速和个性化的生成式AI体验。天玑9300+还支持AI框架ExecuTorch,可加速端侧生成式AI应用的开发进程。此外,这款旗舰芯支持多种前沿主流AI大模型,包括阿里云通义千问大模型、百川大模型、文心大模型、谷歌Gemini Nano、零一万物终端大模型、Meta Llama2& Llama3等。用一句话概括天玑9300+就是,不仅拥有卓越的全大核性能和低功耗设计,还具备多项业界领先的生成式AI技术,以及联发科与生态伙伴共创的优质游戏体验,无疑是当下生成式AI手机的优选。

可以看到,联发科展示了其前瞻性的技术领导力和卓越的产品优势,进一步揭示了其天玑生态战略的深远影响。此次大会标志着联发科在生成式AI产业的角色转变,从参与者晋升为引领者,并促进了生成式AI在端侧的发展和普及。与此同时,联发科与产业伙伴共同探索了生成式AI的新路径,为其未来的发展和应用奠定了坚实的基础。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 大家在看
  • Jovu:AI驱动的代码生成,快速实现从想法到生产。

    Jovu是一个AI驱动的代码生成模型,旨在帮助开发者快速构建新服务或扩展现有应用程序。它通过AI技术生成生产就绪的代码,确保一致性、可预测性,并遵循最高标准。Jovu能够加速开发过程,从概念到部署只需几分钟,提供完全可操作的、健壮的后端服务,准备立即上线。它还通过简化开发工作流程、减少时间、优化资源来提高效率和速度。

  • TapScanner:全能扫描仪,AI助力,智能识别与分析。

    TapScanner是一款利用人工智能技术,将移动设备转变为多功能智能扫描仪的应用程序。它能够识别和分析各种对象和文档,提供即时洞察力,并通过扫描轻松提升日常交互。

  • TopicRanker:AI驱动的SERP分析工具,帮助用户发现易于排名的关键词。

    TopicRanker是一款AI驱动的搜索引擎排名分析工具,专注于帮助用户通过分析竞争对手的弱点,发现在搜索引擎结果页面(SERP)中易于排名的关键词。它通过提供详尽的分析报告,AI生成的标题建议,内容大纲,博客文章,以及增强型元描述,帮助用户优化内容创作,提高SEO效果。产品背景信息包括它是由CriminallyProlific.com开发的,并且已经帮助多个企业在谷歌上排名第一。价格方面,TopicRanker提供三种不同的订阅计划,满足不同用户的需求。

  • Warmy:通过AI引擎提高电子邮件的投递率

    Warmy是一个利用人工智能技术来优化电子邮件投递率的平台。它通过分析每个邮箱的发送活动和接收者行为,为每个邮箱制定个性化的预热计划,确保邮件发送量逐渐增加而不会触发垃圾邮件过滤器,从而最大化邮件的投递率。此外,Warmy的Adeline AI引擎能够实时分析发送性能,预测最佳发送时间和频率,帮助用户提高参与度,避免过度发送邮件给接收者造成困扰。Warmy还具备AI驱动的垃圾邮件风险检测功能,能够主动识别并标记具有高垃圾邮件风险的邮件,帮助用户避免邮件落入垃圾邮件文件夹,确保重要邮件能够送达接收者。

  • Glitter AI:将任何流程转化为逐步指南。

    Glitter AI是一个创新的在线工具,它允许用户通过点击和说话来快速创建逐步指南。这项技术简化了教学过程,使得向同事、客户甚至家人传授技能变得简单快捷。

  • Tourly Guide:沉浸式音频导览,让每个地标自己说话

    Tourly Guide是一款移动应用程序,通过使用人工智能技术,为用户提供独特的沉浸式音频导览体验。它允许用户在探索地标时,通过AI生成的音频指南获得深入的了解和教育。该产品的主要优点包括个性化的导览内容、用户友好的界面设计以及对教育和文化探索的重视。Tourly Guide的背景信息显示,它由Roadly, Inc.开发,旨在通过技术提升用户的旅游和学习体验。

  • SaveDay App:随时随地保存、管理和利用内容

    SaveDay是一个智能工具,用于捕捉、组织和利用你的知识。它提供了快速的信息捕捉解决方案,支持保存文章、网站、图片、视频等,并且可以在移动设备上搜索、询问和总结内容。SaveDay注重数据安全和隐私保护,不与第三方共享用户内容。

  • Neurture:通过了解大脑运作制定改变计划的APP

    Neurture是一个旨在帮助用户了解大脑如何运作,并通过基于研究的治疗方法来制定有效的改变计划的应用程序。它通过数字化手写日记条目、获取后续期刊提示建议、由人工智能支持的情景冥想和期刊推荐等功能,帮助用户打破习惯或解决成瘾行为,实现重要的其他目标。Neurture强调隐私和信任,不收集用户数据,不投放广告,不训练模型,旨在为用户提供一个安全、无负担的自我提升环境。

  • AiWatchfulCompanion:革命化的家庭护理方式,从婴儿到老年人。

    AiWatchfulCompanion是一款旨在改变我们照顾亲人方式的应用程序,它通过使用人工智能技术,为远离家乡的护理者提供实时的关怀和支持。该应用利用计算机视觉和音频分析,实时响应亲人的需求,提供连续的安全和健康保障。它还具备紧急响应功能,在无法联系到护理者时,能够向紧急服务提供事故位置。

  • Viva:使用的 Sora 同架构视频生成模型

    Viva 是一个免费的 AI 生成工具和社区,提供 Text-to-Image、Image-to-Image、Text-to-Video、Image-to-Video 等功能,以及强大的 AI 编辑工具。用户可以扩展图像、重新绘制任何内容,使图像和视频更加高质量和 4K。Viva 使 AI 创作更简单、高效。海外产品 viva 发布了首个开放给全部用户使用的 Sora 同架构视频生成模型,而且现阶段免费。 文生视频单次可以生成一条 5 秒的视频,图生视频是 4 秒视频 目前运动幅度最大的视频生成模型,同时图像分辨率也是现在可以用的视频生成产品中最大的。文生视频的效果比图生视频要更好,同时如果要是用的话建议把运动幅度调到 20 左右比较合适。 viva 优势领域就是可以生成比较好的竖屏视频,目前很多视频模型的演示都是横屏视频,竖屏的表现并不好,但是短视频又是视频内容的大头,所以竖屏视频的生成质量是个很重要的指标。 但是一致性有一部分测试中保持的不是很好,同时没有表现出 Sora 那样强大的物理特性模拟以及 3D 一致性。

  • 大模型之家:提供全面的人工智能大模型产业信息和创新价值研究。

    大模型之家是一个专注于人工智能大模型产业的平台,提供行业报告、技术创新动态、专家评测和奖项荣誉等信息。它通过整合行业资源,推动人工智能技术的创新和应用,帮助企业和个人更好地理解和利用大模型技术。

  • Productboard AI:利用人工智能增强产品团队的决策力和效率

    Productboard AI 是一款集成到产品管理平台中的人工智能工具,它通过分析和理解大量的用户反馈和数据点,帮助产品团队做出更明智的决策,提高工作效率,并加速产品从概念到市场的整个生命周期。它由 OpenAI 提供支持,确保数据安全和隐私保护,同时提供无与伦比的数据组合和针对产品管理工作的微调优化。

  • UserCall:人工智能语音用户访谈代理,深入洞察客户需求。

    UserCall是一款利用人工智能技术进行用户访谈的网站,它通过AI采访员与用户进行一对一的语音通话,从而收集高质量的用户反馈和洞察。这种技术可以大规模地进行用户访谈,提供比传统调查更深入的定性见解,同时节省时间和资源。UserCall的优势在于无需专业用户研究技能,能够自动进行智能跟进提问,帮助企业更好地理解客户需求,改进产品和业务。

  • VideoToPage:将视频或音频内容快速转换成结构化网页摘要的多功能工具。

    VideoToPage是一个高效的在线工具,它能够将视频或音频内容转换成结构化的网页摘要,支持多达96种语言,并具有98.5%的高准确率。用户无需订阅即可使用,特别适合需要将视频内容转换成文字资料、教程、博客文章、标准操作程序(SOP)等多种形式的个人和企业。产品提供快速的转录服务,支持长达5小时的视频,且5分钟以内的文件完全免费。此外,还提供内容的语义层次构建、内容类型定义、语义互连、富文本编辑、多语言理解等功能,使得内容的创建、编辑和发布变得简单快捷。

  • Fiskl:现代AI自动化全球会计解决方案,专为小型企业设计。

    Fiskl是一个多货币的全球会计平台,为小型企业、创业者、开发者和自由职业者提供全面的财务管理工具。它支持170多种货币和21,000多家银行,利用人工智能技术简化银行对账流程,实现零接触Stripe支付和银行对账。Fiskl的主要优点包括实时现金流和财务概览、自动化银行同步、全球支付能力、AI驱动的对账节省高达80%的对账工作量。Fiskl的定价策略包括特别优惠,例如年度订阅可享受50%的循环折扣,并提供30天免费试用期。

  • reap.video:一键将长视频转换为社交媒体短视频的工具。

    reap是一款基于人工智能的视频再利用工具,它能够将长视频内容一键转换成适合社交媒体的短视频。它通过先进的AI分析自动提取视频中最吸引人的片段,生成能够吸引观众的短片。reap支持多种语言,并提供了智能字幕生成、品牌模板定制等功能,帮助内容创作者提高内容的吸引力和可访问性,加速增长和变现。

  • 稀土掘金大模型子站:一站式AI资讯平台,连接开发者与AI技术的最新动态。

    掘金大模型子站是一个专注于AI领域的技术社区平台,提供从基础设施到最终应用的全景图,旨在帮助个人开发者和企业更好地理解和应用大语言模型技术。该平台通过提供资讯、工具和资源,促进AI技术的创新和应用,推动整个AI生态的发展。

  • Cubox:为学习而生的AI阅读器,高效筛选优质内容,提升阅读和学习效率。

    Cubox是一款专业的AI阅读器,旨在通过智能技术帮助用户筛选和整理阅读内容,提升阅读效率和学习效果。它具备自动高亮精彩内容、一键解读网页文章、专业级标注等功能,适用于需要大量阅读和学习的用户。产品背景信息显示,Cubox深受全球专业人士青睐,并且用户阅读的文章总数达到了23,325,802篇,显示了其广泛的用户基础和影响力。

  • InsideAI:实时分析工具,助你洞察竞品用户反馈。

    Inside AI 是一款基于人工智能技术的实时分析工具,它能够帮助用户追踪竞品的用户反馈和市场动态。该工具通过实时网络连接,分析用户评论,依托专有技术,为用户提供可操作的见解。它适用于独立开发者、初创公司、企业、分析师和风险投资公司等,帮助他们节省研究时间,找到正确的产品开发方向。

  • Glato AI:使用人工智能快速生成高质量产品视频

    Glato人工智能是一个通过人工智能技术快速生成高质量产品视频的平台。该产品能够自动生成引人入胜的短视频广告,帮助用户提高投资回报率,并节省创作者招聘等待时间。价格合理,定位于帮助企业提升市场营销效率。

今日大家都在搜的词: