首页 > 传媒 > 关键词  > 英特尔最新资讯  > 正文

英特尔® 矩阵扩展加速AI工作负载

2024-11-13 14:04 · 稿源: 站长之家用户

英特尔推出的第四代和第五代英特尔® 至强® 可扩展处理器及其内置的英特尔® 高 级矩阵扩展(Intel® Advanced Matrix Extensions,英特尔® AMX)可进一步提高 AI 功能。与第三代英特尔® 至强® 可扩展处理器相比,第五代英特尔® 至强® 可扩展处理器可使推理工作负载的性能提升高达 10 倍,每瓦性能提升高达 7 倍。

优化AI管线

从图书和电影推荐系统到驱动大型电商网站的数字化零售软件,再到支持聊天机器人和机器翻译的自然语言处理 (NLP) 功能,企业可通过在不同场景中应用 AI 获得诸多收益。 AI 真正的价值在于其能够解析复杂环境和海量数据的特性,以及解决以往难解之题的能力,而这正是不断推进企业革新的关键潜能。据研究显示,到 2025 年,90% 新发布的企业应用版本都将包含嵌入式 AI 功能。

第四代和第五代英特尔® 至强® 可扩展处理器内置 AI 加速器——英特尔® AMX,是企业和机构优化 AI 管线的理想选择。平衡推理是 CPU 在 AI 应用中的主要用例,而这款英特尔® AI 引擎专为该用例设计并且具备更多训练能力(见图 )。目前,在所有运行 AI 推理工作负载的已装机数据中心处理单元中,英特尔® 至强® 可扩展处理器的占比高达 65%; 因此,为新的 AI 部署选择内置英特尔® AMX 的第四代和第五代英特尔® 至强® 可扩展处理器,是一种既高效又具有成本效益的 AI 工作负载加速方式。

选择内置加速器的理由

目前,采用内置英特尔® 深度学习加速技术(Intel® Deep Learning Boost,英特尔® DL Boost)的第三代英特尔® 至强® 可扩展处理器支持 AI 部署,可满足 IT 部门履行客户服务级别协议 (SLA) 的要求,而内置英特尔® AMX 的第四代和第五代英特尔® 至强® 可扩展处理器则将带来新的变革。

如图所示:与上一代产品相比,内置英特尔® AMX 的第五代英特尔® 至强® 可扩展处理器,可将实时推理性能提升高达 1.23 至 1.35 倍,可将实时推理每瓦性能提升高达 1.2 至 1.38 倍5,6,7。

第五代英特尔® 至强® 可扩展处理器与第三代英特尔® 至强® 可扩展处理器相比能够带来的总体拥有成本 (TCO) 优势。针对批量 NLP 推理 (BERT-Large) 工作负载,只需 13 台基于第五代英特尔® 至强® 可扩展处理器的服务器即可实现 50 台基于第三代英特尔® 至强® 可扩展处理器的服务器所能提供的性能8。服务器数量的减少意味着更低的能耗和更低 CO2 排放量,从而实现多达 64% 的 TCO 节约8。

英特尔® AMX 带来的性能提升远大于每一代产品(从第 一代英特尔® 至强® 可扩展处理器开始)通过增加内核所实现的性能提升。

欲了解更多行业应用详情,请访问硬蛋聚合商官网 www.ingdan.com

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 加速AI场景落地和产业赋能 云谷“论数”之人工智能产业应用大会圆满举办

    7月16日,云谷"论数"之"AI·场景落地+产业崛起 就在浙里"人工智能产业应用大会在杭州举行。活动由浙江省工程师学会等多家单位联合主办,聚焦AI规模化落地与科技成果转化。与会专家指出,2025年是AI发展关键年,浙江将深化场景落地实践,打造"应用实践-技术优化-价值创造"闭环。企业代表分享了AI在智能制造、智慧交通等领域的应用案例,强调技术需扎根产业需求。活动还成立了大数据与人工智能专委会,未来将促进产学研协同创新,推动AI在千行百业规模化应用,助力浙江打造全球AI创新高地。

  • 拓总揭秘:eBay矩阵策略,助力跨境电商腾飞

    本文介绍了eBay矩阵策略在跨境电商中的应用。该策略通过在eBay平台建立多个店铺、类目和产品线,形成多元化电商矩阵,帮助企业实现三大目标:提升品牌知名度、降低运营风险和拓展全球市场。实施要点包括:选择企业店铺类型、根据市场需求确定产品线、进行多元化运营(多店铺、多类目、多产品线布局)以及优化运营(精细化运营、提升客户体验和数据分析)。该策略能有效助力跨境电商企业实现全球化布局,但需持续优化运营以提升竞争力。

  • 奇富科技信贷智能体:用 AI 重新定义金融智能体的 “专家级” 边界

    奇富科技通过AI驱动的金融智能体技术,正在重塑银行业信贷流程。其自主研发的Deepbank平台整合AI营销助手、审批官、决策助手和合规助手四大模块,将传统3天的数据分析流程压缩至1小时,实现从"经验依赖"到"智能驱动"的转变。该技术融合700+模型和7000+策略模块,覆盖99%小微企业群体,信用评估准确率达98%。通过与广东华兴银行等机构合作,奇富将"专家级"信贷能力注入银行系统,推动全流程智能化转型。这一创新不仅提升审批效率、降低合规风险,更重新定义了行业竞争维度——从技术比拼转向业务价值创造,助力银行在普惠金融和精准风控间找到平衡点。

  • 智慧养老再升级!海尔养老机器人矩阵亮相老博会

    文章主要探讨了在人口老龄化背景下,传统养老服务模式面临人力依赖重、效率低等挑战,科技赋能成为破局关键。海尔在2025年青岛国际康养产业博览会上展示了一系列AI产品,包括衣物洗护机器人、助行机器人等,系统化呈现了科技赋能居家养老的可行路径。其中,海尔智能衣物洗护机器人能实现从洗衣到收纳的全流程自动化,减轻老年人负担;AI运动外骨骼机器人W1则通过柔性算法等技术,帮助老年人稳健行走。文章强调,智慧养老不仅要解决显性问题,更要关注不易察觉的生活痛点,海尔以"无人家务"为方向,加速布局家庭服务机器人场景应用,推动养老从"被动辅助"向"主动赋能"转型,为构建更高效、人性化的智慧适老新方案提供科技支撑。

  • 专为企业打造的智能体中台来了!迈富时AI-Agentforce 2.0让Agent正式走向工作岗位

    Gartner预测到2028年,15%的日常工作决策将由自主智能代理完成。迈富时最新发布的AI-Agentforce2.0作为企业级智能体中台,采用"技术赋能+场景落地"双轴驱动模式,重新定义企业智能化转型路径。该平台通过"模型-应用-开发平台"三位一体架构,提供从底层能力到上层应用的完整闭环,包含五大技术模块:模型管理、知识引擎、工具生态、流程编排和企业级基座。相比传统开发方式,该平台将Agent开发周期从3-6个月缩短至2分钟-2周,并已在金融、零售、供应链等行业实现规模化落地,典型应用包括智能导购、财务审批等场景。

  • 向“新”发力!itc保伦股份“分布式+AI边缘计算”赋能警务工作提升档升级

    ITC推出分布式综合管理平台V3.6,深度融合AI边缘计算技术,打造智慧警务指挥系统。该平台具备四大核心功能:1)支持50余种场景的实时监测与AI预警,准确率达95.3%;2)内置可视化编辑工具,实现数据快速分析呈现;3)采用深度学习技术,支持人脸识别、轨迹追踪等智能分析;4)创新拼墙信号管理,支持多业务协同。平台优势包括低延时(16ms)、超强FEC抗丢包(10%)、国密算法加密等,已成功应用于城市治安防控、应急指挥调度等场景,助力公安部门实现精准防控和快速响应。

  • 马斯克xAI推出Grok - 4 大模型将至,Meta/微美全息深耕开源AI融合加速

    埃隆·马斯克旗下xAI即将发布Grok-4大模型,该模型将在语言、数学和推理方面超越OpenAI和谷歌最新AI产品。同时苹果低调收购两家AI公司TrueMeeting和WhyLabs,加速布局Vision Pro头显和Apple Intelligence领域。Meta计划投入数百亿美元扩建AI基础设施,扎克伯格亲自招募顶尖AI人才。微美全息聚焦高性能算力与多模态模型,推动AI产业升级。当前AI赛道竞争激烈,大模型正向通用多模态演进,商业化落地成为关键。

  • 动物园老虎饿到吃草?工作人员回应:换毛期正常行为

    近日,有网友在社交媒体上发布视频,称多家动物园的老虎出现“骨瘦如柴”且“饿到吃草”的现象,引发公众广泛关注和热议。 针对此事,多家动物园工作人员相继作出回应。贵阳黔灵山动物园工作人员表示,老虎每年有接近两个月的换毛期,期间舔毛行为严重,会误吞大量毛发无法自行消化。

  • 空调连夜工作突然起火 凌晨2点把房间烧了

    夏日炎炎,空调成了许多人续命”的神器,但它也有脾气”,稍不注意就可能引发危险。 近日,江西萍乡就发生了一起因空调短路导致的火灾,所幸未造成人员伤亡。 据萍乡消防消息,事发当天凌晨2时许,当地一民房的二楼卧室突然燃起大火。熊熊烈火让整个房间被烧得通红,浓烟不断从窗户缝隙中涌出,情况十分危急。 消防员接到报警后迅速赶到现场,立即架起水枪展�

  • 双模型矩阵驱动教育AI专业化,猿辅导小猿AI以技术重塑教育本质

    猿辅导集团将于2025年4月推出革命性教育AI产品"小猿AI",通过"技术+教育"双核驱动,重新定义个性化学习。该产品基于自研"猿力大模型"和DeepSeek-R1推理大模型,整合15亿题库、3亿分钟教学视频等教育资源,实现知识点拆解、错因分析和学习路径优化。小猿AI具备作业批改、学习闭环管理、情感化设计等功能,支持100多种题型识别,准确率达99%。产品采用"软件+硬件+课程"三位一体模式,覆盖299个教材版本,构建分层阅读体系。通过AI赋能,让每个孩子找到专属成长路径,推动教育回归启迪智慧的本质。