首页 > 传媒 > 关键词  > 大语言模型最新资讯  > 正文

北大张牧涵团队依托昇腾突破推理效率瓶颈 大模型推理百万tokens 成本仅 1 元

2025-07-28 17:35 · 稿源: 站长之家用户

在人工智能领域,大语言模型的训练与推理成本一直是限制技术普及的关键因素之一。近日,北京大学人工智能研究院助理教授张牧涵团队在鲲鹏昇腾科教创新卓越中心(简称“卓越中心”)提供的算力支持下,成功研发出一套高效的大模型训练推理架构,实现了百万tokens输入成本低至1元,为

......

111本文由站长之家用户投稿发布于站长之家平台,本平台仅提供信息索引服务。为了保证文章信息的及时性,内容观点的准确性,平台将不提供完全的内容展现,本页面内容仅为平台搜索索引使用。需阅读完整内容的用户,请查看原文,获取内容详情。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 招生季丨智领时代,技拓新局——湘南幼专人工智能技术应用专业

    湘南幼专人工智能技术应用专业以技能为本、实践导向,培养复合型技术人才。课程“理论+真实项目”双线并行,校企共建实训基地,并鼓励考取数据应用、计算机视觉等“1+X”证书。毕业生可服务智能制造、金融科技等多领域,从事AI开发、模型训练等岗位。专业前景广阔,岗位需求旺盛。

  • 《全球具身智能技术创新与应用白皮书》全球首发

    腾讯云联合弗若斯特沙利文发布《全球具身智能技术创新与应用白皮书》,首呈具身智能全栈数据解决方案。方案以对象存储COS为底座,融合GooseFS加速、数据万象处理、智能视计算等,构建一站式数据平台,打通从采集到训练的数据闭环,实现EB级存储、训练加速与成本优化。七大标杆案例验证其在存算一体、海量数据管理等场景的落地价值。

  • 予非知识图谱大模型完成生成式人工智能服务备案!潍坊市首个

    “予非知识图谱大模型”获国家生成式AI服务备案认证,系潍坊首例。模型聚焦非结构化数据治理,具备知识建模、实体对齐、动态图谱等全链能力,内置知识分级与访问控制,适配政务、金融等高合规场景。作为“予非·睿知”平台底座,通过“模型+平台”模式破解知识分散、检索难等痛点,赋能政企业务协同与决策。此举为区域生成式AI合规应用与数字经济发展树立新标杆。

  • 聚焦技术突破与产业落地 人工智能与机器人两展四大奖项启动申报

    新一轮科技革命推进AI与机器人产业步入应用与产品化新阶段。第28届深圳高交会将设AI与机器人双馆,同步启动四大奖项评选,构建从底层技术突破到场景落地的完整评价链。评选旨在识别能转化为现实生产力的创新,重点考察原创性、工程化、市场验证与场景成效,推动产业从“展示创新”走向“兑现价值”。依托上届展会超45万人次、1700多亿元签约成果的国家平台,获奖者将获对接市场与资本支持,中国机器人产业正迈入“生态竞争”新阶段。

  • 腾讯云联合沙利文发布《2026年全球具身智能技术创新与应用白皮书》丨 谁来铸造具身智能的下一代AI数字基座?

    具身智能产业化竞争焦点正从机器人“身体”转向“大脑”,即具身基础模型。产业呈现“实体+数字”双层结构,价值重心向数据闭环和模型迭代迁移。全球市场即将爆发,中国预计2030年占据37%份额,形成“硬件创新+场景落地”的差异化优势。行业面临异构算力、模型开发碎片化、复杂场景部署三大挑战。以腾讯云为代表的全栈AI数字基座,正通过云基础设施、开放平台和工具链,加速技术验证走向规模化商业落地,决定未来产业生态格局。

  • 超擎数智与香港中文大学(深圳)签署协议,共建人工智能和边缘计算联合实验室

    2026年8月3日,超擎数智与香港中文大学(深圳)正式签署联合实验室协议,共同成立港中大(深圳)-超擎数智人工智能和边缘计算联合实验室(CUHK-Shenzhen-ChaoQing Joint Laboratory of AI and Edge Computing),双方依托高校国际一流科研力量与企业产业落地能力强强联合,聚焦人工智能、边缘计算核心技术开展深度产学研用协同攻关,搭建集科研创新、人才培育、成果产业转化于一体的长效科�

  • 具身智能迎年度检阅:训练可用数据量大增,算力需求涌上云平台

    WAIC上具身智能机器人迎来年度检阅,显著变化是算力需求随数据处理需求暴增而快速涌向云端。腾讯云数据显示,数据清洗与采集需求推动算力增长四五倍。行业大规模转向低成本、高效的“人类数据”(由人穿戴设备采集),其浓度明显上升,甚至能以80%人类数据搭配20%真机数据进行训练。尽管数据总量增长,但特定场景的真机数据依然稀缺,且软硬件强耦合,导致机器人能力演进需逐步迭代,预计数据飞轮将在2至3年内启动。

  • 《全球具身智能技术创新与应用白皮书》首发,腾讯云铸AI数字基座

    2026世界人工智能大会期间,腾讯云联合弗若斯特沙利文发布《全球具身智能技术创新与应用白皮书》。白皮书指出,具身智能产业正从“单点突破”迈入“系统落地”的关键期,核心在于构建数据驱动、软硬协同的AI数字底座。腾讯明确“不造机器人,造底座”战略,通过整合高性能云基础设施与升级版Tairos开放平台,打造一体化全栈解决方案,解决数据、算力、平台、部署四大需求。白皮书强调,具身智能的深层竞争是数据闭环和工程交付效率,腾讯云正将能力沉淀为可复用的数字底座,助力客户实现规模化落地。

  • 海尔小优智能体升级亮相世界人工智能大会

    2026世界人工智能大会上,海尔智家总裁李华刚分享AI驱动家电消费升级实践。“小优家庭管家智能体”作为核心载体,能理解空间与习惯,实现从“人找服务”到“服务找人”的主动感知与自主执行,例如根据食材推荐菜谱、识别衣物匹配程序。其目标是推动从分担家务迈向无人家务,并构建“人-车-家-社区”一体化联动,如离家自动关设备、返程提前调节环境。海尔正向平台服务型科技企业蜕变,让主动的“懂家”智慧管家走进每个家庭。

  • 百度智能云完成64B世界模型512卡训练验证 支撑大模型高效Scale

    百度百舸基于通用GPU集群,在无NVLink/HPN条件下完成512卡Cosmos3-Super 64B模型训练,实现97.48%近乎线性扩展效率。验证大模型训练效率不仅靠硬件,更依赖框架、网络与基础设施的系统协同,AI Infra工程优化成为释放算力、支撑世界模型训练的关键路径。

今日大家都在搜的词: