首页 > 传媒 > 关键词  > 正文

《智算中心网络架构白皮书》发布 度小满智算网络中心达到万卡规模

2023-09-25 10:27 · 稿源: 站长之家用户

当下,随着大模型技术的火热,如何建设高性能网络,为大模型提供大算力支撑成为解决大模型技术的难点。度小满积极布局大模型前沿科技,不断攻克大模型技术难题,并联合百度智能云推出《智算中心网络架构白皮书》,为高性能网络建设提供全流程指导。

布局大模型前沿科技 度小满构建私有云智算网络

9月5日,在百度云智大会上,百度智能云联合度小满推出《智算中心网络架构白皮书》。白皮书由百度智能云和度小满负责高性能网络落地的一线专家撰写,内容覆盖了高性能网络建设的各个方面,包括不同规模集群的架构选择、云平台上的可视化运维工具建设、多租户的运营方案设计等,为同业提供全流程指导,让复杂的高性能网络建设变得简单。

大模型需要大算力,如何建设高性能网络是其中最为关键的一步。度小满今年5月正式开源了国内首个千亿参数金融大模型—“轩辕”。在金融场景中的任务评测中,轩辕全面超越了市场上的主流开源大模型,赢得了150次回答中63.33%的胜率。随着大模型的迅猛发展,模型对于底层算力的需求呈指数性增长,智能算力规模的持续扩大带来的是GPU算力部署规模日益膨胀,对于高性能网络的要求也日益增多。

度小满智算网络中心达到万卡规模

随着度小满模型参数规模超过千亿,为满足不断增加的算力需求、度小满私有云模式的智算中心也在不断升级,低时延、大带宽、稳定性运行、可运维性高的大规模智算网络正是智算中心搭建的重要基石。在建设私有云模式的智算中心的过程中,度小满联合百度智能云,构建了一套私有云智算网络,在支撑万卡GPU规模的同时,相较于业内常见的Dragonfly、Tours网络拓扑,网络带宽更充足,节点间跳步数更稳定性,网络延时指标缩短到3微秒以内,具备端到端的可观测性能力与故障自愈能力,无阻塞、低时延、高可靠的网络设计有效支撑了上层智算应用的快速迭代和发展,为“轩辕”大模型的训练提供了稳定的网络保障。

目前,度小满智算网络中心已建设成为国内金融行业首批私有云模式下的万卡规模智算中心,为“轩辕”大模型的训练提供了稳定的网络保障。

度小满在大模型技术领域持续布局,通过创新前沿科技,为行业金融行业创新发展提供技术支撑。《智算中心网络架构白皮书》的推出,将为攻克行业技术难题提供有力支撑。度小满也将持续加快对大模型技术的创新,通过智能分析、智能客服等提升金融行业效率,进一步推动行业转型升级。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 大家在看
  • 度小满“轩辕70B”金融大模型开源

    度小满推出全新的金融行业大模型“轩辕70B”,标志着金融大模型迈向新的高度。该模型在通用能力和专业金融领域表现出色,名列各项开源模型评测榜单前列,特别在中文任务评测和金融领域十大类权威考试方面提供专业支持。5.对话能力:XuanYuan-70B-Chat模型经过通用和金融指令微调,具备出色的对话生成能力,可以用于生成金融领域的文本摘要以及回答各种问题。

  • 度小满积极布局“NLP+金融”领域 提升业务创新与风控效率

    度小满在“NLP金融”的技术落地之路深耕多年,在NLP方面的积累显得尤为突出。大模型的兴起为金融领域的NLP应用打开了新的想象空间。度小满的成功实践证明了NLP技术在金融领域的巨大潜力,也为未来的金融智能化发展提供了有效方向。

  • 贝锐向日葵远控安全白皮书解读:安全闭环如何构建

    近日,国民级远程控制品牌“向日葵远程控制”发布了《贝锐向日葵远控安全标准白皮书》,该白皮书介绍了贝锐向日葵在全面方面的多年努力,以及其构建起来的全流程安全闭环。白皮书介绍,贝锐向日葵自 2009 年发布以来,始终秉持“阳光下的远程控制”这一理念,作为行业引领者,贝锐深知信息安全对于用户的重要性。在合规层面,向日葵通过了国家信息系统安全等级�

  • 度小满参与AIF系统试点 协同马上消费、美团共同打击代理维权黑产

    近日,全国首 个金融黑产打击系统平台—AIF黑产打击平台试运行期间,助力警方成功打击了一起非法代理维权团伙案,现场抓获犯罪嫌疑人 15 人。通过该平台,马上消费与度小满科技(北京)有限公司等AIF联盟成员单位碰撞出金融黑产线索,并会同美团安全部门对该线索进行分析和实地走访,发现吉林省某信息技术服务公司存在重大非法代理维权行为嫌疑。该公司伪装成正规专�

  • 龙芯中科国产化桌面网络存储方案发布

    为解决网络存储的信息安全威胁,近日,龙芯国产化全固态桌面存储一体机正式发布。该产品由龙芯中科技术有限公司牵头,联合龙众创芯、嘉合劲威、熊猫电子、可道云等多家国产存储厂商共同推出。基于AnolisOS的可道云企业私有云存储操作系统8.8LoongArch64是专门支持龙芯的AnolisOS商业发行版,将在龙芯俱乐部社区和龙蜥社区推广。

  • 华为正式发布星河AI网络,加速行业智能化

    [中国,上海,2023年9月20日]华为全联接大会2023期间,在以“星河AI网络,加速行业智能化”为主题的星河AI网络主题峰会上,800余位政企产业界人士齐聚一堂,共同探讨AI网络技术的崭新未来。华为数据通信产品线总裁王雷正式发布星河AI网络解决方案,为加速行业智能化转型提供强劲引擎。星河AI网络,以网强算,以高运力释放AI时代的高算力,为全球用户提供更优质、更智能的AI网络服务。

  • 中国电信发布信息通信领域首个网络大模型“启明”

    中国电信发布了信息通信领域首个网络大模型——启明,这一创新模型对于提升云网运营效率、开放云网能力以及推动智能化技术应用在各行各业的发展具有重大意义。中国电信副总经理夏冰在会议上强调,大模型是人工智能技术的重要趋势中国电信正积极投身于这一科技革命中,利用其云网融合的优势,推动基础通用大模型向垂直行业大模型的演进,为上层行业应用开发和开源生态提供技术支撑。中国电信自主研发的网络大模型已在企业内部成熟应用,并计划携手产学研合作伙伴,提供多种形式的MaaS服务,以赋能千行百业。

  • 度小满金融大模型C-Eval、CMMLU双榜排名第一,正式开源!

    9月22日,度小满宣布“轩辕70B”金融大模型开源,所有用户均可自由下载和试用,并公布了“轩辕70B”在C-Eval、CMMLU两大知名大语言模型评测基准的成绩。在C-Eval榜单上,XuanYuan-70B的总成绩达到71.9分;在CMMLU榜单中,以71.05分的高分位居榜首,在两大榜单上的所有开源模型中排名居首,也是国内首个同时在两大榜单排名居首的金融大模型。本次发布的新版大模型相较于上一个版本能力全面提升:在增量预训练和指令微调阶段,加入了度小满业务场景中的海量金融数据,对金融问题回复更专业,金融知识理解能力提升明显;同时在预训练阶段,"轩辕70B”的模型上下文长度扩充到8k,能够处理更长的金融报告、研究和分析。

  • OpenAI招募专家加入“红队”网络,加强AI模型安全性

    OpenAI宣布了一项旨在加强其人工智能模型安全性的重要计划,即启动了“红队”网络。这一计划的目标是邀请来自各个领域的专家,加入他们的“红队”网络,共同评估和对抗其AI模型的潜在风险。这一举措有望为人工智能的未来发展提供更坚实的基础,确保其在各个领域的应用都能够更加可靠和安全。

  • 对话仁汇网络:每场直播超10人在线,“木森大舞台”成功的秘诀是什么?

    在抖音众多优质的大舞台直播间里,“木森大舞台”一定是有一席之地的。该直播间以头部主播木森和红豆为主导,每场直播都能维持10万流量。我们想在场景和内容两条线做创新,也将增加招募唱跳、非遗、民间才艺主播,让大舞台的内容更加丰富多彩。

  • Tonic Textual:安全数据湖,为生成式AI开发提供数据

    Tonic Textual 是全球首个为大型语言模型(LLMs)设计的Secure Data Lakehouse。它通过自动化流程,帮助企业从云存储中提取、治理、丰富和部署非结构化数据,以支持生成式AI的发展。该产品强调数据隐私保护,利用其专有的命名实体识别(NER)模型自动检测和去标识化敏感信息,同时通过数据合成保持数据的语义真实性。它支持多种数据格式,并通过AWS Marketplace、Google Cloud Marketplace和Snowflake Marketplace提供服务。

  • Outtloud:AI语音助手,将文档转换为自然语音

    Outtloud是一款AI语音助手,可以将用户文档或文本转换成自然流畅的高保真AI语音。它支持超过10种语言和口音,提供100多种AI高级人声。用户可以以高达4倍的速度听书,节省阅读时间,同时在驾驶、通勤、锻炼等任何时间任何地点进行学习。它还具备添加笔记和书签的功能,支持在焦点模式下高亮显示正在播放的段落,以便用户跟随阅读。

  • llama3v:基于llama3 8B的SOTA视觉模型

    llama3v是一个基于Llama3 8B和siglip-so400m的SOTA(State of the Art,即最先进技术)视觉模型。它是一个开源的VLLM(视觉语言多模态学习模型),在Huggingface上提供模型权重,支持快速本地推理,并发布了推理代码。该模型结合了图像识别和文本生成,通过添加投影层将图像特征映射到LLaMA嵌入空间,以提高模型对图像的理解能力。

  • Open LLM Leaderboard:开放的大型语言模型排行榜

    Open LLM Leaderboard是一个由Hugging Face提供的空间,旨在展示和比较各种大型语言模型的性能。它为开发者、研究人员和企业提供了一个平台,可以查看不同模型在特定任务上的表现,从而帮助用户选择最适合自己需求的模型。

  • OpenCompass Multi-modal Leaderboard:实时更新的多模态模型性能排行榜

    OpenCompass多模态排行榜是一个实时更新的平台,用于评估和排名不同的多模态模型(VLMs)。它通过8个多模态基准测试来计算模型的平均得分,并提供详细的性能数据。该平台仅包含开源的VLMs或公开可用的APIs,旨在帮助研究人员和开发者了解当前多模态模型的最新进展和性能表现。

  • I2VEdit:一种基于图像到视频扩散模型的视频编辑技术

    I2VEdit是一种创新的视频编辑技术,通过预训练的图像到视频模型,将单一帧的编辑扩展到整个视频。这项技术能够适应性地保持源视频的视觉和运动完整性,并有效处理全局编辑、局部编辑以及适度的形状变化,这是现有方法所不能实现的。I2VEdit的核心包括两个主要过程:粗略运动提取和外观细化,通过粗粒度注意力匹配进行精确调整。此外,还引入了跳过间隔策略,以减轻多个视频片段自动回归生成过程中的质量下降。实验结果表明,I2VEdit在细粒度视频编辑方面的优越性能,证明了其能够产生高质量、时间一致的输出。

  • Samba-1 Turbo:高效能的AI模型选择与应用平台

    Samba-1 Turbo是一个提供AI模型选择和应用的平台,它允许开发者通过免费的开发者推理服务来试用、比较和评估Samba-1中各种专家模型。此外,平台还提供一些构建在Samba-1之上的演示业务应用程序,以及开源语言专家SambaLingo。Samba-1 Turbo旨在为开发者提供强大的工具,以简化AI模型的集成和应用过程。

  • StreamV2V:实时视频到视频翻译的扩散模型

    StreamV2V是一个扩散模型,它通过用户提示实现了实时的视频到视频(V2V)翻译。与传统的批处理方法不同,StreamV2V采用流式处理方式,能够处理无限帧的视频。它的核心是维护一个特征库,该库存储了过去帧的信息。对于新进来的帧,StreamV2V通过扩展自注意力和直接特征融合技术,将相似的过去特征直接融合到输出中。特征库通过合并存储的和新的特征不断更新,保持紧凑且信息丰富。StreamV2V以其适应性和效率脱颖而出,无需微调即可与图像扩散模型无缝集成。

  • OpenCompass 2.0 Large Language Model Leaderboard:大型语言模型排行榜,实时评估模型性能。

    OpenCompass 2.0是一个专注于大型语言模型性能评估的平台。它使用多个闭源数据集进行多维度评估,为模型提供整体平均分和专业技能分数。该平台通过实时更新排行榜,帮助开发者和研究人员了解不同模型在语言、知识、推理、数学和编程等方面的性能表现。

  • 甲骨文AI协同平台:数字化甲骨文研究与共享平台

    甲骨文AI协同平台是一个专注于甲骨文研究的数字化平台,集成了甲骨文全信息著录库、甲骨文总字表、数字工具箱等资源,通过AI技术辅助甲骨文的释读、研究和教育传播。平台汇聚了众多博物馆、专家学者以及社会各界人士的共同努力,旨在推动甲骨文研究的深入发展和甲骨文化的传承。

  • Cantor:创新的多模态链式思维框架,提升视觉推理能力

    Cantor是一个多模态链式思维(CoT)框架,它通过感知决策架构,将视觉上下文获取与逻辑推理相结合,解决复杂的视觉推理任务。Cantor首先作为一个决策生成器,整合视觉输入来分析图像和问题,确保与实际情境更紧密的对齐。此外,Cantor利用大型语言模型(MLLMs)的高级认知功能,作为多面专家,推导出更高层次的信息,增强CoT生成过程。Cantor在两个复杂的视觉推理数据集上进行了广泛的实验,证明了所提出框架的有效性,无需微调或真实理由,就显著提高了多模态CoT性能。

  • SuperCLUE:领先的AI评测基准,衡量和比较AI模型性能。

    SuperCLUE是一个用于评估和比较大型语言模型性能的在线平台。它提供了多种任务和排行榜,旨在为AI研究者和开发者提供一个标准化的测试环境。SuperCLUE支持各种AI应用场景,包括数学推理、代码生成、超长文本处理等,能够帮助用户准确评估模型在不同任务上的表现和能力。

  • Berkeley Function-Calling Leaderboard:评估大型语言模型调用函数能力的排行榜

    Berkeley Function-Calling Leaderboard(伯克利函数调用排行榜)是一个专门用来评估大型语言模型(LLMs)准确调用函数(或工具)能力的在线平台。该排行榜基于真实世界数据,定期更新,提供了一个衡量和比较不同模型在特定编程任务上表现的基准。它对于开发者、研究人员以及对AI编程能力有兴趣的用户来说是一个宝贵的资源。

  • OpenAI & other LLM API Pricing Calculator:AI项目成本计算器,比较不同AI模型的成本。

    OpenAI和其他大型语言模型(LLM)API的成本计算器,帮助企业和开发者评估和比较不同AI模型在项目中的成本。该工具提供了包括OpenAI、Azure、Anthropic、Llama 3、Google Gemini、Mistral和Cohere等在内的多个模型的价格计算。它基于输入的token数、输出的token数和API调用次数来计算成本。

  • Clay Filter AI:将您的角色照片转换成粘土动画风格的图像

    粘土 AI 是一款 AI 工具,可以将照片转换成粘土动画风格的图像。通过分析面部特征,生成逼真的效果,提供灵活的编辑功能。价格定位为免费使用。使用比较简单,上传你的照片并提交,稍等10-20 秒可以获得粘土动画风格的图像。

  • TopMixLabs:在线AI视频动画生成工具

    TopMixLabs 是一个 AI 动画制作工具,通过上传图片,用户可以轻松地将图像转换为专业级动画,适用于各种规模的企业,提升品牌形象。使用简单,只需要4张照片,上传稍等10 -20分钟左右,即可以生成高质量的动画,生成的动画支持下载mp4格式,而且在平台上创建的动画用于个人和商业目的。

  • StartKit.AI:快速搭建AI创业项目

    StartKit.AI是一个旨在帮助开发者快速构建AI项目的在线平台。它提供了一个包含所有所需功能来发布SaaS产品的AI样板,无需AI经验即可使用。该平台由James和Danielle开发,他们拥有超过10年的SaaS产品开发经验,并成功运营着AI产品Ellie。StartKit.AI集成了30多个模块和超过8000行代码,提供了先进的AI特性,如聊天、图像、文本、语音、翻译和内容审核等。此外,它还包括了OpenAI的所有功能,并支持创建自己的ChatGPT克隆体。产品定位于帮助开发者快速启动AI项目,保持技术领先,并支持通过Stripe进行产品变现。

  • Cressi:AI驱动的个性化购物助手

    Cressi是一个由AI驱动的个性化购物助手,旨在通过分析用户的搜索历史、兴趣、联系人和日历等信息,提供定制化的购物建议。Cressi不仅能够理解用户的偏好,而且能够随着用户生活方式的变化而不断进化,提供真正人性化的购物体验。Cressi致力于使购物更加个性化、高客户满意度,并减少浪费,以实现更有意义和可持续的购物方式。

  • Decks:一款专业的笔记应用,助你快速掌握任何学科

    Decks是一款专为学习设计的应用,它通过创新的笔记方式帮助用户更快地掌握知识。用户可以免费开始使用,并在14天后选择月度或年度订阅。Decks提供每月8美元或每年79美元的订阅选项。

  • AutoPilotI18n:AI驱动的国际化工具 简化i18n流程。

    AutoPilotI18n 是一款利用 AI 技术提供精确翻译的国际化工具,可自动化翻译任务,简化 i18n 流程。其主要优点在于精确翻译、多框架支持、高效工作流程,适用于 React、Vue、Angular 等。AutoPilotI18n 定价透明,提供免费和付费版本。

今日大家都在搜的词: