首页 > 业界 > 关键词  > 芯片最新资讯  > 正文

甩英伟达几百条街?Etched AI推AI推理加速芯片Sohu 将Transformer架构直接“烧录”到芯片中

2023-12-19 09:58 · 稿源:站长之家

站长之家(ChinaZ.com)12月19日 消息:美国芯片初创公司Etched AI近日宣称,他们成功开创了一项新的技术,将Transformer架构直接“烧录”到了芯片中,创造出了世界上最强大的专门用于Transformer推理的服务器Sohu。据称,这项技术可以运行万亿参数的模型,甩英伟达几百条街。

QQ截图20231219095455.jpg

官网地址:https://www.etched.ai/

该服务器具有多项功能,包括实时语音代理,能够在毫秒内处理成千上万的词;更好的编码与树搜索能力,可以并行比较数百个响应;多播推测解码功能,实时生成新内容;支持未来的万亿参数模型,只需一个核心,支持全开源软件栈,可扩展至100T参数模型;还具备高级解码技术,包括光束搜索和MCTS解码。

此外,每个芯片还配备了144GB HBM3E,支持MoE和转换器变体,为服务器的高性能提供了有力支持。这一突破性技术的问世,将为Transformer架构的应用带来新的可能性。

举报

  • 相关推荐
  • 寒武纪:聚焦技术创新 持续深耕智能芯片领域

    寒武纪在投资者平台声明,网上传播的公司订单、收入预测、新产品、客户及供应链等信息均为不实,提醒投资者提高信息辨别能力,以官方披露为准。公司专注AI芯片研发,产品覆盖云服务器、边缘计算及终端设备芯片,2024年营收增长65.56%,2025年一季度同比增230.22%,连续两季度盈利。研发投入持续加大,优化芯片架构与软件生态,提升产品竞争力,未来将聚焦技术创新,推动芯片向大模型及垂直领域延伸。

  • 英伟达正研发新型AI芯片,微美全息(WIMI.US)携算力方案加入全球科技争霸赛

    马斯克终止Dojo超级计算机项目,耗资超十亿美元后转向斥资数十亿购买英伟达AI芯片。特斯拉计划到2025年底将H100芯片数量从3.5万增至8.5万块。英伟达凭借强大训练芯片性能占据市场主导,并正为中国市场开发基于Blackwell架构的新型AI芯片B30A和RTX6000D。全球AI推理芯片市场正经历爆发式增长,预计2023至2030年复合增长率超35%。微美全息等科技公司加大AI算力投入,推动边缘计算与A

  • 寒武纪智能芯片赋能多模态大模型应用

    大模型快速发展推动人工智能技术迈向新阶段,从解决特定任务的弱人工智能向处理通用复杂任务的强人工智能演进。IDC报告显示,2024年中国大模型开发平台市场规模达16.9亿元,人工智能算力市场约190亿美元,预计2025年将达259亿美元。寒武纪等企业专注AI芯片研发,推出多款处理器及加速卡产品,支持大模型训练推理及多模态任务,并与产业链合作共同推进人工智能产业发展。

  • REDMI Note 15 Pro+首搭自研澎湃T1S芯片

    REDMI官方今日正式宣布,Note15系列将于8月21日(周四)19:00全球首发。作为该系列性能旗舰,Note15Pro首次搭载小米自研澎湃T1S信号增强芯片,这款与K80Pro同源的通信芯片,将中高频蜂窝通信性能提升最高37%,Wi-Fi和蓝牙性能同步增强16%,官方用"信号强到离谱"形容其通信表现。 据实测数据,澎湃T1S芯片在人流密集的商圈、车站等场景下,网络抢通能力显著提升;在地下车�

  • 谷歌Pixel 10系列发布:首发Tensor G5芯片 售价799美元起

    今日凌晨,谷歌Pixel10系列正式发布,该系列包含Pixel10、Pixel10Pro及Pixel10Pro XL三款直板旗舰机型,起售价定为799美元(约合人民币5733元)。与此同时,谷歌还推出了首款折叠屏旗舰Pixel10Pro Fold,进一步丰富了产品线。 在设计语言上,Pixel10系列延续了上代的经典

  • 量子机器学习或“搅动”芯片制造,谷歌/微美全息攻关突破取得阶段性成果

    澳大利亚科研团队开发出结合人工智能和量子计算原理的新型量子机器学习技术,可能改变微芯片制造方式。该技术仅需5个量子比特,性能优于7种经典机器学习算法,可立即应用于现有量子架构。2023年量子计算领域取得多项突破:微软成功创建拓扑量子比特,D-Wave量子退火处理器性能超越经典模拟器,谷歌量子AI团队探讨扩展超导量子计算机面临的挑战。量子科技正从理论研究迈向工程实现阶段,微美全息(WIMI.US)等企业积极推进量子密码生成器、QGAN技术等研发,有望为数据安全提供更高保障。量子技术发展已进入关键时期,将推动行业进入更安全可靠的发展阶段。

  • “十四五”硬核成果丨突破1000万片!我国芯片领域取得重大进展

    文章概述了"十四五"期间我国在科技领域的重大突破,重点介绍了国产飞腾CPU的发展成就。截至2024年12月,飞腾系列CPU累计出货量突破1000万片,实现了从"可用"到"好用"的跨越。科研团队攻克了片上并行处理器体系结构、超大规模高速缓存一致性协议等关键技术,并首创国内CPU层面的安全架构规范,为信息系统提供了"疫苗"级安全防护。目前飞腾已研制出10余款高性能通用CPU,广泛应用于政务办公、金融电信、电力能源等重要领域。

  • 芯和EDA平台成功适配国产操作系统,打通国产芯片设计全链条

    芯和半导体与麒麟软件宣布完成产品兼容性互认证。芯和半导体多款EDA产品在银河麒麟高级服务器操作系统V10+上实现高效稳定运行,覆盖芯片到系统的全流程设计需求。此次认证涉及芯和五大EDA平台,包括2.5D/3D封装仿真平台Metis、板级多场协同仿真平台Notus、高速系统验证平台ChannelExpert、三维全波电磁仿真平台Hermes3D和射频EDA设计平台XDS。这是国产工业软件协同创新的重要实�

  • 荣耀Magic V Flip2详细参数出炉:骁龙8 Gen3+荣耀自研C1/E2芯片

    荣耀Magic V Flip2折叠屏手机将于8月21日发布,采用6.82英寸LTPO内屏(2868*1232p/120Hz/4320Hz PWM)和4英寸LTPO外屏(1200*1092p/120Hz/3840Hz PWM)。搭载骁龙8Gen3处理器,配备5000万像素前置+2亿主摄+5000万超广角后置三摄,内置5500mAh电池支持80W有线+50W无线快充。整机重204g,厚度6.9/15.5mm,创新搭载自研HONOR C1射频增强芯片(提升弱信号场景通信能力)和HONOR E2能效管理芯片(优化续航表现)。

  • 曝iPhone18系列搭载全新A20芯片 iPhone 18 Fold明年发布

    知名分析师郭明錤最新发文带来重磅消息,苹果公司明年下半年的新品布局有了新动态。据悉,苹果将在iPhone18系列上搭载全新设计的A20芯片,该芯片采用台积电最新封装技术,且基于先进的2nm制程工艺制造,有望在性能与功耗方面带来显著提升。 除了芯片升级,郭明錤还确认苹果将推出首款折叠屏iPhone,该机型与iPhone18同属一个系列,可能会被命名为iPhone18Fold。不过,目前�

今日大家都在搜的词: