首页 > 业界 > 关键词  > Groq最新资讯  > 正文

大模型最快推理芯片一夜易主 Groq每秒可达500 tokens

2024-02-20 14:36 · 稿源:站长之家

要点:

Groq推出的大模型推理芯片速度极快,每秒可达500tokens,挑战GPU。

该芯片由初创公司Groq打造,谷歌TPU团队原班人马,性价比高且可支持多种大型模型。

Groq的目标是在三年内超越英伟达,野心勃勃。

站长之家(ChinaZ.com)2月20日 消息:近期,一家名为Groq的初创公司推出了一款大模型推理芯片,其推理速度达到了每秒500tokens的惊人水平,轻松颠覆了传统GPU的性能。Groq的团队由谷歌TPU原班人马组成,他们自主研发的芯片不仅速度快,而且成本低廉,性价比高,成为了大模型推理加速的新宠。这一举动引发了业界的关注和讨论,人们纷纷表示期待其未来的发展。

这款Groq芯片的推出并非偶然,而是经过多年的研发和努力。公司创始人兼CEO Jonathan Ross曾是谷歌TPU芯片的设计者,他们在推理加速方面有着深厚的技术积累。与传统的GPU相比,Groq的芯片不仅速度更快,而且成本更低,为大型模型的部署提供了更为便捷的解决方案。这种突破性的技术创新让人们对Groq的未来充满了期待。

image.png

官网地址:https://wow.groq.com/

除了性能的突出之外,Groq还明确了自己的发展目标:在三年内超越英伟达,成为大模型硬件领域的领军企业。这一目标的设定显示了Groq的雄心壮志和实力信心,也让业界对其未来的发展充满了期待。在这个竞争激烈的市场中,Groq将会面临诸多挑战,但相信凭借其强大的技术实力和团队背景,一定能够取得更加辉煌的成就。

与此同时,Groq还积极与其他行业巨头进行竞争和挑战。他们不仅挑战了英伟达的地位,还曾对谷歌、马斯克等公司进行过挑衅,显示出了自己的自信和实力。这种积极的态度和勇于挑战的精神也成为了Groq团队的一大特点,为其未来的发展注入了强大的动力。

Groq推出的大模型推理芯片以其卓越的性能和雄心勃勃的发展目标吸引了业界的关注。在技术不断创新和竞争日益激烈的背景下,Groq将继续致力于推动大模型硬件领域的发展,为人工智能技术的进步做出更大的贡献。

举报

  • 相关推荐
  • 小米发布17 Pro/Pro Max「妙享背屏」功能演示视频

    今日小米官方又晒出了小米17Pro/Pro Max上背屏功能的精彩演示。 小米17Pro/Pro Max所搭载的这块背屏尺寸颇大,正因如此,其展示内容极为丰富。从各种风格的时间样式,到灵动鲜活的动态壁纸,再到可爱的卡通人物与动物形象,一应俱全。 不仅如此,它还具备无限屏模式,预计还能实现自定义显示图片、动图等效果,与小折叠设备上的背屏用途基本一致。用户可借助徕卡三摄�

  • 马斯克:Grok 5模型有望实现通用人工智能的突破

    马斯克旗下xAI公司正研发Grok 5模型,有望实现通用人工智能(AGI)重大突破。该模型采用全新架构设计,预计未来几周启动训练。若成功将代表AI从专用领域向通用认知能力的质的飞跃,被视为人工智能发展的终极目标。科技界密切关注xAI能否在激烈竞争的大模型赛道实现突破。

  • AI日报:可灵AI发布数字人新功能;腾讯混元新技术给大模型 “去油”;抖音上线AI求真功能

    AI日报今日聚焦多项技术突破:可灵AI推出图片转视频功能,腾讯混元SRPO技术提升图像真实感,IBM开源文档处理模型Granite-Docling-258M。Meta发布带屏AI眼镜Ray-Ban,DeepSeek论文登《Nature》封面。OpenAI新增GPT-5思考时长调节功能,抖音上线“AI求真”辟谣工具,通用DeepResearch开源模型性能超越国际知名模型。

  • 小米17 Pro系列外观公布:搭载“妙享背屏”

    今日,小米官方正式公布了小米17Pro系列的外观设计,确认搭载了创新的“妙享背屏”设计,引发了业界和消费者的广泛关注。 小米集团总裁卢伟冰表示,此次小米17系列不仅带来了全新的背屏体验,更实现了跨代升级,旨在为手机行业注入新的活力。

  • AI投资,走到哪了?

    AI赛道,从不缺少追梦人。 多年来,创业者的名单持续刷新。从“AI四小龙”时代的汤晓鸥、印奇、朱珑、周曦,到大模型爆发后的王慧文、李开复、王小川、杨植麟、闫俊杰、唐杰,再到眼下炙手可热的90后王兴兴、彭志辉、肖弘、郭文景.....众多或熟悉或陌生的名字,纷纷涌入这场AI的浪潮。 推动这股浪潮加速前进的,还有另一股力量——资本。红杉、高瓴、英诺天使、毅

  • 苹果牙膏挤爆!A19 Pro三款3A游戏实测:帧率提升超60%

    苹果解除iPhone 17 Pro系列评测禁令,A19 Pro芯片性能表现突出。测试显示,A19 Pro在《生化危机4》《死亡搁浅》《刺客信条:幻景》三款游戏中帧率大幅领先A18 Pro和A17 Pro,提升幅度达45%-69%。性能提升得益于GPU升级和散热改进,iPhone 17 Pro系列采用铝制外壳并增加VC均热板,实现更高功率释放。

  • 又一家AI公司,惹怒好莱坞

    当你流落荒岛,只要在沙滩上画个米老鼠,第二天该公司的法务团队就能找到你——这则调侃迪士尼版权保护严苛的笑话,如今成了AI时代版权纠纷的真实写照。当网友通过简单提示词就能在AI模型中生成迪士尼经典IP形象时,这家影视巨头的法务团队,将矛头对准了MiniMax。 9月16日,迪士尼、环球影业、华纳兄弟探索公司三大影视集团,联合起诉中国AI独角兽上海稀宇科技(Min

  • iPhone 17 Pro搭载满血版A19 Pro处理器 性能比iPhone 16 Pro提升40%

    今天凌晨,苹果召开秋季发布会,正式发布了iPhone 17系列。 全新发布的iPhone 17 Pro,凭借满血版A19 Pro处理器等亮点,再次成为行业焦点。 A19 Pro采用6核CPU、6核GPU架构,神经网络加速器的峰值算力是A18 Pro的4倍。 与iPhone 16 Pro所搭载的A18 Pro处理器相比,A19 Pro拥有更大的缓存和内存。更大的缓存意味着数据读取速度更快,能够让应用程序的启动和运行更加流畅;而更大的内存,�

  • vivo X300 Pro视频能力挑战苹果 韩伯啸:安卓最强 没有之一

    vivo X300 Pro全球首发4K 60fps人像视频拍摄,搭载自研蓝图双芯与V3影像芯片,支持行业领先的4K 120fps电影慢动作、杜比视界HDR及10bit Log视频录制。新增冷胶、负片风格滤镜,升级专业防抖与EIS算法,视频稳定性大幅提升。全面支持ACES专业色彩工作流,后期调色更高效。vivo称其视频能力超越苹果及友商Ultra机型,稳坐安卓影像旗舰宝座。

  • 小米最强小直屏!小米17 Pro搭载徕卡三摄:首次加入潜望长焦

    小米17系列已经官宣本月发布,这次不光是跳过了一代,甚至连产品线策略都有大改。 系列共有三款产品:小米17、小米17 Pro、小米17 Pro Max。 其中,小米17是小米15的正统迭代,小米17 Pro Max是小米15 Pro的正统迭代。 至于小米17 Pro则是新增机型,和小米15/小米17标准版一样的6.3英寸小直屏,但配置全面Pro,尤其影像规格大大加强。

今日大家都在搜的词: