11.11云上盛惠!海量产品 · 轻松上云!云服务器首年1.8折起,买1年送3个月!超值优惠,性能稳定,让您的云端之旅更加畅享。快来腾讯云选购吧!
快科技3月12日消息,最新数据显示,我国在用算力中心标准机架数量已超900万。据报道,目前,我国算力总规模达280EFLOPS(每秒280百亿亿次浮点运算),有效支撑了算力资源配置与数据要素流通。相较于去年7月工信部公布的230百亿亿次浮点运算数据,短短半年时间增加了50EFLOPS。《中国互联网发展报告2024》显示,我国算力基础设施建设步伐加快,算力总规模仅次于美国,位居世界第二。在基础网络方面,我国已有超过20个省市陆续开展下一代万兆光网相关技术应用试点工作。此外,人工智能、区块链等新技术设施今年也蓬勃兴起,现有完成备案并上
近日,第五代英特尔至强处理器,以优秀的表现通过了中国电子技术标准化研究院组织的人工智能服务器系统性能测试。英特尔也成为首批通过AISBench大语言模型推理性能测试的企业。同时还彰显了英特尔至强可以为企业提供开箱即用”的功能,即可以在通用系统上部署一部分AI工作负载,从为客户带来更佳的总体拥有成本优势。
快科技8月31日消息,日前,由中国移动承建的国内运营商最大单集群智算中心在哈尔滨正式运营。据悉,该智算中心具有单集群算力规模最大、国产化网络设备组网规模最大等特点。单集群智算中心把所有AI加速卡打造成1个集群,用以支持千万亿级参数的大模型进行训练。这个集群智算中心通过先进的智算网络技术把上万块GPU芯片像积木”一样拼接在一起,大幅提升GPU节点间的通信效率,将数据训练完成时间缩短20%,从而形成超级算力集群。这个单集群智算中心共有超过1.8万张AI加速卡,运算能力达到每秒690亿亿次浮点运算,能满足万亿参数的大模型训?
今日上午,马斯克在转发特斯拉关于全球第1000万个电驱系统在上海拆解工厂下线”的微博时放出豪言,称有朝一日,特斯拉将每秒制造一套电驱系统。电驱系统是电动汽车的核心系统之一,相当于人类的心脏,主要由驱动电机、电机控制器和减速器组成,特斯拉电驱动系统经历了四代技术迭代:第一代电驱动系统应用在Roadster,得到ACPropulsion授权使用异步感应电机作为驱动电机,控制器应用IGBT单管并联技术,最早开发且交付量少,罕为人知。第四代电驱动系统优化了输出三相电气连接的保护,增加了红外温度传感器,控制器上以前用螺丝固定的接插件位置,现在改用了搅拌焊接的一体成型工艺,进一步降低了成本,电机油滤外壳整体铸造,滤芯内置,不再可更换等等。
什么AI应用每秒处理20000个AI推理请求,达到2024年谷歌搜索流量的1/5?答案是独角兽Character.ai,由Transformer作者NoamShazeer创办。沙哥公布了推理优化独门秘诀,迅速引起业界热议。最近有消息称,Meta与马斯克的𝕏都在争取与他们合作,把聊天机器人引入社交平台。
AI芯片厂商SambaNovaAI最新推出的AI芯片Samba-1Turbo表现出色,被称为AI领域的新速度之王。据外部机构ArtificialAnalysis独立测试结果显示,Samba-1Turbo在Llama3Instruct上的输出速度达到每秒1,084个token,创下了目前为止最快的记录。AI领域的竞争愈发激烈,Samba-1Turbo的问世必将为SambaNovaAI赢得更多市场份额。
日本多家知名电信巨头,包括DOCOMO、NTT公司、NEC公司和富士通,共同揭晓了一项突破性成果——全球首款高速6G无线设备。这款设备的亮相,无疑为通信领域带来了新的里程碑。尽管目前设备的传输距离还仅限于100米范围内,但随着技术的不断进步,预计其设备尺寸将逐渐缩小,成本也将有所降低。
【新智元导读】Llama3的开源,或将催生数十亿美元新产业。发布不到一周的时间,全网各种测试微调都开启了。但在还没有发布GPT-5之前,初创公司需要有危机感了。
这两天国内外人工智能圈子都在热议Groq:这个硅谷公司的产品基于自研芯片可以做到在大模型推理时每秒处理将近500个token。500个token什么概念,大概就是一句话的响应时间只需要不到2秒,如此这般的文字生成速度,甚至比翻译软件还快。虽然有不少那样的公司在当时沸沸扬扬,然才过了几年的工夫,你又能回想起几个这样的公司呢?希望这一次Groq的惊艳也不是一时的。
一家名为Groq的初创公司推出了一款大模型推理芯片,其推理速度达到了每秒500tokens的惊人水平,轻松颠覆了传统GPU的性能。Groq的团队由谷歌TPU原班人马组成,他们自主研发的芯片不仅速度快成本低廉,性价比高,成为了大模型推理加速的新宠。在技术不断创新和竞争日益激烈的背景下,Groq将继续致力于推动大模型硬件领域的发展,为人工智能技术的进步做出更大的贡献。