11.11云上盛惠!海量产品 · 轻松上云!云服务器首年1.8折起,买1年送3个月!超值优惠,性能稳定,让您的云端之旅更加畅享。快来腾讯云选购吧!
GoogleAI推出的Mirasol3B是一种创新的多模态自回归模型,能够处理音频、视频和文本等不同模态的数据。该模型通过采用多模态自回归结构,将时间对齐和上下文模态分开建模,并通过交叉注意力机制实现模态之间的信息交换。作为多模态领域的进步标志,Mirasol3B在不断探索AI模型理解世界复杂性的道路上起到了积极的推动作用。
Anthropic公司开源了语言理解模型BLOOMZ,它拥有高达1760亿个参数,是目前公开的参数量最大的语言模型之一。以这种规模的模型进行推理,对硬件的算力和内存提出了极高的要求。未来Habana计划支持更低精度的推理,以进一步提升性能并降低功耗。