高通公司正式发布了其新一代人工智能芯片 ——AI200和 AI250，这一举措旨在挑战市场领先者英伟达。此次发布会引起了广泛关注，公司的股价随之上涨超过20%。
高通 AI200芯片是一款专为机架级 AI 推理设计的解决方案，其目标在于降低总体拥有成本（TCO）并提升性能。该芯片支持768GB 的 LPDDR 内存，这样的内存容量和更低的成本为大型语言模型(LLM)和多模态模型(LMM)的推理提供了强大支持。
与此相对，高通的 AI250则采用了近内存计算（near-memory computing）的创新架构，这种架构使其能够提供超过10倍的内存带宽，同时显著降低功耗，提升 AI 推理任务的效率与性能。两款芯片均配备了直接液冷技术，以增强散热效果。
在硬件之外，高通还推出了一个全面的 AI 软件栈，涵盖了从应用层到系统软件层的所有内容，专为 AI 推理进行了优化。开发者可以通过高通的 Efficient Transformers Library 和 AI 推理套件，轻松实现模型的部署和管理。该软件栈支持众多主流机器学习框架和推理引擎，为 AI 应用的开发提供了丰富的工具、库和 API。
预计高通的 AI200和 AI250将在2026年和2027年正式商用。此次发布不仅展示了高通在 AI 领域的雄心，也引发了市场的高度关注。
划重点:
🌟 高通发布 AI200和 AI250芯片，挑战市场领导者英伟达。
📈 高通股价因发布新芯片大涨超过20%。
🖥️ 新芯片采用液冷技术，并支持多种 AI 推理应用和工具。