首页 > 业界 > 关键词  > 正文

印度计划建设庞大的AI硬件基础设施 但远不及中国

2023-10-16 15:33 · 稿源:站长之家

划重点:

- 印度计划在国家计算基础设施上投资80个exaflops的计算能力。

- 计划包括高端计算、推理和边缘计算的三个层面,以及分布式数据网格,拥有200/400Gbit/sec的速度。

- 与中国最近的计算升级计划相比,印度计划的80 个exaflops的投资规模较小。

站长之家(ChinaZ.com) 10月16日 消息:印度国家电子和信息技术部(MeitY)的印度AI团队上周五发布了一份AI愿景文件,呼吁在国家计算基础设施上进行大规模建设。这一计划将包括三个层面的计算能力,即高端计算、推理和边缘计算,以及拥有200/400Gbit/sec速度的分布式数据网格。

高端计算资源主要用于模型训练,计划包括40 exaflops的计算能力,其中部分来自于10,000个GPU,以及200PB的存储容量。愿景文件要求中级层或推理部门在印度的四个地理中心分布20.8 exaflops的计算能力(其中12用于训练,8.8用于推理),以及400PB的存储容量。每个中心需要1,000个GPU来进行推理任务,以及750个用于AI训练。

机房 数据中心 (2)服务器

图源备注:图片由AI生成,图片授权服务商Midjourney

注:Exaflop 是衡量超级计算机性能的单位,表示该计算机每秒可以至少进行10^18或百亿亿次浮点运算。

愿景文件还提到了边缘计算资源,它为计算资源有限且数据较小的用户提供了便利。这允许用户在低端计算机上和自己的数据上测试假设。边缘中心提供了240PB的存储容量,分布在印度的12个不同地点。每个中心有125个用于AI训练的GPU,总计为6 exaflops,以及用于AI推理的500个GPU,总计为13.2 exaflops 。目前尚不清楚这些exaflop是否期望在每个站点上实现,还是分布在边缘计算中。

与中国早些时候宣布的150 exaflops 额外计算能力相比,印度计划的80 exaflops投资规模较小。

印度AI团队指出,截至2022年11月,中国拥有世界超级计算机的最大份额,达到162台,占Top500列表中记录的计算机的32%。而印度仅拥有三台,但印度国家超级计算任务(NSM)旨在将这一数字增加到24台。

愿景文件还呼吁组建国家数据训练资源,包括非个人数据,计划命名为印度数据集平台(IDP)。这些数据集具有数据驱动的治理潜力,也可用于初创企业和研究。

需要指出,这份AI愿景文件目前只是一个计划,尚无确定性是否会被采纳,尽管部长们急于让印度快速采用AI。愿景文件也未提及采购,这是一个重大问题,因为为任何实体采购GPU并不容易。

举报

  • 相关推荐
  • 大家在看
  • ChattyUI:你的私人AI聊天工具,运行在浏览器中。

    Chatty是一个利用WebGPU技术在浏览器中本地且私密地运行大型语言模型(LLMs)的私人AI聊天工具。它提供了丰富的浏览器内AI体验,包括本地数据处理、离线使用、聊天历史管理、支持开源模型、响应式设计、直观UI、Markdown和代码高亮显示、文件聊天、自定义内存支持、导出聊天记录、语音输入支持、重新生成响应以及明暗模式切换等功能。

  • AsyncDiff:异步去噪并行化扩散模型

    AsyncDiff 是一种用于并行化扩散模型的异步去噪加速方案,它通过将噪声预测模型分割成多个组件并分配到不同的设备上,实现了模型的并行处理。这种方法显著减少了推理延迟,同时对生成质量的影响很小。AsyncDiff 支持多种扩散模型,包括 Stable Diffusion 2.1、Stable Diffusion 1.5、Stable Diffusion x4 Upscaler、Stable Diffusion XL 1.0、ControlNet、Stable Video Diffusion 和 AnimateDiff。

  • MacAIverse:macOS风格的开源React桌面环境

    MacAIverse是一个完全由AI生成代码,使用React构建的macOS风格的开源桌面环境。该项目由Claude AI助手初始创建,现在开放给其他Claude实例或其他开发者贡献新的应用。它遵循macOS设计原则,保持与整体桌面环境的一致性,并通过Tailwind CSS和framer-motion库实现流畅的动画和响应式布局。

  • EvTexture:视频超分辨率纹理增强技术

    EvTexture是一种基于事件的视觉驱动的视频超分辨率(VSR)技术,它利用事件信号中的高频细节来更好地恢复VSR中的纹理区域。该技术首次提出使用事件信号进行纹理增强,通过迭代纹理增强模块逐步探索高时间分辨率的事件信息,实现纹理区域的逐步细化,从而获得更准确、丰富的高分辨率细节。在四个数据集上,EvTexture达到了最先进的性能,特别是在Vid4数据集上,与最近的基于事件的方法相比,可以获得高达4.67dB的增益。

  • Telegraf:开源服务器代理,用于收集和报告指标

    Telegraf是一个开源的服务器代理,用于收集和发送来自数据库、系统和IoT传感器的所有指标和事件。它使用Go语言编写,编译成一个单一的二进制文件,无需外部依赖,占用的内存非常小。Telegraf拥有300多个插件,由社区成员编写,覆盖了云服务、应用程序、IoT传感器等多种数据源。它支持灵活的解析和序列化,适用于多种数据格式,如JSON、CSV、Graphite,并能将数据序列化为InfluxDB行协议和Prometheus等。Telegraf还具有稳健的交付保证,包括流量回压、调度器、时钟漂移调整、全流支持等。此外,Telegraf的自定义构建器允许用户选择特定插件包含在Telegraf二进制文件中,适合在资源受限的设备上使用。

  • iA Writer:纯净写作体验,专注流状态

    iA Writer是一款专注于写作的应用程序,旨在提供纯净的写作环境,帮助用户专注于内容创作。它通过简洁的界面设计和强大的功能,如语法检查、文本聚焦等,帮助用户提高写作效率和质量。iA Writer背后的设计理念是利用人工智能技术,让用户在写作时思考得更多,而不是更少,从而提升写作体验。

  • Groqnotes:使用Groq、Whisper和Llama3从音频生成有组织的笔记。

    Groqnotes是一个基于Streamlit的应用程序,它通过迭代解析和生成从转录的音频讲座中提取的笔记来构建结构化的讲座笔记。该应用程序混合使用了Llama3-8b和Llama3-70b模型,利用较大的模型生成笔记结构,较快的模型创建内容。Groqnotes的主要优点包括快速转录音频和生成文本,以及通过策略性地在两种模型之间切换来平衡速度和质量。此外,它还支持Markdown样式,可以在Streamlit应用程序中创建美观的笔记,包括表格和代码,并允许用户下载包含全部笔记内容的文本或PDF文件。

  • june:本地语音聊天机器人,保护隐私,无需联网。

    june是一个结合了Ollama、Hugging Face Transformers和Coqui TTS Toolkit的本地语音聊天机器人。它提供了一种灵活、注重隐私的解决方案,可以在本地机器上进行语音辅助交互,确保没有数据被发送到外部服务器。产品的主要优点包括无需联网即可使用、保护用户隐私、支持多种交互模式等。

  • Meilisearch:极速、高度相关的搜索引擎

    Meilisearch是一个灵活且强大的用户为中心的搜索引擎,可以轻松添加到任何网站或应用程序中。它以其极速的搜索响应(小于50毫秒)和即插即用的特性(智能预设,零配置启动)著称。Meilisearch还提供了先进的全文搜索引擎,具有出色的相关性,适用于各种用例。此外,它是一个开源项目,拥有一个友好且快速增长的社区。

  • nerve:无需编写代码即可创建智能代理的LLM工具。

    Nerve是一个可以创建具有状态的代理的LLM工具,用户无需编写代码即可定义和执行复杂任务。它通过动态更新系统提示和在多个推理过程中保持状态,使代理能够规划和逐步执行完成任务所需的操作。Nerve支持任何通过ollama、groq或OpenAI API可访问的模型,具有高度的灵活性和效率,同时注重内存安全。

  • Tap4 AI Crawler:开源的网页爬虫,支持AI技术目录更新和网站摘要。

    Tap4 AI Crawler 是由 tap4.ai 开源的网页爬虫,能够将网站转换为包含LLM的摘要信息。它具备强大的网页抓取、爬取和数据提取能力,以及网页截图功能。基于Python构建,轻量级,易于维护,适合对AI工具目录感兴趣的个人开发者以及对Python感兴趣的学习者。

  • Local III:本地机器智能的探索之旅

    Local III是一个由超过100名来自世界各地的开发者共同开发的更新,它提供了易于使用的本地模型浏览器,深度集成了推理引擎如Ollama,为开放模型如Llama3、Moondream和Codestral定制了配置文件,并提供了一套设置,使离线代码解释更加可靠。Local III还引入了一个免费的、托管的、可选的模型通过解释器--model i。与i模型的对话将用于训练我们自己的开源计算机控制语言模型。

  • 4M:多模态和多任务模型训练框架

    4M是一个用于训练多模态和多任务模型的框架,能够处理多种视觉任务,并且能够进行多模态条件生成。该模型通过实验分析展示了其在视觉任务上的通用性和可扩展性,为多模态学习在视觉和其他领域的进一步探索奠定了基础。

  • LLM101n:构建一个会讲故事的人工智能大型语言模型。

    LLM101n是一个开源课程,旨在教授如何从头开始构建一个能讲故事的人工智能大型语言模型(LLM)。课程内容涵盖了从基础到高级的多个方面,包括语言模型、机器学习、深度学习框架等,适合希望深入理解AI和LLM的编程人员和研究人员。

  • Ohai.ai:智能家庭助理,简化家务管理

    Ohai是由Care.com创始人Sheila Lirio Marcelo带领的团队创建的智能家庭助理,旨在减轻家庭事务负责人的心理负担。它通过文本消息与用户互动,帮助管理家庭日程、待办事项、协调家庭和看护者之间的沟通,并跟踪学校邮件等。

  • RecruiterCloud:一站式智能招聘与人才搜索工具

    RecruiterCloud是一个为初创公司设计的一站式招聘和人才搜索工具。它专注于速度、效率和易用性,提供智能搜索和人才挖掘功能。该平台拥有超过1100万美国工程师和数据科学家的数据库,通过先进的筛选和自定义高亮功能,帮助用户快速找到合适的候选人。此外,RecruiterCloud还提供一键式外联自动化、与现有ATS无缝同步等特性,简化招聘流程,缩短招聘时间。

  • Playmaker Document AI:自动化文档工作流程,释放AI的力量。

    Playmaker Document AI是一款旨在通过人工智能技术自动化文档处理流程的产品。它通过智能识别和提取文档中的数据,帮助用户消除手动工作,简化基于文档的流程。产品背景信息显示,Playmaker Document AI由Playmaker Software Ltd.开发,团队来自伦敦、爱丁堡、伊斯坦布尔和新德里。产品的主要优点包括数据的安全性、支持多种文档类型、以及能够与300多个集成无缝对接。

  • Spiral:自动化写作和创意任务的智能助手

    Spiral是一个旨在自动化重复写作、思考和创意任务的在线工具。它通过用户的训练示例来学习用户的语音、语调和风格,进而生成符合用户要求的输出内容。Spiral的主要优点包括:快速启动、个性化输出、团队协作以及持续优化。产品背景信息显示,Spiral受到了多位行业人士的好评,他们认为Spiral能显著提高工作效率,并且输出内容自然,不显生硬。Spiral提供订阅服务,价格为1美元试用两周,之后为每月20美元或每年200美元。

  • Future You:未来自我模拟,人生规划助手

    Future You是一个在线模拟工具,旨在帮助用户通过一系列问题和模拟,反思和设想自己未来的生活。用户通过回答关于现在的自己、理想生活、职业规划等问题,与AI生成的未来自我进行互动,从而获得对未来的深刻洞察和规划。

  • Rockset:高效的混合搜索和实时分析数据库

    Rockset是一个为大规模数据提供高效搜索和实时分析的数据库平台。它支持向量、文本、地理空间和JSON数据的索引,能够实现混合搜索架构,并通过流式数据摄入和高QPS工作负载来测量端到端延迟。Rockset的主要优点包括实时索引、毫秒级SQL查询、快速开发新功能、降低计算和存储成本,以及无需ETL、去规范化、管理分片、索引或集群的灵活性。

今日大家都在搜的词: