首页 > 业界 > 关键词  > DeepSeek最新资讯  > 正文

AMD锐龙AI处理器轻松本地跑DeepSeek:支持70B参数

2025-02-12 19:24 · 稿源: 快科技

本地部署 DeepSeek,AMD 锐龙 AI 助力

DeepSeek 近期大受欢迎,但由于服务器负载限制,经常会出现无响应的情况。因此,本地部署体验成为更好的选择,具体规模取决于硬件配置。

AMD 锐龙 AI 处理器拥有业内最强大的 NPU,算力高达 50 TOPS(每秒 50 万亿次计算),是体验 DeepSeek 的理想选择。

如果您拥有 AMD 锐龙 AI 笔记本,可以通过 LM Studio 轻松在本地部署、体验 DeepSeek R1 精简版推理模型。

操作步骤:

  1. 安装 AMD Adrenalin 25.1.1 或更新版本的显卡驱动。
  2. 打开 lmstudio.ai/ryzenai,下载 LM Studio 0.3.8 或更新版本。
  3. 安装并启动 LM Studio,跳过引导屏幕。
  4. 点击“发现”标签页。
  5. 选择适合自己硬件的 DeepSeek R1 Distill 模型,具体选择见后。
  6. 在软件页面右侧,勾选“Q4 K M”量化模式,然后点击“下载”。
  7. 下载完成后,返回聊天选项页,从下拉菜单中选择 DeepSeek R1 distill,并确保勾选“手动选择参数”选项。
  8. 在“GPU 卸载”中,将滑块移至最大值。
  9. 点击“模型加载”。
  10. 现在,您可以在本地体验 DeepSeek R1 推理模型了!

不同硬件配置支持的不同参数量:

  • AMD 锐龙 AI MAX395 处理器,搭配 64GB 或 128GB 内存,最高支持 DeepSeek-R1-Distill-Llama-70B。
  • 搭配 32GB 内存,可支持 DeepSeek-R1-Distill-Qwen-32B。
  • AMD 锐龙 AI HX 370、AI 365 处理器,搭配 24GB 或 32GB 内存,支持 DeepSeek-R1-Distill-Qwen-14B。
  • AMD 锐龙 7040/8040 系列,搭配 32GB 内存,支持 DeepSeek-R1-Distill-Qwen-14B。

AMD 推荐将所有 Distill 运行在 Q4 K M 量化模式。

如果您使用的是台式机,AMD RX 7000 系列显卡也支持本地部署 DeepSeek R1。

  • RX 7900 XTX 旗舰显卡最高支持 DeepSeek-R1-Distill-Qwen-32B。
  • RX 7900 XT、7900 GRE、7800 XT、7700 XT、7600 XT 均支持 DeepSeek-R1-Distill-Qwen-14B。
  • RX 7600 和 RX 7650 GRE 适合 DeepSeek-R1-Distill-Llama-8B。

举报

  • 相关推荐
  • 透过DeepSeek,聊聊存储是如何给AI加速的

    从AI服务器到AIPC,如何快速的用上DeepSeek成为热门问题。无论DeepSeekJanus-Pro把多模态提升到了一个新层次是媲美主流的DeepSeek-V3,或者应用于本地的DeepSeek-V3,对存储都提出了新的需求。从数据中心、服务器,到个人计算机,铠侠为AI计算提供了丰富、高效的存储方案,并与合作伙伴展开深度合作,从软件和硬件层面入手,利用高性能固态硬盘的特性,为AI计算提供可靠的存储后盾,共同探索更多AI的可能性,充分利用AI与数据,创造更多价值。

  • 寻找DeepSeek梁文锋

    AI大模型DeepSeek凭借好用、开源、免费三大特点火爆全球,成为史上最快突破3000万日活跃用户的APP,如今当下各行各业都在被DeepSeek化。就是这样一家公司,在爆火之前,外界知之甚少,它极少出现在媒体报道、猎头招聘、同行调研之中,也从未像“AI六小龙”那样激起过市场的水花。但无论如何,DeepSeek打破巨头了在AI领域的叙事,现在投资人们迫切希望在下一个DeepSeek出现之�

  • 广告盯上DeepSeek

    AI搜索加广告,是必然吗?定焦One原创作者|王璐编辑|魏佳DeepSeek们最近因为答案中疑似“夹带”广告被骂了。起因是科普博主“三个老爸实验室”称在腾讯元宝接入的DeepSeek里发现,生成答案中有“建议通过58到家等正规平台比价预约”“建议通过快回收平台或本地正规回收商询价”等广告倾向性内容。需要提醒大家的是,即便有没有广告,AI的回答也不是绝对客观中立。

  • DeepSeek们的成本,是怎么计算的?

    DeepSeek彻底让全球都坐不住了。马斯克携“地球上最聪明的AI”——Gork3在直播中亮相,自称其“推理能力超越目前所有已知模型”,在推理-测试时间得分上,也好于DeepSeekR1、OpenAIo1。大模型的降本速度还会越来越快。

  • 蝉妈妈AI—电商人专属的DeepSeek

    “AI电商”是近年电商行业内最火热的议题之一,“DeepSeek”横空出示,更是给众多品牌商家带去新的启发。DeepSeek的逻辑推理能力很强,但是其知识库只更新到23年的12月,就算联网也没办法实时获取最新的电商相关数据,对于电商人来说,很难解决当下遇到的难题。「蝉妈妈AI」将持续优化模型与场景适配性,探索AI与电商的深度融合,助力品牌商家在市场中抢占先机。

  • 中青留学:DeepSeek来袭,AI可以替代留学中介吗?

    随着各种人工智能DeepSeek,豆包,Kimi横空出世,AI替代人类的话题再次被摆到大众面前。在留学申请领域,从智能选校到文书润色,AI似乎可以替代很多留学申请工作。如果大家有进一步的留学信息想要咨询,随时可以咨询中青留学,您身边的责任型留学专家。

  • DeepSeek利润神话背后:大厂AI的焦虑和自救

    AI似乎成了大厂的“救命稻草”。无论财报里的亮点数据是隔三岔五的利好信息,都离不开AI。DeepSeek引发的鲇鱼效应未结束。

  • 国内AI应用市场进入DeepSeek时代

    现在打开手机,“接没接DeepSeek”几乎成了国内互联网产品的投名状,就连拉面店都把“大众点评高分推荐”换成了DeepSeek认证。从搜索到内容创作,从大厂到独立开发者,有着不同应用场景、出自不同开发背景的AI产品正批量接入DeepSeek。在回答完这两个问题后,接下来更重要的问题是——如何把技术红利转化成真实的用户体验和商业价值,DeepSeek横空出世开启的这波AI应用内�

  • 我已确诊为“DeepSeek人格”:勿扰

    可能是AGI迟迟不来、等待“AI更像人/超越人”太辛苦。也或许是“AI代替人类劳动力”的预言太惊悚,吓到了人类。”说到底,AGI还没达到,终究是人被异化了。

  • DeepSeek后更大的机遇:AI端侧推理创新 | 智在终端

    每年开春的“新机潮”,今年出尽风头的是DeepSeek。几乎所有主流消费终端厂都在短时间内完成DeepSeek的接入。至少终端侧的智能新可能,已经在2025,初现曙光。