首页 > 业界 > 关键词  > 人工智能最新资讯  > 正文

普通人在电脑上尝鲜AI技术的三种方式

2024-05-29 20:33 · 稿源: TechWeb.com.cn

TechWeb 文 / 新喀鸦

随着科技的飞速发展,人工智能(AI)已经不再是遥不可及的未来科技,而是逐步融入我们生活的各个角落。从智能家居的便捷操控,到线上服务的智能推荐,再到医疗教育等行业的深度应用,AI正以其独特的魅力改变着世界。然而,对于许多普通人而言,AI似乎仍然是一个充满神秘感的高科技领域。那么作为普通人,我们该如何尝鲜AI技术呢?

以网页版AI为代表的“云端AI

当我们提到AI时,相信很多人的脑海中都会浮现出一个名字——ChatGPT。没错,就是那个在科技圈掀起轩然大波的聊天机器人。它的发布,仿佛一道璀璨的闪电,照亮了AI领域的夜空,让我们真切地感受到了人工智能的无限可能。

ChatGPT是一款集成了尖端自然语言处理技术与深度学习能力的聊天机器人,它宛如一位博学多才的全能顾问,无论在哪个领域,都能针对您的问题提供详尽的解答。对于内容创作者而言,ChatGPT更是一位不可或缺的助手,它能生成高质量的图片、编写精准的代码、构思富有创意的文案、制作专业的PPT,并对文档进行润色,使文章内容更加出色。当然这些仅仅是ChatGPT功能的冰山一角,各位可以去亲自体验一番,了解它真正的实力。

从使用角度来说,ChatGPT使用起来非常简单。我们只需要打开网页,登陆账号就可以享受到相关的AI功能。

值得一提的是,在今年4月,OpenAI宣布ChatGPT(3.5版本)免费了。也就是说如果你只是想体验ChatGPT 3.5版本的话,连账号也不需要,只要登陆ChatGPT的网页就可以了。

如果你目前无法使用ChatGPT的话,国内也有很多厂商推出了类似ChatGPT的产品,比如百度的文心一言。根据百度官方的介绍,文心大模型4.0综合能力和 GPT-4相比毫不逊色。文心一言的使用方式和ChatGPT类似,也是只需要打开网页,登陆百度账号就可以享受到相关的AI功能。目前文心大模型3.5免费开放,文心大模型4.0则需要购买会员才可以使用。国内除了文心一言,还有其他一系列AI应用,如通义千问、豆包、智谱清言、腾讯混元以及讯飞星火等,这些AI应用在使用方法上是大同小异的。

当然以上这些其实都属于“云端AI”的范畴。“云端AI”简单来说就是将AI相关的数据处理放在服务器上跑,用户只需要通过网页、应用程序输入指令即可。这种部署模式有三个好处:

1、便宜:目前云端算力成本并不算太高,因此很多“云端AI”是免费开放的,就算是收费的会员,价格也不算太贵。以文心一言会员VIP为例,目前一个月也只要49.9元(连续包月,可随时取消)。

2、不挑设备:AI既然是放在服务器上跑,那么对于用户使用的终端基本就没什么性能要求了。毕竟找个能正常访问网页的电脑还是很容易的。

3、易用:由于“云端AI”的部署、维护、升级等工作是由厂商负责,所以对于用户来说基本是“即开即用”,往往只需要点开个网页登陆账号就能直接使用AI功能。

基于现有硬件本地部署AI

虽然“云端AI”有诸多优势,但还是有一个问题不能忽视,那就是数据私密性。此前三星就被曝出因ChatGPT而泄露芯片机密。当时因为三星员工直接将企业机密信息以提问的方式输入到ChatGPT中,导致相关内容进入学习数据库,从而造成信息泄露。对于这种情况,本地部署大模型其实是个很好的解决办法。

由于本地部署大模型是将AI放到本地设备上跑,相关的信息并不会发送到其它服务器上。所以当我们用这种方式处理个人隐私信息或者企业机密信息时就无需担忧信息外泄的风险。

不过从另一个方面看,本地设备的算力性能往往不如服务器,因此只有部分性能强的设备才适合本地部署大模型。

以英伟达发布的Chat With RTX为例,Chat With RTX 是一款基于语言大模型的应用程序,可让用户便捷连接到自己的内容(文档、笔记、视频或其他数据),利用RAG(检索增强生成)、TensorRT-LLM 和 RTX 加速,全部在用户个人的 Windows RTX PC 或工作站上本地运行,获得快速、安全的结果。

其在硬件方面主要就两点要求:

1、拥有8GB以上显存的RTX 30或RTX 40系列显卡。当然同规格的专业显卡也可以。

2、电脑内存超过16GB。

对于显卡来说,即使是2022年发布的RTX 3050也能满足相关需求。RTX 3050基本可以算是最近几年“游戏电脑”的基本配置了,所以目前很多现有的 “游戏电脑”都能符合这样的配置要求。

如果你想要部署其它本地大模型,硬件配置要求可能会稍微高一点。简单来说大模型参数越大,需要的显存就越多。假设你使用的显卡其显存大小为16GB,那么想要本地部署7B以下参数量级的大模型应该是问题不大的。

简单总结一下,这种部署模式有两个优点:

1、数据在本地计算,无需担心信息外泄。

2、大多数最近几年购买的“游戏电脑”基本都可以跑,不需要额外购置新设备。

通过AI PC本地部署大模型

早在2023年9月,英特尔CEO帕特·基辛格在硅谷提出了PC的革命性概念——AI PC。英特尔也是最先提出AI PC概念的厂商。AI PC简单来说就是能玩转AI功能的PC。

具体来说,AI PC集成了中央处理器(CPU)、图形处理器(GPU)和神经网络处理单元(NPU),每种处理器都具有特定的AI加速功能。NPU是一种专用加速器,它能高效地在PC上直接处理人工智能和机器学习(ML)任务,而不是将数据发送到云端进行处理。因此用AI PC跑AI也无需担忧信息外泄的风险。

相较于常规的游戏电脑,AI PC在轻薄与便携性方面展现出了显著的优势。这主要归因于游戏电脑通常需要配备独立显卡,而这类显卡不仅体积庞大,还需要配备庞大的散热模组来应对其散热需求,进而需要更高功率的电源来保障供电稳定。因此,游戏电脑在设计上往往显得更为厚重,便携性相对较差,而AI PC则能凭借其更为紧凑的设计,为用户提供更为轻便的使用体验。

所以对于工作中需要用到AI,且需要经常到处跑的人来说,AI PC会是个不错的选择。毕竟如果可以选的话,应该没多少人愿意背着“板砖”(游戏电脑)出门吧?

目前市面上的AI PC按所用处理器划分可以分成四个主要阵营,分别是苹果、英特尔、AMD、高通。

苹果:苹果在AI领域的布局其实挺早,只不过苹果似乎不太喜欢AI这个标签,搞出来的成果往往会以“机器学习”这类更细化的名字命名。比如苹果在2017年推出了Core ML框架,这是苹果为其开发者准备的机器学习框架。支持iOS、MacOS、tvOS和watchOS。也就说是在苹果生态内开发AI,基本不需要考虑兼容性等问题,可以按照统一的规范进行开发。另外苹果从M1芯片开始推出了“统一内存”的概念,使用统一内存跑大模型在带宽和容量方面会有明显优势。

英特尔:英特尔专为AI PC推出了英特尔酷睿Ultra处理器,在这款处理器中除了拥有CPU、GPU以外,还集成了用于客户端的片上AI加速器“神经网络处理单元(NPU)。不过需要说明的是,通常并不是只有NPU来处理AI应用,CPU、GPU也会承担对应的AI加速功能。

AMD:AMD的AI PC处理器利用了三种计算引擎:基于Zen架构的CPU、基于AMD RDNA的集成或独立GPU、以及基于AMD XDNA的AI引擎(NPU)。XDNA是该公司在收购Xilinx后提出的新架构。它是一种自适应数据流架构,被认为可以大幅度改变PC体验。AMD XDNA还可以优化AI算法运行效率,进而减少电耗。

高通:近期微软推出了基于高通骁龙 X Elite和骁龙 X Plus处理器的AI PC产品Surface Pro和Surface Laptop。微软的AI PC在宣传上似乎更偏向于“生态赋能”。具体来说,英特尔、AMD在宣传AI PC的时候往往会重点介绍AI的本地化部署优势。而微软似乎并不太在乎本地部署AI这件事。比如微软在发布会时重点介绍的C opilot,其中的不少功能是需要将数据上传的服务器进行处理,也就是相当于在走“云端AI”的路子。不过对于微软来说也可以理解,毕竟微软是一个系统厂商,它肯定还是希望推进Windows和C opilot生态的发展。

结语

1、对于想在电脑上尝鲜AI技术的人来说,类似ChatGPT、文心一言之类的“云端AI”是首先。毕竟价格便宜而且使用起来也很简便。

2、对于担忧信息外泄风险的人来说,基于现有硬件本地部署AI是个不错的选择。其优势在于无需额外购置设备,拥有一台“游戏电脑”通常就能满足需求。缺点在于这类“游戏电脑”往往缺乏便携性,不便于移动使用。

3、对于上班、出差,而且还需要使用AI的人来说,AI PC会是个不错的选择。毕竟AI PC普遍毕竟轻薄、便携,带AI PC出差可以显著减轻我们肩膀上的压力。

举报

  • 相关推荐
  • 大家在看
  • GPTsWorks:第三方GPTs商店,聊天搜索GPTs。

    GPTs Works 是一个第三方GPTs商店,提供用户通过聊天的方式搜索和发现各种GPTs。该平台汇集了大量优秀的GPTs资源,用户可以通过提交链接或直接与平台交互来获取所需信息。平台的主要优点包括丰富的GPTs资源、便捷的搜索方式以及高效的信息获取能力。

  • ChartFast:AI数据分析师,秒速生成复杂图表。

    ChartFast是一个AI数据分析师工具,旨在简化您的数据可视化和分析任务。它自动化了重复且耗时的数据工作,让您能够快速生成精确而时尚的图表。

  • String Theories:探索和理解弦理论的交互式平台

    String Theories 是一个致力于教育和普及弦理论的交互式网站。它通过可视化工具和模拟,帮助用户理解复杂的物理概念,如弦、膜以及它们在宇宙学中的应用。该平台由物理学家和教育者共同开发,旨在提高公众对现代物理学前沿理论的认识。

  • Studymap.ai:个性化学习计划生成器

    Studymap.ai 是一个利用人工智能技术帮助用户生成个性化学习计划的在线平台。用户可以通过上传YouTube视频链接或文章,平台将基于这些内容生成具有结构化的章节、在线资源和项目想法的完整课程。它还提供进度跟踪功能,帮助用户更有效地学习。

  • ResumaidPro:定制化简历构建工具,AI辅助,提升求职效率。

    ResumaidPro是一款利用人工智能技术帮助求职者快速定制化简历的在线工具。它通过浏览器插件形式,允许用户在浏览器标签页内直接定制简历,优化简历内容以通过自动应聘筛选系统(ATS)。它使得简历定制化变得简单快捷,节省了求职者宝贵的时间,同时提高了求职成功的几率。产品背景是通过利用技术改善简历编写过程,以适应快速变化的就业市场。产品提供了不同套餐,包括按月或按季度计费,并且提供了免费试用。

  • CheckVisaSlots:实时监测美国签证预约空位

    CheckVisaSlots是一个专注于帮助学生和旅行者监测美国签证预约空位的在线服务。它通过提供实时的签证预约信息,帮助用户及时了解签证预约的可用情况,从而更好地规划他们的签证申请流程。该服务特别适合那些需要及时获取签证信息以安排旅行或教育计划的用户。

  • 星界AI:一站式AI图文创作神器

    星界AI是一款集成了多种AI大模型的图文创作神器,包括ChatGPT、谷歌Gemini、百度文心一言等,提供文案创作、知识问答、教育辅导、灵感启发等功能,以提高工作效率和创造力。

  • 神笔AIPPT系统:一键生成海量模板,支持SaaS多开的全开源系统

    神笔AIPPT系统是一款支持一键生成和海量模板的在线建站工具,采用SaaS模式,允许无限多开。该系统基于thinkphp 6.1 + mysql 5.7 + vue3 + vite5技术栈开发,完全开源,支持定制二次开发,适用于需要快速搭建个性化网站的用户。产品原价2888元,提供详细的安装部署文档和参数配置文档,以及使用过程中的免费指导服务。

  • Vozo:AI视频生成器,一键重写和配音视频。

    Vozo是一个AI视频生成器,它允许用户通过AI提示重写视频脚本、自动配音和唇形同步,从而快速生成新的视频内容。它支持将视频翻译成多种语言,并且可以针对不同的受众群体定制视频内容。Vozo的主要优点包括易用性、高效性以及能够保持原有视频的魅力。

  • 扣子专业版:企业级 AI 开发平台,无需编程技能,快速搭建个性化应用。

    扣子专业版是一款企业级 AI 应用开发平台,旨在帮助用户快速、低门槛地构建个性化的 AI 应用,支持无编程技能的用户使用。该平台拥有 1 万 + 插件的丰富生态,能够构建功能强大的大模型应用,同时支持数据私有化及团队协作,适合各类企业需求。定价灵活,能够满足不同规模的企业使用需求,是推动企业数字化转型的重要工具。

  • Gobi:个性化情绪健康指导APP

    Gobi是一款致力于提供个性化情绪健康指导的应用程序。它由一群对AI充满热情的团队开发,团队成员来自Google、Microsoft、Meta和Scale AI等知名公司。Gobi通过实时生成基于科学的语音指导健康实践,帮助用户管理情绪健康。产品的主要优点包括全天候的人性化健康支持、适应性AI个性化、实时健康实践生成、日常检查和情绪健康跟踪等。

  • DiT-MoE:大规模参数扩散变换器模型

    DiT-MoE是一个使用PyTorch实现的扩散变换器模型,能够扩展到160亿参数,与密集网络竞争的同时展现出高度优化的推理能力。它代表了深度学习领域在处理大规模数据集时的前沿技术,具有重要的研究和应用价值。

  • Picogen AI Image API:AI图像生成API,提供高质量的4K图像生成和编辑功能。

    Picogen AI Image API是一个领先的AI图像生成平台,提供与Midjourney, Stable Diffusion和DALL-E相媲美的高质量图像生成服务。它支持生成高达4K分辨率的图像,并且具备图像合并、背景移除和8K分辨率的图像放大等高级功能。Picogen旨在为数字营销人员、平面设计师、内容创作者等专业人士提供强大的视觉内容创作工具。

  • Colocio AI:一站式在线营销工具,由AI驱动,简化广告和内容创作。

    Colocio AI是一款集成了人工智能技术的在线营销工具,旨在帮助用户创建、评估和自动化在线广告活动。它通过AI技术生成高转化率的广告文案和社交媒体内容,提供无障碍的内容调度功能,以及实时的AI辅助和数据驱动的报告,帮助用户优化广告活动,提高性能。Colocio AI的背景是简化内容和媒体创作流程,专注于为品牌和目标受众量身定制内容,同时释放用户时间,让他们专注于战略规划和与受众互动,推动业务创新和增长。

  • Supermemory.ai:你的个人数字第二大脑

    Supermemory是一个致力于帮助用户组织、搜索和利用保存信息的平台。它提供强大的工具,如搜索引擎、写作助手和画布,旨在成为用户的个人第二大脑。它注重隐私保护,可在任何地方工作,支持自托管,并且价格亲民,提供免费层级。

  • Dialed:个性化AI激励演讲,激发潜能。

    Dialed是一款AI驱动的应用程序,旨在通过个性化的激励演讲来激发用户的潜能。无论是健身、演讲还是日常挑战,Dialed都能提供个性化的激励和启发。产品的主要优点包括个性化的激励演讲、真诚的支持、传奇的演讲定制、多种声音选择、背景音乐以及AI生成的激励图像。此外,Dialed还允许用户将激励演讲分享给朋友和家人。

  • Aphrodite-engine:PygmalionAI的大规模推理引擎

    Aphrodite是PygmalionAI的官方后端引擎,旨在为PygmalionAI网站提供推理端点,并允许以极快的速度为大量用户提供Pygmalion模型服务。Aphrodite利用vLLM的分页注意力技术,实现了连续批处理、高效的键值管理、优化的CUDA内核等特性,支持多种量化方案,以提高推理性能。

  • ICSFSurvey:深入研究大型语言模型的内部一致性和自我反馈

    ICSFSurvey是一个关于大型语言模型内部一致性和自我反馈的调查研究。它提供了对LLMs自我评估和自我更新机制的统一视角,包括理论框架、系统分类、评估方法、未来研究方向等。

  • Stable Audio Open demo:从文本提示生成立体声音频

    Stable Audio Open 是一个能够从文本提示生成长达47秒的立体声音频的技术。它包含三个主要组件:一个将波形压缩到可管理序列长度的自编码器、一个基于T5的文本嵌入用于文本条件、以及一个在自编码器的潜在空间中操作的基于变换的扩散(DiT)模型。该技术在生成音频方面表现出色,能够根据文本提示生成各种类型的音频,如打击乐、电子音乐、自然声音等。

  • Claude Engineer:利用Anthropic的Claude模型辅助软件开发任务的高级命令行界面。

    Claude Engineer是一个高级的命令行界面,它利用Anthropic的Claude 3和Claude 3.5模型的能力,来协助完成广泛的软件开发任务。这个工具无缝地结合了最先进大型语言模型的能力与实用的文件系统操作、网页搜索功能、智能代码分析和执行能力。

今日大家都在搜的词: