首页 > 传媒 > 关键词  > 正文

本地化部署类ChatGPT服务,利用贝锐花生壳实现无需公网IP远程访问

2023-10-08 11:53 · 稿源: 站长之家用户

随着ChatGPT热度的蔓延,大语言模型 (LLM) 也变成了关注焦点,和AI绘图工具Stable Diffuison Web UI类似,目前在大语言模型方面,同样推出了Text generation web UI这样的工具,可为LLaMA、llama.cpp、GPT-J、Pythia、OPT、GALACTICA等类ChatGPT大型语言模型提供能够快速私有化部署、使用的网页界面,打造私有的类ChatGPT服务。

Text generation web UI不只是带来了快速部署的优势,github主页上直接提供了一键部署安装包,同时由于是web UI的访问形式,也可实现多人共享使用。那么,问题也就来了,同一局域网环境下可以直接访问,但是一旦脱离了这个局域网,如何才能使用呢?

答案之一是搭配内网穿透工具,在没有公网IP、不设置路由的情况下,快速实现远程访问自建的类ChatGPT服务。以下流程采用了贝锐花生壳内网穿透,来实现Text generation web UI本地部署后的远程访问。

对于许多早期互联网用户而言,花生壳并不陌生。从 2006 年开始,花生壳就已经为站长们提供动态域名解析DDNS服务,并经过不断的发展,逐渐成为了全球用户数量超过千万的动态域名解析服务商。

至今,花生壳已经集动态域名解析和内网穿透功能于一体,持续提供稳定可靠的内网穿透服务,被 1800 万以上的用户广泛应用于各种场景。这些应用场景包括OA/ERP/CRM办公系统、私有云、视频监控、Web服务器、软件开发调试、遥感测绘以及工业互联等。

Text generation web UI本地部署

1.以Windows为例,在安装包中运行start_windows.bat就能自动自动安装,完成所需环境的部署。

2.完成后,通过CMD进入Text generation web UI所在的目录,根据github主页上的信息,下载、安装所需的语言模型。

3.完成模型下载后,再次运行start_windows.bat就能启动Web UI。

贝锐花生壳内网穿透安装&设置

1.在贝锐官网下载、安装花生壳的客户端。目前,除了Windows、Linux外,花生壳还支持Android、OpenWRT、树莓派等多种操作系统及设备,并提供了硬件客户端花生壳盒子,适用于无法安装软件客户端的场景。

2.注册贝锐账号后,登录花生壳客户端,进入云端管理后台,对需要进行内网穿透服务进行映射配置。

3.确认映射内容填写无误后,点击“保存”即可,花生壳将自动生成一个外网访问地址。如果需要远程访问Text generation web UI,只需要在浏览器中输入贝锐花生壳生成的外网访问地址即可。

总之,使用贝锐花生壳实现远程访问Text generation web UI的过程相对简单易行,只需按照上述步骤进行操作即可。对于需要类似私有化服务的需求方,可以参考此方法进行实施。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • ChatGPT安全漏洞被曝光:无需点击即可盗用户数据!

    据媒体报道,近日,OpenAI旗下连接器(Connectors)被曝存在安全漏洞。 据悉,用户无需点击,攻击者就能从ChatGPT连接的第三方应用窃取敏感数据,甚至窃取API密钥。

  • 哪里找最新AI工具官网?如何快速对比ChatGPT替代品?AI工具导航指南 - AIbase

    文章探讨了在AI工具爆炸式增长的时代,用户面临的信息过载和筛选困难问题。主要内容包括:1)AI领域迭代速度远超传统软件,个人追踪信息效率低下且容易错过关键更新;2)AIbase.cn平台致力于解决这一问题,通过聚合主流AI工具、严格审核信息来源、持续更新行业动态;3)平台提供多维对比功能,结构化呈现工具参数,帮助用户快速定位适合需求的解决方案;4)建议用户定期浏览平台资讯栏目,善用搜索筛选功能,通过对比视图做出明智选择。核心价值在于降低信息筛选成本,让用户更高效地获取有价值的AI工具和前沿资讯。

  • ChatGPT语音模式增添新功能:可调语速 支持0.5到2.0倍速

    OpenAI为其ChatGPT网页应用的语音模式推出新功能,加入语音速度”调节与自定义指令前缀”,同时配合此前升级的模型选择器,进一步提升用户体验。 新增的语音速度”选项让用户可通过滑块自由调整ChatGPT的语速,范围从0.5倍速到2.0倍速,不过该功能目前仍处于隐藏状态,尚未正式开放。 自定义指令前缀”功能则允许语音模式记住用户的特定要求,避免重复输入。系统明确�

  • ChatGPT 5更新:三种模式可选 4o重新回归

    OpenAI首席执行官Sam Altman在社交媒体上宣布,ChatGPT 5正式推出三种可选模式:自动(Auto)、快速(Fast)和思考(Thinking)。

  • 贝锐花生壳赋能工厂夏季远程巡检,降低高危环境作业风险

    文章介绍了夏季极端天气对工厂运营的挑战及贝锐花生壳内网穿透技术的解决方案。传统人工巡检在高温、台风等环境下存在安全隐患、效率低下和设备隐患难控等问题。贝锐花生壳技术无需公网IP,通过安全加密传输实现远程监控、巡检和故障诊断,降低人工风险,提升运营效率。其核心优势包括:1)突破复杂网络环境限制;2)零服务器成本,数据安全可控;3)分钟级部署,弹性扩展;4)银行级安全防护和智能预警系统。该方案为工厂在恶劣环境下稳定运行提供了可靠技术支撑。

  • 迄今最先进的AI模型!ChatGPT-5具备博士级别的认知能力

    ChatGPT-5在多个领域表现出色,包括编程、数学、写作、健康和视觉感知等。 它具备增强的推理能力,能够根据对话类型选择最佳模型,并通过深度推理模型解决更具挑战性的问题。 OpenAI 表示,ChatGPT-5在知识工作方面表现卓越,其知识水平在40多种职业中均达到或超过专家水平,涵盖法律、物流、销售和工程等领域。 在基准测试中,ChatGPT-5 展现了出色的认知能力。 例如,�

  • REDMI Note 15 Pro系列支持IP66/IP68/IP69/IP69K

    近日,REDMI官方宣布,备受期待的Note15Pro系列将于8月21日19:00正式亮相,目前新机已进入紧锣密鼓的预热阶段。 据官方透露,REDMI Note15Pro系列在防水性能上实现了重大突破,不仅全面支持IP66、IP68、IP69防水等级,更创新性地新增了IP69K认证,这意味着该系列手机能够长时间抵御高温高压喷水的侵袭,并通过了行业首个五星长效防水品质认证。REDMI手机方面表示,即便模拟用户真�

  • OpenAI CEO:GPT-6将具备个性化记忆 记住用户偏好习惯

    OpenAI的首席执行官萨姆奥尔特曼(Sam Altman)在近日的一次专访中,透露了下一代大模GPT-6的最新进展。他表示,GPT-6 的开发正在积极推进中,其发布节奏将比从GPT-4到GPT-5的周期更快。 奥尔特曼特别强调,GPT-6将不再局限于单纯回答问题,而是朝着与用户深度适配”的方向演进。他举例描述

  • MCP服务库完整指南:如何选择最适合的Model Context Protocol服务

    本文介绍了MCP(Model Context Protocol)作为连接大型语言模型与外部数据源的重要桥梁。随着AI技术发展,选择合适的MCP服务库对开发者至关重要。文章分析了MCP服务库的核心价值:提升开发效率、增强系统互操作性、降低技术门槛。评估MCP服务库质量需考虑协议兼容性、安全性、生态系统丰富度及社区活跃度等维度。建议开发者根据业务需求选择服务,初创公司可侧重简便性,大型企业应关注安全性和扩展性。文章还指出MCP服务未来将向云原生化、智能化运维和标准化方向发展,并推荐使用专业对比平台(如mcp.aibase.cn)辅助决策。

  • TOP1品牌、TOP1品类!海尔冰箱行业一哥的含金量还在提升

    2025年7月冰箱市场数据显示,海尔冰箱以47%年累计份额稳居行业第一。其全空间保鲜冰箱连续三年两位数增长,份额达20.13%,成为行业标杆。明星产品和宴625冰箱、麦浪冰箱分别占据行业单品和8K+市场榜首。海外市场,海尔冰箱连续17年全球销量第一,在欧洲多门冰箱市场连续8年份额第一。技术方面,海尔首创全空间保鲜科技和磁控保鲜技术,实现果蔬7天新鲜如初、肉类10天红嫩鲜香。产品矩阵覆盖高端与年轻化需求,博观系列定位高端,和悦系列注重空间利用率,麦浪系列主打年轻化创新。即将上市的第四代麦浪冰箱搭载最新磁控冻鲜技术,有望成为市场新焦点。海尔通过持续技术创新和精准用户洞察,构建了"技术引领-产品落地-用户认可-份额增长"的正向循环,为行业提供发展范式。

今日大家都在搜的词: