首页 > 传媒 > 关键词  > 正文

训练3个月 ,「APUS大模型3.0伶荔」已免费开放

2024-02-07 10:35 · 稿源: 站长之家用户

近日,APUS与深圳大学大数据系统计算技术国家工程实验室(以下简称“大数据国家工程实验室”)联合训练伶荔Linly-70B中文大模型,并在GitHub上正式首发开源,这是APUS大模型3.0的头个开源大模型。

据了解,APUS大模型3.0伶荔在中文基准测评榜单C-Eval上评分80.6分,中文能力超越GPT-4,在所有参评模型中排名第三,相比原始开源模型标杆LLaMa2-70B取得了大幅提升。

值得注意的是,大数据国家工程实验室由深圳大学牵头,与国家信息中心、清华大学和腾讯科技等联合建设;更有中国科学院陈国良院士、国家重点研发项目首席科学家李坚强等一批拔尖人才组成研发组,实验室副主任沈琳琳教授领导的伶荔项目团队支撑了此次模型的联合训练和开源发布。

此次APUS与大数据国家工程实验室联合训练开源的APUS大模型3.0伶荔中文大模型,进一步推动了AI技术创新与国内场景应用深化融合。“伶荔是国内仅有的几家700亿参数规模的中文开源大模型之一,相信能让更多国人开发者参与到人工智能产业大潮中。”伶荔项目团队李煜东博士如此表示。

可以看到,APUS大模型3.0伶荔中文大模型在词表大小、训练语料等方面进行了定制化调优,基于模块化增量预训练框架开发,针对中文场景扩充词表,增加汉字和中文符号支持,实现综合性能达到同量级开源模型的领先水平。在语料训练上,APUS大模型3.0伶荔采用高质量中英文公开数据源包括悟道、万卷、MNBVC等,并结合自研数据选择策略,构成模型有效训练的混合语料库。基于APUS郑州智算中心的算力支持,APUS大模型3.0伶荔耗时3个月完成训练,当前上下文长度设定为4K(约8000-10000汉字)。

此外,伶荔项目团队还提出课程学习策略,基于动态数据采样,在训练中调整数据的分布,实现将模型的英文语言能力平稳迁移学习到中文能力领域,为训练出高性能中文大模型提供有力保障。

随着APUS大模型3.0伶荔的联合发布、开源,国产开源大模型向构建中文场景大型语言模型又迈出了重要一步。此次合作也是双方深化践行“为中国定制人工智能大模型,积极构建人工智能生态,让大模型应用和价值创造接轨”战略的重要举措。

据悉,APUS还将与大数据国家工程实验室持续推动模型的能力提升和应用拓展,积极探索深化大模型在工具使用、剧情生成和角色扮演、医疗等领域的专业能力,聚力构建大模型生态,让为中国打造的AI大模型真正驱动中国AI产业高质量发展,实现价值共创,赋能千行万业。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 大家在看
  • DeepAI:智能工具,激发创意无限

    DeepAI是一个提供多种人工智能工具的网站,包括AI视频生成器、AI图像生成器、AI图像编辑器和AI角色聊天等。用户可以利用这些工具将静态图片和文本提示转换成简短的视频动画,或者通过输入提示来生成图像。DeepAI的AI图像编辑器允许用户快速编辑图片,而AI角色聊天则可以与各种角色进行互动。此外,还有去除背景和给黑白照片上色的功能。DeepAI提供PRO会员服务,享受无广告体验、私有图片存储和API访问等特权。

  • tawk.to:100%免费的网站在线聊天软件

    tawk.to是一款完全免费的在线聊天软件,它允许网站所有者监控并与访问者进行实时聊天,响应支持票据,使用CRM组织联系人,并创建帮助中心以增强客户自助服务的能力。tawk.to的主要优势在于其易用性、安全性以及无需任何费用即可使用。此外,它还提供了AI Assist功能,允许用户训练一个完全自动化的AI驱动聊天机器人。

  • WaveAI:AI驱动的高级照片编辑器

    Wave AI是一款AI驱动的高级照片编辑器,可轻松编辑照片和图像。它具有背景更改、物体移除和定制广告等高级功能。通过简单的点击,无需设计技能,轻松提升您的图像。

  • NovelAI.Dev:AI 绘画兴趣站

    NovelAI.Dev 是一个以技术宅为核心的 AI 绘画爱好者群体网站,提供多种与绘画相关的 AI 技术应用和工具。

  • AI SEO Service in Australia | Optidan:AI数字营销和SEO服务

    Optidan AI是澳大利亚顶级AI数字营销机构,提供AI SEO服务、Shopify SEO服务、去抄袭和内容创作服务。我们通过性能管理、Web诊断和战略优化提升SEO卓越,快速增长您的在线业务。

  • AskJack:让你的AI助手回答HR问题

    AskJack通过为频繁的HR咨询提供自动化响应,提高了工作效率,让你能够专注于战略性事务。它使用AI技术将助手带到你团队最常用的工作场所。通过AskJack,你可以减少重复的HR咨询,让你和团队能够专注于战略性事务。它还可以简化员工入职流程,提供即时访问所需的文件、指南和资源,并在入职后全年无休地提供相同的信息。AskJack还能帮助你了解员工的需求,提供数据驱动的见解。

  • OPS 提示词工作室:可视化编辑提示词工具

    OPS 提示词工作室是一款可视化编辑工具,支持一键翻译 AIGC 提示词,提供 Midjourney 提示词库,让用户轻松管理和使用提示词,助力提升生产力。该工具还提供简洁清晰的界面,方便用户快速复制、导出和翻译提示词。

  • imiprompt:Midjourney v5 艺术生成器

    IMI Prompt Builder 是一款全面的 Midjourney v5 提示生成器,拥有数千种选项可在 Web、Android 和 iOS 上使用。用户只需点击几下,即可创建反映其个人风格和艺术愿景的独特 Midjourney v5 艺术作品。

  • Ai 画廊:Ai 关键词生成器

    Ai 画廊是一款提供 Ai 关键词生成器的网站,展示人工智能作品和生成关键词描述,帮助用户更好地了解和分享 Ai 作品。用户可以浏览不同风格的 Ai 作品,获取灵感和创意。

  • KALOS.art:AI 艺术风格库

    KALOS.art 是世界上最大的 AI 艺术风格库,提供超过 1300 位艺术家和 292 种风格 / 媒介。用户可以浏览不同艺术家和风格,创建收藏并探索 AI 艺术创作。价格取决于会员级别。

  • ClickPrompt:优化 Prompt 设计,多种 AI 应用支持

    ClickPrompt 是一款专为 Prompt 编写者设计的工具,支持 Stable Diffusion、ChatGPT 和 GitHub Copilot 等多种 AI 应用。用户可轻松查看、分享、一键运行模型,并使用在线 Prompt 生成器创建符合需求的 Prompt。

  • 词魂:AI 提示词工具,提升工作效率

    词魂是一款提供 AI 提示词(promt)和咒语服务的工具,用户可以在这里快速找到各类高质量提示词和咒语,帮助 AI 绘画、midjourney、stable diffusion 等工具用户提升工作效率。定位于提供优质的提示词服务。

  • Replit AI:AI 驱动的软件创作平台

    Replit 是一个 AI 驱动的软件创作平台,让每个人能快速构建、共享和发布软件。它可以将自然语言转换为代码,帮助用户自动化编码中的重复部分,并提供个性化的辅助,包括多文件代码上下文、协作式 AI 聊天等功能。Replit 还提供对特定代码库的上下文 AI 支持,帮助用户解释复杂代码、生成测试用例、撰写文档、设计应用程序等。用户可以快速将创意转化为软件,节省时间并提高效率。

  • 天工智码 SkyCode:AI 代码生成工具,助力编程。

    天工智码 SkyCode 是一款 AI 代码生成工具,支持各种主流编程语言,助力开发人员更快更好的编码。其功能包括二分查找、排序算法实现、代码优化等,优势在于提高编码效率,定位于提供智能编程辅助。目前提供免费试用服务,用户可以根据实际需求选择付费套餐。

  • CodyAI:sourcegraph旗下的是 AI 编码助手

    Cody 是一款强大而准确的 AI 编码助手,可帮助编写、修复和维护代码。它利用人工智能和对代码库的深入理解,帮助用户更快地编写和理解代码。

  • Clipping Magic:移除图像背景自动化工具

    Clipping Magic 是一款专业的图像处理工具,通过强大的算法和智能编辑功能,可以自动移除图像背景并提供多种调整选项,包括裁剪、旋转、色彩修正等。用户可以免费使用部分功能,提供付费升级服务。定位于提供快速、精确、高质量的背景移除解决方案。

  • Background Remover:AI 背景移除,制作透明背景

    AI 背景移除器通过人工智能检测图片主体、创建蒙版并消除背景。支持 PNG、JPG、WebP 格式,无需担心影响图片尺寸和质量。让您轻松制作透明背景图片。

  • My StoryBot:AI驱动的故事书

    MyStoryBot是一个AI驱动的故事书平台,可以根据用户输入的提示生成完整的故事,包括配音和精美插图。用户可以个性化定制自己的故事书,并分享给他人。平台提供个人化故事、教育故事和多语言故事等多种类型。价格分为免费试用和付费订阅两种,付费订阅用户可以享受无限故事、无限插图、重新生成插图、故事朗读和商业使用等特权。

  • Growth Suite Shopify App:创造紧迫感,提高销售额

    Growth Suite是一款能够帮助您收集更多电子邮件、增加销售额并保护品牌的智能助手。它集成在您的Shopify商店中,利用实时购买意向分析、智能折扣和购物车回收等功能,帮助您创造紧迫感、增加销售额。购买意向算法能够计算每个顾客购买的可能性,根据购买意向设置不同的折扣和时限,提供有限的一次性折扣和倒计时,增加购买动力。Growth Suite还提供无缝的体验,与您的Shopify商店完美融合,通过自动折扣应用、清晰的倒计时显示和透明的说明,提升品牌形象并提高转化率。

  • OpenChat AI:使用ChatGPT和AI的OpenChat,开启一万种赚钱方式

    OpenChat是一个使用ChatGPT和AI工具的平台,为用户提供了使用自己的技能和兴趣赚钱的新方法。通过ChatGPT进行交互,用户可以提供内容生成、客户服务、市场调研分析、语言翻译、教育资源和教程创建、AI辅助的设计等服务。OpenChat提供多种功能和使用场景,并且定价灵活。

今日大家都在搜的词: