首页 > 业界 > 关键词  > 正文

信也科技推出代大语言模型应用开发框架E-LADF

2023-07-14 15:32 · 稿源:站长之家

站长之家(ChinaZ.com)7月14日 消息:近日,信也科技推出第一代LLM(大语言模型)应用开发框架E-LADF。E-LADF以类ChatGPT大模型引擎、向量数据库等基础组件为底座,旨在提供一系列功能接口,帮助开发者构建和部署基于LLM的应用程序。

目前,E-LADF包含四大核心接口功能:本地知识库管理、通用场景流式对话、基于本地知识库的问答和长文本实体抽取与摘要。

微信截图_20230714153246.png

此外,它在大模型支持方面也具有出色的灵活性和可扩展性,不仅适配并支持云服务商的LLM服务接口,还提供本地化部署方案。

E-LADF不仅支持适配OpenAI的ChatGPT服务接口,还提供了本地化方式部署LLM的功能。

目前,E-LADF已经成功集成并支持了几个性能仅次于ChatGPT在英文和中文上表现优秀的本地LLM模型,包括ChatGLM、Vicuna系列模型。用户甚至可以基于这些模型进行微调,以满足特定应用场景更高精度的需求。

举报

  • 相关推荐
  • Kimi即将推出新一代万亿大模型:开源王者刷新 去年已超GPT5

    国产开源大模型即将迎来新一波升级,除了万众期待的DeepSeek V4之外,月之暗面的Kimi也开始招募测试人员了,意味着很快也会上线。 根据Kimi的公告,他们即将开启Kimi新模型API内测计划,已完成「企业认证」的 Kimi 开放平台用户,均可申请。 前不久智谱、Minimax发布新一代模型之前都有招募测试的操作,而且内测没多久就开放了大模型的公开访问及API,随后又进一步开源给社�

  • 小鹏第二代VLA一季度正式上车!行业首次去掉语言转译环节

    小鹏汽车召开全球新品发布会,董事长何小鹏宣布,第二代VLA技术将于今年第一季度正式上车。相较于传统VLA模型,该技术首次去除了语言转译环节,同时搭载2250TOPS车端有效算力与3万卡云端算力集群,算力水平位居行业前列。 且第二代VLA的训练数据量近1亿clips,覆盖场景等效于人类司机累计驾驶6.5万年的极限路况总和。何小鹏还深入阐释了L2与L4的四大核心差异在于能力、�

  • 生态繁荣,开发先行:麒麟开发者面板为开发者打造“全能工作站”

    麒麟软件近日推出“麒麟开发者面板”,这是一款专为开发人员打造的一站式开发辅助工具。它提供可视化系统状态监控、一站式开发环境配置、项目级开发沙盒环境以及专业的开发辅助工具集。该工具将环境搭建、依赖配置等耗时难题转化为“一键操作”,旨在降低开发门槛、提升开发效率,助力开发者专注创新。目前该面板已上架软件商店,适用于银河麒麟桌面操作系统V10 SP1 2403及以上版本。

  • “扣子”官宣2.0品牌升级,推出全新功能Agent Skills、Agent Plan

    字节跳动旗下AI+Agent平台“扣子”于1月19日宣布品牌升级至2.0版本。此次升级基于超千万真实开发场景经验,对平台进行了全局重构,定位为帮助更多职场人的“工作伙伴”。核心升级包括:Agent+Skills(技能),通过封装行业知识与工具,让通用AI具备处理复杂专业任务的能力,并推出技能商店供用户一键安装使用;Agent+Plan(计划),支持AI理解长期目标、分解任务并持续执行与汇报,实现从即时问答到“可持续运作智能体”的升级;Agent+Office(办公),深度优化职场场景任务处理,如撰写报告、制作PPT、整理数据等,提供更贴合实际需求的解决方案;Agent+Coding(编程),升级为一站式云开发平台,支持通过自然对话轻松构建智能体、工作流、网站及移动应用等,并提供一键部署上线能力。整体而言,扣子2.0旨在通过集成多项核心能力,让AI真正成为用户解决专业、复杂任务的智能工作伙伴。

  • 昇腾赋能 TransMLA:无需重训突破架构壁垒,助力主流大模型高效适配 MLA

    北京大学张牧涵团队提出TransMLA转化框架,实现无需重训即可将主流大模型(如LLaMA、Qwen)从GQA架构迁移至MLA架构。该框架通过四大核心技术模块解决迁移痛点:结构映射、RoRoPE位置编码适配、频率折叠融合及KV矩阵均衡化,在昇腾算力支持下,成功在LLaMA-2-7B上裁剪68.75%的KV缓存,仅轻微性能损失。昇腾硬件的高效并行架构与存储优化体系为技术落地提供关键支撑,推动TransMLA集成至高性能推理框架生态,大幅降低企业升级成本,为长上下文推理提供自主算力解决方案。

  • 苹果谷歌官宣合作:新一代Siri选定使用Gemini大模型

    苹果公司宣布将与谷歌展开深度合作,借助谷歌的人工智能技术为今年晚些时候推出的产品功能,尤其是Siri,提供强大的AI支持。 根据合作内容,谷歌将通过其先进的Gemini模型和成熟的云技术,为苹果未来的基础模型注入核心动力。苹果在官方声明中明确表示,经过审慎评估,谷歌的技术为苹果基础模型奠定了最为坚实的基础,公司对即将为用户带来的创新体验充满期待。

  • “长春第一冰锅”火爆出圈 号称“想翻车都难”

    ​今年初,长春西湖公园内一座直径48米、深6米的巨型冰雕景观迅速蹿红,凭借“汽车冰锅”的创意概念和零门槛体验模式,成为现象级文旅打卡地。这座由1200块冰砖堆砌而成的银白色巨碗,经15天精心雕琢后免费向公众开放,迅速吸引全国自驾爱好者蜂拥而至。 该冰锅最大亮点在于其硬核玩法——游客可驾驶四驱或两驱车辆在冰面进行漂移体验。项目团队通过反复实验优化

  • 苹果新一代Siri要来了!选定谷歌Gemini大模型提供支持

    苹果将与谷歌合作,为今年晚些时候推出的产品功能(如Siri)提供人工智能支持。 谷歌将通过Gemini模型和云技术,为苹果未来的基础模型提供动力。 苹果在声明中表示:经过仔细评估,我们认为谷歌的技术为苹果基础模型提供了最强大的基础,我们对它将为用户带来的创新体验感到兴奋。” 据悉,苹果拟每年支付谷歌约10亿美元,获取定制化Gemini模型使用权,核心版本为1.

  • 西红柿放30天外皮完好 咬开发现里面长满豆芽 专家:基本上可以食用

    近日,山东一位女子在家中发现了神奇一幕:一枚存放约30天的西红柿,外表看起来完好无损,可咬开后却发现,内部竟长满了类似 豆芽” 的嫩芽。这一奇特现象让女子倍感好奇。 无独有偶,此前媒体曾报道西安一位市民也遇到过类似情况。 针对西红柿内部长芽的现象,西安市营养学会食品安全中心专家曾作出过解释。 专家表示,西红柿发芽并非普遍现象,但当储存环境�

  • 阿里健康推出AI医学助手产品“氢离子”

    阿里健康正式宣布推出其自主研发的AI产品“氢离子”,该产品已完成内部测试阶段,现已面向公众开放下载。作为阿里健康在医学大模型领域的首个落地应用,“氢离子”被定位为医生版的GPT,主要服务于临床和科研领域的医生群体。 据介绍,“氢离子”以“低幻觉、高循证”为核心能力,确保所有回答均源自权威出

今日大家都在搜的词: