首页 > 传媒 > 关键词  > 大模型优化最新资讯  > 正文

得助智能填单系统上线,中关村科金助力客户高效提升坐席效率

2024-03-28 10:55 · 稿源: 站长之家用户

基于大模型优秀的问答、总结和话术生成能力,主流联络中心纷纷接入大模型升级智能知识库智能工单、智能陪练等应用。

智能填单为例,借助大模型能够轻松从对话中提取出实体信息、判定对话意图、识别情绪、生成沟通摘要等。通过简单的Prompt,完成工单字段的提取任务更是轻而易举。

然而在初期效果测试中,大模型获取的工单填单结果对比客服的真实填写结果准确率不足30%,且大模型的处理速度也达不到业务方提出2秒内返回结果的要求。

大模型并非传统的NLP技术,无法依靠业务标注数据进行自主优化,那么大模型的调用方在业务应用中,该如何进行使用效果优化成为了现实考题。

现实考题:五大因素影响填单可用率

提不准

众所周知,工单填写对字段有着明确的格式要求,尤其是选项或统计类的字段,需要大模型严格按照格式输出指定结果。

幻觉问题:

例如,若需要判断客户的注册渠道,大模型必须严格返回“支付宝”三个字段。而现实情景中,大模型往往返回连篇累牍的描述,导致工单系统无法收到准确的结果。

此外大模型不仅“啰嗦”,还容易“胡编乱造”,返回的结果是经过“理解”、“联想”加工的,这在对容错性有着严格要求的现实业务场景中是不能被接受的。

缺乏业务背景:

在真实业务场景中,客户和坐席之间的对话内容往往无法清晰、明确地对照工单中所需记录、填写的信息标准发生。例如,坐席能够根据消费者的模糊描述,“使用的是一款能够进行AI画脸的产品”准确匹配出对应的产品。而大模型则难以做出正确的判断,无法胜任绝大多数的工单填写任务。

缺乏判断能力:

更大的挑战是,在退订业务等双方存在复杂拉扯的对话场景中,大模型容易按照任意一方的“片面之词”判定最终结果,而不是根据业务逻辑得出准确结论。例如,客户申请退回三个月的费用金额,客服表示只能退回一个月。

如果客户同意,那实际双方达成一致的退回金额为一个月的费用,而非三个月。如果客户表示不同意,则实际退回费用为0。如果大模型没有“理解”这一判定标准,则最终退回的金额会在一个月或三个月中随机生成。

填太慢

实际业务中,坐席的工作节奏非常快,需要在通话进行中,2秒内完成工单内容的填写,通话结束后5秒内完成通话小结的填写。如果大模型不能比坐席的填写速度更快,那么大模型应用的意义与价值将大打折扣。

实时场景的时延问题:

坐席辅助场景要求低时延,而智能填单旨在自动帮助人工填写工单,如果填单时间超过2秒,便基本失去了帮助坐席提率的可能。坐席不可能在对话过程中,等待大模型输出结果后再询问客户下一个问题。但即使只调用一次大模型进行小结,平均时延也在5秒左右。

而通话会话小结的评价指标为:要素完备性、要素准确率、业务接受率。若对会话小结中的细分场景、业务细则、专有名词等方面有更高的要求,便需要在通用格式的会话小结中再补充业务要素。这就需要多次调用大模型,智能小结的时延将会达到10秒左右。

连接调用不稳定产生漏损:

大模型调用会有失败的情况,就像有时会遇到偶发的不响应情况,这在C端应用中用户尚可容忍,但是在企业服务应用中,尤其是嵌入核心作业流程的场景下,业务对于偶发的漏损情况则较为敏感,小结的漏损率会在5%左右。

四大路径:巧妙解决准确率与时效性问题

作为领先的对话式AI解决方案提供商,中关村科金【会话洞察产研组】始终致力于打破技术应用瓶颈,为用户带来更加卓越、智能的体验。经过一年的研究和内部测试,我们有了一些新的解决方案,或许正是众多企业苦苦找寻的答案。

考题一:大模型应用的准确率与延时如何改善?

路径一:小模型对输出结果进行验证以解决幻觉问题

最初,大多技术专家通过JSON对大模型的输出进行限制,以确保大模型每次输出的结果都尽可能满足业务要求,但仍存在一定概率的幻觉问题。为此,中关村科金另辟蹊径,在大模型输出结果后,叠加一层相似度判定模型,让大模型的输出结果对齐到预设的选项中。

在此基础上,中关村科金还增加了对大模型输出结果的各类格式转化,以满足将大模型输出内容转化为工单所需的数值、百分比、日期、时间等各类字段类型的需求。

路径二:让运营人员便捷地将业务背景“录入”大模型

中关村科金利用不同行业的客户数据,对Prompt进行了针对性的优化,并在自研的模型上进行了微调,以确保大模型在不同行业、不同场景中,拥有通用的“领域知识”。与此同时,我们还通过对常见的智能填单场景进行抽象,让用户可以便捷地输入企业专属知识。通过将运营人员输入的信息与经过验证的Prompt进行拼接后,大模型的数据准确率最 高提升到了95%以上。

在复杂的对话场景中,通过对每一轮的分析结果进行修正,大模型不仅能够从对话中区分出渠道,还能够准确判断出前述举例中,最终需要退还给客户的正确金额。此类需要一定逻辑推理的场景,大模型智能填单的准确率也能稳定在85%。

此外,借助预设的字段,不仅能够准确判定返回退款的金额,还能够根据实际对话内容确定返回退款的比例、退回多少个月的费用等,覆盖对话总结、业务办理情况收集、用户反馈问题收集、用户需求收集、用户信息收集5大类型的智能填单需求。

考题二:大模型应用时效性怎么保障?

路径一:分布式分析实现“抢跑”

面对通话结束后才填写的会话小结,中关村科金进行分步拆解,在通话开始后先执行不依赖全部通话内容分析的任务,每进行几轮对话,就进行一次分析,从而将分析拆解到对话进行中“悄悄”完成。通话结束后,只需执行剩余需要依赖全部通话内容的分析任务,从而将会话小结的智能填单时间从10秒缩减到了平均3秒内。

路径二:更小的领域大模型带来更快的速度

在时效性要求更高的工单场景,中关村科金使用了自研的得助大模型,针对电销、客服等更聚焦的场景训练的领域大模型,实现了更小的参数、更高的准确率。同时,由于训练时已具备了对领域的通用知识,无需多次调用大模型完成业务录入,便可实现1~2秒内即可稳定返回结果的应用成效。

智能助力:得助智能填单降本增效显著

目前,中关村科金智能填单系统已正式上线得助智能联络中心,并向广大客户开放使用,帮助客户提升坐席的填单效率,并更详细的记录通话中的信息。

在多个项目应用中,得助智能填单都取得了预期效果,在帮助运营人员提升工作效率、节省企业运营成本等方面展现出明显优势。

显著提高会话工单的准确率

由于客服日常的工作强度高,尤其是在线坐席常常需要同时处理多通对话,难免出现信息错填、漏填的情况。而得助智能填单不仅能够帮助坐席减轻工作负担,还能够对填写有误的地方进行提醒、矫正。

帮助运营人员获取更丰富的信息

过往为了不给客服增加不必要的负担,会话小结字段只要求客服填写关键的几项信息,坐席填写的内容也不够详细。使用得助智能填单后,系统可以帮助运营人员更全面地收集信息、更完整地记录信息。

节省出海业务的运营成本

对于出海客户而言,大模型具备多语种理解和翻译能力,客户使用智能小结功能对英文邮件进行字段提取,不仅准确率高达93%以上,还能大幅节省人工翻译成本。

大模型智能填单作为一种新兴的技术应用,未来随着应用边界不断拓展,将进一步改变企业的运营方式和效率。而中关村科金一直坚持探索前沿人工智能技术与千行百业应用场景的落地融合,力求打破技术应用瓶颈,为客户提供最 优质、最智能的解决方案。

随着技术逐步成熟和实践不断积累,中关村科金将持续优化和完善得助智能填单系统,以满足不同行业、不同场景下的多样化需求,为千行百业的数字化转型贡献更多力量。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 大家在看
  • Dev Home:Windows开发者的一站式控制中心

    Dev Home是微软为Windows开发者推出的一款桌面客户端,旨在提供一个集中的控制中心,帮助开发者监控项目、设置开发环境、连接开发者账户和工具,并创建专用的存储空间。它通过自定义的仪表板小部件,使开发者能够监控工作流程、跟踪开发项目、编码任务、Azure DevOps查询、GitHub问题、拉取请求、可用SSH连接以及系统的CPU、GPU、内存和网络性能。Dev Home 0.14 预览版更新集成了 PowerToys 模块,以及基于 AI 的 Quickstart Playground 功能。

  • KREA Video:实时视频生成与增强工具

    KREA Video 是一款在线视频生成和增强工具,它利用先进的人工智能技术,为用户提供实时视频生成和编辑功能。它允许用户上传图片或文本提示,生成具有动画效果的视频,并且可以调整视频的时长和关键帧。KREA Video 的主要优点是操作简便,用户界面友好,能够快速生成高质量的视频内容,适用于内容创作者、广告制作者和视频编辑专业人士。

  • Pixelmator Pro:专为Mac设计的图像编辑软件,强大且易用。

    Pixelmator Pro是一款专为Mac设计的图像编辑软件,它提供了专业级、无损的图像编辑工具,支持RAW文件编辑、机器学习增强功能以及多种图像格式。软件界面现代,支持macOS的明暗模式,易于使用,适合从初学者到专业人士的各类用户。Pixelmator Pro 3.6 引入了强大的新遮罩功能,包括双击添加遮罩的功能、人工智能背景遮罩功能、直观的画布控制、矢量遮罩支持等。

  • 天猫精灵X6:年度旗舰智能音箱,天空音布局,音质卓越。

    天猫精灵 X6 智能音箱是阿里巴巴旗下人工智能品牌天猫精灵发布的年度旗舰产品。它独创了天空音布局,采用1.1声学架构,通过独立高音单元的天空方向扬声设计,构建出天籁之音回荡的穹顶效果。音箱搭载了Hi-Fi级高保真数字功放,拥有高信噪比和低失真率,以及强劲的驱动单元。此外,天猫精灵 X6 还获得了CCEG金耳朵优选产品证书,支持与超过4.6亿台智能设备相连,覆盖1600余个品牌、6800余种型号。

  • llama-recipes:用于微调Meta Llama模型的库和示例脚本集合

    llama-recipes是Meta Llama模型的配套仓库,旨在提供一个可扩展的库,用于微调Meta Llama模型,并提供一些示例脚本和笔记本,以便快速开始使用模型在各种用例中,包括领域适应的微调和构建基于LLM的应用程序。

  • Opinion Stage AI:创建表单、调查或测验,提升参与度,收集潜在客户信息

    Opinion Stage AI 是一个在线平台,使用人工智能技术帮助用户快速创建表单、调查或测验。它旨在提升用户参与度,收集潜在客户信息,进行市场研究和员工参与度调查。该平台支持40多种语言,能够在短时间内创建问卷并获取反馈,是商业用户进行市场调研和客户反馈收集的有力工具。

  • krita-ai-diffusion:Krita中的AI图像生成插件,无需调整即可修复和扩展画布。

    krita-ai-diffusion是一个开源的Krita插件,旨在简化AI图像生成过程。它允许用户在Krita中通过AI技术修复图像中的选定区域、扩展画布以及从头开始创建新图像。插件支持文本提示,并提供强大的自定义选项,适合高级用户。它利用了Stable Diffusion技术,并与ComfyUI后端结合,提供了本地化、无需调整的图像生成体验。

  • DataGems:数据驱动的营销叙事工具

    DataGems是一个利用人工智能技术将分散的营销数据转化为引人入胜的叙事的平台。它通过直观的自动化营销分析平台,帮助企业发现营销数据中的宝贵见解,从而驱动增长和参与策略。产品背景信息包括与多个数据平台集成,如Instagram、Mixpanel、Appstore等,以及提供实时数据更新和AI数据代理来追踪营销数据的变化。价格方面,DataGems提供从免费到定制化的多种订阅方案,以满足不同规模企业的需求。

  • Fuji-Web:AI智能助手,浏览器侧边栏自动化执行在线任务。

    Fuji-Web是一个AI智能助手,它通过浏览器侧边栏与用户交互,理解用户意图,自动导航网站,并代表用户执行任务,同时解释每一步操作。它支持创建和运行自动化脚本,可以显著提高用户在线完成任务的效率。产品背景信息包括使用开源Apache-2.0许可,支持多种编程语言,并且有一个活跃的社区参与开发和贡献。

  • MultiOn Playground:一个交互式体验平台,支持网站认证和屏幕交互。

    MultiOn Playground是一个提供实时预览和交互体验的平台。它支持需要认证的网站,并允许用户通过聊天界面输入查询或选择示例来开始交互。用户还可以通过屏幕交互来控制或纠正代理的操作。

  • DIAMOND:扩散世界模型中训练的强化学习代理

    DIAMOND(DIffusion As a Model Of eNvironment Dreams)是一个在扩散世界模型中训练的强化学习代理,用于雅达利游戏中的视觉细节至关重要的世界建模。它通过自回归想象在Atari游戏子集上进行训练,可以快速安装并尝试预先训练的世界模型。

  • Mistral-7B-Instruct-v0.3:大型语言模型,支持指令式对话和功能调用。

    Mistral-7B-Instruct-v0.3是由Mistral AI Team开发的大型语言模型,它是Mistral-7B-v0.3的指令式微调版本。该模型具有扩展的词汇量、支持v3 Tokenizer和功能调用。它能够通过指令式对话和功能调用来生成文本,适合于需要交互式对话和自动化任务的场景。

  • Granola:AI智能笔记工具,提升会议效率。

    Granola是一款专为频繁开会人士设计的AI笔记应用。它能够将会议的原始笔记转化为结构化、易于阅读的格式,并通过AI技术增强笔记内容。Granola支持Mac平台,无需会议机器人即可直接转录Mac音频,提供可定制的会议模板,满足不同团队的需求。内置GPT-4,帮助用户处理会议后的行动项目,如撰写跟进邮件、列出行动项目等。此外,Granola还支持一键分享笔记到常用平台,提高工作效率。

  • Muddy:让团队协作变得流畅而有趣。

    Muddy 是一个专为团队设计的协作工具,它通过人工智能简化了多应用和文件的工作流程,让团队成员能够更高效地协作。Muddy 能够自动整理和分类标签页,支持无限回溯功能,允许用户在应用、文件和对话之间快速切换。此外,它还具有通用评论功能,允许用户在任何地方进行高亮、点击和发送,就像在每个应用和网站上都有 Slack 的线程一样。Muddy 还能自动读取所有标签页,从您的对话中学习,并在需要时提出后续问题。

  • Ivee:B2B影响者营销平台

    Ivee是一个B2B影响者营销平台,旨在帮助企业与行业专家合作,以增长收入、产生潜在客户并提升品牌。它通过AI驱动的搜索引擎集中来自Linkedin、Youtube、Substack和Apple podcast等平台的数据,帮助企业找到与品牌DNA和目标最相关的行业领导者。Ivee还提供数据驱动的洞察来评估受众质量和相关性,并帮助企业建立业务驱动的合作关系,提高运营效率。

  • Visible AI Inbox:将电子邮件转化为投资组合洞察的工具

    Visible AI Inbox是一个专为风险投资公司设计的工具,它能够自动解析、结构化和图表化投资组合公司的数据,从而提供清晰的投资组合洞察。产品通过AI技术帮助用户从电子邮件和文件中提取信息,与现有的数据结合,创建一个投资组合指标和洞察的真实来源。它还允许创始人以他们喜欢的方式分享数据,同时确保数据安全,采用SOC 2认证、TLS 1.2加密和AES-256静态加密等安全措施。

  • DokeyAI:AI工具目录与产品展示平台。

    DokeyAI是一个提供超过1800个AI网站和AI工具的目录与产品展示平台。它通过Photo AI等技术增强了用户喜爱的工具,覆盖了43个不同的类别,包括会计金融、动画3D建模、建筑室内设计、艺术图像生成、聊天机器人、编程数据库助手等。DokeyAI旨在为用户提供一个集中的平台,以发现和使用各种AI增强的工具。

  • Nowadays:AI助力的企业活动规划师

    Nowadays是一个AI驱动的企业活动规划平台,旨在简化活动策划流程,通过电子邮件和电话与最佳场地进行谈判,为公司活动找到合适的地点。它通过AI技术提供快速响应时间,作为IATA认证的旅行代理运营,并提供无限范围的场地搜索,确保结果与活动标准相匹配。此外,AI还协助全球范围内与场地进行谈判,帮助用户节省成本。

  • Unify AI:一站式LLM模型比较与优化平台

    Unify AI是一个为开发者设计的平台,它允许用户通过一个统一的API访问和比较来自不同提供商的大型语言模型(LLMs)。该平台提供了实时性能基准测试,帮助用户根据质量、速度和成本效率来选择和优化最合适的模型。Unify AI还提供了定制路由功能,允许用户根据自己的需求设置成本、延迟和输出速度的约束,并定义自定义质量指标。此外,Unify AI的系统会根据最新的基准数据,每10分钟更新一次,将查询发送到最快提供商,确保持续达到峰值性能。

  • ChatVid.AI:AI生成的用户界面,重新定义视频学习。

    ChatVid.AI 是一个利用人工智能技术,通过生成用户界面来提升视频学习效率的平台。它通过AI技术生成的界面,让用户能够更快速地获取视频内容的核心信息,减少观看时间,提高学习效率。产品背景信息显示,它可能与当前流行的AI技术如LLaMA 3 大模型和GPT-4 Omni等有关联,表明其技术先进性和创新性。

今日大家都在搜的词: