根据 Gartner 的最新预测，到2028年，80% 的生成 AI 商业应用将会在现有的数据管理平台上开发。这一转变有望降低开发复杂性，并将交付时间缩短50%。
目前，生成 AI 商业应用的开发主要依赖于将大型语言模型（LLMs）与企业内部数据相结合，以及不断发展的技术，如向量搜索、元数据管理、提示设计和嵌入技术。然而，若没有统一的管理方法，企业可能会采用 “分散技术”，导致交付时间延长和成本增加。
图源备注:图片由AI生成，图片授权服务商Midjourney
Gartner 在最近举行的印度孟买数据与分析峰会上强调了检索增强生成（RAG）在开发生成 AI 应用中的重要性。RAG 是一种提升生成 AI 模型准确性和可靠性的框架，正在成为部署生成 AI 应用的基础。Gartner 指出，RAG 能够提供 “灵活的实施方式、增强的可解释性以及与 LLMs 的组合能力”。
Gartner 高级分析师 Prasad Pore 表示，RAG 在多个业务职能中（如销售、人力资源、IT 和数据管理）有助于流程改进和任务自动化。目前，数据工程师和数据专业人员在开发、测试、部署和维护复杂数据管道和应用程序时面临诸多挑战。Pore 指出，传统的数据管理过程耗时且需要大量人工，而 RAG 的应用可以大大提高生产力，简化数据治理过程。
此外，Pore 还提到，生成模型如 LLMs 本身是静态的，仅基于其训练的数据进行工作，缺乏最新信息。通过 RAG，企业可以将最新的商业或组织特定的数据纳入模型中，以提高生成 AI 应用在回答问题、分析日志和做出决策方面的有效性。
在谈到生成 AI 商业应用的类型时，Pore 表示，可以将其分为三个主要类别:流程改进与自动化（如企业知识管理和文档处理自动化）、用户体验(如客户支持自动化和个性化购物体验)以及洞察与预测(如对话式商业智能和数据发现)。
在构建和部署生成 AI 应用时，Gartner 建议企业考虑以下几点:首先，评估现有数据管理平台是否可以转变为 RAG 即服务的平台;其次，将 RAG 作为优先事项，整合来自现有数据管理系统的向量搜索、图形和分块等技术;最后，利用元数据和操作数据以保护知识产权、解决隐私问题，并防范恶意使用。
划重点:
🌟 预计到2028年，80% 的生成 AI 商业应用将在现有数据管理平台上开发，交付时间缩短50%。
🚀 检索增强生成（RAG）将成为开发生成 AI 应用的重要基础，提供灵活性和可解释性。
🔍 Gartner 建议企业评估现有平台的转型潜力，整合 RAG 技术并利用元数据保护安全。