首页 > 传媒 > 关键词  > 时序数据库最新资讯  > 正文

吃下 GuanceDB 狗粮后,观测云查询性能提升超 30 倍!

2023-05-08 13:39 · 稿源: 站长之家用户

本文作者:观测云资 深系统开发工程师 熊豹

2023 年 4 月 23 日,观测云正式发布自研时序数据库 GuanceDB,并在当天应用到了观测云所有 SaaS 节点的底座。此次升级性能提升的效果立竿见影,对比之前使用 InfluxDB 的环境资源占用大幅降低、查询性能显著提升,我们成功地吃上了自己的狗粮。

我们也深知 talk is cheap show me the benchmark 的道理,这里发布我们在近期完成的 GuanceDB 性能压测报告。

压测方案说明

本次测试的目标是对比 GuanceDB、InfluxDB 和某知名开源时序数据库(简称 xxDB)在相同的写入负载和查询条件下的性能表现及资源占用情况。

关于测试工具:

我们对比 tsbs、prometheus-benchmark 两种时序数据库的压测方案。

其中 prometheus-benchmark 构造了更偏真实环境的持续写入负载,指标数值的变化也更真实,所以我们主要参考 prometheus-benchmark 来构造本次测试。

原 prometheus-benchmark 方案中使用了 vmagent 来抓取和写入指标,但我们今天测试的 3 种数据库对 Prometheus 写入协议支持力度不一,没法一起比较。所以我们对 vmagent 进行了一些改造,让其支持了 InfluxDB 的行写入协议。

本次测试的最终方案如下:

1.部署的一个单机的 node-exporter ,其暴露宿主机的 1383 个真实指标

2.部署 Nginx 反代并缓存 node-exporter 结果 1s,降低频繁请求的压力

3.调整 agent 的抓取配置,模拟生成不同的 node-exporter 实例数以生成不同的写入负载

4.agent 以相同的请求大小、频率将数据同时以 influx 协议 http 接口写入三种时序数据库

软件版本:

1.GuanceDB: v1.0.0

2.InfluxDB: v1.8.10

3.xxDB

主机配置:

1.压测机:1 台阿里云 ecs.g7.16xlarge 云主机:64 core,128 GB RAM

2.存储集群:3 台阿里云 ecs.g7.4xlarge 云主机:16 core,64 GB RAM,200 GB PL1 类型 ESSD

部署方式:

因为 InfluxDB 的开源版本不支持集群模式,所以我们也将分两组进行测试。一组是 InfluxDB 与 GuanceDB、xxDB 的单机版本对比,另一组是 GuanceDB 与 xxDB 的集群模式进行对比,集群模式都使用 3 个存储节点。

参数优化:

GuanceDB 对大部分场景都做了自动调优,所以我们不用手动调整配置。

InfluxDB 默认对高基数场景做了一些保护,我们调整 max-series-per-database = 0 放开了限制,cache-max-memory-size 增大到了 10g,并且开启 tsi1 索引。

xxDB 我们也参考文档进行了针对性的调优。

至此完成所有配置,开始测试。

写入测试

●单机组

本组测试进行的测试轮次比较多,这里我们挑选某一轮展示详细监控截图。

在此轮测试中,我们虚拟了 344 个 node-exporter 实例,生成大约 50w 条活跃时间线,5s 抓取一次,时序点写入 QPS 10w。

GuanceDB 资源开销:CPU 占用率 2%,内存占用约 3 GB。

InfluxDB 资源开销:CPU 占用率 16%,内存占用约 7.4 GB。

xxDB 资源开销:CPU 占用率 61%,内存占用 9 GB。

汇总结果表格如下:

完成了限定性能的测试场景后,我们很好奇要多大的压力才能将各台数据库主机的资源打满,尤其对 GuanceDB,响应 10w 写入 QPS 仅仅花费了 2% 的 CPU 开销,它的性能上限在哪里?随即我们开始加大 QPS,当各台主机的 CPU,内存和磁盘若有一项被打满时,即被认为到达瓶颈。

实际测试结果都是主机的 CPU 先被打满,此时内存占用和磁盘写入带宽都还有余量,所以我们就以 CPU 利用率为瓶颈指标画出以下对比图:

在单机场景下,当 CPU 达到满载时,xxDB 的写入 QPS 约 15w,InfluxDB 约 90w,GuanceDB 约 270w。本轮 GuanceDB 获得第 一,写入性能是 InfluxDB 的 3 倍。也可以看到在 CPU 利用率超过 20% 后,性能不再呈线性增长,都有一定程度衰退。

●集群组

我们按照之前的方法继续测试 3 节点集群:

在集群场景下,仍然是 CPU 利用率先达到瓶颈。同样在 CPU 满载情况下,GuanceDB 此时的写入 QPS 约为 860w,xxDB 约为 45w。

对比之前 GuanceDB 和 xxDB 的单机写入性能测试,理想情况下 N 个节点的集群版的写入性能应该是单机版的 N 倍,呈线性增长,实测 3 节点集群符合性能预期。

查询测试

查询测试将混合单机 InfluxDB、集群版 GuanceDB、集群版 xxDB 一起进行。集群一般可以将数据和查询分摊并可以在节点之间并行查询,理论上这个测试方式对 InfluxDB 不太公平,但条件受限,暂且这么设计。

我们虚拟 688 个 node-exporter 实例,生成大约 100w 个活跃时间线,5s 抓取一次,时序点写入 QPS 20w。在持续写入 24 小时后,我们再测试一些常见语句的查询性能和对比存储空间占用。

GuanceDB 同时支持 DQL 和 PromQL 两种查询语法。DQL 是观测云自研的多模数据查询语言,同时支持指标、日志、对象等多种类型负载数据的查询和分析,语法表达非常简洁。语法设计上跟 SQL 接近,但更加适应时序分析场景,学习曲线平滑。

这里我们一共对比了四种查询语法在相同语义的 1h、8h、24h 不同时间范围下的响应时间:

查询 1 响应时间:

注:图示中 0ms 表示响应时间不到 1ms。

查询 2 响应时间:

查询 3 响应时间:

注:图示中 -1ms 表示请求响应时间超过了 60s 不计数。

空间占用对比

在上述的查询测试构造的写入压力(活跃时间线 100w,时序点写入 QPS 20w)下,运行 24 小时后,我们对比存储空间占用。

总结

经过数轮的写入和查询性能测试,相信各位对 GuanceDB 的综合性能表现已经有了比较清晰的认识了。GuanceDB 对比 InfluxDB 写入性能提升 3 倍,存储空间占用减少 68%,查询性能提升 30 倍以上。GuanceDB 相比 xxDB 提升则更明显,背后的原因是 xxDB 虽然明面上是支持了 Schemaless 数据的写入,但是对 Schemaless 的场景明显优化不足,所以表现欠佳。

GuanceDB 的优异性能来自于我们构建的有效的火山模型查询引擎、SIMD 指令加速、对 Schemaless 数据的最 优先支持等,也因为我们站在了 VictoriaMetrics 的肩膀上。非常感谢 VictoriaMetrics 开源社区对我们的支持,我们将持续贡献回报社区,共同促进可观测领域技术的发展与进步。

我们在 5 月中下旬也将发布 GuanceDB 的单机版本,欢迎大家到时关注和测试。如有同学对 GuanceDB 感兴趣,或有任何疑问,可以随时站内和我联络,或者在观测云社群里沟通。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 英特尔发布第二代AI增强SDV SoC:车企自由度更高 AI性能提升10

    快科技4月23日消息,上海车展今日开幕,英特尔在车展上发布第二代英特尔AI增强软件定义汽车(SDV)SoC。该SoC率先在汽车行业推出基于芯粒架构的设计,进一步扩展了英特尔在智能座舱领域的创新产品组合。英特尔希望借助第二代AI增强SDV SoC塑造汽车计算的未来。”英特尔院士、英特尔公司副总裁、汽车事业部总经理Jack Weast说。据介绍,英特尔第二代AI增强 SDV SoC允许汽车厂商根据自身需求定制计算、图形和AI功能,降低开发成本,缩短上市时间。通过为每个功能模块匹配性能出色且合适的芯片。相比上代,生成式和多模态AI性能最高可提升10?

  • 摩尔线程Linux显卡驱动v3.0.0发布:支持Wayland GPU渲染性能提升

    快科技5月1日消息,日前,摩尔线程发布Linux驱动程序v3.0.0,全面支持MTT S80和MTT X300显卡。作为v2.7.0RC4之后的重大升级版本,本次更新实现了多项关键技术突破。在架构层面,升级底层任务调度系统,优化内存管理并增强异常处理,使系统稳定性与负载运行效率均显著提升。同时,新增Wayland协议支持,将OpenGL升级至4.2版本,并扩展了内核版本支持范围。升级后的驱动架构在底层功能实现了多项突破:任务调度优化GPU的任务调度由驱动和固件协同完成,驱动负责管理任务队列、上下文切换和资源分配。v3.0.0版本在内核驱动层面的优化包括:低

  • 特斯拉“丐版”Cybertruck车型发布!性能缩水 续航提升

    特斯拉近日在海外市场推出了Cybertruck长续航后轮驱动版车型。新版本的Cybertruck在续航能力上达到了563公里,相较于之前发布的AWD版本提升了40公里,显著增加了车辆的实用性和吸引力。随着特斯拉宣布Cybertruck首次进军中东市场,长续航后轮驱动版也同步上线当地官网,成为该车型的全球首发市场,预计将于2025年底交付。

  • 提升约2散热性能!东芝推出新型SCiB™锂离子电池模块 适用于频繁高倍率充放电使用场景

    株式会社东芝将于2025年4月中旬起,陆续在全球各地发售一款新型SCiB™锂离子电池模块。该产品专为电动巴士、电动船舶驱动及固定储能设计,采用铝制底板,散热性能提升至传统模块的约2倍随着锂离子电池在各个领域的广泛应用,对电动巴士和电动船言,需要支持快速充电和运行过程中的频繁充放电;在固定储能上,也需应对电力负荷平衡所带来的充放电需求。※本产品支持串联电芯的电压均衡功能,并计划通过固定储能安全标准UL1973认证。

  • 大规模专家并行推理集群实现性能3倍跃迁,联通元景开启推理新纪元

    中国联通持续技术攻坚,依托元景大模型MaaS平台成功搭建“大规模专家并行”推理集群,实现DeepSeekMoE大模型在多节点间的超高效集群推理,单卡吞吐提升3倍,解码时延降低50%。这一成果不仅为人工智能技术的创新发展提供了强大助力,也让各行业以更高效率应用AI技术,加速推动千行百业的数字化转型。这一推理创新举措必将助力各行业在复杂多变、竞争激烈的市场环境中抢占先机,以智能化驱动数字化转型,进推动实体经济高质量发展。

  • 一季度大赚345亿美元!谷歌CEO称内部30%的代码由AI完成

    谷歌母公司Alphabet公布2025财年第一季度财报,营收902.3亿美元同比增长12%,净利润345.4亿美元大增46%,均超市场预期。核心广告和云业务保持强劲增长,YouTube订阅等业务也贡献稳定收入。CEO皮查伊特别强调AI领域突破,Gemini 2.5 Pro获开发者高度认可,AI工具用户数激增200%。公司内部AI辅助代码占比从25%提升至30%,正在研发更先进的AI代理工作流以优化开发效率。受亮眼业绩推动,盘后股价一度涨超5%。

  • 微星刀锋300机箱震撼发布:散热革新,颜值与性能兼得

    4月11日,微星携新一代中塔机箱——MPGVELOX300RAIRFLOWPZ系列强势登场,推出黑白双色版本,以极致的散热性能、高兼容性与美学设计,重新定义高端装机体验。用户可通过京东平台参与预售,享受独家首发福利!微星刀锋300RAIRFLOWPZ,助你打造下一台“战力艺术品”!

  • 守护真心,拥抱幸福!世纪佳缘给用户吃下“定心丸”

    面对父母催婚压力和社会对大龄单身偏见,许多单身人士通过婚恋平台寻找伴侣。世纪佳缘凭借严格的实名认证体系,确保用户信息真实可靠。平台采用"学历+收入+房产"等50项硬指标筛选机制,配合CRM智能匹配系统提升配对精准度。线下见面前,红娘团队会二次核查用户婚姻状况,杜绝"照骗"和虚假信息。一位用户分享经历称,正是平台的安全保障让他找到真诚伴侣。世纪佳缘通过科技赋能不断优化服务,为单身人士营造纯净交友空间,成就美好姻缘。

  • Claude终于能Research了,打通谷歌全家桶,工作效率10提升

    Anthropic推出Claude两大重磅功能:Research与Google Workspace集成!Research功能让Claude快速检索网络与内部文件,精准回答复杂问题;而与Google Workspace的深度整合,则让用户能无缝调用Gmail、日历和文档信息,轻松完成从行程规划到报告撰写的任务。今天凌晨,Anthropic官方推出了两个重磅新功能:Research以及与Google Workspace集成。Anthropic称Research功能是与Claude合作的新方式。它能从多个角度分析

  • 性能最强小屏旗舰!一加13T跑分突破303万分

    快科技4月24日报道,一加13T正式发布,搭载骁龙8至臻版平台,配备LPDDR5X内存和UFS4.0闪存,安兔兔跑分突破303万,成为当前性能最强小屏旗舰。该机通过独家研发的风驰游戏内核技术,实现CPU性能极致释放与GPU图形渲染优化,支持《王者荣耀》《原神》等主流游戏原生级超帧超画质满血运行,做到长时间游戏不卡顿、不发烫。官方实测显示,一加13T能轻松实现"无限满帧"效果,带来小屏手机中独一档的游戏体验。