V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
jingwei8340885
V2EX  ›  分享创造

ClickHouse 在什么场景下才管用?

  •  
  •   jingwei8340885 · 126 天前 · 2430 次点击
    这是一个创建于 126 天前的主题,其中的信息可能已经有所发展或是发生改变。

    ClickHouse 是近年来分析型数据库的热点,一向以快著称,很多其它以性能为卖点的分析型数据库也常常会用它作为一个对比标杆。很多用户碰到数据库运算性能问题时,也会考虑转向求助于 ClickHouse 解决 ClickHouse 确实是有过人之处,它的列式宽表速度很快,估计是压缩做得非常好。然而,除此之外,再无长处。希望用 ClickHouse 解决数据库计算性能问题的用户,大概率会失望的。

    我们先拿 TPCH 100G 来测试 ClickHouse ,在同样的硬件环境下和 Oracle 对比,这里只列出一个结果(时间单位:秒),完整的测试报告在 SPL 计算性能系列测试:TPCH 。

    TPCH 编号 ClickHouse Oracle 1 15.4 114.3 2 17.3 1.9 3 内存溢出 165.8 4 内存溢出 158.4 5 内存溢出 174.5 6 4.8 126.7 7 内存溢出 181.5 8 内存溢出 209.7 9 内存溢出 256.0 10 58.3 195.6 11 6.7 8.7 12 10.7 186.0 13 134.1 33.3 14 10.2 170.0 15 11.2 161.8 16 4.0 10.8 17 44.6 156.5 18 内存溢出 416.8 19 >600 144.1 20 31.2 171.0 21 语法错误 360.7 22 8.4 37.7 合计 - 3441.8 TPCH 算是比较基础的数据库性能测试,总体来讲不算很复杂,但也包含了一些 JOIN 和子查询,不全是简单的单表遍历。这情况下,ClickHouse 的表现非常差,有相当多的题跑不出来,还有个别题的 SQL 被认为过于复杂而无法执行。这方面甚至还不如 Oracle ,Oracle 不是专业分析型数据库,速度会慢很多,但所有题都能跑出来。 具体原因很可能如上所述,ClickHouse 仅仅是把数据存储压缩做得很好,这会导致简单遍历速度很快,但对稍复杂的运算,它的优化能力相当拉胯,结果直接跑不出来。 希望用 ClickHouse 解决性能问题的用户,要先考察一下自己面临的计算任务的复杂度和 TPCH 相比如何。

    我们继续用这套 TCPH 数据生成一个多列的宽表,再做 ClickHouse 最为擅长的多维分析计算,结果如下(时间单位:秒),完整测试报告见 SPL 计算性能系列测试:关联表及宽表 。

    宽表 两表关联 七表关联 4C16G 74.3 204.1 内存溢出 8C32G 33.2 89.3 内存溢出 宽表遍历是 ClickHouse 擅长的场景,性能最好。但只要有多一点关联,ClickHouse 的运算性能就会急剧下降。关联再复杂后又会溢出,再一次验证了上述的原因分析。 看来,ClickHouse 的“快”,仅仅在于最简单的无关联单表遍历,这种“快”能适应的场景实在是太狭窄了。专门引进一个数据库仅仅做这么一点点事情,值得吗?

    相比 ClickHouse 的“徒有虚名”,上面测试报告中提到的 esProc SPL 才是性能王者。

    esProc SPL 也是开源软件,它是纯 Java 开发的,但在相当多的性能优化场景中却能远远跑赢 C++ 开发的 ClickHouse 。 严格地说,esProc 并不是一个分析型数据库,不过它提供了高性能的存储格式(列存、压缩等)和相应的算法类库,可以完全取代分析型数据库的计算功能。 和市场上其它与 ClickHouse 竞争的数据库产品不同,esProc 没有再使用 SQL 语法,而是采用了更简洁的 SPL 。这样才能克服 SQL 的缺陷,实现 SQL 难以甚至无法实现的高性能算法。这里有通俗的解释 快出数量级的性能是怎样炼成的 。而继续采用 SQL 体系的数据库,即便在某些局部能超越 ClickHouse ,但仍然会受到 SQL 的局限,无法充分利用硬件资源跑出最好的性能。

    我们再再把刚才测试报告中 esProc SPL 的性能列出和 ClickHouse 对比:

    TPCH 编号 esProc SPL ClickHouse Oracle 1 9.7 15.4 114.3 2 1.3 17.3 1.9 3 8.8 内存溢出 165.8 4 4.9 内存溢出 158.4 5 8.9 内存溢出 174.5 6 4.5 4.8 126.7 7 10.5 内存溢出 181.5 8 6.9 内存溢出 209.7 9 16.8 内存溢出 256.0 10 8.3 58.3 195.6 11 0.9 6.7 8.7 12 4.9 10.7 186.0 13 12.1 134.1 33.3 14 3.3 10.2 170.0 15 4.7 11.2 161.8 16 2.7 4.0 10.8 17 5.3 44.6 156.5 18 6.4 内存溢出 416.8 19 5.8 >600 144.1 20 5.2 31.2 171.0 21 11.9 语法错误 360.7 22 2.5 8.4 37.7 合计 146.3 - 3441.8 结果,esProc SPL 表现出来的性能明显优于 ClickHouse ,所有题都能很快跑出来,对 ClickHouse 有全面的碾压优势。

    4C16G 8C32G esProc SPL ClickHouse esProc SPL ClickHouse 宽表 114.2 74.3 57.7 33.2 两表关联 21.5 204.1 11.5 89.3 七表关联 55.6 内存溢出 30.6 内存溢出 数据量加大后,ClickHouse 在擅长的单个宽表遍历场景中确实更胜一筹,比 esProc SPL 更快。不过,大多数情况下采用宽表是为了规避低速的关联运算(以更大的存储量和更复杂的数据准备换取不做关联),而 esProc SPL 特有的关联优化方案能够跑出比 ClickHouse 宽表更快的速度,没有必要再生成宽表了。宽表丧失性能优势后,就只剩缺点,纯属多余。

    对于单表上的无关联简单统计,ClickHouse 虽然更快,但也没有比 esProc 快出数量级(毕竟 CPU 和硬盘的动作就是那么快)。如果这时候可以利用任务特征来优化时,基于 ClickHouse 仍然会很难搞,SQL 无法实现很多优化逻辑,只能在上层用 C++ 继续编程才能实现,非常繁琐且困难。而 SPL 的可编程能力要强大得多,可以充分利用任务特征写出优化代码。 比如现代多维分析时几乎总会涉及到多指标统计,SPL 可以写出遍历复用算法,一次遍历计算出多个统计值,即便单指标计算比 ClickHouse 稍慢,多指标统计时就能大幅超出:

    4C16G 8C32G 统计指标数 1 2 3 1 2 3 ClickHouse 宽表 77.4 156.0 249.6 34.7 69.0 106.4 esProc SPL 宽表 114.2 119.5 124.1 57.7 61.6 64.6 esProc SPL 关联

    100.5

    49.5 (完整测试报告 SPL 计算性能系列测试:多指标统计 )

    对于更复杂的运算,比如漏斗运算,其复杂度已经无法再用 ClickHouse 做测试了,esProc SPL 当然不在话下 SPL 计算性能系列测试:漏斗分析 。 总结一下:esProc SPL 的性能优势是全面综合的,ClickHouse 的性能优势仅对一个非常狭窄的领域有效。

    举个实际的案例,某个时空碰撞问题,总数据量约 250 亿行。SQL 看起来并不算很复杂:

    WITH DT AS ( SELECT DISTINCT id, ROUND(tm/900)+1 as tn, loc FROM T WHERE tm<3*86400) SELECT * FROM ( SELECT B.id id, COUNT( DISINCT B.tn ) cnt FROM DT AS A JOIN DT AS B ON A.loc=B.loc AND A.tn=B.tn WHERE A.id=a AND B.id<>a GROUP BY id ) ORDER BY cnt DESC LIMIT 20 传统数据库跑得太慢,用户转而求助于 ClickHouse ,结果用了 5 节点的集群环境下也跑了 30 分钟多,达不到期望。同样数据量,SPL 代码只用一个节点不到 6 分钟即可完成计算,超出了用户期望。考虑到硬件资源的差距,SPL 相当于比 ClickHouse 快了 25 倍以上。

    A
    

    1 =now() 2 >NL=100000,NT=396 3 =file("T.ctx").open() 4 =A3.cursor(tm,loc;id==a).fetch().align(NLNT,(loc-1)*NT+tm\900+1) 5 =A3.cursor@mv(;id!=a && A4((loc-1)*NT+tm\900+1)) 6 =A5.group@s(id;icount@o(tm\900):cnt).total(top(-20;cnt)) 7 =interval@ms(A1,now()) ( SPL 代码写在格子里,这和普通程序语言很不像,参考这里 写在格子里的程序语言 )

    SQL 中的 DISTINCT 计算会涉及 HASH 和比对,数据量很大时计算量也会很大,然后还有自关联以及进一步的 COUNT(DISTINCT),都会严重拖累性能,而 SPL 可以充分利用 SQL 没有的有序分组和序号定位,有效避免复杂度很高的自关联和 DISTINCT 运算。虽然在存储效率上比 ClickHouse 并没有优势,Java 也会略慢于 C++,但仍然获得了数量级的性能提升。

    最后,esProc SPL 到这里找: https://github.com/SPLWare/esProc

    19 条回复    2023-12-12 10:36:38 +08:00
    vgbhfive
        1
    vgbhfive  
       126 天前
    业务数据分析很好用
    inhzus
        2
    inhzus  
       126 天前
    这个排版?????????
    hyruleTraveler
        3
    hyruleTraveler  
       126 天前
    perf 打点数据存储,grafana 画图
    kd9yYw2RyhQwAwzn
        4
    kd9yYw2RyhQwAwzn  
       126 天前
    存日志
    Morii
        5
    Morii  
       126 天前
    用下来感觉 Doris 更舒服
    Fooooo0
        6
    Fooooo0  
       126 天前
    @Morii Doris 性能会比 clickhouse 差一些,如果对查询响应的要求不是很高确实 doris 舒服些
    q11391
        7
    q11391  
       126 天前 via iPhone
    我们老板让我们用 clickhouse 把 hadoop 替代掉
    Morii
        8
    Morii  
       126 天前
    @q11391

    两码事儿吧
    q11391
        9
    q11391  
       126 天前 via iPhone
    @Morii 是的,但是外行指导内行是这样的
    levelworm
        10
    levelworm  
       126 天前
    分布式列数据库是这样的。无论是 Vertica 还是 BigQuery ,内部工程师给我们的建议都是尽量少 JOIN ,用宽表。主要是为了避免数据在 node 中来回传输。BigQuery 还有个 broadcast join 的概念。
    netnr
        11
    netnr  
       126 天前 via Android
    ClickHouse 不就是在吐槽 join 慢
    dapang1221
        12
    dapang1221  
       126 天前   ❤️ 4
    我就说这帖子怪怪的,点进发帖记录,一眼软文……
    就挺烦的,你要说这个叫什么 esProc 的好吧,那贴出 benchmark 数据,吹一波,就得了,有兴趣的遇到合适场景的就会自己点进去看看。本来是宣传的,结果标题非要讲 Clickhouse ,硬要拉着一个数据库 Clickhouse 和你们的产品做对比,但如果我没记错的话 SPL 这东西不是应该对标 Splunk 吗。。通篇下来仿佛在暗示用 Clickhouse 的都是呆逼是吧

    搜了下 esProc ,背后是 数速信息,Scudata ,再背后是润乾软件。抱歉对国产的软件真的没好感了 - -

    也不怪 op ,就拿工资发软文,都是打工人,可以理解,毕竟连排版都懒得整理
    OliverDD
        13
    OliverDD  
       125 天前
    你这...一看就软广...
    adoal
        14
    adoal  
       125 天前
    你的这个青花瓷啊,它碰得真是一个脆,就像是红罗贝,拌着那个白罗贝
    soft101team
        15
    soft101team  
       125 天前
    一般是数据量比较大的分析场景
    prick
        16
    prick  
       123 天前
    运营商,测试了下 CLICKHOUSE ,完全扛不住。最后还是接着用花费巨资的 VERTICA
    jinxjhin
        17
    jinxjhin  
       122 天前
    @prick 可以看下 Doris\StarRocks
    lei2j
        18
    lei2j  
       122 天前
    排版看着头疼
    prick
        19
    prick  
       122 天前
    @jinxjhin 已经在小范围部署测试了。Doris\StarRocks 相较 VERTICA ,简单查询速度上比 Ve 提升巨大,但权限管控仍然存在不足,自己建的表自己没权限访问和操作,这个令人头疼
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   2805 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 30ms · UTC 14:14 · PVG 22:14 · LAX 07:14 · JFK 10:14
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.