求教 10T 的 postgresql 数据库应该怎么设计才能保证查询较快, 30s 级别?

2019-06-19 11:54:10 +08:00
 sjmcefc2

一个 10T 左右的 postgresql 数据库,怎么设计才能提升查询效率呢?如果硬件一定的情况下,目前单台服务器。 尝试过 elk,貌似速度是快了,就是查询,join 之类的有点麻烦。

7099 次点击
所在节点    PostgreSQL
41 条回复
Chenamy2017
2019-06-19 13:17:52 +08:00
持续关注...
opengps
2019-06-19 13:30:23 +08:00
挑战单机极限,这个话题值得关注
endershadow
2019-06-19 13:36:28 +08:00
设计没用 上 citus data
huiyifyj
2019-06-19 13:42:24 +08:00
我在想,这么大数据,应该都用分布式了吧🙃
996icu
2019-06-19 13:42:32 +08:00
10T 的数据不考虑换架构吗?
abelce
2019-06-19 13:58:25 +08:00
持续关注,目前依然是用 pgsql
sjmcefc2
2019-06-19 14:04:06 +08:00
@huiyifyj 10T 只是一块硬盘。。。算起来也就是 2 块硬盘吧

@endershadow cool,看起来很棒。
Rwing
2019-06-19 14:05:22 +08:00
关注
luozic
2019-06-19 14:14:18 +08:00
推薦去看看阿里雲大佬 https://github.com/digoal/blog/blob/master/README.md 的 blog
sjmcefc2
2019-06-19 14:15:07 +08:00
Citus is an extension to Postgres that transforms Postgres into a distributed database.
Pex uses Citus to ingest 80B data points per day and analyze that data in real-time. They use a 20+ node cluster on Google Cloud.
Agari uses Citus to secure more than 85 percent of U.S. consumer emails on two 6-8 TB clusters.

看起来 citus 好棒啊,有起是 agari 的案例,两个节点?
flytrap
2019-06-19 14:21:31 +08:00
这是一个值得探讨的问题
endershadow
2019-06-19 14:28:50 +08:00
方案很多, 你这个数据量 pivotal 家的 green plum 更适合
sjmcefc2
2019-06-19 14:31:02 +08:00
@luozic 特别棒, 当单库超过 100T 尚未完成写作。
能提醒一下看哪一篇吗?
sjmcefc2
2019-06-19 14:31:31 +08:00
@endershadow 能告知下理由吗?
karenn
2019-06-19 14:31:54 +08:00
楼主你也得说一下你的机器的配置吧
sjmcefc2
2019-06-19 14:40:54 +08:00
机器也很弱机 DELL t630。
endershadow
2019-06-19 14:42:46 +08:00
@sjmcefc2 如果数据量就是这个规模的话, green plum 中文资料多,上手更容易.pivotal 国内也有研发中心
sjmcefc2
2019-06-19 14:46:07 +08:00
@endershadow 数据量基本是这个规模了,最多能再加一个节点。pivotal greenplum 貌似是个数据分析平台了?
需要购买?还是开源呢?导入数据可以 pgloader 之类工具不?
est
2019-06-19 14:48:17 +08:00
不讲数据结构和查询需求就可以银弹优化?
sjmcefc2
2019-06-19 14:57:03 +08:00
@endershadow Pivotal Greenplum 基于 PostgreSQL 和 Greenplum 数据库,可让用户更好地控制所部署的软件,减少供应商锁定,产品方向也更加开放。看起来 pivotal greenplum 和 greenplum 是不同的。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/575422

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX