多数据表,大数据量,更新频率较高,以搜索为主的业务,推荐什么搜索服务/系统架构

2013-01-17 13:37:48 +08:00
 macdino
前一段发过一个类似的,可能描述不清楚。最近一直在想这个问题,并做了一个调研,希望各位能给一些好的建议。

目前有三张表其中两张是表是业务表(数据量为三个月一归档,每个月大约1K万数据量),分别描述了一个业务,两张表的相关字段为50%,其余50%为个性字段。第三表为索引表(存储了两张表的50%相同字段),主要承担了,对于其它两张业务表的ID的统一分配,但是更多的是承载了前台对于两个业务的同时的列表和搜索功能。

随着需求的不断增加,对于搜索的需求日益加强,变成了需要同时搜索两张业务表中的各自的个性字段的合集,并且有向所有表的全字段搜索的趋势。
基于需求,目前总结出三种方案,三种方案各有优缺点:
1、直接搜索三张表,然后对于数据进行合集。这样子是不动现有架构,可以直接使用,缺点是需要将搜出的结果再进行合集,因数据量大,所以会产生等待时间长。
2、维护一张两张表的全字段表,即将两张表的所有字段全部融合成一张表,这样子的结果是数据表字段过多,不方便扩展业务。
3、增加搜索引擎:目前考虑的有两个,Sphinx和Lucene,但是这两个对于大数据量的实时更新处理有问题,会吃大量的内存。

目前来说,我只想到了以上的几种解决方案。各位有什么好的想法或已经使用的解决方案不?
多谢!
4070 次点击
所在节点    程序员
6 条回复
xlogion
2013-01-17 15:19:41 +08:00
Sphinx 是不存的选择,内库的话,首次会很大,之后设定增量即可
xlogion
2013-01-17 15:20:45 +08:00
换个键盘,各种错别字啊
Sphinx 是不错的选择,内存的话,首次会很大,之后设定增量即可
twm
2013-01-17 15:24:49 +08:00
搜索用lucene吧
macdino
2013-01-17 15:26:25 +08:00
@xlogion 增量好处理。对于数据会频繁更新,如果用实时索引的话这样子会巨吃内存的。
BigZ
2013-01-17 15:38:15 +08:00
从易用性来说 当然是sphinx

sphinx没有实时索引一说,索引都在磁盘上,不占内存,频繁更新索引磁盘IO的压力大

另:耗内存也不是问题,我们现在部署数据服务的新机器,标配内存都是96G
xcl3721
2013-01-17 15:41:11 +08:00
@BigZ sphinx最近新推出了realtime index

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/57887

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX