一个服务器只有几台,最大内存不到 16G 的软件公司还想搞爬虫大数据,这算什么样的公司

2017-04-24 14:36:02 +08:00
 cnfzv

一个服务器只有几台,最大内存不到 16G 的软件公司 想搞爬虫、大数据,抓取的数据库主要用 SQLSERVER 。 搞数据抓取的只有一个新人,这算什么样的公司

18114 次点击
所在节点    程序员
97 条回复
XDA
2017-04-24 19:33:18 +08:00
对比我们自建机房上百台物理机啥也没干不好,每月几十万的服务器租赁费用,没有对比就没有伤害
jyf
2017-04-24 20:33:20 +08:00
内存不是问题 主要是出口 ip 另外我想楼主可能是想吐草大数据这三个字
wdlth
2017-04-24 21:34:47 +08:00
配置不是大问题,数据的处理才是……
razrlele
2017-04-24 21:53:23 +08:00
@firefox12 太强了。。。能透露下怎么做到的么。。。感觉解析页面还是很耗 CPU 的把。。。
sagaxu
2017-04-24 21:58:29 +08:00
我手上 4 台专用的,没有内存低于 32G 的,虽然只用了不到 4G ,但是公司采购不到这么低内存的双 CPU 机器
roist
2017-04-24 22:02:02 +08:00
听起来像是

老板有亲戚在当大官,能拿到政府补贴或者订单的
scofieldpeng
2017-04-24 22:11:33 +08:00
我家里一个上网本, 2g 内存, atom 的 cpu , 250 的 sata 硬盘,爬了 几千万的数据,还做分析。你这硬件我都很口水好么==
hpeng
2017-04-24 22:28:48 +08:00
港真,爬个数据要给我这么大内存我就偷笑了,又不在这台机上处理。我就不信要多差的技术的爬虫才会用到 16g 内存不够用的,带宽给足,什么都好说。
victory
2017-04-25 04:05:37 +08:00
可以去华强北组一个二手服务器来他个 64G 内存 而且 2011 年服务器肯定用的 DDR3 内存 现在 DDR3 洋垃圾内存白菜价
Miy4mori
2017-04-25 04:55:11 +08:00
@gouchaoer 同意, mongo 真的是不堪大用
Leafove
2017-04-25 08:18:03 +08:00
员工工资都发不起结果 CEO 整天在整人工智能的公司我都见过
phpiis
2017-04-25 08:23:59 +08:00
先爬再说啊,赚到钱了自然可以游说升级服务器
dsg001
2017-04-25 09:05:56 +08:00
家用 pc 都不止这个配置吧
wizardoz
2017-04-25 09:10:55 +08:00
为什么不可以搞?硬件等到不够用的时候再升级有什么问题?
jianghu52
2017-04-25 09:31:08 +08:00
跟你说个真实的事情。我们公司,现在 3 台机器。 4G 内存内存,两台 python ,一台 java ,用了 2 条联通,一条电信。一个月,一台机器爬两百万条数据。你知道怎么搞定 IP 池的么。断线换 IP !
yanzixuan
2017-04-25 09:35:53 +08:00
@jianghu52 没啥不对。。我感觉你们公司好机智的呢。
yanzixuan
2017-04-25 09:38:08 +08:00
@Miy4mori mongo 除了吃内存,不能自动回收,也没啥缺点。。。
cnfzv
2017-04-25 10:01:28 +08:00
@jyf 是的,都打算往上面做,但是每一个往上走的,要设备没设备,要人没人,一个 sqlserver 把硬盘跑的满满的
cnfzv
2017-04-25 10:03:08 +08:00
@phpiis
@roist 没错 zf 项目,钱已经收到了,再想拿就是另外的项目了,现在就是后续的东西,感觉和技术支持一样
cnfzv
2017-04-25 10:06:45 +08:00
@hpeng
@wdlth 没错 ,爬虫、存储、处理都在一个 8g 的服务器上,非 raid 磁盘,另外两个是添头,其他业务在上面,我只是拿来跑个爬虫而已。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/356982

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX