获取网站名和域名的对应关系方案

[xdays]

input: www.baidu.com
output: www.baidu.com ，百度

目前我所考虑的找到的方法：

1. http://data.alexa.com/data?cli=10&dat=snbamz&url=www.baidu.com ，通过这个借口确实能拿到不少信息，但似乎没有中文的网站名

2. 爬网页从title标签里提取，这个难点在于：如果把“百度一下，你就知道”这类的字符串总结为百度

3. http://www.alexa.cn/index.php?url=www.baidu.com 这个最有价值，但是遇到两点问题：
3.1 网站有防护，我刚爬了30多个域名，就被“Access Denied”
3.2 数据的权威性，不知道这个网站是哪家的

4. http://aws.amazon.com/cn/awis/ ，这个基本是1的收费版本，提供的信息应该差不多。


大家还有其他的方案么？

[bshu]

国内的正规网站去遍历 icp 备案数据库

[qiayue]

看你的具体需求了，如果不是需要全网所有网站的数据，而是只需要一部分有名/有流量的网站的话，手工去填都很快，数据也准确。

“世界上 95% 的网站每天只有不到30个IP的流量，里面还包括了自己及亲戚朋友的访问”

[mengzhuo]

whois信息里没有？

[shiny]

爬网址导航或者开放目录。

[dongbeta]

收集一大批网址导航站，用爬虫去爬链接提取 A 标签的相关信息。

[xdays]

@shiny @dongbeta 这种方式都是通过爬虫构建一个数据库，这个库很难全面。

[xdays]

@mengzhuo whois信息里没有中文网站名

[xdays]

@qiayue 量还还是挺大的，需要通过技术手段解决。

[xdays]

@bshu 有推荐库的没？

[xiya]

爬一些备案信息，定义关键字呢？