文本提取关键字有好的建议吗?

2012-01-04 20:09:20 +08:00
 Tianpu
solr@apache nltk.org这些都很庞大啊

有没有好的建议 想实现的是yql search.termextract的效果

相关URL
http://lucene.apache.org/solr
http://www.nltk.org/Home
http://developer.yahoo.com/yql/console/#h=select%20*%20from%20search.termextract%20where%20context%3D%22Italian%20sculptors%20and%20painters%20of%20the%20renaissance%20favored%20the%20Virgin%20Mary%20for%20inspiration%22%20and%20query%3D%22madonna%22
4431 次点击
所在节点    PHP
3 条回复
alsotang
2012-01-04 22:10:36 +08:00
reus
2012-01-04 22:48:15 +08:00
kafka0102
2012-01-04 22:59:34 +08:00
关键字抽取的最简单思路就是计算词频(如果有语料,可以拿到idf算tf*idf),取top k的结果。但是使用的词不能是所有的词,所以需要做些处理。这个处理也就两种思路,一个是人工构造候选的主题词表(可以通过语料筛选出来),或者通过辅助程序剔除掉无意义的词。不过,要想得到更好效果,比如歧义词的处理、上下文无关的词的处理、出现频率不高但更能表现主题的词提取、主题词的粒度调整,就不是计算词频能搞定的了。只就统计词频来说,其实也用不上什么库,我也没有看到专门这样的库。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/24963

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX