现在在做的一个系统,会从多个外部网站抓取同类的节目数据,并将数据存在 MySQL 中。
但是这些不同的外部网站可能有相同的节目(比如标题、简介和音频都是相同/相似的),这种情况下需要做去重。想根据标题的字符串相似度来判断是否重复,并且需要能方便地查询到与一个节目所重复的其他节目。
那么问题来了,被认定为相似的两个节目,应该用什么数据结构保存下来?如果用关系型数据库,做一张两两相关的表,那表会很大,似乎不是理想的做法。
请问 V2 上的大中小牛们,业界有什么思想/框架/工具可以用来做这个事情?
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。
V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.