求教本地大量零碎文件,如何快速检索文件内容。

10 小时 30 分钟前
 collo

各位彦祖,请教一下。

我本地有大量零碎文件,大概是 csv ,xlsx ,pdf ,eml ,html 之类的,大部分是文本,但是内部格式都不同。

文件大概 4T ,可预见的未来,还会增加。

我现在是使用 anytxt 来检索,但是 2T 之后检索速度就下降了,有时候一次检索要等几十秒,而且高级检索不支持正则,有些刁钻点的检索就不行了。

也试了一下 dnGrep ,支持正则搜索功能强大,但是不预建索引,每次检索要搜索一次,而且中文 pdf 好像要弄插件,也没有弄了。

也稍微看了下 Elasticsearch ,但是感觉数据导入有点麻烦。

请问下,是否有更好的方法来解决这个问题?

501 次点击
所在节点    程序员
13 条回复
630071099
10 小时 26 分钟前
Everything
JerryYuan
10 小时 21 分钟前
elasticsearch 最初就是程序员给老婆做的菜单检索引擎,也是稀碎的文件一大堆😄
JerryYuan
10 小时 20 分钟前
创建索引应该简单写个 python 脚本,一律转成纯文本,丢进去分词做倒排索引就行了。目测是 chatgpt 能接受的强度
lzgshsj
10 小时 15 分钟前
文本内容检索的还有个 https://www.recoll.org ,可以看看
不过 4T 实在是不好说,没折腾过这么多文本
ttkanni
9 小时 58 分钟前
Everything 正解 #1 +10086
4641585
9 小时 55 分钟前
才知道 Everything 能检索文件内容,又学到了
collo
9 小时 50 分钟前
@630071099 #1 everything 可以索引文件内容?感谢,找资料去。
collo
9 小时 49 分钟前
@JerryYuan #2 主要是感觉还要学新东西,有点累😅
collo
9 小时 48 分钟前
@JerryYuan #3 好的,先试试 everything 去,不行在弄这个。
collo
9 小时 48 分钟前
@lzgshsj #4 先弄 everything 去,不行再试试这个。
collo
9 小时 42 分钟前
@630071099 #1 请教一下,everything 如何预先索引所有文件?或者索引指定文件夹?
liuliancao
9 小时 36 分钟前
建议还是文件夹分类尽量减少这种大文件夹检索 如果是我 我会用 cygwin grep 下 但是 pdf 这些可能不支持
jeesk
5 小时 19 分钟前
到底是文件名检索, 还是文件内容检索?

1. 如果是文件名那么直接 locate xxx
2. 文件类型 grep 够用了, 当前也可以换 rust 的一些工具。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1098515

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX