loki + promtail,如何处理 rsync 同步过来的日志

2023-09-18 19:37:59 +08:00
 einsdisp

有些日志文件不是本机生成的,是从其他机器中使用 rsync 同步过来的,日志文件本身是逐渐增加添加到文件末尾,rsync 同步时候,会先把旧日志文件删除再创建新文件,而不是直接在旧文件末尾追加写入。

所以 promtail 会认为生成了新的日志文件,便会把整个文件内容从头读取一遍,生产大量重复日志入库。

有什么同步工具可以在文件末尾追加写入而不是创建新文件吗? 如何优雅的解决这个问题?

1136 次点击
所在节点    程序员
4 条回复
julyclyde
2023-09-18 22:06:44 +08:00
rsync 为什么会先删除?
hahahahahahahah
2023-09-19 07:56:43 +08:00
rsync 是增量同步吧
RangerWolf
2023-09-19 08:56:00 +08:00
是不是 rsync 的参数不对? rsync 是一个增量同步的我记得~
wtmlmz
2023-09-19 09:37:22 +08:00
可以在每台机器都部署 promtail ,loki 会帮你聚合,这里用 rsync 的原因是什么呢?

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/974959

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX