测试了一下 btrfs 和 zfs

2021-05-09 20:49:29 +08:00
 sherlock1122
测试环境,最新的 Fedora 34,结论:
Btrfs:
btrfs 的 compression 形同虚设,一点都没有压缩率。
btrfs 的 dedup 没找到怎么打开,有些资料说要单独装一个 binary, 然后周期性运行???太 low 了。

ZFS:
compression,dedup 都是实打实的。
zfs 选择 lz4 在性能以及压缩率上,对比 zstd,gzip9,是综合最优的。
7291 次点击
所在节点    Linux
25 条回复
billlee
2021-05-09 21:25:42 +08:00
现在 ZFS on Linux 和 page cache 配合得怎么样?
Jirajine
2021-05-09 21:48:22 +08:00
btrfs 的 inband dedup 还在试验性阶段 https://btrfs.wiki.kernel.org/index.php/User_notes_on_dedupe

压缩不可能形同虚设,可能你的文件被识别为已压缩过的了,就会跳过压缩,可以用 compress-force= 强制对所有文件压缩,但一般来说并不值得。

lz4 会优于 zstd 么,各种 benchmark 都显示 zstd 在性能和压缩率上综合最优,尤其是解压速度。
love
2021-05-09 22:01:20 +08:00
话说有人在 PC 上用过 f2fs 吗?我在我的 U 盘上用了,但没在 PC 上用过,似乎没人用,有什么问题吗
codehz
2021-05-09 22:05:36 +08:00
@love 建议不要使用 f2fs,这个不是为桌面使用优化的,还有数据丢失的风险(然后很难恢复因为多数数据恢复软件都不支持)
sherlock1122
2021-05-09 22:29:30 +08:00
@Jirajine 同一个文件,一个虚拟机镜像,raw 格式的,btrfs 根本压不动,btrfs 压缩正常。
我的测试程序:
```
zpool create tank /dev/sdc
zfs create tank/lz4
zfs create tank/gzip9
zfs create tank/zstd
zfs set compression=lz4 tank/lz4
zfs set compression=gzip-9 tank/gzip9
zfs set compression=zstd tank/zstd
zfs set dedup=on tank

time cp ~/fedora33-1.img /tank/lz4
zfs list;zpool list
time cp ~/fedora33-1.img /tank/gzip9
zfs list;zpool list
time cp ~/fedora33-1.img /tank/zstd
zfs list;zpool list

```

结果:
```
# real 0m3.000s
# user 0m0.030s
# sys 0m2.325s
# NAME USED AVAIL REFER MOUNTPOINT
# tank 3.93G 285G 26K /tank
# tank/gzip9 24K 285G 24K /tank/gzip9
# tank/lz4 3.92G 285G 3.92G /tank/lz4
# tank/zstd 24K 285G 24K /tank/zstd
# NAME SIZE ALLOC FREE CKPOINT EXPANDSZ FRAG CAP DEDUP HEALTH ALTROOT
# tank 298G 3.89G 294G - - 0% 1% 1.00x ONLINE -
#
# real 1m0.327s
# user 0m0.052s
# sys 0m2.019s
# NAME USED AVAIL REFER MOUNTPOINT
# tank 7.13G 283G 26K /tank
# tank/gzip9 2.70G 283G 2.70G /tank/gzip9
# tank/lz4 4.39G 283G 4.39G /tank/lz4
# tank/zstd 24K 283G 24K /tank/zstd
# NAME SIZE ALLOC FREE CKPOINT EXPANDSZ FRAG CAP DEDUP HEALTH ALTROOT
# tank 298G 6.10G 292G - - 0% 2% 1.17x ONLINE -
#
# real 0m20.419s
# user 0m0.038s
# sys 0m2.241s
<忘记拷贝了,现在已经被冲刷了>
```
sherlock1122
2021-05-09 22:30:28 +08:00
@billlee 没关注过这个细节。
我五年前还在 ZFS 内核组,天天看 ZFS 代码,年纪大了,现在忘干净了。
skyrem
2021-05-09 23:09:10 +08:00
@love #3 我在 gentoo 的 ssd 上用了,确实会有数据丢失的风险,因为开机磁盘检查会失败而报 panic 。
也可能是我哪里没配置对,我现在是跳过了磁盘检查,用到现在没出啥问题就是了
12101111
2021-05-09 23:16:03 +08:00
@skyrem
@love
f2fs 升级内核会强制全盘校验, 如果失败就挂载不上了, 但是手机从来不升级内核大版本号, 因此不需要强制校验
aloxaf
2021-05-09 23:35:12 +08:00
@sherlock1122 #5 你这又没贴怎么测 btrfs 的……
sherlock1122
2021-05-09 23:52:28 +08:00
@aloxaf cp & btrfs status

btrfs 前天测得,数据没保存,懒得再弄了。
aloxaf
2021-05-10 00:04:29 +08:00
@sherlock1122 #10 不需要数据,告诉我们你怎么测的就行。你说你以前是 ZFS 内核组的,那好歹是个技术大佬,做测试也得负点责任吧,一点都没压缩显然是不正常的,怎么能就直接作为结论……

点进来之前还以为会贴出各种测试数据对比两个文件系统的优劣,说实话有点失望……
liuxu
2021-05-10 00:19:06 +08:00
@Jirajine

zstd 官方的 benchmark,https://facebook.github.io/zstd/#benchmarks

尤其是解压速度,lz4 甩 zstd 一倍
liuxu
2021-05-10 00:24:26 +08:00
曾经是 zfs 内核组的,这么浮躁有点意外
Rasphino
2021-05-10 02:07:11 +08:00
Btrfs 的透明压缩不可能“一点都没有压缩率”吧,我之前用 archlinux 感觉压缩率还可以的。
另外 btrfs 可以自己选择压缩算法,包括但不限于 zstd/lzo
wwhc
2021-05-10 03:06:15 +08:00
f2fs 已经很成熟了,我都部署到服务器上了。从来没遇到过升级核心强制全盘校验的情况,数据丢失更是从来没遇到过,数据丢失倒是是 nilfs 上遇到,在意外断电或强制关机时。在我部署的系统中,f2fs 在桌面或服务器系统中都极稳定,足以取代 ext4
vk42
2021-05-10 04:41:51 +08:00
@wwhc 在服务器上用 F2FS ? F2FS 现在连个靠谱的 fsck 都没有,掉电抽彩票么……
https://www.usenix.org/conference/atc19/presentation/jaffer
CRVV
2021-05-10 10:51:36 +08:00
btrfs 的 online dedup 从来都没有合并过,换句话说就没这个功能。
压缩率是由算法决定的,和文件系统没关系。你测出来没压缩率那显然是没配置对。

btrfs 可以把文件系统建好了再加硬盘上去,更改 raid 之类的,这些操作都不影响正常使用文件系统。zfs 不支持这个。
这是我用 btrfs 的最主要原因。
yanqiyu
2021-05-10 11:05:54 +08:00
btrfs 的透明压缩形同虚设?
我这儿相当可观啊,对于 /usr 能有 40 ~ 50% 的压缩率

值得注意的是,du 看到的占用是假的,看压缩率要用 compsize 这个程序
haozi1986
2021-05-10 11:40:18 +08:00
btrfs 压缩率效果很好的啊,我这边三块硬盘开启压缩后,剩余空间多了快一倍不止
cev2
2021-05-10 11:41:07 +08:00
Btrfs 压缩一点都没用是不可能的。。以前在小硬盘 VPS 经常用这东西,挺好用。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/775863

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX