V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
cernard
V2EX  ›  问与答

HDFS 的 RAM DISK 和普通 HDD 上传速度经测试区别不大,是哪环节做错了吗?

  •  1
     
  •   cernard · Apr 14, 2020 · 1540 views
    This topic created in 2205 days ago, the information mentioned may be changed or developed.

    测试环境:

    1. 1 个 namenode,2 个 datanode (其中一个 datanode 和 namenode 一台机器)
    2. RAM DISK 最大大小理论上配置的是 20G

    测试方法:

    1. Python 生成 1K~10G 的若干个 CSV 文件,每个文件上传 10 次,每次上传完毕后删除。
    2. 统计每个大小文件的 10 次上传平均时间

    测试结果: RAM DISK 和 HDD 几乎没有速度上的区别,只有几秒的差异。

    请问下造成这个结果的可能性有哪些?

    6 replies    2020-04-15 16:58:44 +08:00
    cernard
        1
    cernard  
    OP
       Apr 14, 2020
    忘了说了,是写入速度
    OSDI
        2
    OSDI  
       Apr 14, 2020
    网络带宽多少呢
    Aruforce
        3
    Aruforce  
       Apr 14, 2020 via Android
    带宽小于硬盘的读写速度…?
    cernard
        4
    cernard  
    OP
       Apr 14, 2020
    @OSDI #2
    @Aruforce #3 局域网百兆带宽,暂时接的路由器
    OSDI
        5
    OSDI  
       Apr 15, 2020 via Android
    @cernard 是不是由单个节点发起的 I/O 测试?可以尝试多个节点并发 I/O
    Aruforce
        6
    Aruforce  
       Apr 15, 2020
    @cernard 机械硬盘的读写速度 几乎没见过 100Mbyte/S 以下的 局域网的才 100Mbits/S....你换个 1000mbits 的网络吧
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3907 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 33ms · UTC 10:22 · PVG 18:22 · LAX 03:22 · JFK 06:22
    ♥ Do have faith in what you're doing.