Array Transfer/Performance Problem


Recommended Posts

Hallu UnRaidler,

 

ich habe seit einer Woche mein erstes UnRaid-System im Einsatz auf welchem ich nun meine Daten übers Netzwerk (rsync/smb) kopiere. Dabei habe ich ein Geschwindkeitsproblem wenn ich die Daten übers Netzwerk move.

 

Dieses System habe ich im Einsatz:

 

https://geizhals.at/?cat=WL-2000168

 

Meine Config besteht daraus, das ich ein Array aus 7 x WD 6TB + 1 x WD 8 TB als Parity. Der Cache besteht aus 2 x 1 TB NWMe im RAID1.

 

Nun zu meinem Problem, wenn ich meine Daten über das Netzwerk entweder über Rsync oder SMB kopiere ändert sich die Übertragungsgeschwindigkeit von 112MB/s nach 10-15 min auf langsame 40-45MB/s. Habe auch probeweise den SSD-Sache bei dem Kopiervorgang (Cache = YES) zu aktiviert aber hier gerate ich mit dem Mover in Konflikt da dieser es nicht schnell genug schafft die Daten von der SSD auf das Array zu kopieren und hier bricht der Kopiervorgang ab. Auch die Option mit dem RAM-Cache habe ich probeweise auf 50% (vm.dirty_ratio), aber dies brachte auch keine Besserung.

 

Gibt es irgendwelche Optionen die ich nicht kenne damit ich ich hier meine Netzwerkperformance steigern kann?

 

PS: Anbei ein Screenshot vom meinem UnRaid-System wo gerade die Files vom SSD-Cache "langsam" gemoved werden.

Screenshot 2021-03-15 at 13.18.15.png

Edited by PsYcRo
Screenshot attached
Link to comment

Du musst "reconstruct write" aktivieren. Findet man unter Settings->Disk Settings->"Tunable (md_write_method)" Das muss auf "reconstruct write" gestellt werden:

 

https://wiki.unraid.net/Tips_and_Tweaks#:~:text=A new mode has been,the read then the write).

 

Dann laufen aber auch immer alle Platten. Macht also ggfs. Sinn das wieder auf Auto zu stellen wenn man fertig ist und kurzfristig keine weiteren größeren Kopier-Maßnahmen anstehen.

  • Thanks 1
Link to comment

Super vielen vielen Dank.

Irgendwo bilde ich mir ein gelesen zu haben, dass diese Option gefährlich ist falls es in dieser Zeit zu einem Stromausfall kommt oder verwechsele ich da was?

 

Jetzt ist der Speed gleich doppelt so schnell. Dankeschön

Link to comment
10 minutes ago, PsYcRo said:

oder verwechsele ich da was?

Ja tust du. Es ist einfach nur eine andere Methode die Parität zu berechnen. Die meisten bevorzugen die Standardmethode wo die meisten HDDs schlafen. Das ist zwar langsamer, aber es reduziert maßgeblich den Stromverbrauch.

 

Dass es nur 40 MB/s sind, liegt übrigens an den HDDs, die du verbaut hast und an der Position der Daten. Da du gerade auf disk3 schreibst, die bereits zur Hälfte gefüllt ist, liegt die Schreibrate nur noch bei ca 130 MB/s, da eine HDD immer langsamer wird, umso voller sie wird:

https://www.hardwareluxx.de/index.php/artikel/hardware/storage/49350-sieben-6-tb-festplatten-verschiedener-hersteller-im-test.html?start=10

3_WD_Blue_6TB_HDTuneR_3A0343E7EE7C482B875D8CD9FA2B1D80.thumb.jpg.77e0c51fec65049b8aba51d491d3549a.jpg

 

Da die Parity bei "auto" = "read/modify/write" erst gelesen und dann geschrieben wird und HDDs das gleichzeitig gar nicht mögen, fällt die Schreibrate auf 40 MB/s. Vor allem auch, weil es nur eine 5400 U/min HDD ist.

 

Bei "reconstruct write" = "turbo write", generiert er die Parity in dem er von allen HDDs gleichzeitig liest. Dadurch gibt es nur einen Schreibprozess auf der Parity Disk und die Geschwindigkeit geht deutlich nach oben. Wobei es hier auf die langsamste HDD im Verbund ankommt. Hast du jetzt also nur 80 MB/s, weil du von doppelt sprachst, dann scheint eine Platte die anderen zu limitieren oder es gibt noch einen parallelen Prozess, der eine der Platten bremst.

 

Um das zu umgehen, bietet sich ein entsprechend großer SSD Cache an. Wer das Geld dafür hat, kann aber auch eine Micron ION 5210 als Parity nutzen. In deinem Fall also eine mit 7.68TB. Eine SSD kann deutlich besser mit parallelem Lesen/Schreiben umgehen. Etwas schneller wird es mit schnelleren HDDs. Ich komme mit WD Ultrastar auf 80 MB/s. In dem Video wird das auch ein wenige thematisiert:

 

Link to comment
2 hours ago, mgutt said:

Ja tust du. Es ist einfach nur eine andere Methode die Parität zu berechnen. Die meisten bevorzugen die Standardmethode wo die meisten HDDs schlafen. Das ist zwar langsamer, aber es reduziert maßgeblich den Stromverbrauch.

 

Dass es nur 40 MB/s sind, liegt übrigens an den HDDs, die du verbaut hast und an der Position der Daten. Da du gerade auf disk3 schreibst, die bereits zur Hälfte gefüllt ist, liegt die Schreibrate nur noch bei ca 130 MB/s, da eine HDD immer langsamer wird, umso voller sie wird:

https://www.hardwareluxx.de/index.php/artikel/hardware/storage/49350-sieben-6-tb-festplatten-verschiedener-hersteller-im-test.html?start=10

3_WD_Blue_6TB_HDTuneR_3A0343E7EE7C482B875D8CD9FA2B1D80.thumb.jpg.77e0c51fec65049b8aba51d491d3549a.jpg

 

Da die Parity bei "auto" = "read/modify/write" erst gelesen und dann geschrieben wird und HDDs das gleichzeitig gar nicht mögen, fällt die Schreibrate auf 40 MB/s. Vor allem auch, weil es nur eine 5400 U/min HDD ist.

 

Bei "reconstruct write" = "turbo write", generiert er die Parity in dem er von allen HDDs gleichzeitig liest. Dadurch gibt es nur einen Schreibprozess auf der Parity Disk und die Geschwindigkeit geht deutlich nach oben. Wobei es hier auf die langsamste HDD im Verbund ankommt. Hast du jetzt also nur 80 MB/s, weil du von doppelt sprachst, dann scheint eine Platte die anderen zu limitieren oder es gibt noch einen parallelen Prozess, der eine der Platten bremst.

 

Um das zu umgehen, bietet sich ein entsprechend großer SSD Cache an. Wer das Geld dafür hat, kann aber auch eine Micron ION 5210 als Parity nutzen. In deinem Fall also eine mit 7.68TB. Eine SSD kann deutlich besser mit parallelem Lesen/Schreiben umgehen. Etwas schneller wird es mit schnelleren HDDs. Ich komme mit WD Ultrastar auf 80 MB/s. In dem Video wird das auch ein wenige thematisiert:

 

Danke das Video habe ich gestern schon angeschaut und von dort diese vm.dirty Werte probiert. Wieso bemerke ich nichts davon bei meinem Kopiervorgang von mehreren TBs an Daten mit dem RAM-Cache?

Link to comment
19 minutes ago, PsYcRo said:

Wieso bemerke ich nichts davon bei meinem Kopiervorgang von mehreren TBs an Daten mit dem RAM-Cache

Wenn du nicht gerade mehrere TB RAM hast, dann ist wohl der RAM schon voll. Wie im Video erklärt, fungiert der RAM nur als Cache bis er voll ist.

Link to comment

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.
Note: Your post will require moderator approval before it will be visible.

Guest
Reply to this topic...

×   Pasted as rich text.   Restore formatting

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.