Jump to content

Parity Check relativ langsam


strohann

Recommended Posts

Mein parity check läuft mit durchschnittlich 130MB/s, was mir zu langsam erscheint. Wenn ich jede einzelne Platte mit hdparm -tT /dev/sdX teste, kommt bei jeder allerdings ein deutlich höherer Wert raus. Wie kann das sein und wie kann ich den check beschleunigen? HBA ist ein LSI 2308.

 

Danke euch :)

Link to comment
5 hours ago, strohann said:

Mein parity check läuft mit durchschnittlich 130MB/s, was mir zu langsam erscheint.

 

Das hängt von den jeweiligen Festplatten ab, der Position, wo der Check gerade ist und ob gleichzeitig noch etwas anderes auch auf dem Array werkelt.

 

5 hours ago, strohann said:

Wenn ich jede einzelne Platte mit hdparm -tT /dev/sdX teste, kommt bei jeder allerdings ein deutlich höherer Wert raus.

 

Ich kenne den Test/Befehl nicht. Aber wenn dieser Befehl nicht sequentiell die gesamte Festplatte komplett abfragt, dann zeigt er nicht unbedingt die selben Ergebnisse an, wie ein kompletter sequentieller Scan (wie beim Paritycheck).

 

5 hours ago, strohann said:

wie kann ich den check beschleunigen?

 

Ohne weitere Details fällt mir da nichts zu ein.

 

5 hours ago, strohann said:

HBA ist ein LSI 2308.

 

Ist der HBA in einem ausreichend breit angebundenen PCIe Slot eines geeigneten PCIe Standards (ich glaube das ist ein PCIe 3.0 Kontroller)?

Wieviele Festplatten sind im Array und wieviele des Array an diesem HBA?

Welche Festplatten sind im Array?

Welches Mainboard (und welcher Slot) wird für den HBA verwendet?

Sind SAS Expander im Spiel?

etc...

 

Link to comment
4 hours ago, DataCollector said:

der Position

Höre ich da raus, dass der Check auch für längere Zeit nicht die volle Gescheindigkeit benutzt aus Gründen?

 

4 hours ago, DataCollector said:

ausreichend breit angebundenen

Yes.

 

4 hours ago, DataCollector said:

Wieviele Festplatten sind im Array und wieviele des Array an diesem HBA?

Mit Parity insgesamt 6. Sehe jetzt aber auch, dass ich Platten im Array hab, die nur 5400 rpm haben. Spielt das echt so eine gr0ße Rolle?

 

4 hours ago, DataCollector said:

Welche Festplatten sind im Array?

ls -lF /dev/disk/by-id/
lrwxrwxrwx 1 root root  9 Sep 29 01:38 ata-ST12000NM0127_ZJV5BE2N -> ../../sdd
lrwxrwxrwx 1 root root  9 Sep 29 01:38 ata-ST4000VN008-2DR166_ZGY84GNA -> ../../sdi
lrwxrwxrwx 1 root root  9 Sep 29 01:38 ata-ST8000NM000A-2KE101_WSD04XPH -> ../../sdh
lrwxrwxrwx 1 root root  9 Sep 29 01:38 ata-ST8000NM000A-2KE101_WSD07X5S -> ../../sdc
lrwxrwxrwx 1 root root  9 Sep 29 01:38 ata-WDC_WD80EDAZ-11TA3A0_VGHGU0YG -> ../../sde
lrwxrwxrwx 1 root root  9 Sep 29 01:38 ata-WDC_WD80EDAZ-11TA3A0_VGHJVGXG -> ../../sdb

Die Cache SSDs sind nicht am HBA.

 

4 hours ago, DataCollector said:

Welches Mainboard

ASUSTeK COMPUTER INC. ROG STRIX Z370-G GAMING und steckt im zweiten Slot, der laut lspci -s 01:00.0 -vvv auch mit 8 Lanes angebunden ist.
SAS Expander sind keine verbaut.

 

Ausgabe von lspci:

00:00.0 Host bridge: Intel Corporation 8th Gen Core Processor Host Bridge/DRAM Registers (rev 07)
00:01.0 PCI bridge: Intel Corporation 6th-10th Gen Core Processor PCIe Controller (x16) (rev 07)
00:02.0 VGA compatible controller: Intel Corporation CoffeeLake-S GT2 [UHD Graphics 630]
00:14.0 USB controller: Intel Corporation 200 Series/Z370 Chipset Family USB 3.0 xHCI Controller
00:16.0 Communication controller: Intel Corporation 200 Series PCH CSME HECI #1
00:1b.0 PCI bridge: Intel Corporation 200 Series PCH PCI Express Root Port #17 (rev f0)
00:1c.0 PCI bridge: Intel Corporation 200 Series PCH PCI Express Root Port #1 (rev f0)
00:1c.4 PCI bridge: Intel Corporation 200 Series PCH PCI Express Root Port #5 (rev f0)
00:1d.0 PCI bridge: Intel Corporation 200 Series PCH PCI Express Root Port #9 (rev f0)
00:1f.0 ISA bridge: Intel Corporation Z370 Chipset LPC/eSPI Controller
00:1f.2 Memory controller: Intel Corporation 200 Series/Z370 Chipset Family Power Management Controller
00:1f.3 Audio device: Intel Corporation 200 Series PCH HD Audio
00:1f.4 SMBus: Intel Corporation 200 Series/Z370 Chipset Family SMBus Controller
00:1f.6 Ethernet controller: Intel Corporation Ethernet Connection (2) I219-V
01:00.0 Serial Attached SCSI controller: Broadcom / LSI SAS2308 PCI-Express Fusion-MPT SAS-2 (rev 05)
04:00.0 USB controller: ASMedia Technology Inc. ASM2142/ASM3142 USB 3.1 Host Controller
05:00.0 Non-Volatile memory controller: Samsung Electronics Co Ltd NVMe SSD Controller SM981/PM981/PM983

 

 

Wenn dir nichts weiter großartig einfällt, würde ich erstmal n Deckel auf die Sache machen und eventuell nach und nach die Platten austauschen gegen schnellere. Allerdings auch nur wenn es sich anbietet. Der Check dauert insgesamt etwas über eienn Tag, was mir zu lange dauert aber ich werde deswegen keine Berge versetzen.
Übrigens, im System ist ein i5-9500T und Seasonic 600W Gold verbaut und im Idle (alle Platten aus) habe ich einen Stromverbruch von etwa 45W. Ist das angemessen oder kann man hier wenig zu sagen?

Link to comment
3 hours ago, strohann said:

Sehe jetzt aber auch, dass ich Platten im Array hab, die nur 5400 rpm haben. Spielt das echt so eine gr0ße Rolle?

das macht sicher auch einen Unterschied, man sagt ca 1/3 Verlust durch 5400 rpm ... und da das schwächste Glied den speed bestimmt ...

 

aber davon ab, parity checks machst du wie oft ? ich hatte die alle 1/2 Jahr mal laufen lassen ... mehr aber auch nicht, da wird es jetzt nicht drauf ankommen.

 

3 hours ago, strohann said:

habe ich einen Stromverbruch von etwa 45W. Ist das angemessen oder kann man hier wenig zu sagen?

das hat ja wenig bis gar nichts mit deiner Frage aus dem Topic zu tun, bitte separate Frage hierzu aufmachen bei Bedarf.

Link to comment
4 minutes ago, alturismo said:

man sagt ca 1/3 Verlust durch 5400 rpm

sehr gut zu wissen, danke

 

4 minutes ago, alturismo said:

parity checks machst du wie oft

Monatlich, gibt ein Gefühl von Sicherheit :D Es kommt auch nicht darauf an, es fiel mir nur auf und vielleicht gibts ja schnelle einfache Tipps

  • Like 1
Link to comment
5 hours ago, strohann said:

Höre ich da raus, dass der Check auch für längere Zeit nicht die volle Gescheindigkeit benutzt aus Gründen?

 

Du könntest da raus hören, daß Festplatten im Außenbereich schneller und im Innenbereich langsamer sind. Zumindest war das meine Intention.

Meine 1x TB Festplatten sind im Innenbereich auch schon mal bei 130 MByte/s, selbst, wenn sie im Außenbereich >250MByte/s schaffen.

Wenn jemand aber beispielsweise 5900RPM SMR <10TB einsetzt sind 130MB eigentlich schon recht flott.

 

5 hours ago, strohann said:

Mit Parity insgesamt 6. Sehe jetzt aber auch, dass ich Platten im Array hab, die nur 5400 rpm haben. Spielt das echt so eine gr0ße Rolle?

 

Meine Seagate Archive v2 8TB SMR ST8000AS0002 mit 5900Rpm liegen im Außenbereich sequentiell lesend bei unter 170 MByte/s und im Innenbereich bei rund 100MByte/s (Siehe Bild unten).

5400Rpm ist eben kein Merkmal für Geschwindigkeitsrekorde.

Und wenn ich Deine Auflistung sehe:

Seagate Enterprise Capacity 12TB SATA 7200RPM (ST12000NM0127)
Seagate IronWolf 4TB SATA 5900RPM (ST4000VN008)
Seagate Exos E - 7E8 8TB SATA 7200RPM (ST8000NM000A)
Western Digital Blue 8TB SATA 5640RPM (WD80EAAZ)

 

Die WD und die 4TB Festplatte werden da die Bremsen sein.

 

5 hours ago, strohann said:

Wenn dir nichts weiter großartig einfällt, würde ich erstmal n Deckel auf die Sache machen und eventuell nach und nach die Platten austauschen gegen schnellere.

Meiner Vermutung nach sind die eben die WD und die 4TB Festplatte die Ursache für die beobachtet Geschwindigkeit. Und wenn der Paritycheck weiter nach hinten kommt, wird die Geschwindigkeit noch fallen.

 

5 hours ago, strohann said:

Allerdings auch nur wenn es sich anbietet. Der Check dauert insgesamt etwas über eienn Tag, was mir zu lange dauert aber ich werde deswegen keine Berge versetzen.

 

Du hast eine 12TB Festplatte drin. weshalb eben viel Fläche geprüft werden muß und der Check wird dann noch durch die WD & 4TB am Anfang abgebremst. Paritycheck 1 Tag ist eigentlich realistisch bei der Konstellation.

 

5 hours ago, strohann said:

Übrigens, im System ist ein i5-9500T

 

Kann man nehmen, ist (bei Neukauf) nicht meine erste Wahl, weil T Prozessoren meist teurer sind als die normalen.

 

5 hours ago, strohann said:

und Seasonic 600W Gold verbaut

 

Das ist bei dem Aufbau bestimmt überdimensioniert  & dadurch sehr ineffizient.

 

5 hours ago, strohann said:

und im Idle (alle Platten aus) habe ich einen Stromverbruch von etwa 45W.

 

Urks! Das erscheint mir viel. Der SAS Kontroller allein wird schon mal für 10-20 W verantwortlich sein (weil er die C-States vermiest).

Ein ASM1166 bietet die Chance auf besseren Verbrauch.

 

Soweit ich Deine Auflistung richtig lese hast Du:

 

ASUS ROG Strix Z370-G Gaming (90MB0W00-M0EAY0)
   2x PCIe 3.0 x16 (1x x16, 1x x8)
   2x PCIe 3.0 x1
   1x M.2/M-Key (PCIe 3.0 x4)
   1x M.2/M-Key (PCIe 3.0 x4/SATA) 
   6x SATA 6Gb/s (Z370)

Broadcom / LSI SAS2308 PCI-Express Fusion-MPT SAS-2 (rev 05)
Samsung Electronics Co Ltd NVMe SSD Controller SM981/PM981/PM983

 

Daran sind dann 6 SATA Festplatten an dem Broadcom (warum? das Mainboard hat doch 6 SATA Anschlüsse.)

und eine NVMe SSD (vermutlich in einem der M.2 Slots).

Dafür ist ein 600W Netzteil zuviel und der Verbrauch durch das Netzteil und die LSI Karte hoch gepuscht.

 

Weil jemand mit 6 Festplatten und NVMe doch bei rund 50W idle (Spinup) schrieb, hatte ich mal auf die Schnelle etwas ähnliches zusammengebaut.

Mit 6 Festplatten idle/Spindown kam ich (mit einem für unraid eher ungünstigen Mainboard) auf rund 26W.

https://forums.unraid.net/topic/173719-stromsparende-hardware-gesucht/?do=findComment&comment=1469067

 

Link to comment
On 9/29/2024 at 5:19 PM, DataCollector said:

ASM1166

Hatte ich mal als 10 (oder so) Port Karte, die is dann nach sehr kurzer Zeit kaputt gegangen oder irgendwas anderes war mit der. Und der LSI erschien mir professioneller...
 

On 9/29/2024 at 5:19 PM, DataCollector said:

warum? das Mainboard hat doch 6 SATA Anschlüsse

An den internen Ports hängen SSDs und einer der Ports teilt sich Bandbreite mit einem der NVMEs und ich hab kein Adapterblech für den zweiten Slot.

 

On 9/29/2024 at 5:19 PM, DataCollector said:

Danke dir für den Test :)

Link to comment
4 hours ago, strohann said:

Hatte ich mal als 10 (oder so) Port Karte, die is dann nach sehr kurzer Zeit kaputt gegangen oder irgendwas anderes war mit der. Und der LSI erschien mir professioneller...

 

Diese SATA Karten mit mehr als 6 SATA Ports sind (in meinen Augen) ziemlich unbrauchbarer Schrott.

Die normalen ASM1166 & ASM1164, die eben nur die nativen Ports bieten sind eigentlich das Non Plus Ultra, von den aktuellen SATA Karten unter unraid.

SAS Kontroller sind (abgesehen von dem 9500) eher energetisch verschwenderisch.

 

4 hours ago, strohann said:

An den internen Ports hängen SSDs und einer der Ports teilt sich Bandbreite mit einem der NVMEs und ich hab kein Adapterblech für den zweiten Slot.

 

Sehr komisch Konstellation.

 

Link to comment

Hab in meiner Bastelkiste gekramt und siehe da: hab eine 8-Port Karte mit einem ASM1166 (vermutlich für die 6 Ports) und einem JMB575, beides zusammen auf einer Karte. Was ich gelesen habe sollte vom 575 Abstand genommen werden.  Kann ich bei der Karte nur die 6 Ports benutzen und die anderen zwei Ports links liegen lassen oder sollte generell die Karte nicht verwendet werden?

Und falls du/ihr euer OK gebt, kann ich den Controller einfach 1:1 tauschen?

Link to comment
2 hours ago, strohann said:

Hab in meiner Bastelkiste gekramt und siehe da: hab eine 8-Port Karte mit einem ASM1166 (vermutlich für die 6 Ports) und einem JMB575, beides zusammen auf einer Karte. Was ich gelesen habe sollte vom 575 Abstand genommen werden.  Kann ich bei der Karte nur die 6 Ports benutzen und die anderen zwei Ports links liegen lassen oder sollte generell die Karte nicht verwendet werden?

Und falls du/ihr euer OK gebt, kann ich den Controller einfach 1:1 tauschen?

 

Zitat: "Diese SATA Karten mit mehr als 6 SATA Ports sind (in meinen Augen) ziemlich unbrauchbarer Schrott."

 

Wenn Dein SAS Kontroller im HBA/IT Modus läuft, kannst Du die SATA Festplatten auch problemlos an einen Standard SATA Kontroller umstöpseln.

 

Link to comment
On 10/1/2024 at 12:41 PM, DataCollector said:

unbrauchbarer Schrott

Und warum ist das so? Kann ich nicht nur die ersten 6 Ports benutzen und die letzten beiden links liegen lassen?

 

Nochmal zum Thema Geschwindigkeit: Ich tausche gerade die 4TB gegen eine weitere 12TB und konnte feststellen, dass die Platten alle gerade um die 200Mb/s am lesen sind und die neue 12TB 200MB/s am schreiben. Also wie kann das sein?

 

Bildschirmfoto 2024-10-03 um 16.51.45.png

Link to comment
1 hour ago, strohann said:

Und warum ist das so?

 

Weil dies Karten zusätzlichje Komponenten verbaut haben, welche die Geschwindigkeit weiter aufteilen und diese Komponenten zuusätzlich Strom benötigen, die Schnittstellengeschwindigkeit reduzieren und wenn man das umgehen will, muß man erst einmal herausfinden welche Komponenten welche SATA Anschlüsse versorgen.

 

SATA Karten mit zusätzlichen Portmultipliern:

Sie teilen nicht die Geschwindigkeit auf, sondern schalten die Verbindung abwechselnd durch. DIe meisten ´Portmultipliert können bis zu 5 abgehende SATA Ports versorgen.

Somit ist die Festplatte/SATA Kontrollerchip ggf. gewzungen zu warten, bis dieser gerade mit der Festplatte verbundene Port wieder an der Reihe ist.

Selbst bei deinem ASM1166 (SATA Kontrollerchip) mit nachgeschalteten 2 (oder mehr) JMB575 (Portmultipliern) sind bei Benutzung nur von 6 SATA Ports (je nach Konstruktion) dann immer JMB575 beteiligt.

 

Bei SATA Kontrollern, welche eine Portzahl > 6 bieten und dies mit PCIe Switchen errreichen ist es auch nicht besser, weil PCIe Switche leider auch einen zusätzlichen Stromverbrauch haben. Weiterhin sind es (je nach Konstrukt) teilweise nur x1 Lane PCIe Switche (die billigsten beherrschen sogar nur PCIe 1.0 oder 2.0).

 

Aufgrund der Beschaltung mit Zusatzkomponenten und der angepassten Firmware (siehe Silverstone Karte) sind einige dieser Zusatzkarten mit ASM1166 auch nicht in der Lage mit den frei verfügbaren Programmen umzuflashen.

 

1 hour ago, strohann said:

Kann ich nicht nur die ersten 6 Ports benutzen und die letzten beiden links liegen lassen?

 

Meist sind 2 Portmultiplier verbaut (um die Bremseffekte nicht zu groß werden zu lassen) und die hängen dann hinter 2 der 6 ASM1166 Ports.

Egal welche 6 SATA Ports man verwendet, es ist dann immer mindestens ein Portmultiplier beteiligt und verbraucht extra Strom, was bei einer normalen ASM1166 mit nur 6 Ports nicht notwendig wäre.

Wenn man die 2 SATA Ports belegt, welche durch den selben Portmultiplier versorgt werden teilen die sich eben auch den einen ASM1166 SATA Port.

 

1 hour ago, strohann said:

Nochmal zum Thema Geschwindigkeit: Ich tausche gerade die 4TB gegen eine weitere 12TB und konnte feststellen, dass die Platten alle gerade um die 200Mb/s am lesen sind und die neue 12TB 200MB/s am schreiben. Also wie kann das sein?

 

Ich weiß leider nicht, an welcher Position Deine Festplatte gerade gelesen/geschrieben wird, aber wenn ich meine

ST12000NE0007 dagegen halte erscheint mir das für den Anfangsbereich rund 40 MB/s zu langsam zu sein.

Erst fast gegen Ende gehen die bei mir schreibend auf 200 oder minimal darunter.

 

Hier 2 Screenshots einer ST12000NE0007 (zusammengefasst):

 

ST12-allZwischenablage.png

Edited by DataCollector
Typos
Link to comment
38 minutes ago, strohann said:

Okey danke.

Der Scan war zu dem Zeitpunkt direkt am Anfang und ist jetzt gerade bei 12,5% und bei 190MB/s.

 

Was meinst Du mit Scan (unter unraid)?

Bei einem Preclear wird jede Festplatte einzeln betrachtet und sollte ihr Maximum erreichen können.

Bei einem Paritycheck wirkt sich die langsamste Festplatte aus und bremst auch die flotteren runter.

 

Link to comment
55 minutes ago, strohann said:

Sorry, Rebuild auf die neue Platte.

 

Ein Rebuild liest alle (anderen) Festplatten incl. Parity. und schreibt auf die wieder herzustellende Festplatte.

Auch hier bremst die langsamste Festplatte im Array alle anderen herunter.

Edited by DataCollector
Link to comment
17 minutes ago, strohann said:

Ja klar, aber die Frage ist, warum ist die durchschnittliche Geschwindigkeit am Ende bei 130MB, obwohl es schneller geht?

 

Exakt kann ich Dir nicht sagen.

 

Grundlegend: Natürlich muß ggf. beim Lesen/Schreiben immer gewartet werden, bis die jeweiligen Sektoren unter dem Lese/Schreibkopf sind und dadurch kommen auch Verluste zustande. Es ist eben unwahrscheinlich, daß alle Festplatten immer absolut gleich drehen und alle in der selben Mikrosekunde den Sektor x unter den Köpfen haben.

 

 

Ist das jetzt die Konstellation mit der 8 Port SATA Karte?

Wenn ja:  Hast Du bei dem ASM1166 mit JMB575 vielleicht wirklich 2 Ports erwischt, welche am selben JMB575 hängen?

Oder hast Du durch Verfolgen der Leiterbahnen wenigstens sichergestellt, daß Du wirklich jedem Festplattenanschluß eine eigenen ASM1166 Port zugeordnet hast?

 

Link to comment

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.
Note: Your post will require moderator approval before it will be visible.

Guest
Reply to this topic...

×   Pasted as rich text.   Restore formatting

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.

×
×
  • Create New...