Datenübertragung zu langsam?

[Exord]

Ich hab zum Test mal eine WD BLACK SN850 eingebaut. Fast identische Werte und Verhalten.

[DataCollector]

1 hour ago, Exord said:

Die eine hab ich von Saturn die andere von Mindfactory. Würde daher schon davon ausgehen, dass das Originale sind.

 

Hast Du mal versucht die SSDs unter dem SamsungTool auf Echtheit zu überprüfen?

(wobei ich auch schon las, daß es da im 980er Bereich unerkannte Fälschungen gab).

[DataCollector]

47 minutes ago, Exord said:

Ich hab zum Test mal eine WD BLACK SN850 eingebaut. Fast identische Werte und Verhalten.

Dann stimmt da generell irgendetwas nicht.

Nur so nebenbei: hast Du es mal mit etwas anderem als unraid ausprobiert?

[Ford Prefect]

Ich fnde es enfach nur merkwürdig...und mit dem was Du sagst, dass es selbst lokal nicht funktioniert, ist es mMn kein Netzwerk, kein SMB und kein unraid Problem.

Das ist ein Hardware Problem...entweder PCIe gedrosselt, das MB defekt oder die Teile haben keinen Cache, was bei Fakes oft vorkommt (die Grösse stimmt, die Performance eben nicht).

Sorry, aber ich bin echt überfragt, was man da noch testen könnte.

 

[Exord]

Also, dass beide SSDs aus unterschiedlichen Quellen Fakes sind glaube ich nicht. Vor allem weil die WD SSD, ja das gleich Verhalten zeigt.

58 minutes ago, Ford Prefect said:

Das ist ein Hardware Problem...entweder PCIe gedrosselt, das MB defekt...

 

Gibt es irgendeine Einstellung im BIOS oder Unraid die die für sowas verantwortlich sein könnte?

 

8 hours ago, DataCollector said:

Dann stimmt da generell irgendetwas nicht.

Nur so nebenbei: hast Du es mal mit etwas anderem als unraid ausprobiert?

Nein, hatte die Hardware extra für diesen Einsatz gekauft.

 

Da ich die Tage ein Upgrade mache wollte, warte ich aktuel sowieso auf eine weitere SSD und ein paar HDDs. Werde diese dann wohl erstmal in meine alte Diskstation einbauen und meine Daten sichern. Danach kann ich ja mal EndeavourOS auf die Hardware bügeln und ein paar Daten hin und her schieben.

 

Sollte es tatsächlich an Unraid liegen, würde ich versuchsweise einen neuen Stick erstellen wollen. Muss ich hier was beachten um meine Pro Lizenz auch auf den neuen Stick zu übertragen?

Edited April 17, 2023 by Exord

[Ford Prefect]

11 minutes ago, Exord said:

Gibt es irgendeine Einstellung im BIOS oder Unraid die die für sowas verantwortlich sein könnte?

in unraid nicht...das bootet ja eh vom Stcik und sitzt im RAM.

Beim BIOS bin ich überfragt, was die modernen Systeme angeht...mit Bifurcation Support und diversen neuen Einstellmöglichkeiten, kann man bestimmt am PCIe Takt oder Bandbreite auch was verbiegen.

 

13 minutes ago, Exord said:

Da ich die Tage ein Upgrade mache wollte, warte ich aktuel sowieso auf eine weitere SSD und ein paar HDDs. Werde diese dann wohl erstmal in meine alte Diskstation einbauen und meine Daten sichern. Danach kann ich ja mal EndeavourOS auf die Hardware bügeln und ein paar Daten hin und her schieben.

 

Ein Vergleichss-System zu haben wäre in der Tat die beste Idee.

 

13 minutes ago, Exord said:

Sollte es tatsächlich an Unraid liegen, würde ich versuchsweise einen neuen Stick erstellen wollen.

Wie gesagt, unraid bootet nur vom Stick und läuft im RAM...wäre mir schleierhaft, wie ea daran liegen könnte.

Mit einem zweiten System kannst Du nach dem Ausschlussprinzip testen, umbauen , testen...irgendwann ergibt sich ein Muster (hoffentlich).

[Exord]

6 minutes ago, Ford Prefect said:

Ein Vergleichss-System zu haben wäre in der Tat die beste Idee.

 

Naja, das Vergleichssystem ist tatsächlich nur ein externes Festplattengehäuse mit 3 Slots. Soviel hin und her bauen werde ich da nicht können. Da mein Desktop ein Intel System ist fällt auch das leider für vieles weg. Ich bezweifelt mal, dass sich die 4. SSD anders verhält. Ich setze morgen nochmal das BIOS zurück. Aber wenn unter EndeavourOS mit gleichen BIOS Einstellungen die SSDs schneller laufen, müsste es ja was mit Unraid zu tun haben. Wie ich Mainboard oder Prozessor testen kann, falls unter Endeavour das selbe Problem auftritt, weiß ich ehrlich gesagt nicht.

[MPC561]

Ich würde im Bios mal alle Stromsparmechanismen deaktivieren. Nicht das eine fehlerhafte Implementierung derselben im Bios zu diesen Problemen führen.

 

Sprich alles was mit ASPM zu tun (PCIE ASPM, DMI ASPM etc.) hat und bei SATA das Aggressive Power Management (Wobei es ja NVMEs sind, aber trotzdem...)

[DataCollector]

On 4/17/2023 at 10:38 PM, Exord said:

Gibt es irgendeine Einstellung im BIOS oder Unraid die die für sowas verantwortlich sein könnte?

In diversen Mainboard BIOS/UEFI kann man die PCIe Speed (1.0   2.0   3.0 ...) einstellen.

Wenn eine M.2 mit nur 2 Lanes angebunden ist (einige Mainboards machen sowas) und der PCIe Standard auf 1.0 reduziert wird, hat man knapp unetr 500MByte/s Geschwindigkeit an der M.2 SSD anliegen. Das ist weniger als SATA-III (6GByte/s = ca. 600MByte/).

 

On 4/17/2023 at 10:38 PM, Exord said:

Nein, hatte die Hardware extra für diesen Einsatz gekauft.

Dann würde ich (je nachdem, was Du bevorzugst) die Hardware mal mit Windows oder einem Linux einzeln testen.

Edited April 23, 2023 by DataCollector

[Exord]

Ich hatte nun EndeavourOS installiert. Hier erreichten beide SSDs fast ihre angegebenen Schreibgeschwindigkeiten. Das lässt mich vermuten, dass es doch etwas mit Unraid zu tun haben muss. Also nahm ich einen neuen USB-Stick und startete ihn mit einem frischen Unraid und es zeigt sich genau das gleiche Problem wie vorher. Kopieren von SSD zu SSD max 900 MB/s und SMB max 300 MiB/s. Ich habe auch versucht, Daten per FTP zu übertragen, interessanterweise erreiche ich auch hier etwa 900 MB/s.

 

Edited April 22, 2023 by Exord

[Exord]

Ich hab nun auch mal eine der beiden SSDs ins Array eingebunden. Interessanterweise führt dies dazu, dass ich von der Cache SSD zu der SSD im Array zwar mit um die 900 MB/s starte, aber immer nach einigen Sekunden auf 300 MB/s falle.

 

Wenn ich beide SSDs ins Array packe erreiche ich nur noch 600 MB/s.

 

Ich werde daraus echt nicht schlau...

Edited April 22, 2023 by Exord

[alturismo]

5 hours ago, Exord said:

Ich werde daraus echt nicht schlau...

wie testest du denn eigentlich, und auch wenn du sicherlich bereits beide Richtungen probiert hast, die kleine 250GB hat "nur" 13GB Turbo, danach schreibt die mit ~ 400 MB/s, nur als Randbemerkung falls es untergegangen ist.

 

https://www.computerbase.de/2019-01/samsung-ssd-970-evo-plus-test/

 

in Summe ist das schon wirr und ich käme auch ins Grübeln, da sollte wesentlich mehr gehen ... powersafe hast du auf ondemand bzw. performance umgestellt ?

[alturismo]

ich hab auch mal cross checked hier

 

 

Ergebnisse, hier sieht man (live) ja schön wann der cache als voll läuft und die Bremsen reinhauen ...

 

Linux 5.19.17-Unraid.
root@AlsServer:~# fallocate -l 10G /mnt/vms/test_10G
root@AlsServer:~# pv -pra /mnt/vms/test_10G > /mnt/cache/test_10G
[ 417MiB/s] [ 417MiB/s] [========================================================================================>] 100%
root@AlsServer:~# pv -pra /mnt/cache/test_10G > /mnt/vms/test_10GII
[1.07GiB/s] [1.07GiB/s] [========================================================================================>] 100%
root@AlsServer:~# fallocate -l 20G /mnt/vms/test_20G
root@AlsServer:~# pv -pra /mnt/vms/test_20G > /mnt/cache/test_20G
[ 769MiB/s] [ 769MiB/s] [========================================================================================>] 100%
root@AlsServer:~# pv -pra /mnt/cache/test_20G > /mnt/vms/test_20GII
[1.09GiB/s] [1.09GiB/s] [========================================================================================>] 100%
root@AlsServer:~# fallocate -l 30G /mnt/vms/test_30G
root@AlsServer:~# pv -pra /mnt/vms/test_30G > /mnt/cache/test_30G
[ 412MiB/s] [ 412MiB/s] [========================================================================================>] 100%
root@AlsServer:~# pv -pra /mnt/cache/test_30G > /mnt/vms/test_30GII
[ 361MiB/s] [ 361MiB/s] [========================================================================================>] 100%
root@AlsServer:~#

 

[alturismo]

Ergänzung, wenn man jetzt zwischendurch immer schön nochmal trimmed und alle caches cleared wird es immer realistischer, das war nur ein kleiner testrun auf die Schnelle ...

[mgutt]

9 hours ago, Exord said:

Daten per FTP zu übertragen, interessanterweise erreiche ich auch hier etwa 900 MB/s

Nun, dann hast du doch deine Antwort. SMB ist das Problem.

 

Bei dir funktioniert vermutlich kein SMB Multichannel. Siehe:

 

 

Hier siehst du auch exakt dein Problem:

 

 

 

 

[Exord]

1 hour ago, mgutt said:

Nun, dann hast du doch deine Antwort. SMB ist das Problem.

 

Bei dir funktioniert vermutlich kein SMB Multichannel. Siehe:

 

 

Hier siehst du auch exakt dein Problem:

 

 

 

 

 

 

Tatsächlich habe ich die Topics schon vor ein paar Tagen gefunde. Leider war das nicht die Lösung meines Problems. Im Unterschied zu den Beiträgen kommen meine SSDs ja auch nicht aus dem Quark, wenn ich direkt von SSD zu SSD kopiere hier sollte doch SMB keine Rolle spielen, oder?

 

[mgutt]

7 minutes ago, Exord said:

Im Unterschied zu den Beiträgen kommen meine SSDs ja auch nicht aus dem Quark, wenn ich direkt von SSD zu SSD

Keine Ahnung was du da getestet hast, aber das macht keinen Sinn. Wenn du per FTP mit 900 MB/s auf ein RAID1 aus SSDs schreiben kannst, dann entspricht das ja 1.8 GB/s Bandbreite in Summe. Warum sollte dann zwischen den SSDs was anders sein.

 

9 minutes ago, Exord said:

Leider war das nicht die Lösung meines Problems

Das ist mir deutlich zu wenig Text für so ein komplexes Thema. Es gibt zig Wege den SSHFS Overhead zu umgehen. Was hast du alles gemacht? Hast du also RSS am Laufen?

[Exord]

1 hour ago, mgutt said:

Keine Ahnung was du da getestet hast, aber das macht keinen Sinn. Wenn du per FTP mit 900 MB/s auf ein RAID1 aus SSDs schreiben kannst, dann entspricht das ja 1.8 GB/s Bandbreite in Summe. Warum sollte dann zwischen den SSDs was anders sein.

 

Das ist mir deutlich zu wenig Text für so ein komplexes Thema. Es gibt zig Wege den SSHFS Overhead zu umgehen. Was hast du alles gemacht? Hast du also RSS am Laufen?

 

Ursprünglich bestand mein Problem darin, dass ich nach dem Upgrade auf 10g nur 300 MB/s über SMB erreichen konnte.

 

Später habe ich jedoch Folgendes getestet. Zunächst habe ich kein SSD-Raid, sondern zwei separat organisierte NVME-SSDs. Zum Testen habe ich ein 40Gb MKV von einer NVME direkt auf die andere NVME kopiert. Wenn ich nun versuche, von einer SSD auf die andere zu kopieren, erhalte ich eine maximale Geschwindigkeit von 900 MB/s. Das erscheint mir etwas gering zu sein, da die SSDs mit 3500 MB/s spezifiziert sind und ich dies mit der gleichen Hardware unter einem anderen Betriebssystem mehr oder weniger erreichen kann (getestet unter EndeavourOS). In der Zwischenzeit hatte ich die SSDs auch in einen Win-PC eingebaut. CrystalDiskMark kam auch hier mit SEQ1MQ8T1 um die 3300 MB/s.

 

Später fand ich heraus, dass ich über FTP mehr oder weniger die gleichen Geschwindigkeiten habe, wie wenn ich direkt von NVME zu NVME kopiere. Da 900 MB/s nicht einmal in die Nähe von 3500 MB/s kommen, denke ich, dass es schon hier ein Problem gibt.

 

Vielleicht sind die SSD-Leistung und die SMB-Leistung auch zwei verschiedene Probleme.

 

Was habe ich bisher versucht:

• Ich habe die SMB-Einstellungen geändert und verschiedene Kombinationen ausprobiert. Die aktuelle Konfiguration ist beigefügt.
• Ich habe alle FS ausprobiert.
• Ich habe die Bios-Einstellungen überprüft, die hier erwähnt wurden, von aggressiven Energieeinstellungen bis hin zum Energiesparen.
•  Habe Datenträger-Freigaben aktiviert.
• Direct I/O aktiviert
• Ich habe verschiedene Einstellungen in Tips und Tweaks ausprobiert. Es gab auch kleine Verbesserungen mit der aktuellen Einstellung.
• Ich habe die Firmware der SSDs überprüft, aber sie war auf dem neuesten Stand.
•  Verschiedene Datenträger Einstellungen getestet, aktuelle Konfiguration angehängt.
• Ich habe die SSDs zum Testen in das Array verschoben, was zu einer Verlangsamung der Schreigeschwindigkeit von NVME zu NVME führte.
• Ich habe jetzt NVME 4 SSDs im System getestet, derzeit habe ich 2 x 2tb Samsung 970 Evo Plus im System. Ursprünglich war es eine 250 gb und eine 2tb Samsung 970 Evo Plus. Auch die getestete WD NVME erreicht genau die gleiche Geschwindigkeit wie die Samsungs.
• Daten habe ich über SMB und FTP über 2 verschiedene Clients getestet.
• Verbindung über Iperf geprüft.
• Einen neuen Unraid USB Stick erstellt.

 

Egal welche Kombination ich in den oben genannten Punkten ausprobiert habe, die einzige marginale Änderung konnte durch die Einstellung in Tips und Tweaks erreicht werden.

 

 

 

 

Edited April 23, 2023 by Exord

[mgutt]

2 hours ago, Exord said:

• Habe Datenträger-Freigaben aktiviert.

Kopiere auf die SSD über eine Datenträger-Freigabe und beobachte die Prozesse mit htop.

 

2 hours ago, Exord said:

Direct I/O aktiviert

Wie das denn? Und natürlich sollte das nicht aktiv sein. Damit verhindert man ja jegliches Caching

 

2 hours ago, Exord said:

Ich habe verschiedene Einstellungen in Tips und Tweaks ausprobiert

Plugin löschen und neu starten. Halt dich an die Standardeinstellungen. Unraid arbeitet bei allem im Performance Modus.

 

2 hours ago, Exord said:

von einer SSD auf die andere zu kopieren, erhalte ich eine maximale Geschwindigkeit von 900 MB/s. Das erscheint mir etwas gering zu sein, da die SSDs mit 3500 MB/s spezifiziert sind

Zeig mal den exakten Befehl. War dabei Direct I/O an? Sind die SSDs unterschiedlich angebunden, also an CPU und Chipsatz? Beide zB an den Chipsatz kann natürlich eine totale Begrenzung resultieren.