Kopieren über Lan Kabel verlangsamt sich


Fistudio

Recommended Posts

Servus Miteinander

 

habe nochmal so eine Frage an Netzwerk von Unraid 

 

habe in meinem HP P72 Proliant 350p 2x 10Gbe und 4x 1GBe

mit einem iLO..

 

habe alles angestopselt...

an einem Unifi Switch, der Leider noch 1GBe und die beiden 10Gbe ehm noch 1GBe hat..

dennoch habe ich hier 6 Anschlüsse im unraid als Bond laufen

 

im Oberen Stock, im Büro habe ich einen Weiteren Switch von Unifi, genau das gleiche..

bei dem ich 2x 1GBe Kabel runter in den Keller zum anderen Switch habe, 2x als Bond von Switch zum Switch

 

Meinem MacPro mit dem ich Videos bearbeite und so manch anderer Sachen..

vom MacPro gehen wiederum 2x 1GBe Lan Kabel zum Switch die ich als Bond im Mac Laufen habe...

 

Jetzt habe ich eine Super Schnelle Festplatte Seagate 12TB dran an dem MacPro bei der ich mit dem Finalcut Arbeite

die ich aber dann nach 8TB mal runter in meinem neuen Unraid Server laden möchte..(Backup)

 

der neue Server hat im Moment 2 Parity mit 8TB; 

dann 4x 8TB als Array..

8x 5TB 2,5TB als Raid

und noch dazu baue ich gerade den Linken Slot aus, bei dem ich weitere 8x 8TB Seagates reinstecken kann

 

 

Leute...ich sag euch, das dauert ja Ewigkeiten!!

 

wie ich Arbeite:

Schneiden auf der Festplatte vom Mac (Superschnell,...wirklich sehr sehr schnell)

dann über den Mac die Dateien über den 2xLan Bond zum Unifi Switch , der dann mit 4x 1GBE Lan Kabel zum Keller Unifi Switch der dann mit 4x 1GBe und nochdazu 2x 10GBe ehm 1GBe also 6xBond rein in den Unraid Server als SMB fungiert

 

die ersten GB laufen Superschnell...dann wird das ganze Langsam....aber derart langsam, dass nur mehr Megabyte gezählt werden

wenn ich dann auf Stop klicke...und nach 2 Min wieder starte....geht das anfangs wieder Schnell...dann hinterher das gleiche Spiel...

 

habe ich da was falsches dran??

 

 

Ich hänge mal eine Zeichnung dran, damit ihr das nachverfolgen könnt....

 

 

 

Bildschirmfoto 2021-03-20 um 16.55.09.png

Link to comment
24 minutes ago, Fistudio said:

der neue Server hat im Moment 2 Parity mit 8TB; 

dann 4x 8TB als Array..

8x 5TB 2,5TB als Raid

und noch dazu baue ich gerade den Linken Slot aus, bei dem ich weitere 8x 8TB Seagates reinstecken kann

...erklär mal was das "raid" genau ist?

meinst Du einen cache?...hast Du da HDDs (welche) drin und welchen Raid-Level hast Du gewählt?

 

 

Quote

 

Schneiden auf der Festplatte vom Mac (Superschnell,...wirklich sehr sehr schnell)

dann über den Mac die Dateien über den 2xLan Bond zum Unifi Switch , der dann mit 4x 1GBE Lan Kabel zum Keller Unifi Switch der dann mit 4x 1GBe und nochdazu 2x 10GBe ehm 1GBe also 6xBond rein in den Unraid Server als SMB fungiert

...also Ende-zu-Ende max. 2x1GB - Der Bond zum Mac ist "das Bottleneck"

 

Edit: ...und welche Art von Bond ist eingestellt (dynamisch-LACP/statisch-LAG) beim MAC, den Switches und unraid?

Hast Du das mal mit iperf getestet?...also ohne das "Probblem" SMB & Disk Performance?

 

Quote

 

die ersten GB laufen Superschnell...dann wird das ganze Langsam....aber derart langsam, dass nur mehr Megabyte gezählt werden

wenn ich dann auf Stop klicke...und nach 2 Min wieder starte....geht das anfangs wieder Schnell...dann hinterher das gleiche Spiel...

...erkläre mal genau, was da so abgeht...initiale MB/s...dann was?...kannst Du einen Screenshot machen?

Wie viel RAM hat Deine Kiste nochmal?

 

Edited by Ford Prefect
Link to comment

die 8x 2,5zoll Platten sind alles 5TB und an einem Raid Controller angeschlossen als durchschlief, also ohne Raid, mit ich das mit dem unraid machen kann...

 

als Cache habe ich 3x 250GB SSD, die direkt an dem Server Mainboard als Sata Stecker angesteckt sind

und nochmal 2x 250GB als SSD für die VMs, wie Windows und Mac, und auch der Ubuntu als vDisks

 

am Mac Pro habe ich 2x 1GBe Ausgang,

bei dem einfach in das Netzwerk Menu und dort eine neue Bündelung hinzufügen,

beide LanAnschlüsse ausgewählt und als Link Aggree dazugetan...dann sehe ich nur mehr 1 Anschluss mit den Namen Bond...

Beide Lans sind auf Grün, beide haben Automatisch ipv4, beide nutzen ein MTU von 1500 das Standart und Automatisch eingestellt ist.

 

dann der Switch selber habe ich einfach auf Link Agree eingestellt...beim Unifi im Center 

die beiden LANS zusammengetan, 

 

dann unten im keller den anderen Un wifi Switch genauso die beiden Lan Ports zusammengetan als Link Agree,

und dann die 6x Lans zum Unraid genauso als Bond zusammengesetzt...

 

im Unraid selber aus Standart gelassen...so wie er das einstellt

die Parity habe ich auf Pause gelassen...weil mit Aktivem Paritiy ist das ja nochmal Langsammer

 

umkopieren:

Ich Montiere einfach das Volume als SMB im Mac, 

Ich sehe den Server in der Liste, klicke da drauf und schon zeigt es mir die ganzen Frei gegebenen Ordner an

ich ziehe einfach die Dateien in den Ordner und er fängt an zu kopieren

 

es sind ingesamt 480GB an Daten, 

die er dann Kopiert...

anfangs paar Minuten kommen schnell mal die ersten 10GB zusammen...das geht ratzfatz...

dann wird es Langsamer und Langsamer...irgendwann mal bei 100GB dann soooooo langsam, dass man meint nach Minuten beobachten, da ist was abgestürzt....

 

 

Link to comment
1 hour ago, Fistudio said:

die ersten GB laufen Superschnell...dann wird das ganze Langsam....aber derart langsam, dass nur mehr Megabyte gezählt werden

wenn ich dann auf Stop klicke...und nach 2 Min wieder starte....geht das anfangs wieder Schnell...dann hinterher das gleiche Spiel...

Das es erst schnell geht und dann langsam, könnte das RAM Caching sein:

 

4 minutes ago, Fistudio said:

die 8x 2,5zoll Platten sind alles 5TB und an einem Raid Controller angeschlossen als durchschlief, also ohne Raid, mit ich das mit dem unraid machen kann...

Oben hattest du noch RAID geschrieben. Also ist es kein RAID, sondern alle Platten sind im Array?

 

Du kopierst vermutlich auf eine der ganzen HDDs und nicht auf mehrere? Was sagt die Transferrate im Dashboard bei der Disk-Übersicht? Welche Disk wird gerade genutzt? (rechts oben das Striche-Icon aktiviert die Transferrate).

 

Mein heißer Tipp sind die Platten. 5TB 2.5 Platten sind SMR Platten. Vermutlich von Seagate? Die sind leider der letzte Müll. Was du jetzt brauchst ist ein großer SSD Cache. Also am besten 2TB, damit du die 2.5 Zoll Platten gar nicht "spürst". Ansonsten wirst du mit deinem Setup keine Freude haben. Oder noch besser. Klopp das Teil in die Tonne und hol dir einen Server, der 3.5 Zoll Platten aufnimmt. Es gibt nämlich keine großen 2.5 Zoll Platten ohne SMR. Oder du musst auf Datacenter SSDs wechseln. Was die kosten, muss ich aber denke ich nicht sagen.

 

 

Wenn du dagegen auf die SSDs kopierst (wie gesagt check das Dashboard), dann liegt die Ursache woanders. Vielleicht am SHFS Overhead? Dafür mal das Array stoppen und die Disk Shares aktivieren. Dann direkt auf die Cache Disk Dateien übertragen. Ist es dann besser?

 

Welche CPU ist im Server verbaut?

 

Und bitte poste Screenshots. Umso mehr umso besser. Von der Disk-Aktivität, vom Kopiervorgang usw. Dann kann man sich ein besseres Bild machen.

 

  • Like 1
Link to comment

es ist ein trauriges Spiel, ich bekomme grad und mal 1Mbit her

teilweise sinkt das alles runter auf kb Bereich... dann geht er hoch auf 1Mbit dann wieder runter auf KB...nix mit 100MBIT...das wäre klasse

 

Das Video ist sehr informativ, Danke

 

nun ich habe Ram: Verwendbar 133,7GB und Maximal steht da 768, Ram: 2% und Flash 4% Protokoll 1% 

 

CPUs sind die Xeon E5-2670 (0) mit 8C und 16Kerne a 2,6Ghz, drinnen, die Tausche ich nächste Woche für die E7 mit 15C und 30Kerne mit 2,8Ghz um

 

 

Bildschirmfoto 2021-03-20 um 20.17.04.png

Link to comment

mache grad einen vergleich mit der Synology Rack station

 

die gleiche Ordner kopiere ich auf meinem HA Cluster

auch da habe ich 4x 1GBE Kabel mit dem gleichen Switch,..und die gleiche Strasse bis in den keller..

 

dort hat der Kopiervorgang den unraid in Sekunden eingeholt..

da steht auch in 8 Stunden und nicht 5 Tage!!

 

wie kann das sein, 

 

Bildschirmfoto 2021-03-20 um 20.26.08.png

Bildschirmfoto 2021-03-20 um 20.26.51.png

Link to comment
2 hours ago, Fistudio said:

am Mac Pro habe ich 2x 1GBe Ausgang,

bei dem einfach in das Netzwerk Menu und dort eine neue Bündelung hinzufügen,

beide LanAnschlüsse ausgewählt und als Link Aggree dazugetan...dann sehe ich nur mehr 1 Anschluss mit den Namen Bond...

Beide Lans sind auf Grün, beide haben Automatisch ipv4, beide nutzen ein MTU von 1500 das Standart und Automatisch eingestellt ist.

 

dann der Switch selber habe ich einfach auf Link Agree eingestellt...beim Unifi im Center 

die beiden LANS zusammengetan, 

 

dann unten im keller den anderen Un wifi Switch genauso die beiden Lan Ports zusammengetan als Link Agree,

und dann die 6x Lans zum Unraid genauso als Bond zusammengesetzt...

 

im Unraid selber aus Standart gelassen...so wie er das einstellt

Ich habe oben versucht zu sagen, das es unterschiedliche Standards für Bonding gibt

Jeweils die Komponenten, die sich einen Bond teilen, zB MAc + Switch-1, Swicth-1 und Swicth-2, Swiitch-2 und unraid müssen für jede der genannten Verbindungen identische Bonding Verfahren nutzen.

 

Am einfachsten wäre ein Test der Netzwerk-Performance ohne Datei-Transfer....dann kann man dieses potentielle Problem mal testen und ausschliessen.

Das Tool dafür heisst "iperf" ... du brauchst einen Client, zB auf dem Mac und einen Server zB auf unraid.

 

Quote

umkopieren:

Ich Montiere einfach das Volume als SMB im Mac, 

Ich sehe den Server in der Liste, klicke da drauf und schon zeigt es mir die ganzen Frei gegebenen Ordner an

ich ziehe einfach die Dateien in den Ordner und er fängt an zu kopieren

 

es sind ingesamt 480GB an Daten, 

die er dann Kopiert...

anfangs paar Minuten kommen schnell mal die ersten 10GB zusammen...das geht ratzfatz...

...der einfachste Versuch ist erstmal der: was heisst "ratzfatz" genau....kommst Du in dieser Phase bei dem Versuch auf über 200MB/s "MegaByte", nicht "MegaBit".

Dein Bond vom Mac kann nämlich nicht mehr...dann wäre das Netzwerk zumindest erstmal nicht Prio 1 bei der Problemsuche.

Edited by Ford Prefect
Link to comment

so..

das da ist der unterschied

 

da stimmt was mit dem unraid server nicht

 

oder irgendwas anders?

die Festplatten sind die gleichen..

die SSD im Unraid sowie im Syno sind die gleichen

RAM hat der SYNO 60GB beim unraid sind's 140GB

der Syno hat keine Grafikkarten und auch keine DualCPU drinnen...

der Unraid aber schon

 

und der Syno arbeitet nur mit 4x 1GBe 

der unraid hat nochdazu die beiden 10GBe die aber auf 1GBE unifi gehen...

 

ich weis kein Reim mehr...ich mache mal das iperf...

 

Bildschirmfoto 2021-03-20 um 20.32.43.png

Link to comment
9 minutes ago, Fistudio said:

die Festplatten sind die gleichen..

die SSD im Unraid sowie im Syno sind die gleichen

RAM hat der SYNO 60GB beim unraid sind's 140GB

der Syno hat keine Grafikkarten und auch keine DualCPU drinnen...

der Unraid aber schon

Du ziehst nicht die richtugen Schlüsse.

Ich nehme mal stark an, die Syno hat ein Raid mit striping aufgebaut.

 

9 minutes ago, Fistudio said:

und der Syno arbeitet nur mit 4x 1GBe 

der unraid hat nochdazu die beiden 10GBe die aber auf 1GBE unifi gehen...

Ausserdem - und das sage ich jetzt zum letzen Mal - da Dein Mac nur ein Bond aus 2x1GBE hat kann auch ein Bond aus 6x1GBE im unraid nicht schneller sein als 2x1GBE.

Das Bond im Mac ist bei Deinem Test der Flaschenhals, was das Netzwerk angeht.

 

Daher mein Empfehlung etwas systematischer vorzugehen...Du hast da mehr als eine potentielle Fehlerquelle im Setup!

 

9 minutes ago, Fistudio said:

ich weis kein Reim mehr...ich mache mal das iperf...

Gut, zuerst mal die Autobahn testen, dann die Fahrzeug-Arten drauf....hoffe Du verstehst.

 

Link to comment
15 minutes ago, Fistudio said:

habe ich, 

und das iperf ist auf on

 

und nun?

OK, gehe im unraid in die Kommandozeile -> im web-UI, oben rechts auf das ">_" Symbol klicken, dann geht ein Fenster auf.

 

Dort dann "iperf3 -s" eingeben und RETURN ...dann startet der iperf Server auf unraid.

 

Auf dem MAC, analog, im Terminal dann: iperf3 -c <IP-von-unraid> 1300m -t30 -i5 ausführen

 

siehe auch: https://stadt-bremerhaven.de/geschwindigkeit-im-netzwerk-testen-iperf-auf-der-synology-diskstation/ ...kannst Du auch mit der Syno testen.

 

Den client kannst Du mit CTRL-C auf dem Mac beenden...den Server auf unraid ebenso.

 

....und dann nochmal mir einem -P4 dabei, also iperf3 -c <IP-von-unraid> 1300m -t30 -i5 -P4

Sag mal was rauskommt, bei den Versuchen...

Link to comment

Du hast oben im Screenshot auf disk1 Lesen und Schreiben gleichzeitig. Auf der Parität wird nur geschrieben. Daraus schließe ich, dass du Reconstruct Write aktiviert hast. Korrekt? Du hast zu Anfang geschrieben, dass du nichts an den Einstellungen geändert hast. Aber Reconstruct Write ist keine Standardeinstellung.

 

Du hast geschrieben, dass du in der Syno das selbe Setup fährst. Also in der Syno hast du auch Seagate Archive Platten verbaut? Diese sind gar nicht zulässig in einer Syno. Würde mich daher wundern. Die Archive Platten sind nämlich SMR Platten und mögen es überhaupt nicht, wenn man auf von gleichzeitig liest und auf ihnen schreibt. Diese sind nur für sequentielle Backups für die Schublade gedacht.

 

Dann verschlimmerst du die Sache vermutlich noch, weil du mit einem Bonding aus einem Schreibprozess zwei Schreibprozesse parallel auf der HDD machst.

 

Warum wird außerdem dein Cache nicht genutzt? Nutzt der Share auf den du kopierst, keinen Cache?

 

Warum sind SSDs in deinem Array? Das wird nicht empfohlen. Es steht nicht fest, ob diese fehlerfrei mit der Parität zusammenarbeiten. Außerdem werden die extrem ausgebremst, da sie ja von der Geschwindigkeit der Parität abhängen.

 

Und was ich jetzt gar nicht mehr verstehe. Wo sind denn jetzt die 2.5 Zoll Platten?!

Link to comment
1 hour ago, Fistudio said:

was sagt das aus?

Siehst du doch selbst. 1 kommt auf 900 Mbit/s und 4 auf 200 Mbit/s. Keine Verbindung liegt also über 1G LAN. Das ganze Bonding zum Server funktioniert nicht und bei 4 gibt es sogar massive Probleme im Netzwerk. Was nun 1 und 4 ist, keine Ahnung. Kann dir nicht folgen ^^

Link to comment

bist du dir da ganz sicher dass die es nicht mögen, 

in meiner Syno sind die Seagate NASware seit 2016 verbaut, und dort ist sogar keine der Platten  je Kaputt gegangen,

abgesehen davon den 4TB RED NASware die man empfiehlt, die sind andauert hin!!

WD Blue...andauert hin!!

 

wieso solltn die 8TB in einer Syno nicht laufen?

wie gesagt, ich habe die seit 2016 im Einsatz, bin damit superzufrieden

 

eines versteh ich nicht ganz

die Router runter also die Strasse runter in den Keller ist die gleiche

sind 2x unifi Switches

sind die gleichen Kabel...sogar die gleiche Farbe haben alle Kabel unten im Keller...von dem Switch zum Servern

 

beide Syno Server Laufen Tadellos...beide haben die gleiche Strasse also gleiche Strecke 

die Hardware ist anders, und das System ist anders...rest müsste gleich sein...

 

das einzige was anders ist, sind 2 Seagate von Ironwolf jetzt im unraid, die ich als Parity gewählt habe...

rest sind auch die NASware von dem Seagate...die im Syno schon seit 2016 Laufen habe, 

 

die Habe ich Formatiert und stammen von der dritten Syno die ich hatte als Backup gedacht...dich ich nicht brauche weil dort bei den anderen beiden ein HA läuft

dh High Avaib...

 

Ich versteh von dem ganzen Tests nicht..

ich als User und YouTube Gucker sehe dass das so gemacht wird...wenns besser wird dann find ich es für gut,

wenns schlechter wird, schreibe ich eine Hilfe...und versuch das zu lösen

 

nun zu der Strasse:

Ich als User....stecke eben Kabel ein...und check ob das geht..ob der Kabel nun CAT5 oder 6 oder 7 hat ist mir ehrlich gesagt egal

es muss Schneller gehen...wenn schon 2 Leitungen zu der gleichen Haustür geht....Auch Strom Kabel in einem Haus ist mehr Strom, und 2 Wasserleitungen in dem gleichen Haus Eingang ist eben mehr Druck!!

 

beim Syno lauft dies einwandfrei...was dort eingestellt wird oder ist, kann ich nicht sagen...irgendwas Läuft dort intern Automatisch ab

beim Unraid in der gleichen Leitung habe ich massive Probleme...Ich kann nicht mal einen Film auf meinem MacPro angucken!! der bleibt hängen und ist so nicht mal Lustig

 

Ich kann im Syno 5 iPads auf die Datei zugreifen habe mehrere TVs mit der gleichen Datei am laufen!!

habe noch 3 iPhones dazugehört...mit der gleichen Datei...

und noch dazu 3 iMacs und mein MacPro laden ehm Schauen die gleiche Datei....und das Läuft!!! und wie das Läuft

 

im Unraid kann ich nicht mal einen MacPro daran schauen lassen...da bleibt alles stecken und Hängen...

die iPads und iPhones sehen das alles verpixelt...dann die AppleTV dazu kommt nix mehr

 

wo liegt hier ds Problem

aber nicht an Festplatten 

oder an einer SSD...oder am Ramspeicher oder an Grafikkarten?

oder an einer CPU denn,  sind mehr als Ausreichend für ein bisschen Video!!

 

 

Link to comment

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.
Note: Your post will require moderator approval before it will be visible.

Guest
Reply to this topic...

×   Pasted as rich text.   Restore formatting

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.