Jump to content

keine 10 Gb/s mit intel x540-T2 :(


memnon

Recommended Posts

Hallo miteinander,

 

ich bin noch neu im Unraid-Universum. Habe hier jedoch schon etwas "rumgelesen". Jedoch komme ich diesem Problem nicht auf die Schliche.

Unraid 6.11.5 ist direkt verkabelt (Cat.6 ca 2m) mit Win10. 

Nun habe ich in der Unraid Konsole iperf im Server-Mode gestartet und von WIn10 den Client-Mode. Nachdem ich die MTU auf 9000 bzw 9014 (win10) setzte komme ich immerhin auf ca. 4 Gb/s. mit einer MTU von standardmäßigen 1500 wars deutlich weniger (im Schnitt 1,55 Gb/s).

Nun denke ich bei Iperf3 kommunizieren die Karten direkt miteinander - Zugriffe auf Massenspeicher fallen aus der Gleichung. Wieso kommen keine 10Gb/s?

Im Win10 habe ich die

Flußsteuerung Rx/Tx aktiviert. Aus brachte keine Durchsatzerhöhung.

Speed&Duplex: fest auf 10Gb/s vollduplex

Large-Send-Offload V2 (IPv4): aktiviert. Aus brachte keine Durchsatzerhöhung.

RSS-Warteschlangen: 2

 

Ich habe extra vom Athlon 200GE auf einen Ryzen 5600G (@45W?) hochgerüstet damit dieser Flaschenhals wegfällt. Achja, die Karte ist ja eine Dual-Port-Karte, ich habe momentan nur jeweils einen Port (zur Direktverkabelung) benutzt. Der 2. ist jeweils frei. Dürfte jedoch egal sein.?

 

Danke für Eure Hinweise.

Link to comment
24 minutes ago, memnon said:

Unraid 6.11.5 ist direkt verkabelt (Cat.6 ca 2m) mit Win10. 

mein erster Ansatz wäre jetzt zumindest ein cat 6a oder cat Kabel zu testen, cat 6 kann gehen, muss aber nicht ...

 

meine 10G Erfahrungen waren alle mit DAC Kabeln, hatte immer problemlos 10G anliegen ...

Link to comment

Welche 10Gbit Karten hast du den im Main PC? Was für eine PCIe Anbindung haben die Karten (Unraidserver/MainPC?) 

auf welchen PCIe Slots sind die Karten installiert. Es ist sehr gut möglich das die Karten nicht genug Bandbreite bekommen.

 

 

Unraid X540-T2

PCIe v2.1 (5.0 GT/s) 8x, Steckt die Karte auch in einen 8x Slot? 

 

PC ? ? ? 

PCIe v ? ? ? selbe Frage

Edited by domrockt
  • Like 1
Link to comment

beide Karten sind Intel(R) Ethernet Converged Network Adapter X540-T2
image.png.000699c159714f22d4a8bb4b9a05664e.png

Also in UNraid und der Workstation. Interessanter Ansatz. Die PCie-Schnittstelle hatte ich noch nicht bedacht. In der Workstation ist sie, bedingt durch M-ATX im einzigen Slot dafür. Im x16 steckt die Graka welche gut 2 Slots belegt. Beim B450m Aorus bleibt da nur der unterste Slot als Möglichkeit. Ich hatte erst das B450m TUF pro gaming in der Workstation doch die Graka hatte dort alle Slots überdeckt. So musste ich die Boards tauschen und im Unraid ist nun das Asus-Board. Dort steckt die Lan-Karte nun im x16 Slot und die LSI-Karte (für 4x Sata) unten im letzten. Die Lan-Karte wird recht warm, man mag sie ungern mit der Hand anfassen und durch den Einbau in den oberen Slot erhoffe ich mir bessere Belüftung.

PC? Welche Infos fehlen noch

 

Link to comment

Auf dem AORUS Board läuft eine Karte mit

 

PCIE 2.1 4x Geschwindigkeit 2,0 GByte/s

 

B450m TUF Pro Gaming 

 

pcie 2.1 8x Geschwindigkeit 4,0 GByte/s

 

 

von der Bandbreite sollte es also gehen.

 

 

 

Hab alle infos aus deiner signatur :D

 

läuft es den Jetzt besser nach deinem Umbau?

Link to comment

Ja, ich dachte mir das wäre nicht verkehrt in die Signatur zu packen ;)

 

Es läuft unverändert (Umbau abgeschlossen). laut meinen Recherchen ist eine PCI-E-2.0-Lane(Leitung) mit 5Gbit/s (ca. 500MByte/s) schnell. also benötigt man 2 stück davon um eine 10Gb/s-Karte

auslasten zu können. Das sollte sollte also eigentlich reichen. Dennoch tut es das offensichtlich nicht :(

 

Ich könnte mir noch vorstellen das die Karte im Server (Fractal R4-Gehäuse) zu warm wird und drosselt.?

Link to comment
On 6/8/2023 at 1:12 PM, alturismo said:

meine 10G Erfahrungen waren alle mit DAC Kabeln, hatte immer problemlos 10G anliegen ...

...nur als Ergänzung, ich habe meine Desktops und unraid-Host auch mit DAC (ConnectX-3) angeschlossen...dazwischen liegt aber eine Strecke zwischen den Etagen-Switches über 18m CAT5e und 10G-T Transceivern (fs.com 80m und MT S-RJ10)...

 

 

Link to comment
4 hours ago, memnon said:

Ja, ich dachte mir das wäre nicht verkehrt in die Signatur zu packen ;)

 

Es läuft unverändert (Umbau abgeschlossen). laut meinen Recherchen ist eine PCI-E-2.0-Lane(Leitung) mit 5Gbit/s (ca. 500MByte/s) schnell. also benötigt man 2 stück davon um eine 10Gb/s-Karte

auslasten zu können.

 

beachte, daß eine 10GBLan Anbindung 2 Richtungen gleichzeitig hat und somit im absoluten (seltenen) Peak eine Gesamtbandbreite von rund 20 GBit/s möglich sein sollte. Aber den EthernetLink (seine ausgehandelte nominelle Geschwindigkeit) selber beeinflusst das nicht. Wenn die PCIe Anbindung selber nur weniger kann, wird eben weniger transportiert. Der link bleibt aber hoch.

 

Link to comment
4 minutes ago, memnon said:

Danke DataCollector. Also könnte die PCIe2.0 x4 Anbindung des B450m Aorus der Flaschenhals sein?.

Kann ich noch was testen um zu verifizieren und Punkte auszuschließen?

PCIe 2.0 x4 ist fuer Summe rund 2GBit/s gut.

Somit sollte die Steckkarte (fast) 2x 10GBit/s in eine Richtung oder 1x 10GBit/ Duplex fast Peak transportieren können.

 

Um beide verbauten Ports gleichzeitig Duplex Peak zu nutzen sind die x8 aber schon notwendig.

Einige kleinen EInbußen bei Nutzung nur eines RJ45 Anschlusses mit 10GBLan würde ich schon annehmen, aber warum es so weit einbricht, wie Du beschrieben hast, erkenne auch ich nicht.

 

Intel X540-T2 10G LAN-Adapter, 2x RJ-45, PCIe 2.1 x8 (X540T2BLK)
https://geizhals.de/intel-x540-t2-x540t2blk-a812356.html

 

Ich habe versucht das B450M AORUS zu finden und recherchieren.
Ich finde
  GIGABYTE B450M AORUS Elite
  GIGABYTE B450 AORUS Elite
  GIGABYTE B450 AORUS Elite V2
  GIGABYTE B450 AORUS M
  GIGABYTE B450 AORUS Pro
  Und noch ein paar Varianten mit Wifi.
Was hast Du da genau?

 

Laut Deiner Signatur ist je eine dieser Intel in jedem der beteiligten Boards?

 

Deshalb habe ich auch versucht das B450m TUF Pro Gaming zu finden.
Ich finde
  ASUS TUF Gaming B450M-Pro II
  ASUS TUF B450-Pro Gaming
  ASUS TUF Gaming B450M-Pro S
  ASUS TUF B450M-Pro Gaming
Auch hier die Frage: Was hast Du da genau?

 

 

 

 

Link to comment

Oh ich war zu unpräzise, Verzeihung. Ich habe mein Signatur konkretisiert.

der Server hat das TUF B450M-PRO GAMING und der Client B450 Aorus M.

Die Lan-Karte ist genau die. Ich dachte mir ich nehme Intel weil die eine sehr gute Kompatibilität haben. Doch das die nicht die Leistung liefern, mhhh böd. 

Momentan wird jeweils nur ein Port von der Dual-Port Karte genutzt. Solange der nicht volle Leistung bringt sehe ich auch keinen Sinn den 2. auch noch zu nutzen. Außerdem denke ich nicht das der Server mit den Datenträgern 20Gb/s verarbeiten kann.

Hmmmm, fällt mir nur noch die Temperatur ein. 

Oder gibt's noch andere Ideen?

 

Vielen Dank.

Link to comment
20 hours ago, memnon said:

Danke DataCollector. Also könnte die PCIe2.0 x4 Anbindung des B450m Aorus der Flaschenhals sein?.

Kann ich noch was testen um zu verifizieren und Punkte auszuschließen?

 

Steck beide LAN Karten auf den Pcie 16x Slot und teste es aus, dann haben beide karten die volle Anzahl an Lanes die Elektrisch anliegen. 

Link to comment
21 hours ago, memnon said:

der Server hat das TUF B450M-PRO GAMING und der Client B450 Aorus M.

ASUS TUF B450M-Pro Gaming (90MB10A0-M0EAY0):

Chipsatz ist vermutlich mit dem möglichen Maximum von PCIE 3.0 x4 an der CPU angebunden (max ca. 4GByte/s).
 - Der PCIe x16 (elektrisch x4) 2.0 Slot ist am Chipsatz B450 angeschlossen (ca. 2GByte/s).
 - M2_2 (PCIe 3.0 x2) ist auch am Chipsatz (ca. 2GByte/s).
 - 1x USB3.1 Gen2 (10G) und 2x USB3.1 Gen1 (5G) sind auch am Chipsatz (ca. 2GByte/s)
 - 4 der SATA Anschlüsse sind auch am Chipsatz (4x600MByte/s = 2,4GByte/s)

Ich weiß bei Deinen Tests hattest Du die anderen Komponenten weitestgehend nicht benutzt, weshalb ich die miese Performance der Intel in den Tests weiterhin nicht verstehe.

Aber generell, schon die 4x SATA und der PCIe 2.0 x4 Slot überfordern die maximale Bandbreite der CPU-Chipsatzverbindung. Der M2_2, PCIE 2.0 x1  und die USB Ports müssen sich dann auch noch mit in die Datenschlabge drängeln (Wobei M2_2NVMe   2 der SATA Ports abschaltet und dadurch die Sache minimal entschärft).

Der B450 Chipsatz ist nicht wirklich gut wenn man Performance haben oder durch Tests bestimmen will.

 

Da das GIGABYTE B450 AORUS M auch auf dem Chipsatz beruht sieht es da nicht besser aus. Man hat nur die M.2 am Chipsatz weggelassen, wodurch sich da noch weniger um die Anbindung streitet.

 

Ich kann mich nur dem Vorschlag anschließen: wenn Du es wirklich testen willst, steck die Intel in den jeweiligen PCIE 3.0 x16 Slot, so, daß sie mit ihren max. PCIE 2.0 x8 voll genutzt werden kann, entferne alle M.2 Geräte und teste neu.

Link to comment

Ich habe im Client die PCI-E-Plätze getauscht. damit die Graka in den unteren rein passt musste ich den USB3-Stecker abziehen. Im Intel Treiber habe ich nichts geändert - es zeigt mir x8 als Bandbreite an:

image.thumb.png.bc454b430ec73321f8d00962c0a15498.png

Ergebnis: unverändert. im Mittel zeigt mit iperf 4,27 - 4,07Gbit/s an.

 

Ich habe beim Server (TUF B450-Board) die M.2-Satta SSD (die M.2 nvme ist ja der Cache für's Unraid-System und muß drin bleiben?) raus, alle USB-Ports die nicht genutzt werden im BIOS deaktiviert. Beim Client kann ich die M.2 nicht entfernen. #Ast auf dem ich sitze

 

Beim erneuten testen sind marginal bessere Ergebnisse erzielt worden:

so um die 4.3x Gbit/s.

 

Was sagt das nun? Sagt das überhaupt was aus?

Link to comment

Zeigt er auch im Unraid Dashboard 10000 Mbps, full duplex und passende mtu an?1625922026_Bundesarchiv_Bild_102-00204_Bayern_Hitler_auf_Propagandafahrt.jpg.985db32855b344072f6ed498ded8db28.jpg

vlt hat das LAN Kabel einen Knick oÄ, ich selber benutze DAC Kabel und kann das nicht überprüfen. 

 

und im Windows auch?

 

 

770421021_Bundesarchiv_Bild_102-00204_Bayern_Hitler_auf_Propagandafahrt.jpg.673a7da045f6877aaa72c2c38cabb107.jpg

 

30 minutes ago, memnon said:

Was sagt das nun? Sagt das überhaupt was aus?

 

Ja es sagt das die Karte mit 10Gbit verhandelt! das ist gut! es kommen nur keine 10Gbit real durch die Pipeline, dass ist nicht so gut.

 

die Lösung könnte eine nicht stabile, wackelnde, geknickte Physische Verbindung sein. 

 

Wenn Unraid und Client 10Gbit als Verbindung sehen, passt das Software seitig erst mal.

 

 

Edited by domrockt
Link to comment

Im Client:

image.png.e4a495ec74363a3649cc240014a40a84.png 
Intel Treibertool zeigt die MTU von 9014: image.png.19db6dd271dda44797c7f1ff7698a402.png

 

Im Unraid-Server-Dashboard wird die MTU nicht angezeigt wie bei Dir, doch in den Einstellungen:

image.thumb.png.db9c5d90356216e9cd0a8dacd4173022.png

 

das Kabel ist ein ganz frisches und es ist nicht scharf geknickt. Die Ummantelung zeigt auch keine Knicke (ein Kabel merkt sich sowas ja bekanntlich zumindest optisch).

Link to comment

Ok ok ok, einen test wüsste ich gerne noch. Was kommt dabei raus wenn du einfach mal einen crystal disk mark von einem system auf das andere machst? Hast du den in dieser Synthetischen benchmark 10Gbit?

und hast du "netbios enabled"?

 

So langsam verdächtige ich Iperf :D

Edited by domrockt
Link to comment
  • 2 weeks later...

Mir ist nicht klar was bspw. CrystalDiskMark hier aussagen soll, da es ja über einen Samba share zugreift?. Dennoch habe ich folgendes gemacht:

 "system" via SMB freigegeben (da dies auf der NVME-SSD gecached wird und ich nicht durch die SATA-Schnittstelle limitieren will). Ergebnis:

image.png.9356556b4130136c5384ce3cdc658edc.png

Beobachtungen im Taskmanager während des Tests:

Beim senden kam mein Client nie über 2,8Gbit/s und dümpelte zwi. 2,5-2,7Gb/s rum. 

Beim Empfangen auf dem waren es auch mal über 3 Gb/s, jedoch nie 4Gb/s oder mehr.

 

Netbios steht im Client auf "Standard" im Punkt "WINS"

Edited by memnon
Link to comment

Ich vermute es liegt am Chipsatz der nicht genug Leistung bietet in meiner Konfiguration. Ich bin nun am überlegen was ich mache. Board tauschen (müsste wieder ein M-ATX ein da es sonst nicht ins Gehäuse passt :( . Oder ein anderes/größeres Gehäuse wo auch ATX-Boards reinpassen. Umstieg auf Intel?.......

@Sacred Was meinste Du genau? Im Client wurde doch bereits auch die Grafik und 10Gb/s Karte jeweils in den Slots vertauscht - ohne merklichen Erfolg.

Link to comment
1 hour ago, memnon said:

Ich vermute es liegt am Chipsatz der nicht genug Leistung bietet in meiner Konfiguration. Ich bin nun am überlegen was ich mache.

Was wohl noch nicht getestet wurde ist der cpu gouvenor, oder?

Wie ist die CPU-Last, beim iperf3 test?

iperf ist nicht multi-threaded. Ist eine CPU am Anschlag oder nur "halb" belastet (sollte man im htop sehen).

 

Hintergrund: Ich habe gerade den gleichen Effekt mit einem "kleinen RPi - 4/8-Kerner und 1Gbit USB-/Eth-Adapter" ... erst die Umstellung auf ondemand bzw Performance gouvenor brachte die 1GBit zutage.

 

 

Link to comment
4 hours ago, memnon said:

@Sacred Was meinste Du genau? Im Client wurde doch bereits auch die Grafik und 10Gb/s Karte jeweils in den Slots vertauscht - ohne merklichen Erfolg.

 

Oh .. dachte beim Überfliegen du hast das nur beim Server gemacht. 

Muss ja nicht unbedingt am Server (Unraid) liegen .. sondern am Client (also deinem PC), dass der da 10 Gbit/s nicht macht. 

Link to comment

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.
Note: Your post will require moderator approval before it will be visible.

Guest
Reply to this topic...

×   Pasted as rich text.   Restore formatting

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.

×
×
  • Create New...