Jump to content

MiniKahn

Members
  • Posts

    65
  • Joined

  • Last visited

Posts posted by MiniKahn

  1. Also modprobe hat nichts gebracht. Die suche nach Power Save Funktion der Mellanox Karte erbrachte keine Antwort.
    Und ein PCI Slot ausschalten geht wahrscheinlich nicht. Dazu wird linux wohl kaum in der Lage sein. Aber auch dahingehend werd ich googeln.
    Das wäre für mich ein Durchbruch. Also jeder Tipp, jeder Trick nehm ich gerne an. Undervolting versuche ich noch etwas zu optimieren.

    Ansonsten nochmal die Auflistung:

    - BIOS alle möglichen Stromspar Settings. Also C-States an, ERP, Power Management usw.
    - WoL ausgeschaltet bis auf einen Port.
    - Audio aus, usb aus. Serial Port aus.
    - 1 RAM Riegel
    - Lüfter auf ein Minimum.

    - HDDs soweit es geht in den Spindown.
    - 2x M.2 SSDs laufen dafür.

    - CPU powertop —auto-tune
    - CPU Undervolting

    Umsetzen will ich noch ein PortDown der 10GBE Karte wenn keine Verbindung von meinem PC da ist. Oder die Karte ganz abschalten. Letzteres präferiert.


    Habe ich was vergessen?

  2. 27 minutes ago, mgutt said:

    Das kann gehen, man sollte aber lieber eine IP aus einem anderen Adressraum nehmen, wenn man eine Direktverbindung macht. Also zB 192.168.168.2 und 192.168.168.3 oder 10.0.0.2 und 10.0.0.3. Es könnte sonst nämlich sein, dass der Traffic erst zu deinem Gateway geht, also deinem Router.

    Sorry. Hab ich auch. 192.168.10.XX und bin damit außerhalb meines sonstigen Andress-Raums welcher 192.168.178.XXX. (Siehe Screenshot)

     

    Ansonsten mach ich gleich und geb Rückmeldung. was die Lüfter an Stromverbrauch ausmacht.

     

    @mgutt du hattest gelesen dass der spindown über den command nicht funktioniert?

     

    Ansonsten wenn ich die Lüftersteuerung / die Lüfter welche via Molex auf niedrigster Stufe laufen abziehe, senkt sich der Stromverbrauch um ca. 1 Watt.

     

    Zusätzlich dazu bewirkt ein: "/sbin/ifconfig eth2 down" (10GBE Karte) weitere 0.5 Watt.

    ein "modprobe -r mlx4_en" bewirkt nichts,  ein "modprobe -r mlx4_core"  wird mit "modprobe: FATAL: Module mlx4_core is in use." verweigert. Auch ein " /sbin/ifconfig eth2 down" davor lässt mich leider diesen Befehl nicht ausführen.

     

    /edit:

     

    Dumm.. Aber gut... lt. "lsmod | grep mlx4_core" nutzt der mlx4_en den core, war es logisch erst: "modprobe -r mlx4_en" und dann "modprobe -r mlx4_core" auszuführen.

    Aber die Karte wird damit nicht gänzlich Deaktiviert. Sie verschwindet zwar aus Unraid... Aber eine weitere Einsparung des Stromverbrauchs ergibt sich dadurch leider nicht.

    • Like 1
  3. Anbei mal meine Konfiguration.

    In Windows dann auf den Netzwerkadapter gehen --> IPv4 Einstellungen und dort eben ins selbe Netz 192.168.10.XXX bspw. also bei mir 192.168.10.3.

    Unter Energieeinstellungen des Adapters kannst du mal schauen, ob irgendwo der Haken ist, dass der "Computer" dieses Gerät zu Energiespaarzwecken ausschalten darf".

     

     

    10GBE.PNG

  4. Derzeit ist das Bond der 2x1GBE (onboard) Karte, welches ich gerne mittels LAG daraus eine 2GBE Anbindung machen wollte, aufgelöst. Leider konnte ich Wake on Lan nicht realisieren damit. Eine Redundanz benötige ich in meinem Heimnetzwerk nicht. Hier ist die IP ebenfalls fest zugewiesen, geht an meinen SWITCH und von dort aus an meinen Router, der das DHCP Zeugs zuweißt und mich mit dem Internet verbindet.

     

    Die 10GBE Karte dient derzeit ausschließlich zur Direktverbindung mit dem PC. Hier habe ich die IP fest Zugewiesen (Unraid: 192.168.10.2, eigener PC: 192.168.10.3). Keine Möglichkeit der Internetverbindung.

     

    Weitere Bonds o.ä. habe ich nicht vor. Gerne den oben genannten, aber naja... ohne WoL bringt mir es nichts.

  5. Per Kommandozeile funktioniert das schonmal. Krass.... Vielleicht hat mir das umdenken gefehlt, das Unraid ja auf Linux basiert.... Ich trottel...

     

    Jetzt muss ich nur zusehen, ob das über das Sleep Plugin funktioniert. Wenn ich den Server manuell per Kommandozeile in den Sleep versetze und wieder starte per Wake on Lan, wird das Skript nicht ausgeführt. Wahrscheinlich weil das Skript dann nicht so greift. Muss das nun mal kurz laufen lassen, ob das über das Plugin dann funktioniert 😃 DANKE!

     

    /EDITH:

    @jj1987 funktioniert. Ich bin sprachlos wie einfach.

     

    Nun bleiben nur ein paar Watt an Stromverbrauch die ich noch reduziert hätte... 

    Aber vermutlich haben wir so ziemlich alles abgeklappert...

    Ich versuche nun mal die Karte zu deaktivieren. Vielleicht habe ich ja erfolg.

    • Thanks 1
  6. root@Tower:~# mdcmd spindown 0
    /usr/local/sbin/mdcmd: line 35: echo: write error: Invalid argument
     

    root@Tower:~# /root/mdcmd spindown 0
    -bash: /root/mdcmd: No such file or directory
     

    und @mgutt der cache Befehl ändert zumindest im WebGUI am Status nichts. Es bleibt bei Grün.

     

     

    /EDITH:

    - die 2 Lüfter die ich eingebaut habe, sind mit Molex an eine Lüftersteuerung angeschlossen. Hier sind die Lüfter schon auf ein Minimum gestellt. Ich kann einen Lüfter gegen einen Silent Wing von BeQuiet tauschen, dieser würde dann direkt an das Mainboard eingesteckt werden. Ob es das aber bringt?

     

    Ansonsten habe ich alles abgemacht, keine Tastatur, kein Monitor, Audio im BIOS Deaktiviert und stecker gezogen. Front USB 3 gezogen, Front USB gezogen. Naaaja... 24.5 Watt mit 10GBE. Also so 19 Watt ohne die 10GBE Karte.

     

    Was "wir" nicht aus den augen verlieren dürfen...

    Die 10GBE Karte ist immernoch inaktiv, wenn er aus dem Sleep erwacht. Kennt ihr noch ein paar Befehle die ich beim Start aus dem Ruhezustand ausführen kann? Wenn das nicht auf aktiv springt, bringt mir der ganze Sleep Modus leider nichts...

     

     

     

  7. Danke für den Hinweis mit dem Netzteil. Ich habe aber extra ein kleines genommen. Ein anderes würde P/L technisch jetzt nicht in Frage kommen.

    19 minutes ago, mgutt said:

    Ah ok. Modul kannst du die Karte nicht nennen, da man ein SFP Modul in die Karte stecken kann ;)

     

    Sorry 😅

     

    20 minutes ago, mgutt said:

    im Webterminal nacheinander alle Laufwerke schlafen schicken über "mdcmd spindown 0", "mdcmd spindown 1" usw

    Über das Putty-Terminal wird der Befehl verweigert mit invalid argument..

     

    Ich versuche mal die Lüfterdrehzahl zu regulieren (derzeit 2 Lüfter) und stecke nun mal alles aus was ich nicht brauche / Deaktiviere es im BIOS wenn ich es finde.

     

     

  8. Ich glaube wir reden aneinander vorbei. Wohl aufgrund meiner Wortwahl.

     

    Also, derzeit habe ich in meinem Setup 3 HDDs (SpinDown), 2xM.2 SSDs, 10GBE-Netzwerkkarte, 9350k Prozessor im "Power Save" Modus sowie Undervolting. Keine Docker Container. Die 10GBE Karte ist direkt in den PCI Slot des Mainboards gesteckt. 

    Damit erreiche ich, 25-26Watt.

     

    Wenn ich nun die 10GBE Netzwerkkarte (vorhergehend Modul genannt) aus dem Mainboard ausstecke, also komplett raus nehme, erreiche ich 19-20 Watt.

    4 hours ago, mgutt said:

    Ja Monitor ab und Audio im BIOS deaktivieren bringt auch noch was. Genauso wie das Entfernen der Tastatur / Maus. Das sind aber keine Welten:

    https://www.computerbase.de/forum/threads/selbstbau-nas-im-10-zoll-rack.1932675/page-6

     

    Diese Dinge setze ich jetzt später noch um.

     

    An der 10GBE-Karte und dem Verbrauch von 5-6 Watt, sowie dem Problem, dass die PKG damit nicht mehr auf den C7/C8 State fällt, können wir ja wohl nicht lösen. Ich versuche später mal, die Netzwerkkarte in einen anderen PCI Slot zu stecken. Derzeit ist die Karte im obersten Slot (Mainboard) gesteckt. Einfach weil es so am besten zu Handeln war. Aber ich versuch es mal woanders. Oder meint Ihr, es lohnt sich nicht?

     

    Dachte nur, dass ein Idle Verbrauch von 20 Watt (ohne 10GBE) relativ hoch ist und noch Spielraum nach unten ist. Und hatte gedacht ihr habt noch irgendwelche Ideen den Verbrauch zu senken.

     

    Liebe Grüße

    Mini

  9. 3 minutes ago, mgutt said:

    Du hast den selben Verbrauch, egal ob die Karte eingebaut ist oder nicht? Das kann nicht sein. Oder meinst du jetzt nur mit entferntem Modul?

    Modul und Kabel dran: 25-26 Watt 

    Modul aus dem Mainboard ausgesteckt: 19-20 Watt

     

    Netzteil: Netzteil be Quiet! Pure Power 11 400W cm

     

    Messgerät ist: Zaeel Energiekostenmessgerät Stromkostenmessgerät Leistungsmessgerät

    Ist mittels "Lampenkalibration" auch ziemlich genau. Sodass ich keine all zu großen Schwankungen erwarte.

     

  10. 33 minutes ago, mgutt said:

    Kann es sein, dass du die erweiterte Ansicht bei Docker ausgewählt hast? Das bitte deaktivieren. Du hast durchgehend 1.3% Last. Auch solltest du die WebGUI schließen während powertop läuft. Noch besser wäre es das Terminal über SSH zu nutzen, aber über das WebTerminal erreicht man normalerweise auch C6.

    Richtig, ich hatte die erweiterte Ansicht an. Die hab ich nun mal ausgeschaltet. Ich hänge später dann den powertop und hTop nochmal an. --> Lohnt sich glaube ich nicht, siehe weiter unten. Problem ist die 10GBE-Karte.

     

    17 minutes ago, Ford Prefect said:

    @darkside40: hast Du das S3 Plugin schon mit der 6.9.1er getestet?

    Betrifft die Deutsche- und Englische-Sprach Ansicht. Also da tut sich auch nichts.

     

    1 hour ago, Ford Prefect said:

    ..der Unterschied zwischen LWL- und 10GBE-T Transceiver Modul alleine sind etwa 3-4W, denke ich.

    Was hast Du drin...das DAC Kabel sollte dazwischen liegen, ca. 1-2W....

     

    Ich habe das nun mal getestet. Also 5-6 Watt Unterschied mit Modul+Kabel zu "Modul ist Ausgebaut".

    Somit komme ich auf 19-20 Watt. Und interessant: Ein PKG C-State von C8 erreiche ich nahezu sofort.

    Mit eingebauter Karte schaffe ich es nicht tiefer als C3. Somit haben wir auch da die Ursache. Gibt es da noch irgendwelche Konfigurationsmöglichkeiten (Um mit Karte einen tieferen C-State zu erreichen)?

    Jedoch macht der tiefere C-State ja nicht viel am Stromverbrauch aus. 0-1 Watt. 
    Aber selbst ohne 10GBE-Karte, auf dem Board, mit dem Prozessor, und Platten im Spindown, 20 Watt?? Ist das nicht ein wenig zu hoch? Also ich dachte, dass ich da echt deutlich niedriger bin. Ich muss mal schauen, derzeit ist noch ein Monitor angesteckt, und alle Kabel innerhalb angesteckt wie wenn es ein normaler PC wäre. Ich habe schon gelesen, Audio-Stecker entfernen? Bzw. kann ich das im BIOS abschalten? Front USB raus? Bringt das was? Wo gibts Optimierungen?

     

    Liebe Grüße

     

     

     

  11. 10 hours ago, Ford Prefect said:

    Äh..OK, Klugscheisser-Mode ON: den Unterschied zwischen SpinUp und SpinDown siehst Du aber schon am Messgerät, oder?...die 3 x3.5er HDDs sollten schon ein paar Watt locker machen.

    Kann ja nicht sein, dass die Watt in der Effizenzbreite des NT untergehen ;-)

    Das ist ja geklärt. Also 10-15 Watt bei 3 HDDs oder so, hab mir die Zahl im Detail nicht gemerkt. Aber man sieht einen Unterschied.

     

    10 hours ago, Ford Prefect said:

    ..verstehe....aber sowas ist echt ungewöhnlich.

    Kann doch nur am APM und den BIOS Einstellungen liegen, dass die PCIe nicht aufwachen.

    Beim Video fällt mir nur noch ein, ob Du zB DisplayPort/DPI output oder HDMI verwendest....evtl. liegt es daran, dass der Monitor nicht erkannt wird, weil der auch in den Schlaf geht oder der einen anderen Port nimmt....was passiert, wenn Du den Monitor danach nochmal an/ausmachst oder an/absteckst, bzw. den Eingang gezielt auswählst nach dem aufwachen?

    Seit dem installieren des anderen Sleep 3 Plugins, wird mir auf der "Main" Seite folgendes angezeigt:
    "Warning: file_get_contents(1): failed to open stream: No such file or directory in /usr/local/emhttp/plugins/dynamix/include/Translations.php on line 59" --> Normalerweise war da der Button für "Sleep" durch das Pluign.

     

    Nun nutze ich folgenden Command um den Sleep hervorzurufen: "echo -n mem > /sys/power/state". Oder warte auf das Plugin bis es den Server in den Ruhezustand bringt.

    Dadurch fällt der Stromverbrauch auf 1.7 Watt. Unraid lässt sich so mittles WoL oder einem Tastaturdruck starten.

    UND: Stand jetzt, geht zumindest mit diesem Befehl und dem Plugin mein Bildschirm / die Grafikausgabe wieder an. Das Problem ist somit erstmal behoben.

     

    10 hours ago, Ford Prefect said:

    Mit der 10G Karte habe ich es auch noch nie probiert, muss ich gestehen....

    Ich habe im BIOS ErP und alle Power Management Sachen die man auf einem früheren Screenshot gesehen hat, auf Disabled gestellt.

    Leider bleibt nach wie vor nach einem Ruhezustand die 10GBE Karte im Status: "Interface description: shutdown (inactive)"

     

    Das mit ModProbe versuche ich. Ich hab leider grade nicht mehr Zeit. Und muss erstmal schauen welchen Treiber ich da laden / entladen muss.

    Die andere Methode des kompletten ausschaltens der Karte wenn keine Verbindung da ist, teste ich wenn das hier alles läuft. Sonst mache ich zu viele Baustellen auf.. :D

     

     

    Zum erreichen eines tieferen C-States habe ich im BIOS den C-State Support von "Auto" auf immer die geringste Stufe gestellt, um ein C7 oder so zu erreichen. Allerdings hat das bisher noch nichts gebracht. PKG bleibt bei C3. Docker habe ich alle gestoppt. Disks sind im Spindown. Erkennt man im hTop von gestern Abend irgendwelche Plugins die sonst einen tieferen C-State verhindern?

     

    Meine Wünsche (egal wie):

    - Unter 20 Watt, also noch 5-6 würde ich schon gerne erreichen. (Ich messe später mal, den Verbauch der 10GBE Karte um euch da Klarheit zu schaffen.)

    - und bei aufwecken aus dem Ruhezustand eine aktive 10GBE Karte.

     

     

    Herzlichen Dank! Ich tue was ich kann! Bin leider nicht so der Profi ...

  12. 56 minutes ago, Ford Prefect said:

    ...hast Du den spindown mal manuell ausgeführt, weil sicher ist das wohl leider nicht, das die HDDs nicht drehen obwohl diese im Dashboard  grau sind?

    Das habe ich nun getan. Erst SpinUp. Und nach einer Minute einen manuellen SpinDown. Am Stromverbrauch hat sich nichts geändert. OHNE Docker-Applikationen 23-25W im Idle.

     

    56 minutes ago, Ford Prefect said:

    Ausserdem mal das neueste S3-sleep plugin von @darkside40 probiert? Hinweise auch in dem thread.

    Das habe ich soeben mal installiert. Vorher natürlich das alte Deinstalliert. Der Sleep hat ja aber immer Funktioniert. Dann sinkt der Verbrauch auf unter 2 Watt! Damit wäre ich zufrieden. Aber... wenn ich den PC dann wieder per WoL starte, habe ich keine Grafikausgabe mehr (am Bildschirm einfach alles schwarz, zu keiner Zeit ein Bild, ein BIOS sehe ich auch nicht. Vermutlich da es ja auch nicht angezeigt wird aus dem Ruhezustand heraus...)

    Und die 10GBE Karte ist deaktiviert.

     

    41 minutes ago, mgutt said:

    Die 10G Karte alleine dürfte 7 bis 12W raushauen. Das wurde dir aber auch anfangs gesagt:

    Gibt es theoretisch eine Möglichkeit die Karte nur bei bedarf so richtig aufzuwecken? Diese ist nur an meinen PC direkt angebunden. Ist dieser ausgeschaltet, könnte man dann die Karte komplett trennen? Oder meint Ihr, dass das nicht geht?

     

    Im Anhang ist einmal der Powertop Auszug. Vielleicht durch den SpinDown und UP oder was auch immer, aber die PKG war zumindest lt. Gedächtnis vor einigen Tagen auch überwiegend im C7 State...  Ich beobachte das mal und update ggf. morgen den Screenshot. Auf mein Gedächtnis kann ich mich derzeit nicht so verlassen... leider :D

    Unbenannt.PNG

    htop.PNG

  13. Ich habe alles versucht. Aber irgendwas läuft falsch. Ich bekomme weder die Grafikausgabe, noch die 10GB Karte zum laufen.

    Und die nächste Sache wäre der Stromverbrauch.
    Undervolting, powertop usw.
    Mit 3 Platten in spindown, der 10GB Karte und 2 M.2 SSDs werden im Idle ohne Docker usw. nicht unter 25 Watt erreicht.

    Irgendwas läuft grundlegend falsch....
    Und ich weiß nicht wo ich ansetzen kann.

  14. Also gut. Ich habe nochmal viel getestet.

     

    1. Warum auch immer, bekomme ich Trotz Modus 802.3ad (Nummer 4) und eingeschaltetem LACP in meinem Zyxel GS1900 Switch es nicht reproduziert, dass ich auf SSD1 und SSD2 parallel beide 1GBE auslasten kann. Maximale Transferrate liegt bei 113MB/Sek.. Der Prozessor ist nicht ausgelastet. Zwei verschiedene PCs werden verwendet die jeweils auf eine SSD im Unraid direkt schreiben (Über ein Share "Test-Cache1" und "Test-Cache2" die jeweils SSD1 und SSD2 beschreiben. Starte ich einen Uploadvorgang, gehts mit 114MB/Sek los. Starte ich den 2. Uploadvorgang über dne anderen Share / die andere SSD, bricht es auf 55MB/Sek ein. Also wird maximal 1GBE ausgelastet. --> Was auch immer ich da falsch eingestellt habe. Ich weiß es nicht. 100% meinem Gedächtnis vertrauen, dass es im letzten Test jeweils 110MB/Sek also insgesamt 220MB/Sek. waren, kann ich leider nicht. Also dass ich überhaupt jemals das Bond ausgelastet habe... Sondern ich glaube eher, dass ich das nie getan habe. Gibt es was zu beachten das euch auf die schnelle einfällt?

     

    2. Beim umstellen auf Modus 1 (active-backup) geht dann auch Wake on Lan einwandfrei.

     

    3. Das Problem, dass die 10GBE Netzwerkkarte und die Grafikkartentreiber offline / deaktiviert sind, besteht allerdings weiter. Muss ich im Custom-Script noch etwas einfügen? Oder gibt es irgendwelche BIOS Settings die ich mir nochmal anschauen kann? Leider finde ich im Powermanagement nichts anderes als die oben aufgeführten.

     

    Danke vorab!

  15. Ich sehe nur einmal den Tower in der FritzBox. Ich habe alle Klienten nochmal durchgesehen, die sind auch alle namentlich markiert.

    Unraid hat auch nur eine IP Adresse für 1GBE und eine für 10GBE... aber die 10GBE ist NICHT am Router angeschlossen, sondern nur direkt an meinen Windows- PC.

    Ich habe mittels LAG ein Bond aus den zwei Ethernetanschlüssen des Mainboards erstellt. Somit agiert das Ganze als eine IP und nicht getrennt. eth1 ist auch vermerkt als Teil des Bondes von eth0.

    Und eth2 (das 10GBE Netzwerk) können wir einfach erstmal ignorieren. Nur, dass es beim reboot aus dem Sleep-State nicht wieder aktiviert wird, wie die iGPU...

    Hoffe das war verständlich.


    /Edit: ich sehe auch im angeschalteten Zustand nur 1x den Tower. Mit einer IP, einer MAC. In meiner FritzBox.
    In meinem Switch sehe ich natürlich zwei ‚verbindungen‘ die ich als gemeinsamen Bond/als LAG definiert habe. Das funktioniert auch. Ich schaffe es mit zwei PCs die auf den Cache zu schreiben, diese 2GB auszulasten.

    /edit2: auch mit einem WOL Programm, indem ich IP und MAC eingebe, und auf Wake drücke, passiert nichts. Ich vermute, dass die Netzwerkkarte ausgeschaltet ist, wenn das S3 Plugin Greift.
    Muss ich etwas unter Customer Scripts eintragen oder so?

  16. Die FritzBox ist nicht mit der 10GBE Karte verbunden. Die Mellanox ist nur mit meinem PC verbunden, nicht mit der FritzBox. 
    lediglich ein Bond aus 2x 1GBE Onboard Slots an meinen Switch. Und dieser an die FritzBox.

×
×
  • Create New...