Jump to content

Eigenbau NAS - richtige Hardware?


Recommended Posts

6 hours ago, MPC561 said:

Die Festplatten sind wirklich im Spindown?

Wieviele hast du eigentlich? 3 wie auf dem screenshot?

Wie stelle ich das fest? Ich habe unter Unraid in den Disk-Settings den Default spin down delay auf 15 min gesetzt. Nach etwa dieser Zeit geht der Verbrauch auch um etwa 5 Watt runter. Also denke ich schon, dass sie im Spindown sind. Ich habe aktuell 3 HDD und eine SSD und eine NVME verbaut. Ich will die HDD aber in kürze erweitern. Aber vorher will ich das mit dem Verbrauch eigentlich in den Griff bekommen. Muss ich in Unraid vielleicht noch irgendwas einstellen? Ich habe bisher eigentlich nur im Bios was verändert.

Link to comment
33 minutes ago, boernie77 said:

muss man das wirklich nach jedem Neustart machen???

ja, entweder per script, go file, ... dann wird das automatisch ausgeführt.

 

Test hatte ich nur hinterfragt da es hier mittlerweile so ist, mit powertop keine C States, ohne Powertop zumindest C2, vorher mit SATA Karte sogar C3, egal ;)

 

34 minutes ago, boernie77 said:

Ich habe aktuell, wenn der Server länger ohne Last steht etwa 35Watt. Wenn ich das so lese, dann finde ich das schon viel.

die Vergleiche hinken stellenweise ...

 

Beispiel, ich lese auch das "andere Unraider" mit nem N100 er auf unter 10 W kommen, das mag sein wenn ich NUR NAS nutze und nichts ergänze ...

 

Beispiel, ich hab einen N100er jetzt mit 2 x HDD (18 tb), 1 x nvme m2, 1x nvme (USB cache extra), USB boot, USB Kartenleser, USB Zigbee Sonoff 3.0, TV Karte (PCIe slot) ...

 

und komme nirgends mehr hin was C States betrifft (was auch bei meinem Main Server so ist sowie was verbaut ist) und bin jetzt im laufenden Betrieb auf 26 - 28 W, und ja ... das schwankt weil die Dienste ja auch mal mehr oder weniger laufen ....

 

und ob bessere C States jetzt 0 oder vielleicht auch mal 5 W ausmachen ... hängt ganz stark von den verbauten Komponenten an und was wie, wo, .. darauf zugreift ..., aber am Ende zählt doch eh nur der Verbrauch "effektiv" im laufenden Betrieb ... sprich, bestücken und laufen lassen, jetzt kann man versuchen mit Powertop noch 1 (oder 2) rauszuholen ... oder mit TLP (siehe anderen Thread hierzu) vielleicht noch 1 Watt mehr ... aber das war es dann auch .... außer man verzichtet auf Hardware, Umfang, ...

 

Und du hast jetzt einen 13500er verbaut ... oder sehe ich das falsch ?

 

Worauf will ich hinaus, am Ende zählt der theoretische Verbrauch (meiner Meinung nach) überhaupt nichts, sondern nur was die Kiste effektiv braucht in der Konstellation wie ich mein System laufen lassen will ... und jetzt kannst du weiter grübeln was man noch einstellen kann, was man noch machen kann ... und deine Zeit darin investieren. Ich würde nur den Ansatz mal ändern und sagen was brauchst du in der Ausbaustufe X ... und dann versuchen etwas zu ändern.

 

Beispiel, mein Main Server hat im Idle am Ende ~ 65 W verbraucht, dann dachte ich mir, ok, der n100m sieht interessant aus, mal schauen was passiert ...

 

Jetzt im "Vollausbau" bin ich da bei 26 - 28 W um die gleichen Services (außer Dekstop und Gaming VM) zu leisten ... 

 

Mein "Main" ist jetzt nur noch "Spiegelserver", VM Maschine (und Notfall Backup ;))

 

Nochmal retour zum Thema und wie "wirr" Ergebnisse sind ...

 

ich hatte vorher in dem n100 er eine Sata Karte verbaut und 3 x HDD's), dafür kkeine USB nvme cache ...

 

Ich "dachte", komm, hol die Sata Karte raus, die schluckt sicher viel ... da auch C State störend ... usw usw usw ...

 

Ende vom Lied, C States schlechter (war auf C3, jetzt C2 ohne powertop, kein C mehr mit powertop ;)), Verbrauch in Summe +/- 0 ...

 

sprich, 1 x USB nvme Platte verbraucht soviel wie die Sata Karte im PCIe und 1 x HDD zusätzlich ... was natürlich normal Quatsch ist, aber das Ergebnis ist nun mal so ... ;) bin jetzt auch raus aus diesem Thema hier ... wollte nur kurz darstellen wie ich persönlich dies sehe ... und wie ich da ran gehen würde.

Link to comment

 

1 hour ago, boernie77 said:

Wie stelle ich das fest? Ich habe unter Unraid in den Disk-Settings den Default spin down delay auf 15 min gesetzt. Nach etwa dieser Zeit geht der Verbrauch auch um etwa 5 Watt runter.

 

Siehst Du unter Start wo alle Datenträger aufgeführt sind. Sieht so in etwa aus:

439907201_Bildschirmfoto2023-12-13um16_29_07.png.d8a22d0c047c2e551fc711af3d9c7a5b.png

 

Dabei sind die 1. und die 3. Platte am laufen und die 2. die den grauen Punkt hat im Spindown.

Mann kann sogar auf den grauen Punkt klicken, dann wird die Platte aufgeweckt oder auf den grünen das geht sie schlafen (wenn nicht gerade davon gelesen oder geschrieben wird.).

 

Wenn alle dein Platten an sind ist dein Verbrauch von 35W ok. Sind alle aus ist dein Verbrauch Scheisse.

 

 

 

Edited by MPC561
Link to comment

Also SSD und eine HDD sind im Spindown, Parity und eine HDD laufen. Gehen auch sofort wieder an, wenn ich sie "schlafen schicke"... Als Docker laufen Plex und Nginx Proxymanager. Kann das damit was zu tun haben. Grundsätzlich gebe ich @alturismo auch recht. Der reelle Verbrauch ist relevant für mich. Aber wenn ich das Gefühl habe, da läuft was nicht richtig, und ich kann vielleicht noch 10Watt sparen, dann suche ich noch ein bisschen, bis ich es akzeptiere... ;-) c-State hin oder her. Ich finde einfach, das ist aktuell zu hoch...

Link to comment
46 minutes ago, boernie77 said:

Kann das damit was zu tun haben.

Kann ... aber eher etwas falsch konfiguriert ...

 

zeig mal was auf der besagten Platte drauf ist (die Daten Disk), ich gehe davon aus das

 

/appdata

/system

/isos

/Nextcloud (sofern bereits vorhanden)

...

 

sich dort tummelt ... 

 

47 minutes ago, boernie77 said:

und ich kann vielleicht noch 10Watt sparen

mit 2 laufenden Platten in den Spindown, dann hast du deine 10 W ;)

Link to comment

Nextcloud leider noch nicht. Das habe ich bisher noch nicht hinbekommen. Ich hatte schon zigfach Ubuntu Server und darauf dann Nextcloud installiert. Aber ich bekomme es einfach nicht hin, dass Nextcloud den Speicher des Array oder zumindest den Speicher der VM komplett nutzt. Ich habe immer nur gut 93GB gehabt. Die VM hatte aber 4TB... Habe dann jedesmal die VM gelöscht und neu angefangen...

 

JDownloader ist auch nur ein Test und läuft kein Docker...

 

1252857548_Bildschirmfoto2023-12-13um18_07_15.thumb.png.30a22876efd024916806a57c90e82473.png

Link to comment
1 hour ago, boernie77 said:

JDownloader ist auch nur ein Test und läuft kein Docker...

 

du hast ja ziemlich alles auf dem Array liegen was (empfohlener weise) nicht da liegen sollte ...

 

/appdata - liegen die persistent docker data ... wenn ein Docker läuft, wird er gerne dahin schreiben ... lesen ...

/domains - liegen die VM Images, wenn eine VM läuft ... läuft auch die disk

/isos - wenn eine VM läuft und die "Treiber" oder "Installations" Iso mounted sind ....

/jdownloader - hat da nichts verloren, oder ist das dein Download Dir ?

...

Link to comment
Just now, boernie77 said:

Ok. Das ist mir neu. Gibt es da einen Link, wo ich mich mal einlesen sollte? Damit ich da erstmal weitermache... und das alles korrigiere... Vielleicht ist das ja dann die Lösung....

 

Docker und VM Dienst aus, die ganzen Daten auf deinen cache verschieben ...

 

das entweder

 

mover - shares auf cache < array stellen, dann verschiebt der mover vom array auf den cache

file manager plugin - im webui bequem die Daten verschieben ...

terminal - per CLI die Daten verschieben ...

...

 

wenn erledigt, überlegen ob es so bleiben soll (im Notfall Daten aufs Array verschieben lassen und dann mit spinups leben) oder auch "cache primary" ohne "secondary" stellen dass die Daten permanent da bleiben, entsprechende Backup Strategie überlegen und gut ist ...

 

wenn du nach "spindown" suchst findest du wahrscheinlich 100+ Threads zu dem Thema ....

  • Like 1
Link to comment

Das ist die Lösung. Die Daten der Docker, die VMs müssen auf den Cache. Dann werden die zwei anderen HDs auch schlafen, das spart dir schonmal 10-15W. 

Ich weiß jetzt auch warum dein Sysrem nicht in den C2 geht. Das ist die Nextcloud VM. 

 

Die kostet halt Power. Braucht man aber gar nicht. Die meisten inkl. mir haben Nextcloud im Docker laufen. Dann geht das Board auch in tiefere Pkg states. Spart nochmal 5W. Ich schreib später wenn der kleine im Bett ist noch was du machen solltest um das zu mit /App /System /iso zu korrigieren korrigieren. 

 

PS: Hat @alturismo ja schon beschrieben.

Edited by MPC561
  • Like 1
Link to comment
On 12/10/2023 at 5:39 PM, boernie77 said:

Auf der Seite von Powertop steht eine Warnung, dass bei einigen Sata-Treibern Autotune nicht verwendet werden soll....

Ist zwar reichlich spät, aber dies hier will ich mal grob erklären.

Die Sache mit den SATA Problemen und Auto-tune betrifft beispielsweise die ASM1064 Kontroller. Das ist der Grund, warum ich meine geliebten ASM1064 gegen ASM1166 ausgetauscht habe.

Ich hatte mit meinen ASM1064 Kontrollern erlebt, daß nach aktivieren von auto-tune auf einmal mein Array "zerbrochen" ist und Festplatten auf einmal als nicht mehr anwesend dargestellt wurden. Nach einem Neubooten ohne auto-tune, war alles wieder in Ordnung.

Seitdem ich die Kontroller ausgetauscht habe, sind mir (mit kurzen Tests mit auto-tune) keine solchen Probleme mehr unter gekommen.

Aber ich nutze auto-tune aktuell sowieso nicht auf dem betreffenden System.

 

Edited by DataCollector
Typos
  • Like 1
Link to comment

Also erstmal vielen Dank! Das hat mir sehr geholfen. Ich habe jetzt auch viel gelernt die letzten Tage!

 

Ich habe nun die ganzen Ordner in den Cache geschoben. Seitdem gehen alle Platten in den Spindown, bis auf den Cache natürlich. Aber die sind eh SSDs. Ich war dann bei etwa 27Watt. Nun habe ich eine weitere SSD als RAID1 für den Cache hinzugefügt. Nun bin ich bei etwa 31 Watt. Also für 4 HDD im Spindown sowie einer SSD und einer NVME. Die SSD ist die neue RAID1 für die NVME. Allerdings ist die größer. Ich werde nun kurzfristig noch eine SSD gleicher Größe beschaffen und damit dann einen Cache für ISO, DOMAINS, etc machen. Und die NVME wird dann wieder Schreibcache für das ARRAY. Auf dem SSD Cache soll dann auch Nextcloud laufen. Da versuche ich mich jetzt nochmals dran. Diesmal als Docker und nicht mehr in der Ubuntu VM. Vielleicht bekomme ich ja das hin...

 

C2 oder besser bekomme ich im übrigen immer noch nicht hin. Das ärgert mich zwar, weil ich schon gerne wissen würde, warum??? Aber letztendlich ist der echte Stromverbrauch wichtig für mich. Und mit dem kann ich aktuell leben. Aber aufgegeben habe ich noch nicht... ;-)

Link to comment

@boernie77

Kann es sein das du die NVME in den Slot gesetzt hast der direkt mit der CPU verbunden ist? Das könnte auch eine tiefere Pkg States verhindern. In dem Falle bau die NVME mal in den anderen Slot der via DMI und nicht direkt mit der CPU verbunden ist (meist Slot 2.).

 

Einige hatten schon dadurch Probleme mit Pkg States.

 

Ansonsten, 27 W klingen besser aber noch nicht gut. :P

Link to comment

Ok. Also. kleiner, bzw für mich erstmal großer Teilerfolg! Der Umbau der NVME brachte keine Veränderung! Dann hat mich der Ehrgeiz nochmal gepackt, nachdem ich ja eh am schrauben war, und ich hab nochmal die Graka nochmal eingebaut (Monitor über HDMI am Mainboard bekomme ich einfach nicht hin) und bin nochmal durchs Bios gegangen. Bios ist für mich ja eigentlich ein Buch mit 7 Siegeln. Aber ich lerne jeden Tag dazu... Da habe ich doch tatsächlich den Punkt versteckt gefunden "Package C-Status Unterstützung". Hab ich mal auf Aktiviert gestellt....;-) Zudem "Intel Turboboost" auf Deaktiviert. Was soll ich sagen, C3 ist geschafft. In Watt sind das 7 Watt weniger als vorher... Nun kann ich mit der Familie beruhigt übers WE weg fahren und nicht dauernd über meine eigene Unzulänglichkeit nachdenken...:-) DANKE!!!

Bildschirmfoto 2023-12-15 um 11.37.58.png

Link to comment

@boernie77

Sieht schon viel besser aus!

 

Wenn Du wieder da bist das mal in der Konsole eingeben. Dann sehen wir welche Devices noch tiefere Package States verhindern. Ich tippe auf deine Killer E3100G Netzwerkverbindung:

sudo lspci -vv | awk '/ASPM/{print $0}' RS= | grep --color -P '(^[a-z0-9:.]+|ASPM |Disabled;|Enabled;)'

 

Und Messwerte wieviel Du brauchst wären noch nett für uns. Wenn ich richtig lese jetzt 20W bzw. 24W (mit Raid1 beim Cache?)

 

Aber wie gesagt, nach dem Wochenende! 

 

Und damit auch: Ein schönes Wochenende mit der Familie!

 

Gruss,

Joerg

 

PS: Wenn wir von 35W ausgehen und 20W auf denen du jetzt bist (die 2. SSD für Raid 1 beim Cache lasse ich Jetzt mal raus, die braucht man übrigens nicht wenn man die Cache SSD jeden Tag automatisiert backups von /App aufs Array macht) dann hast Du bei einem Stromprise von ca. 30 cent über 5 Jahre gerechnet bei 7/24 Laufzeit des Servers schon 200 Euro gespart.

Edited by MPC561
Link to comment
13 minutes ago, MPC561 said:

die Cache SSD jeden Tag automatisiert backups von /App aufs Array macht

dann hast du aber die HDD's auch oft an ... ps. verbraucht auch Strom ;)

 

sagen wir mal beim täglichen Schreiben laufen 2 HDD's, ca. 30 Min. (15 Min Backup, 15 Min bis wieder im Spindown), Mehrverbrauch 20 W ...

wenn ich das dagegen rechne, sind € 67,- wieder weg ... bei dieser Backup Lösung ... oder ? ;)

Link to comment
4 minutes ago, alturismo said:

sagen wir mal beim täglichen Schreiben laufen 2 HDD's, ca. 30 Min. (15 Min Backup, 15 Min bis wieder im Spindown), Mehrverbrauch 20 W ...

Also bei mir braucht das Backup 5 Minuten. Ich mach das vor dem Mover so das die Platten nicht 2 mal hochfahren müssen (auf dem dicken Server). Weswegen ich mir die 15 Minuten Nachlaufzeit mit dem Mover teile. Seine zwei Platten brauchen weit weniger als 20W. Siehe seine Werte. Sind wir böse und sagen 15W einmal am Tag über 15 Minuten. Das sind 3,75Wh x 365 Tage = 1,37kWh im Jahr. In 5 Jahren = 6,8 kWh und das sind 2 Euro.

 

Die 4W durch die 2. SSD mehr (wobei mir 4W sehr hoch erscheint) wären 52 Euro.

 

 

Übrigens:

15 minutes ago, alturismo said:

sagen wir mal beim täglichen Schreiben laufen 2 HDD's, ca. 30 Min. (15 Min Backup, 15 Min bis wieder im Spindown), Mehrverbrauch 20 W ...

wenn ich das dagegen rechne, sind € 67,- wieder weg ... bei dieser Backup Lösung ... oder ?

Sind bei mir mit deinen Werten: 30 Minuten 20W = 10Wh am Tag. Das sind 3,65kWh im Jahr = 18,25kWh in 5 Jahren = 5,48 Euro (bei 30 cent/kWh). Irgendwo hast Du einen Fehler in deiner Berechnung. (Oder ich in meiner?)

 

  • Like 1
Link to comment
24 minutes ago, MPC561 said:

Sind bei mir mit deinen Werten: 30 Minuten 20W = 10Wh am Tag. Das sind 3,65kWh im Jahr = 18,25kWh in 5 Jahren = 5,48 Euro (bei 30 cent/kWh). Irgendwo hast Du einen Fehler in deiner Berechnung. (Oder ich in meiner?)

ich in meiner ;) ich lasse alle Stunde backuppen 😬 böser Fehler ;)

  • Like 1
Link to comment
On 12/15/2023 at 12:09 PM, MPC561 said:

@boernie77

Sieht schon viel besser aus!

 

Wenn Du wieder da bist das mal in der Konsole eingeben. Dann sehen wir welche Devices noch tiefere Package States verhindern. Ich tippe auf deine Killer E3100G Netzwerkverbindung:

sudo lspci -vv | awk '/ASPM/{print $0}' RS= | grep --color -P '(^[a-z0-9:.]+|ASPM |Disabled;|Enabled;)'

 

Und Messwerte wieviel Du brauchst wären noch nett für uns. Wenn ich richtig lese jetzt 20W bzw. 24W (mit Raid1 beim Cache?)

 

Aber wie gesagt, nach dem Wochenende! 

 

Und damit auch: Ein schönes Wochenende mit der Familie!

 

Gruss,

Joerg

 

PS: Wenn wir von 35W ausgehen und 20W auf denen du jetzt bist (die 2. SSD für Raid 1 beim Cache lasse ich Jetzt mal raus, die braucht man übrigens nicht wenn man die Cache SSD jeden Tag automatisiert backups von /App aufs Array macht) dann hast Du bei einem Stromprise von ca. 30 cent über 5 Jahre gerechnet bei 7/24 Laufzeit des Servers schon 200 Euro gespart.

So, bin wieder da...

 

Anbei der Screenshot von dem sudo-Befehl. Ich hoffe, du findest was... 🙂

 

Aktuell habe ich tatsächlich ca. 24Watt. Den Hinweis mit dem Backup finde ich super. Ich werde dann mal die SSD als Cache für die ganzen ISO/APP/etc Geschichten verwenden, und die NVME dann wieder als Schreibcache. Ich hoffe, dass lässt sich wieder so einfach ändern.

 

Danke schonmal ...

 

VG

Christian

Bildschirmfoto 2023-12-17 um 18.29.52.png

Link to comment

@boernie77

Der Realtek Killer Netwerkchip und der USB Controller schaffen kein ASPM. Realtek ist aktuell ein Problem allgemein in Unraid das die tiefere Pkg states verhindert. Könnte evtl. in neuen Unraid releases wieder gehen, aber der USB... Da müsste man mal nachforschen ob alle USB ports über den chip laufen und ob der ggf. deaktivierbar ist. (wenn er deaktvierbar wäre und nur einige USB ports tot aber ggf. noch ein USB2 aktiv könnte man den Unraid stick da reinsetzen)

 

Aber vorerst können wir da wohl nicht mehr viel machen. Oben das musst du untersuchen.

Link to comment

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.
Note: Your post will require moderator approval before it will be visible.

Guest
Reply to this topic...

×   Pasted as rich text.   Restore formatting

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.

×
×
  • Create New...