Mein 10 Zoll Server


Recommended Posts

  • 3 weeks later...

Ich habe jetzt meine erste 22TB HDD (Seagate Exos X) verbaut. Akuell baut die Parität damit neu auf:

image.png.23dbb1afe8b748b5be24a497fb63ec14.png

 

Morgen/Übermorgen verbaue ich dann noch die zweite 22TB als Disk 1.

 

Der Stromverbrauch lag vorher bei 21,7 Watt (Array im Wartungsmodus, alle Platten im Spindown):

613525185_2023-08-1201_06_13.png.700cd6414b2d7b184ba68a1e186e23f5.png

 

Sobald auch die zweite 22TB verbaut ist und das Array wiederhergestellt ist, mache ich die Vergleichsmessung.

 

 

Ich plane übrigens auch noch zwei 22TB WD Ultrastar zu kaufen, um zu ermitteln welche der HDDs im Spindown sparsamer sind (falls überhaupt).

Link to comment
3 hours ago, mgutt said:

Soll ja Leute geben, die auf Stromsparen stehen und ungenutzte Geräte vom Stromnetz trennen/abschalten.

Eine Fritz!DECT Steckdose eignet sich dafür ziemlich gut. Ich habe einige so eingestellt, daß sie eine Unterschreitung einer Leistungsgrenze für eine gewisse Zeit erkenne und dann abschalten. Dann kann ein Drucker nach Erledigung seiner Aufgabe und der eingestellten Zeit nicht auf einmal wieder loslegen.

 

Aber die Bequemlichkeit heutzutage läßt einfach vieles durchlaufen.

Link to comment

Bei meinem Server gibt es ein paar Änderungen:

- zwei 18TB gegen 22TB ersetzt

- 10G Karte raus

- X8X4X4 Bifurcation Adapter rein

- 2.5G Karte oben draufgesteckt

- 2x Samsung Evo Plus 2TB an den Seiten des Adapters verbaut

- 1x ASM1166 M.2 verbaut, dadurch insgesamt 14x SATA

- 6x 8TB Samsung QVO 8TB

 

Ich musste nur im BIOS den PCIe Slot entsprechend umstellen, danach hat er auf Anhieb alle neuen Datenträger erkannt:

 

image.thumb.png.8e692ce1e68e4298fbcfe0f453d80802.png

 

Ich habe die SSDs in einzelne Pools gepackt und werde dann testweise mit einem SnapRAID Container ein RAID darüber spannen. Ziel ist es, dass wie im Unraid Array ein paritätsgeschützter Speicher entsteht, der TRIM unterstützt und keinen Performance-Nachteil mit sich bringt (SnapRAID erstellt die Parität dateibasiert). Bekanntlich macht das bei SnapRAID aber nur Sinn, wenn man nicht so häufige Dateiänderungen hat. Aber das wäre bei mir dann gegeben.

 

Foto:

image.thumb.png.06f7d05a3a21cd02e1e1c033c65b91cf.png

 

  • Like 1
Link to comment
22 hours ago, mgutt said:

6x 8TB Samsung QVO 8TB

Cool! Da hast du wohl zugeschlagen. 

 

22 hours ago, mgutt said:

Ich habe die SSDs in einzelne Pools gepackt und werde dann testweise mit einem SnapRAID Container ein RAID darüber spannen. Ziel ist es, dass wie im Unraid Array ein paritätsgeschützter Speicher entsteht, der TRIM unterstützt und keinen Performance-Nachteil mit sich bringt (SnapRAID erstellt die Parität dateibasiert). Bekanntlich macht das bei SnapRAID aber nur Sinn, wenn man nicht so häufige Dateiänderungen hat. Aber das wäre bei mir dann gegeben.

Sehr interessant. Was heißt nicht so häufig Dateiänderungen haben? Denke, dass das bei mir auch so ist. 

Wie würde das denn funktionieren? Per Plugin oder muss das ein Script machen? Was ist, wenn es dann Unraid-Updates gibt?

Link to comment
11 minutes ago, Mor9oth said:

Wie würde das denn funktionieren? Per Plugin oder muss das ein Script machen? Was ist, wenn es dann Unraid-Updates gibt?

Wenn ich das richtig gelesen habe, dann macht der Container standardmäßig jede Nacht einen Paritycheck. Was dann an Dateien neu ist, verursacht entsprechend neue Paritätsdateien. Ich vermute, dass man diesen Intervall auch anpassen kann oder sogar per inotify live erstellen lassen kann. Das teste ich dann alles.

 

Skripte oder Plugins sind keine notwendig. Als Plugin wäre es aber eigentlich besser, damit bei Fehlern in die Syslog von unRAID geschrieben wird. Aber ich habe noch nie ein Plugin für Unraid erstellt. Keine Ahnung, ob ich das hinbekomme. Sollte dann ja auch optisch gut erklären wie das SnapRAID aufgebaut ist usw. Solange es keine GUI zb über ein Plugin dafür gibt, ist man in jedem Fall auf die Kommandozeile angewiesen, wenn man Dateien oder Laufwerke wiederherstellen will oder zb auch scrub ausführen, also die Datenintegrität prüfen möchte. 

 

unRAID Updates spielen gar keine Rolle. SnapRAID erstellt ja ganz normale Dateien und unRAID fasst die ja nicht an. Man sollte nur logischerweise keinen Mover Richtung Array aktiv haben oder die Pools einfach löschen / umbenennen. Dann würde SnapRAID jedesmal die Dateien neu erstellen oder schlicht nicht mehr alle Dateien finden.

 

 

Link to comment
On 8/20/2023 at 11:51 AM, mgutt said:

- 10G Karte raus

 

On 8/20/2023 at 11:51 AM, mgutt said:

- 2.5G Karte oben draufgesteckt

Hast du schon positive Erkenntnisse beim Stromverbrauch? Geht dann vermutlich in Richtung 2,5 GB-Netzwerk, oder? Da finde ich halt schon auch die Hürde einfacher einen Switch ins Spiel zu bringen als bei 10 GBe.

Link to comment
  • 3 weeks later...
On 8/22/2023 at 10:47 PM, Mor9oth said:

Hast du schon positive Erkenntnisse beim Stromverbrauch?

Sieht gut aus:

image.png.0badead505013b9f0f3bac54b877fb0b.png

 

Also wie gesagt das alles gemacht:

Quote

 zwei 18TB gegen 22TB ersetzt

- 10G Karte raus

- X8X4X4 Bifurcation Adapter rein

- 2.5G Karte oben draufgesteckt

- 2x Samsung Evo Plus 2TB an den Seiten des Adapters verbaut

- 1x ASM1166 M.2 verbaut, dadurch insgesamt 14x SATA

- 6x 8TB Samsung QVO 8TB

 

Und im Ergebnis knapp 0,6 Watt eingespart. 

 

On 8/22/2023 at 10:47 PM, Mor9oth said:

Geht dann vermutlich in Richtung 2,5 GB-Netzwerk, oder?

 

Ja genau. Ich rüste ab auf 2.5G. Ein Bekannter hat mir diesen Test gezeigt und der Verbrauch ist da einfach viel besser:

https://techtest.org/ein-schneller-sparsamer-und-guenstiger-10gbit-25gbit-switch-qnap-qsw-2104-2t-test/

 

Leider habe ich aber Probleme mit den SSDs / dem M.2 SATA Adapter wie es scheint. So richtig schlau bin ich daraus aber noch nicht geworden:

Aug 28 01:21:22 thoth kernel: ata10.00: irq_stat 0x08000000, interface fatal error
Aug 28 01:21:22 thoth kernel: ata10.00: failed command: WRITE FPDMA QUEUED
Aug 28 01:21:22 thoth kernel:         res 40/00:18:f0:34:3d/00:00:92:00:00/40 Emask 0x10 (ATA bus error)
...
Aug 28 03:15:53 thoth kernel: ata10.00: irq_stat 0x08000000, interface fatal error
Aug 28 03:15:53 thoth kernel: ata10.00: failed command: WRITE FPDMA QUEUED
Aug 28 03:15:53 thoth kernel:         res 40/00:90:a8:75:bd/00:00:a1:02:00/40 Emask 0x10 (ATA bus error)
...
Aug 28 03:15:59 thoth kernel: ata10.00: failed to IDENTIFY (I/O error, err_mask=0x4)
Aug 28 03:15:59 thoth kernel: ata10.00: revalidation failed (errno=-5)
...
Aug 28 05:27:24 thoth kernel: ata10.00: irq_stat 0x08000000, interface fatal error
Aug 28 05:27:24 thoth kernel: ata10.00: failed command: WRITE FPDMA QUEUED
Aug 28 05:27:24 thoth kernel:         res 40/00:d0:e8:1b:89/00:00:41:00:00/40 Emask 0x10 (ATA bus error)
...
Aug 29 00:32:53 thoth kernel: ata11.00: irq_stat 0x08000000, interface fatal error
Aug 29 00:32:53 thoth kernel: ata11.00: failed command: WRITE FPDMA QUEUED
Aug 29 00:32:53 thoth kernel:         res 40/00:68:f8:ff:2f/00:00:0c:01:00/40 Emask 0x10 (ATA bus error)
...
Aug 29 00:40:32 thoth kernel: ata12.00: irq_stat 0x08000000, interface fatal error
Aug 29 00:40:32 thoth kernel: ata12.00: failed command: WRITE FPDMA QUEUED
Aug 29 00:40:32 thoth kernel:         res 40/00:48:c8:a2:55/00:00:09:03:00/40 Emask 0x10 (ATA bus error)

 

Fakten dazu:

- passierte beim Kopieren auf die SSD

- keine Fehler im sonstigen Betrieb, auch kein Disconnect. Alle SSDs sind durchgehend verfügbar

- wie man sieht "nur" 3 SSDs betroffen (alle hängen am ASM1166 und an der selben Stromversorgung), obwohl ich auf 5 Daten kopiert habe

 

Ich mache jetzt mal Lese-Tests.

 

Ach ja. Der SnapRAID Diff ist übrigens mit einem auf 2GB RAM limitierten Container abgestürzt. Ganz schön RAM-hungrig. Hab jetzt mal auf 4GB erhöht.

Link to comment
9 hours ago, mgutt said:

Ja genau. Ich rüste ab auf 2.5G. Ein Bekannter hat mir diesen Test gezeigt und der Verbrauch ist da einfach viel besser:

Ah, sehr interessant! Ich werde auch auf 2,5 GBe statt 10 GBe setzen. Wobei ich da insgesamt noch kein Plan habe, welche Switche Marken usw. da stromsparend sind. Die 15 Watt im Artikel sind aber schon mal heftig!

Edited by Mor9oth
Link to comment
9 hours ago, mgutt said:

Fakten dazu:

- passierte beim Kopieren auf die SSD

- keine Fehler im sonstigen Betrieb, auch kein Disconnect. Alle SSDs sind durchgehend verfügbar

- wie man sieht "nur" 3 SSDs betroffen (alle hängen am ASM1166 und an der selben Stromversorgung), obwohl ich auf 5 Daten kopiert habe

 

Ich mache jetzt mal Lese-Tests.

 

Ach ja. Der SnapRAID Diff ist übrigens mit einem auf 2GB RAM limitierten Container abgestürzt. Ganz schön RAM-hungrig. Hab jetzt mal auf 4GB erhöht.

Mal die SSDs umgesteckt? Vielleicht liegt es ja an einem der ASM1166 SATA Ports. SnapRAID in Unraid klingt schon sehr spannend - aber auch recht experimentell. Hast du das per Script am Start, oder? Planst du dazu einen Guide oder gar ein Plugin?

 

Link to comment
On 9/11/2023 at 1:05 AM, mgutt said:

Ein Bekannter hat mir diesen Test gezeigt und der Verbrauch ist da einfach viel besser:

https://techtest.org/ein-schneller-sparsamer-und-guenstiger-10gbit-25gbit-switch-qnap-qsw-2104-2t-test/

10 GBe müsste aber ja selbst bei diesem sparsamen Switch noch mit Abstand am meisten Strom verbrauchen. Dann wäre dieser Switch ja noch sparsamer, wenn er nur 2,5 GBe Ports hätte. Gibt es für Switche auch irgendwelche Optimierungsmethoden und gibt es Erfahrungswerte, welche Marken/Serien besonders sparsam sind?

Link to comment
17 minutes ago, mgutt said:

Fritz!DEC 200 und das Diagramm sieht man dann direkt auf der Weboberfläche der Fritz!Box. Die DECT 200 misst sehr genau, ist aber auch teuer.

 

... und leider ist die AVM Webanzeige in der dazu gekoppelten Fritzbox keine direkte/sofortige Anzeige, sondern aktualisierte nur in Intervallen (emhrere Sekunden). Somit sind sehr kurze Besonderheiten in der angezeigten Kurve kaum zu erkennen.

Aber ich stimme zu: eine gute Lösung (deshalb ahbe ich jauch mehrere 200 und 210 in Benutzung.

Link to comment
1 hour ago, MPC561 said:

Das Problem hast du aber bei allen Digitalen Messungen und speziell bei so günstigem Messequipment. Sie interessante Frage dabei ist eher  ob das Gerät intern beim aufakkumulieren höhere Abtastrate fährt und nur die WebUi so langsam aktualisiert..

 

Naja, das alles digitale nur in Intervallen darstellt ist klar, aber leider übermitteln die AVM DECT 200 und 210 Steckdosen in Intervallen von (ich glaube) 10-15 Sekunden. Ist also als Meßgerät schon recht grob.

Aber dafür ist es eine schön plastische Darstellung und eben auch recht genau (was die Werte angeht) wenn es eben nicht um schell wechselnde Werte geht.

 

Link to comment
9 hours ago, DataCollector said:

Ist also als Meßgerät schon recht grob.

 

Es ist eben genau der Punkt das Du das nicht sagen kannst. Nur weil eine GUI nur alle 15s einen Messwert empfängt heisst nicht das die Dose nicht intern mit 10/100/1000Hz abtastet und diese vielen Werte intern aufakkumuliert und dann alle 15s den genauen Wert sendet. 

Zum Beispiel die Tasmota Steckdosen messen intern schneller (ca. 1s Abtastrate) aber man kann konfigurieren das nur alle x Sekunden ein Wert an eine GUI oder MQTT gesendet wird. Intern bei Werten wie: "Leistungsverbrauch Heute", "Gesamt Leistung" werden die schnell abgetasteten Werte benutzt.

 

So eine Dose ist aber nur bedingt geeignet um Peakwerte/Minwerte zu visualisieren. Dafür braucht man Equipment mit höheren Abtastraten. Davon mal abgesehen das wir hier "meistens" von Minimal bzw. Durchschnittsverbrauch reden. 

 

 

 

Gruss,

Joerg

 

Edited by MPC561
Link to comment

Ich persönlich finde solche Peaks absolut uninteressant. Für die Ermittlung der Netzteilleistung beim Kaltstart eines Servers vielleicht interessant, aber bei alltäglichen Messungen ist mir der Millisekunden Peak echt egal. Ich will dann bewusst den Durchschnitt der letzten Sekunden. Ansonsten hab ich nachher ein Fazit, dass ein Gerät 5 bis 50W verbraucht, obwohl es zu 99% bei 25W hängt. Und ich würde schon sagen, dass der selbst deutlich häufiger misst, denn wenn ich den Server neustarte, ist der Maxwert immer ähnlich. Würde er wirklich nur alle 10 Sekunden messen, müsste ich entweder kaum was sehen (wenn Sekunde 1 bis 8 der Start war) oder den extremen Peak (wenn Sekunde 9/10 der Start war).

  • Thanks 1
Link to comment
  • 1 month later...

Also 22TB machen echt keinen Spaß:

 

image.png.6aaaccd6ecb490312e363d6a1e5992e2.png

 

Der Server ist parallel ständig in Verwendung, daher bremst das den Parity-Rebuild entsprechend. Nur wenn ich mir vorstelle, dass die HDDs noch größer, aber nicht schneller werden... wo soll das noch hinführen?

 

 

Aktuell bin ich auch gefrustet, dass ich einfach kein aktuelles ITX Board finde, was auch nur annähernd an den Verbrauch des C246N-WU2 herankäme. Ich mein was mach ich, wenn das mal die Biege macht. Die Tage hatte ich ein ITX Board von Gigaboard getestet. Nur 2x SATA hat der Schrott und verbraucht dabei doppelt so viel wie mein Board:

 

 

Und an ECC RAM braucht man da schon gar nicht denken. Es gibt einfach nichts mit R680E oder W680 Chipsatz und 8x SATA auf einem ITX Board. So als seien den Herstellern die SATA-Buchsen zu teuer geworden 😒

 

Auch empfinde ich X8X8 Bifurcation bei Intel Boards als massiven Rückschritt. Aktuell hoffe ich, dass der Ryzen 5 8650GE dann X4X4X4X4 Bifurcation unterstützen wird. Erste Details zur neuen Gen sind raus, aber zu Bifurcation gibt es noch keine Infos:

https://www.hardwareluxx.de/index.php/news/hardware/prozessoren/62268-zwei-phoenix-versionen-details-zu-amds-ryzen-8000g-serie.html

 

Laut hier konnte der 5600G X8X4X4, was ja schon mal gut wäre:

https://www.asus.com/us/support/FAQ/1037507/

image.png.013310e2858f5247ac74322aeeca68ca.png

 

 

 

 

Link to comment
On 8/18/2023 at 8:01 PM, mgutt said:

 

Musst mal ins Drucktipps3d Forum schauen. ich meine mich zu erinnern das man den Bambu auch ohne Cloud verwenden kann. Haben iirc einige was dazu geschrieben. Und wenn man nicht grösser als 180x180mm druckt, und nur diverse Materialien wie TPU/PLA/PETG braucht, soll der neu Bambu mini mit AMS recht gut sein. Ist zwar Bowden und Bettschubser aber mit AMS unter 500 Euro zu bekommen. Wenn man langsam drucken will aber "Fire and Forget" lohnt sich auch der FYSTC MK3s+ Prusa Klon von Aliexpress, den man da für unter 300 Euro bekommt, aber selber aufbauen muss. Hab ich selber auch gekauft und aufgebaut.

 

Gruss,

Joerg

Link to comment

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.
Note: Your post will require moderator approval before it will be visible.

Guest
Reply to this topic...

×   Pasted as rich text.   Restore formatting

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.