[HELP] - HDD SETUP | Was ist das richtige Layout

[aViN187]

Hi all,

 

ich bin neu hier - und überlege gerade von Truenas Scale zu UNRAID zu wechseln. Bevor ich dies nun tue habe ich noch 1-2 kleine Fragen und hoffe hier auf kompetente Hilfe.

 

Vorhandene Hardware:

• Minisforum HM80 mit 4 Bay USB 3.2 Gen 2 Festplatten Gehäuse von Icy Box

HDDs

• 4 x 3,5 Seagate Ironwolf 6 TB
• 2 x 2,5 500 GB SSD
• 1 x NVM 1 TB

Wunsch:

• Effizientes Setup in Kombination Performance & Stromsparen

 

Anwendungsbereich:

• 80 % Filme und Serien via Emby/Plex/etc.  (4-6 x die Woche, 4K Content)
• 10  % Docker Images (Unifi, Bitwarden, paperless-ngx, Smarthome, etc. pp) (dauerhaft / ständig)
• 5   % 1 x VM (Smarthome Server) (ständig)
• 5   % anderer Storage (Photos, Backups, Share, Storage, etc.) (selten)

 

Welche HDD Konfiguration / Dateisystem würdet ihr für diesen Anwendungsbereich empfehlen? 

Vielen Dank für eure Hilfe - bin gerade dabei alle Daten auf Offsite Backup zu kopieren um für eine Migration vorbereitet zu sein.

 

Lg Avin

 

 

 

[DataCollector]

33 minutes ago, aViN187 said:

Vorhandene Hardware:

• Minisforum HM80 mit 4 Bay USB 3.2 Gen 2 Festplatten Gehäuse von Icy Box

HDDs

• 4 x 3,5 Seagate Ironwolf 6 TB
• 2 x 2,5 500 GB SSD
• 1 x NVM 1 TB

Wunsch:

• Effizientes Setup in Kombination Performance & Stromsparen

Anwendungsbereich:

• 80 % Filme und Serien via Emby/Plex/etc.  (4-6 x die Woche, 4K Content)
• 10  % Docker Images (Unifi, Bitwarden, paperless-ngx, Smarthome, etc. pp) (dauerhaft / ständig)
• 5   % 1 x VM (Smarthome Server) (ständig)
• 5   % anderer Storage (Photos, Backups, Share, Storage, etc.) (selten)

 

Welche HDD Konfiguration / Dateisystem würdet ihr für diesen Anwendungsbereich empfehlen? 

Vielen Dank für eure Hilfe - bin gerade dabei alle Daten auf Offsite Backup zu kopieren um für eine Migration vorbereitet zu sein.

 

Punkt 1: Festplatten über USB ist unter unraid nicht empfohlen.

Punkt 2: Mehrere Festplatten über ein und die selbe USB Verbindung ist noch weniger empfohlen.

Punkt 3: Energieeffizient ist die Verwendung mehrerer Netzteile (Minisforum PC + ext. Festplattenstapel) eher selten.

Punkt 4: Du kannst Dich entscheiden, ob Du die 4 Festplatten im Array verwenden willst oder in einem oder mehreren Pools, ob Du diese mit Parity verwenden willst oder nicht. Wenn Du die Festplatten als ein durchgehender Speicherplatz (Array oder Pool mit Raid0,1,5 oder 6) benutzen willst ---> Siehe Punkt 1 und 2.

Punkt 5: Im Regelfall werden die großen Festplatten im Array verwendet, wenn man Ausfallsicherheit haben will mit Parity. Da in Deiner Auflistung nicht erkennbar ist, ob Du den Speicherplatz dadurch bereitstellen willst oder nicht, kannst nur Du entscheiden, ob Du das machen willst.

Punkt 6: Für Docker, Images, VM sind SSDs zu bevorzugen. Die meisten machen das so. Ob Du auch hier Ausfallsicherheit haben willst oder nicht, kannst nur Du entscheiden.

Punkt 7: falls Du die iGPU des Ryzen in der VM verwenden/durchschleifen willst: Informiere Dich hier genauer, da nicht jeder mit AMD Hardware glücklich wird und dann die iGPU ggf. für unraid selber nicht mehr zu Verfügung steht.

 

Ich würde (wenn es nicht diese unsägliche ext. USB Festplattenlösung wäre) die Festplatten ins Array mit 3 Daten + 1 Parity legen, die Festplatten mit xfs (ggf. xfs enc) formatieren+betreiben.

Die größte SSD als seperaten Pool (ebenfalls xfs) für Cache verwenden (wird wohl de NVME SSD sein).

Eine der kleineren SSD als seperaten Pool (ebenfalls xfs) für die Systemverzeichnisse/Shares nehmen um Docker, Images der VM etc. zu betreiben.

Die letzte SSD würde ich als Pool oder UD (ebenfalls xfs) einbinden und als Backupziel der Dir wichtigen Daten der anderen kleinen SSDs verwenden (Cache braucht in der Regelfall keine Backups, da nur temporäre Daten drauf sind).

 

Letzter Punkt: Beachte, daß Ausfallsicherheit nicht unbedingt auch Datensicherheit mit einschließt: Mache von den Dir wichtigen Daten mindestens ein Backup.

[aViN187]

danke dir für die Antwort. Einige neue Erkenntnisse die mir so nicht bewusst waren. Ich bin noch dabei mir ein komplettes Bild zu machen. 

 

In kürze: 

- Die Sache mit dem externen HDD Case, war mir nicht bewusst. Ich schau gerade ob ich hier ggf. ein neues Build mache (-> Thema HW später)

- Vielleicht auch ein Grund warum ich unter TrueNAS Scale damit so große Probleme habe (RAID-Z1 Pool)

- ich habe noch 1 x 10 TB Offside Backup (externe USB Platte) wo ich mein "Backup" drauf habe

- nochmal zum Setup, wie ich es verstanden habe

• 4x 6 TB (als Array mit Parity)
• 1x SSD 1TB NVE als Cache
• 1 x 500 GB SSD als Pool für VM/Docker
• 1 x 500 GB SSD als Pool zum Backup von VM/Docker

Detailfragen dazu:

• warum dann nicht die 500 GB SSD Platten als Raid 1 betreiben?
• Warum XFS? ich hätte mit dem Gedanken gespielt zumindest die 6 TB Platten als RAID-Z1 einzubinden. Layout 3 Platten im Raid Z1 und eine als Spare (Parity?)
  • Ist da aktuell noch von abzuraten? Oder wäre die Performance beim einzelzugriff unter XFS für den Anwendungsfall (4K Movies) vollkommend ausreichend? 

 

Thema HW:

• Ich habe schon in der Sektion HW-Setups geschaut aber noch nichts passendes gefunden, ggf. wenn es Ok ist eine kleine Empfehlung wonach ich schauen kann?
• Stromsparend aber genug Performance für meine Anwendungsfälle (6-9 Docker bei 1-2 VM (min. Anforderungen) mit Transkoding von HDR. 
  • dann würde ich hier neu aufbauen (gerne meine Komponenten weiter verwenden wie z.b. 32 GB SO-DIM Arbeitsspeicher) bräuchte daher ein kleines Board mit 6-8 x Sata und SO-DIM aber finde irgendwie einfach keins .... 
• wenn zuviel - gehe ich aber gerne in das dafür vorgesehene Forum

 

Danke !

 

[DataCollector]

1 hour ago, aViN187 said:

• 4x 6 TB (als Array mit Parity)
• 1x SSD 1TB NVE als Cache
• 1 x 500 GB SSD als Pool für VM/Docker
• 1 x 500 GB SSD als Pool zum Backup von VM/Docker

Detailfragen dazu:

• warum dann nicht die 500 GB SSD Platten als Raid 1 betreiben?
• Warum XFS? ich hätte mit dem Gedanken gespielt zumindest die 6 TB Platten als RAID-Z1 einzubinden. Layout 3 Platten im Raid Z1 und eine als Spare (Parity?)
  • Ist da aktuell noch von abzuraten? Oder wäre die Performance beim einzelzugriff unter XFS für den Anwendungsfall (4K Movies) vollkommend ausreichend? 

 

Thema HW:

• Ich habe schon in der Sektion HW-Setups geschaut aber noch nichts passendes gefunden, ggf. wenn es Ok ist eine kleine Empfehlung wonach ich schauen kann?
• Stromsparend aber genug Performance für meine Anwendungsfälle (6-9 Docker bei 1-2 VM (min. Anforderungen) mit Transkoding von HDR. 
  • dann würde ich hier neu aufbauen (gerne meine Komponenten weiter verwenden wie z.b. 32 GB SO-DIM Arbeitsspeicher) bräuchte daher ein kleines Board mit 6-8 x Sata und SO-DIM aber finde irgendwie einfach keins .... 

Zu Deinen Fragen:

 

Warum nicht 500GB SATA SSDs als Raid1? - Mit Raid1 der beiden 500GB SATA SSD

- hast Du zwar Ausfallsicherheit, aber beide SSD laufen immer zeitgleich = höherer Stromverbrauch.

- hast Du bei den benannten Komponenten keinen Backupplatz der schnell beschrieben werden kann, um die Backupzeit gering zu halten, so daß Docker/VM schnell wieder aktiviert werden können um weiter zu laufen.

 

Warum xfs (enc)?

- mit btrfs haben hier schon viele Probleme gehabt (meist aber, wenn sie es mit mehreren gekoppelten Datenträgern verwendet haben).

- zfs hat (meinem Verständnis nach) bei single Datenträgern nicht wirklich einen signifikannten Vorteil (abgesehen von Snapshots) und ist in unraid noch recht neu. Wenn man mehrere Datenträger koppeln will, hingegen wäre zfs das Mittel meiner Wahl (weil btrfs eben einen gewissen Ruf hat), aber genau das habe ich mit dem vorgeschlagenen Setup ja umgangen.

- Bei UD kann man auch noch diverse andere Filesysteme verwenden, aber nativ in Array udn Pool bleibt dann nur noch xfs.

- die 6TB Festplatten als Raid zusammenzufassen erfordert, daß bei Zugriffen alle Datenträger laufen. Das erhöhnt zwar die Performance und man hat auch die 'selbstheilenden Kräfte von zfs' verschwendet aber mehr Strom, weil bei Zugriffen keine der beteiligten Festplatten stromsparend weiter schläft. (Ich hatte Deinem oben benannten "Wunsch" den Begriff stromsparend entnommen.

- Auch hast Du dann nichts im Array und unraid läuft aktuell nicht ohne einen Datenträger im Array.

 

Performance bei Singledisks:

Eine heute moderne, große und schnelle Festplatte schafft im Außenbereich bis zu 280MByte/s sequentiell, die selbe Festplatte im Innenbereich immer noch über 100MByte/s.

Deine 6TB sind da etwas hinterher, aber dennoch sollten selbst an den langsamsten Stellen sequentiell 90MByte/s kein Problem sein.

Wenn man mehrere Zugriffe gleichzeitig hat sind die Geschwindigkeit zwar, aber erst bei großer Fragmentierung oder schnellem Zugriff auf sehr viele Dateien (Fotosammlung) bricht eine Festplatte signiikant ein.

Ein 4k Movie wird aber nicht in MByte/s, sondern in MBit/s beziffert.

 

exklusives 4K Video lesend/Wiedergabe:

Nehmen wir extrem breitbandig codiertes 4K Material mit 50MBit/s: das bedeutet, daß das Video sich immer noch nativ flüssig abspielen läßt, wenn eine Festplatte auf rund 7 MByte/s (7MByte/s * 8 Bit = 56 MBit/s) absinkt. Auch 2 oder 3 gleichzeitige Zugriffe auf solche 4K Extremdateien sollten kein Problem darstellen, wenn sie auf der selben festplatte liegen. Ob 4 oder mehr ein Problem werden, müßte man ausprobieren (das hängt von der Performance der betroffenen Festplatte ab).

 

exklusives 4K Video schreibend/auf die Festplatte abspeichern:

Hier hingegen wirkt sich Parity aus. Beim Schreiben in das Array mit Parity reduziert sich die Schreibrate auf bis zu 1/3 ihrer möglichen Geschwindigkeit. Da es beim Abspeichern der Dateien in Dein Array aber in der Regel nicht um einen zeitkritischen Vorgang handelt (auch weil der große NVME Cache ja vorgeschaltet ist und das umspeichern beispielsweise in der Nacht passiert) ist nicht mit Problemen zu rechnen.

 

Und da Du plexen oder so angedeutet hast; Auch hier wird das Material ja gelesen, in einem kleinen RAM Puffer vorgehalten, durch die CPU/GPU in das gewünschte Zielformat umgewandelt und dann zum Zielgerät gestreamt. Auch hier ist das Betrachten und umwandeln eines solch extremen 4k Videos von der Festplatte kein Problem. Hier bemerkt man eher, wenn die CPU/GPU überfordert ist.

 

 

Thema Hardwareempfehlung:

Da ich nicht plexe kann ich zum plexen nichts aus eigener Erfahrung sagen.

 

Als reines NAS System mit Docker und anspruchsloser VM würde ich evtl. sogar ein gebrauchtes Businessgerät mit vielen SATA Anschlüssen ins Auge fassen (Fujitsu, HP, Lenovo, Dell ...)

Neuware ist seit ein paar Jahren [knapp vor Corona] ein Problem. Gut getestete, ausgestattete & stromsparende Teile sind nur noch selten und zu Mondpreisen zu haben (2X NVME, 8SATA, iGPU, Intel 8-10 Gen., evtl. sogar ECC Ram ...).

 

Wie Du hier im Forum ja lesen kannst sind aktuelle Intel 12.-13 Gen in bestimmten Kombinationen auch wieder recht effizient, aber daran wird noch getetstet und herumgemessen. (Leider sind aktuell 8 SATA über Intel CPU/Chipsatz nicht drin. Sowas wird mit Zusatzkontrollern realisiert, welche sich dann aber meist auf den Stromverbrauch auswirken).

 

Da es beim effizienten Plexen auch auf die Leistung der GPU ankommt wäre eben eine CPU mit iGPU nicht falsch. einen oder wenige 4k Streams sollten möglich sein, aber da kenne ich mich eben nicht so aus. Bei HDR in 4 oder gar 8k wird es aber wohl irgendwann eng. Spätestens da wäre eine dGPU wohl ins Auge zu fassen.

Einige machen sowas auch mit AMD Technik, aber hier und da liest man eben doch von Problemen. Wenn sowieso Neuanschaffung würde ich auf intel/nvidia setzen.

Edited September 16, 2023 by DataCollector

[aViN187]

Hey - nach einigen probieren und antasten an UNRAID wollte einfach nochmal danke sagen.

 

Ich bin super zufrieden mit der Lösung (genauso wie du es vorgeschlagen hast) jedoch tatsächlich mit dem externen Gehäuse (entgegen der Empfehlung  )  aber es läuft super und ich bin sehr zufrieden - hatte Anfangs jedoch tatsächlich Probleme meine ZFS Partition durch XFS zu ersetzen, musste die Platten tatsächlich auf meinem Windows Rechner neu partitionieren/formatieren um Sie anschließend dann einzubringen - , daher hier nochmal ein Danke für die Hilfe und den Input. Bin gerade dabei meinen Horizont weiter zu erweitern und habe UNRAID bereits einem Freund nahegelegt, der es nun auch nutzt

Edited October 10, 2023 by aViN187