Aufbau Unraid, optimale Leistung, beste Ausfallsicherheit und Flexibilität


Recommended Posts

Hallo liebes Forum,

 

zunächst, vielen Dank für die vielen Informationen hier, ich weiß das zu schätzen. Ich habe mich etwas eingelesen und möchte folgendes umsetzen, gibt es etwas was ich nicht bedenke oder besser umsetzbar wäre? (1)

 

Das System soll nach dem Aufsetzen mindestens 10 Jahre ohne Wartung laufen. So wie mein bisheriger Server mit 8 x 2 TB und 4 x 4 TB Server. Verschlüsselung ist für mich ein Muss, bisher Truecrypt, jetzt soll das Unraid eigene reichen, wie sieht ihr das? (2)

 

Geplant ist: Fileserver mit Zugriffsverwaltung, Adguard, Plex, irgendein Dokumentenmanager, Calibre, Gameserver, Mailserver (zumindest Sicherung), Chatserver (mal sehen was es da gibt), automatisierte Backups, VPN Zugriff.

+ Integrierter leistungsstarker Windows PC (VM) für meine Video- und Fotobearbeitung.

 

Hardware:

  • Ryzen 5950X (16 Kern) + 64 GB ECC
  • 2 x 20 TB Toshiba
  • 5 x 18 TB Toshiba
  • SSD's (Platz für 4 Nvme auf dem Board)
  • 2,5 Git Netzwerk
  • Windows VM, zum arbeiten, inkl. durchgereichter Grafikkarte (2060 TI oder 3060 TI wären vorhanden). Mein Board hat viele durchreichbare separate USB Ports/Controller, schon getestet, funktioniert perfekt.

-------------------------

  • 2 X 20 TB, ZFS (verschlüsselt) als Parity (Parity Platten sind die schnellsten + ich kann bei Bedarf auf 20 TB je Platte aufrüsten)
  • 3 X 18 TB, ZFS (verschlüsselt) als Aray
  • 2 X 18 TB, externe Backuplösung für die wichtigsten Daten (Ideen zur optimalen Umsetzung sind willkommen)

 

  • 2 X 1-2 TB Nvme, ZFS (Raid, verschlüsselt) NVME als Cache
  • 1 X 1 TB Nvme durchgereicht für die Windows Installation. Oder ist es besser, das auf dem Cache als Container zu installieren? Falls ja, kann ich auf eine Verschlüsselung von Windows verzichten und Backup's super einfach erstellen, richtig? Wenn ich dann allerdings Daten auf das Array schreiben möchte, werden diese innerhalb der gleichen SSD verschoben, vom VM in den Cache, dann auf das Array, irgendwie unlogisch. Oder lieber 2 Caches erstellen, 2 X 1TB "Cache 1" für Daten + 1 X 1 TB "Cache 2" für Windows VM? (3)

 

Die Funktion, dass alle Platten anlaufen bei Schreibvorgängen wird aktiv bleiben, für schnelle Schreibraten. Ob nun 3 Platten oder 5 aufwachen während der Cache geleert wird, ist egal. Beim Lesen wacht eh nur immer eine Festplatte auf.

 

Spezielle Fragen an die Experten:

Kann ich einstellen, dass Unraid nur die ersten 50-70 % der jeweiligen HDD's nutzt? Vielleicht durch Partionen? (4) Bekanntlich nimmt die Lese-/Schreibgeschwindigkeit, je weiter außen die Festplatte beschrieben wird, linear auf ca. 50 % Leistung ab. Genauso wöre die Frage, kann ich einstellen, dass das Laufwerk bei bestimmten Ordnern oder Daten die Festplatte erst von hinten aus füllt? (5) Also von Langsam auf schnell.

 

Ich stelle mir das so vor: Wichtige Daten, welche schnell gelesen und geschrieben werden sollen, in einen bestimmten Ordner. Diese verteilt Unraid auf die schnellen Bereiche der Festplatte. Unwichtige Daten in einen anderen Ordner, welche auf die langsamsten Bereiche verteilt werden.

 

Freue mich sehr auf eure Gedanken und Ideen.

Link to comment

 

Zuerst: Zu Deiner Stromfresserkonfiguration sage ich mal nichts weiter, weil ich mich a) mit den AMD nicht so auskenne und b) die die Anforderungen vielleicht doch besser/sinnvoller in 2 getrennten PC realisieren lassen.

 

5 hours ago, yasirrisay said:

Spezielle Fragen an die Experten:

Kann ich einstellen, dass Unraid nur die ersten 50-70 % der jeweiligen HDD's nutzt?

 

Man kann in unraid für die Shares oder auch Pools einstellen, wieviel Free Space bleiben soll. Daß man das für jedes einzelne Laufwerk einstellen kann kenne ich nicht und sehe ich mit Hinblick auf die Fuse-Verwaltung von unraid auch nicht als sinnvoll an.

 

5 hours ago, yasirrisay said:

Vielleicht durch Partionen? (4)Bekanntlich nimmt die Lese-/Schreibgeschwindigkeit, je weiter außen die Festplatte beschrieben wird, linear auf ca. 50 % Leistung ab. 

 

a) Partitionieren: Der Sinn des Array ist alles zusammen anbieten zu können. Man kann Shares auf Disks beschränken, aber Partitionieren? Nicht, daß ich wüßte.

b) Ich habe schon viele Benchmarkkurven gesehen, aber linear war keine davon. Eher leicht bogenförmig.

Willst Du eine hohe Performance im Array?

Ich hoffe Dir ist bewußt, daß die Schreibgeschwindigkeit durch die Parity auf 33-50% der oparity absinkt.

 

Achja, nur so: Du schreibst, daß Du die Parity per zfs verschlüsseln willst.

Das ist nicht nur unmöglich, sondern zeigt auch, daß Du Dich bitte noch einmal in die Grundlagen des Array mit Parity in unraid einlesen solltest.

 

Auch sehe ich keinen Grund zfs Verschlüsselung im Array zu nutzen, wenn die xfs Verschlüsselung auch gut funktioniert.

 

5 hours ago, yasirrisay said:

Genauso wöre die Frage, kann ich einstellen, dass das Laufwerk bei bestimmten Ordnern oder Daten die Festplatte erst von hinten aus füllt? (5)

 

Sowas ist mir nicht bekannt und würde in die Dateisystemverwaltung eingreifen.

 

5 hours ago, yasirrisay said:

Ich stelle mir das so vor: Wichtige Daten, welche schnell gelesen und geschrieben werden sollen, in einen bestimmten Ordner.

 

In eine bestimmten Share: ja, das ist Möglich. Du legst einen Share en aund schreibst die Dateien da rein. Aber urnaid entscheidet selber, auf welchen Sektoren die auf den Datenträgern liegen.

 

Link to comment
4 minutes ago, DataCollector said:
Quote

Zuerst: Zu Deiner Stromfresserkonfiguration sage ich mal nichts weiter, weil ich mich a) mit den AMD nicht so auskenne und b) die die Anforderungen vielleicht doch besser/sinnvoller in 2 getrennten PC realisieren lassen.

Bisher hatte ich zwei Rechner, möchte das ändern um mein Arbeiten überall im Haus zu ermöglichen, auch Außerhalb. Mein bisheriger Haupt-PC wird ein Spielerechner für Groß und Klein :). Stromfresser, ja, aber nicht ohne Grund, ich nutze die Leistung ja.
 

Quote

 

Willst Du eine hohe Performance im Array?

Ich hoffe Dir ist bewußt, daß die Schreibgeschwindigkeit durch die Parity auf 33-50% der oparity absinkt.

 

Das würde mein Vorhaben stark beeinträchtigen. Ich dachte aber, wenn alle Platten gleichzeitig laufen, man keine Einbußen in der Schreibgeschwindigkeit hat. Ich hab vergessen wie der Modus heißt, recontruct writes oder so. Meine Platten schaffen 250 MB/s - 120 MB/s je nach Position auf dem Datenträger, dies möchte ich weitestgehend behalten.

 

Quote

 

Achja, nur so: Du schreibst, daß Du die Parity per zfs verschlüsseln willst.

Das ist nicht nur unmöglich, sondern zeigt auch, daß Du Dich bitte noch einmal in die Grundlagen des Array mit Parity in unraid einlesen solltest.

 

Ja, hab totalen Quatsch geschrieben, ich weiß was du meinst.

 

Quote

Auch sehe ich keinen Grund zfs Verschlüsselung im Array zu nutzen, wenn die xfs Verschlüsselung auch gut funktioniert.

Ich wollte nur das "neuere" nehmen, warum xfs anstatt zfs wäre doch die Frage. Nicht das ich ein Raid aufbauen möchte aber irgendwelche Nachteile hat zfs ja nicht wenn ich das richtig sehe.

 

Vielen Dank

 

Link to comment

Da Du irgendwie sehr komisch geantwortet hast, kopiere ich die Zeilen von Dir, auf die ich mich beziehe hier manuell ein:

 

Du: "Bisher hatte ich zwei Rechner, möchte das ändern um mein Arbeiten überall im Haus zu ermöglichen, auch Außerhalb."

 

Das geht aber nicht mit nur einem PC, sofern Du den nicht mit Dir herum schleppst.

 

Du: "Mein bisheriger Haupt-PC wird ein Spielerechner für Groß und Klein :). Stromfresser, ja, aber nicht ohne Grund, ich nutze die Leistung ja."

 

Du willst ein NAS mit dauerlaufenden Dockern etc.. aufbauen und der läuft dann vermutlich 24/7 mit dem ganzen Mehrverbrauchsballast der sehr leistungsfähigen Kiste. Diese Konstellation würde aber in den nicht ausgelasteten Zeiten Ressourcenverbrauch haben, den ein externer Rechner im ausgeschalteten Zustand (wenn man eben Geld verdient oder in der Schule ist oder schläft) eben nicht hat.

 

Du: "Das würde mein Vorhaben stark beeinträchtigen. Ich dachte aber, wenn alle Platten gleichzeitig laufen, man keine Einbußen in der Schreibgeschwindigkeit hat."

 

Du zielst auf Reconstruction Write ab. Okay, dann laufen also alle Festplaten des Array gleichzeitig und Du benötigst noch mehr Strom, anstatt die stromsparenden Methoden von unraid zu nutzen und auf den Pools zu werkeln willst Du also zusätzlich ins Array schreiben?

Was willst Du denn schreibend mit dem Array machen, daß Du diese Geschwindigkeit brauchst?

 

Link to comment

Ich wohne nicht allein und wir haben einige PCs hier, alle sollen Linux Mint installiert bekommen. Zwei Notebooks sind schon umgestellt. So kann ich mit einem einfachen Setup (4K Monitor, Dockingstation, Notebook) schon die volle Power des Windows VM nutzen. Zudem codiere ich aktuell meine Videos mit Topaz Video AI und der 3060 TI am Haupt-PC, welcher dadurch auch fast immer an ist. Zudem spare ich mir die 10 Gbit Leitung zwischen Haupt-PC und Server, denn diese ist schnell genug zwischen Win11-VM und Unraid. 2,5 Gbit reichen für die restlichen PCs vollkommen.

 

In meinem Fall ist der Stromverbrauch tatsächlich egal. Das kostet alles nicht so viel, wie viele glauben und die Heizenergie wird eh benötigt, gerade in dieser Jahreszeit (Stichwort Nachtspeicherheizung).

 

Quote

 

Du zielst auf Reconstruction Write ab. Okay, dann laufen also alle Festplaten des Array gleichzeitig und Du benötigst noch mehr Strom, anstatt die stromsparenden Methoden von unraid zu nutzen und auf den Pools zu werkeln willst Du also zusätzlich ins Array schreiben?

Was willst Du denn schreibend mit dem Array machen, daß Du diese Geschwindigkeit brauchst?

 

Doch nur beim Beschreiben des Arrays, welches abends über den Cache erledigt wird oder wenn der Cache mal nicht reicht. Das wird kaum einen Unterschied machen, ob nun 3 oder 5 Platten laufen. Mit 80 MB/s dauert der Vorgang auch länger und braucht mit 3 Festplatten nicht weniger Strom als mit 200 MB/s und 5 Festplatten. Ich möchte, dass die Festplatten nicht bei jeglichem Lesevorgang alle anspringen, sondern nur die Eine, mit der Datei. Beim schreiben puffert der Cache. Wenn ich es richtig sehe ist das kein so schlechter Kompromiss. Spart Strom, ist leise und schont die Festplatten.

Link to comment
6 hours ago, yasirrisay said:

Wenn ich es richtig sehe ist das kein so schlechter Kompromiss. Spart Strom, ist leise und schont die Festplatten.

 

Es schon die Festplatten, wenn bei Schreibvorgängen ins Array alle anlaufen und arbeiten müssen, anstatt nur die, die wirklich benötigt werden?

 

Link to comment
3 hours ago, DataCollector said:

 

Es schon die Festplatten, wenn bei Schreibvorgängen ins Array alle anlaufen und arbeiten müssen, anstatt nur die, die wirklich benötigt werden?

 

Zunächst, es sind bei Schreibvorgängen immer 3 Festplatten die gestartet werden nicht eine, die zwei Parity Platten laufen mit. Zudem müssen dabei die beiden Parity Platten zugleich lesen und schreiben. Der Vorgang dauert mehr als doppelt so lang, wenn nicht dreimal. Wenn für die täglichen 1-2 Schreibvorgänge vom Cache alle 5 Festplatten aufwachen, wird das höchstwahrscheinlich effizienter und schonender vonstatten gehen. Sehe ich da was falsch? Zudem habe ich mit dieser Lösung den Vorteil, dass ich die Platten ohne starke Ausbremsung nach Bedarf auch direkt beschreiben kann.

Link to comment
7 hours ago, yasirrisay said:

Zunächst, es sind bei Schreibvorgängen immer 3 Festplatten die gestartet werden nicht eine, die zwei Parity Platten laufen mit.

 

 

Im Falle der normalen Defaultnutzung: ja. Du willst Reconstruct nutzen. Da laufen dann alle Festplatten bei Schreibvorgängen.

ich hege Zweifel and er Einschätzung, daß dies die Festplatten mehr schont als die Defaultnutzung.

 

7 hours ago, yasirrisay said:

Der Vorgang dauert mehr als doppelt so lang, wenn nicht dreimal.

 

Korrekt und die Datenfesteplatten werden dadurch nicht schreibend im Maximum betrieben.

 

7 hours ago, yasirrisay said:

Wenn für die täglichen 1-2 Schreibvorgänge vom Cache alle 5 Festplatten aufwachen, wird das höchstwahrscheinlich effizienter und schonender vonstatten gehen. Sehe ich da was falsch?

 

Ich sehe es anders, da die nicht beschriebenen Festplatten sonst schlafen können und keine extra Starzyklen durchmachen müssen.

Aber das ist schon eine sehr alte Diskussion. Startzyklen gegen Laufzeit.

Wir sehen es eben unterschiedlich.

 

7 hours ago, yasirrisay said:

Zudem habe ich mit dieser Lösung den Vorteil, dass ich die Platten ohne starke Ausbremsung nach Bedarf auch direkt beschreiben kann.

 

Mach, was Du willst. Das, was Du vor hast ist meiner absolut persönlichen Meinung nach nicht wirklich das, was eigentlich mit urnaid angedacht war.

Aber das ist ja das Schöne: jeder kann es so nutzen, wie es einem gefällt. Und Dein Weg ist für Dich bestimmt der Richtige.

 

Viel Erfolg.

Edited by DataCollector
Typos
  • Like 1
Link to comment

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.
Note: Your post will require moderator approval before it will be visible.

Guest
Reply to this topic...

×   Pasted as rich text.   Restore formatting

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.