zfs als Dateisystem im ARRAY sinnvoll oder nicht ?

[waylin2]

Hallo zusammen,

 

ich hätte mal ein paar grundlegende Fragen zum Thema zfs in Kombination mit Unraid

 

1. ich habe versucht wie Hier in diesem Video von spaceinvader one beschrieben eine einzige Disk auf zfs umzustellen.

 

 

doch leider Wachen jetzt immer die zfs Disk und die Parity disk auf.
 selbst wenn ich nur die Oberfläche von Unraid öffne und sonst aber gar nicht mit dem System Arbeite.
also kein smb nichts dergleichen, zfs master ist wie im Video ebenfalls installiert.
hat jemand eine Idee was da falsch ist. 
denn im Video verstehe ich das so als ob das eigentlich nicht so sein sollte.
 da es nach meinem Verständnis einzelne Disks bleiben und werden nicht zu einem Raid zusammengefasst oder liege ich da falsch?
2. Welche Vorteile bietet zfs außer die zfs snapshots noch denn die bit rot protection ist ja leider da es Einzelne Disks sind nicht gegeben, oder liege ich da falsch?
3. Gibt es überhaupt die Möglichkeit von bit rot protection Unter Unraid?
Für ein paar Tipps bezüglich meines oben beschriebenen Problems (1.) Wäre ich sehr dankbar.
Lg waylin
  

[alturismo]

57 minutes ago, waylin2 said:

3. Gibt es überhaupt die Möglichkeit von bit rot protection Unter Unraid?

ECC Ram ... passende CPU un dMainboard und RAM

 

58 minutes ago, waylin2 said:

2. Welche Vorteile bietet zfs außer die zfs snapshots noch denn die bit rot protection ist ja leider da es Einzelne Disks sind nicht gegeben, oder liege ich da falsch?

du hast dir die Antwort selbst gegeben ... im Array macht das nicht wirklich Sinn

 

zusammengefasst ... naja, frag im entsprechenden Thread nach sofern einer vorhanden ist, zfs single disk ist ja jetzt nicht wirklich der Sinn der Sache ... zumindest nach meinem Verständnis, aber deine Entscheidung.

 

ZFS Pools sind was anderes, da werden die in einem zfs raid pool gesetzt und du hast die echten Vorteile ...

[DataCollector]

1 hour ago, waylin2 said:

3. Gibt es überhaupt die Möglichkeit von bit rot protection Unter Unraid?

"Dynamix File Integrity plugin" als App hat sich das auf die Fahne geschrieben. Es ist aber eher eine Erkennung. Reparieren kann es nicht.

So toll wie es klingt und sich anfangs benutzt, ahbe ich nach Wochen immer mehr für mich entschieden, daß es sich für mich nicht eignet.

Diverse Probleme/Fragen kamen bei der Verwendung und Anzeige im Tool auf.

leider wurden meien Frage im Supportthread nicht beantwortet (zumindest habe ich einige Wochen imme rwieder da rein geschaut) und mich dann dagegen entschieden.

Wie auch schon vorher   erzeuge ich (unter Windows) selber Checksummen für jede mir relevante Datei und überprüfe sie sporadisch (bei Hardwareumbau, oder mal so jede 1/4 Jahr manuell angestoßen). Sollten sich dabei dann Fehler zeigen, prüfe ich mit meinen Backups, wo die Datei noch in Ordnung ist und kopiere dann um und prüfe diese Stelle erneut.

Ist zwar manuell etwas Aufwand und bei großen Datenhalden unheimlich zeitfressend, aber für mich ist es eine sichere Methode.

Für die Checksummen nutze ich aktuell md5. Vorher hatte ich crc32 verwendet. beides ist ziemlich gut geeignet um ungewollte Veränderungen zu erkennen. Wenn jemand gezielt manipulieren will, sind beide Verfahren schon kompromittiert, aber darum geht es mir ja nicht.

Crc32 ist ressourcenschonender.

 

[waylin2]

@alturismo 

Moin, weißt du zufällig, wie sich das Ganze verhält, wenn man auf ein ZFS Pool nur lesend zugreift, zum Beispiel eine MP3 Datei abspielt oder so etwas ob dann auch alle Festplatten aufwachen oder nur die, auf der die Datei liegt.

Sorry, dass ich so dumm frage aber interessiert mich einfach und ich habe mit zfs gar keine Erfahrung.

 

@DataCollector

Welches Tool benutzt du denn, um deine Prüfsummen zu erzeugen, und ist es auch für große Ordnerstrukturen geeignet?.

 

Dann hätte ich noch eine kurze, allgemeine Frage. Ist es möglich? Eine Festplatte im ARRAY auszutauschen, ohne sie physisch aus dem System auszubauen. Ich frage deshalb, weil ich eine Platte austauschen möchte, diese aber selbst nicht physisch ausbauen kann.

Aufgrund meiner körperlichen Einschränkung und dafür auf die Hilfe von einem Freund angewiesen bin, würde aber gerne den softwaretechnischen Austausch also dem Rebuild Schon in Angriff nehmen ist das möglich?

 

danke lg waylin

[DataCollector]

1 hour ago, waylin2 said:

Welches Tool benutzt du denn, um deine Prüfsummen zu erzeugen, und ist es auch für große Ordnerstrukturen geeignet?

 

Wie gesagt unter Windows (weil ich mit Linux beiweitem noch nicht soweit bin sowas zu veranstalten):

Als Kommandozeilentool zur Erzeugung und überprüfung nutze ich die Kommandozeilenvariante von

 

ExactFile Console Application 1.0.1.6 BETA
Copyright 2009 StudyLamp Software LLC
www.ExactFile.com

 

Datei: exf.exe

 

Dieses bediene ich mit ein paar Bacthdateien (wie gesagt Windows) um einerseits bei Bedarf in einem Verzeichnis die Checksummern zu erzeugen (und auch den Unterverzeichnissen von da aus, wenn ich will)      und bei Bedarf auch die aktuell berechneten Checksummen mit den hinterlegten Checksummen zu vergleichen.

 

Ich schätze die Funktion Checksummen zu berechnen und auch wieder zu vergleichen gibt es auch in Linux als einfaches Tool und sowas läßt sich von jemand mit Linux Kenntnissen bestimmt auch schnell zusammenbasteln. Ich kann es leider (noch) nicht.

 

 

Zu Deiner Frage von großen Ordnerstrukturen:

Ich habe (nach einem Hardwareumbau und Festplattenaustausch August 2023) bei mir meine >3xx TB Daten (aufgeteilt in rund 100TB große Raid6 Verbünde) auf Korrektheit überprüft und bei mir unter Windows auf einem Raid6 Verbund (das ist schneller als unraid, dafür frißt es mehr Strom) hatte ich eine Geschwindigkeit von rund 2-3 Tagen für rund 100TB (also in Summe lief der Check etwas mehr als rund 9 Tage).

 

Erzeugen: ich starte meine Bacthes in einem (Unter)Verzeichnis und die laufen von da an dann alle Unterverzeichnisse ab und erzeugen in jedem Verzeichnis eine Textdatei mit Checksummen diese Checksummendateien belasse ich in den jeweiligen Verzeichnissen für ggf. spätere Überprüfung.

 

Überprüfen eines großen Bereiches: Ich starte meine Batches auf CMD Ebene in dem (Unter)Verzeichnis, in dem ich alles prüfen will und dann läuft es los und schaut sich ab dort auch alle Unterverzeichnisse an. Als Ergebnis kommt eine LOG Datei raus. Da diese Logdatei nervig zu durchsuchen ist, schicke ich die dann noch durch einen Filter und kann dann in der gefilterten Datei bequem mit einem Texteditor nach "Error" suchen und schon springt er dahin, wo eine Datei bei der Überprüfung aufgefallen ist.

Diese kann ich dann nochmal prüfen und wenn da wirklich etwas nicht stimmt schaue ich in meine Backups und sehe nach ob ich dort noch eine Version habe, die zur Prüfsumme passt. Wenn ja, passe ich das alles an und prüfe zumindest das gesamte betroffene Verzeichnis neu.

 

Überprüfen nur eines Verzeichnisses: Ich nehme den TotalCommander, welcher eine eingebaute Funktion hat um diverse Checksummen zu berechnen und anhand solcher standardtisierten Dateien zu überprüfen.

 

Edited August 30, 2023 by DataCollector
Typos und Ergänzungen

[DataCollector]

1 hour ago, waylin2 said:

Dann hätte ich noch eine kurze, allgemeine Frage. Ist es möglich? Eine Festplatte im ARRAY auszutauschen, ohne sie physisch aus dem System auszubauen. Ich frage deshalb, weil ich eine Platte austauschen möchte, diese aber selbst nicht physisch ausbauen kann.

Grundlegend würde ich sagen: ja.

Und es gibt mehrere Wege.

Ich beschreibe hier mal einen.

 

Wenn man "austauschen" schreibt, interpretiere ich das hier mal wie:

   es ist eine alte Festplatte im Array und man hat eine neue Festplatte außerhalb des Array, aber beide im selben unraidsystem gleichzeitig noch/schon installiert und funktionsfähig.

 

Die zu erhaltenden Daten von der alten Festplatte irgendwohin sichern.

(Backups sind immer anzuraten, wenn man Daten erhalten will!)

 

Dann kann man das Array stppen und mit 'new config' auflösen und neu konfigurieren (ggf erst einmal ohne Parity, da es dann schneller geht).

Hierbei läßt man die alte Festplatte aus und konfiguriert die Neue da rein.

Nun kann man die alte Festplatte per UD einbinden und die Daten von dort auf die neue Festplatte im Array kopieren.

Danach dann ggf. die Parityfestplatten dem Array wieder zuordnen und neu erstellen lassen.

 

Wie man erkenne kann läuft das in der Zwischenzeit ohne Paritätsschutzt. Deshalb kann ich nur sagen: Backups sind sehr anzuraten!

 

[jj1987]

2 hours ago, waylin2 said:

ZFS Pool nur lesend zugreift

Wenn es tatsächlich ein _Pool_ ist dann werden alle Festplatten des Pools aufwachen. Denn bei einem zfs Pool hat man ja idr einen Stripe (oder auch mirror), sodass die eine mp3 eben nicht nur auf einer Disk liegt sondern (verteilt) auf mehreren Disks 

[waylin2]

Hallo zusammen, trotz vieler Versuche bin ich was das Problem mit den aufwachenden  den Festplatten angeht, nicht weitergekommen. Selbst wenn ich die Paritäts Festplatte entferne, bleibt das Verhalten mit dem aufwachen bestehen. Selbst wenn die Platte vollständig überschrieben wurde, bleibt das Verhalten der mit ZFS formatierten Festplatte unverändert.

Wäre es möglich, dass das ZFS Master Plugin im Hintergrund irgendwelche Smartwerte  abfragt und die Festplatte deshalb immer wieder automatisch aufwacht. 

Für Tipps wäre ich echt dankbar, denn ich bin mit meinen Ideen am Ende.

 

Lg Waylin

[DataCollector]

2 hours ago, waylin2 said:

Wäre es möglich, dass das ZFS Master Plugin im Hintergrund irgendwelche Smartwerte  abfragt und die Festplatte deshalb immer wieder automatisch aufwacht.

Deinstalliere das Plugin doch einfach und schaue ob das Problem bestehen bleibt.

Ich nutze das Plugin nicht.

[waylin2]

@DataCollector

 

Frage, benutzt du deine Festplatten mit zfs in Unraid als Raid oder als Einzelne Disk?,

und wie ist das Verhalten der Festplatten bei dir bezüglich aufwachen?

 

danke

 

lg Waylin

[DataCollector]

1 hour ago, waylin2 said:

@DataCollector

Frage, benutzt du deine Festplatten mit zfs in Unraid als Raid oder als Einzelne Disk?,

und wie ist das Verhalten der Festplatten bei dir bezüglich aufwachen?

Array: Datentrräger alle xfs enc

Pool wenn einzelne Datenträger: xfs enc

Pool wenn multiple Datenträger: zfs enc

 

Zu der Frage:

Ich habe einen Pool, bestehend aus 2 Stück 18TB Festplatten (raid0) und die wachen gelegentlich einzeln auf und ab und zu sehe ich sie beide laufen,

wenn ich nicht darauf zugreife. Ich glaube ich erwähnte schon einmal, daß ich vermute zfs macht da ab und zu mal Wartungsarbeiten soder so, wenn gerade nichts zu tun ist. Aber oft schlagen die auch lange Zeit, wenn sie von mir gerade nicht gebraucht werden.

 

Meine anderen Pools beinhalten alle SSD (teils SATA, teils NVMe).

[cyp2k]

On 9/10/2023 at 7:56 PM, waylin2 said:

Frage, benutzt du deine Festplatten mit zfs in Unraid als Raid oder als Einzelne Disk?,

und wie ist das Verhalten der Festplatten bei dir bezüglich aufwachen?

 

Ich bin aktuell noch dabei meine Daten rüberzuschaufeln, konnte aber ähnliches beobachten. Habe zwei Parity Platten und 4 Single ZFS Platten. Beim Start des Kopiervorgangs wurden die Parity + Disk 1 aufgeweckt. Nachdem Disk 1 zu 50% voll war, wurde Disk 2 aufgeweckt, Disk 1 geht aber nicht mehr in den Standby. Nach einem manuellen SpinDown wurde die Disk 1 nach einiger Zeit wieder durch eine SMART Abfrage geweckt und ist seitdem aktiv (ohne Lese- Schreibzugriffe). Werde mal ein Update geben, sobald die ganzen Daten übertragen wurden.

 

Ich habe meine Layout mittlerweile 3 mal angepasst. Angefangen mit 6 x HDD Raidz2 (Datensicherheit gut, Stromverbrauch mies, Flexibilität mies, nutzbare Kapazität wie erwartet). Zweiter Anlauf waren dann 3 x Mirror (Datensicherheit ok, Stromverbrauch mies, Flexibilität ok, nutzbare Kapazität mies). Final habe ich mich nun für 2 Parity + 4 ZFS Single entschieden. Dabei bleibt die Flexibilität und Stromverbrauch (das ist noch abzuwarten) von Unraid und die Checksummenprüfung auf korrupte Daten von ZFS erhalten. Eine Reparatur defekter Daten findet hier zwar nicht statt, aber es ist ja schon einmal gut zu erfahren, welche Datei/en überhaupt betroffen sind.

 

Grüße

Andreas

 

Edited September 27, 2023 by cyp2k
typo

[DataCollector]

7 hours ago, cyp2k said:

Nach einem manuellen SpinDown wurde die Disk 1 nach einiger Zeit wieder durch eine SMART Abfrage geweckt und ist seitdem aktiv (ohne Lese- Schreibzugriffe).

 

SMART weckt nicht auf!

Wenn die Festplatte aufwacht wird SMART nur als erstes gelesen.

[Sacred]

Es gibt Mainbords die Platten für SMART aufwecken .. müsste man mal ins BIOS schauen. 

 

Edit:

Ach und ich hab das Verhalten mittlerweile auch .. auch bei Platten mit xfs.

Unraid fährt die Platten hoch und schreibt dann in den Cache. 

Warum auch immer ... soooo sehr hats mich aber bislang nicht tangiert, dass ich mal schaue warum das eigentlich passiert. 

Edited September 27, 2023 by Sacred