Hallo zusammen,

 

ich betreibe meinen Server wie folgt:

6.12.13

Gigabyte Z390 GAMING X-CF

i5-9600K

(alles Komponenten die schon vorhanden waren)

 

Cache: 2x Viper_VP4300L_2TB im Raid1 direkt auf dem Mainboard montiert <--- Der macht Probleme

Array: 3x 12 TB + 1 x 12TB (Parity)

Frigate_Cache: 1x NVME 1TB Pro via PCI Adapter 

 

Der Server läuft soweit Stabil, jedoch geht eine der beiden NVME in den Spindown (oder Standby oder auch was anderes). Das sehe ich primär immer erst daran, dass ich in der Übersicht keine Temperatur zu der dazugehörigen Platte bekomme. Auch wird auf diese Platte nicht mehr geschrieben oder von ihr gelesen.

Der Aktivitätspunkt ist aber "grün".

 

 

Ich kann die Platte auch nicht aufwecken, sondern muss einen Reboot durchführen. (Zumindest kenne ich keinen anderen Weg).

 

Folgendes kann ich noch bereichten:

Ich habe Powertop autotune (bzw. das komplette Script) im go-file und lasse es ausführen.

Auf dem cache erfolgt ständiges schreiben, da dort influxdb als docker liegt und ständig werte eintrudeln.

 

Ich vermute, dass ich "zu viel" Energie bei den PCI Controllern sparen will bzw. spare, bin mir aber nicht sicher.

 

Kennt jemand das Verhalten bzw. kann mir einen Lösungsvorschlag nennen?

 

 

Edited November 9, 20241 yr by anmarcel

11 minutes ago, anmarcel said:

Ich vermute, dass ich "zu viel" Energie bei den PCI Controllern sparen will bzw. spare, bin mir aber nicht sicher.

 

Kennt jemand das Verhalten bzw. kann mir einen Lösungsvorschlag nennen?

ich würde sagen du vermutest richtig

 

naja, schalte mal alle Stromsparer ab ... dann beobachten, dann Stück für Stück ...

43 minutes ago, anmarcel said:

Cache: 2x Viper_VP4300L_2TB im Raid1 direkt auf dem Mainboard montiert <--- Der macht Probleme

 

Der Server läuft soweit Stabil, jedoch geht eine der beiden NVME in den Spindown (oder Standby oder auch was anderes). Das sehe ich primär immer erst daran, dass ich in der Übersicht keine Temperatur zu der dazugehörigen Platte bekomme. Auch wird auf diese Platte nicht mehr geschrieben oder von ihr gelesen.

Der Aktivitätspunkt ist aber "grün".

 

Habe ich zwar noch nicht erlebt, aber was ist daran schlimm, wenn bei einem Raid1 ein Datenträger sich bei Inaktivität schlafen legt?

 

43 minutes ago, anmarcel said:

Ich habe Powertop autotune (bzw. das komplette Script) im go-file und lasse es ausführen.

 

Wie alturismo schon andeutete: lass das doch mal weg.

 

43 minutes ago, anmarcel said:

Auf dem cache erfolgt ständiges schreiben, da dort influxdb als docker liegt und ständig werte eintrudeln.

 

Okay, dann sollte die zweite NVme SSD im Raid1 natürlich wach sein7werden.

Wenn das nicht passiert sollte die Software, die für raid zuständig ist, aber schon Alarme auswerfen.

 

 

43 minutes ago, anmarcel said:

Ich vermute, dass ich "zu viel" Energie bei den PCI Controllern sparen will bzw. spare, bin mir aber nicht sicher.

 

Das kann schon sein. Ich kümmere mich sowas von gar nicht speziell um meine NVMe SSD.

Die sind drin und ich benutze sie. Daß die sich wirklich schlafen legen ist bei mir nicht der Fall/erkennbar.

Da sich SSDs selber um ihre Sparzustände kümmern (wenn man mal einige WD und Server SSDs aussen vor läßt), hatte ích noch nicht das Bedürfnis da extra deswegen Hand anlegen zu müssen.

 

Erstmal Danke für eure Rückmeldungen!

 

 

4 minutes ago, DataCollector said:

Okay, dann sollte die zweite NVme SSD im Raid1 natürlich wach sein7werden.

Wenn das nicht passiert sollte die Software, die für raid zuständig ist, aber schon Alarme auswerfen.

 

Ich bekomme keine Fehlermeldung angezeigt (oder ich finde/sehe sie nicht). Auf jeden Fall bleibt die Platte erstmal weg und ein kompletter Powercycle muss durchgeführt werden. Nur Reboot reicht nicht aus. Ich hatte mich vorher nicht genau genug ausgedrückt.

 

 

4 minutes ago, DataCollector said:

Das kann schon sein. Ich kümmere mich sowas von gar nicht speziell um meine NVMe SSD.

Die sind drin und ich benutze sie. Daß die sich wirklich schlafen legen ist bei mir nicht der Fall/erkennbar.

Da sich SSDs selber um ihre Sparzustände kümmern (wenn man mal einige WD und Server SSDs aussen vor läßt), hatte ích noch nicht das Bedürfnis da extra deswegen Hand anlegen zu müssen.

 

Ich habe mich auch nicht bewusst dafür entschieden, sondern lediglich "auto tune" vollzogen. 

Ich wollte generell nur die Powertunes für die PCI des Prozessors aktivieren. Wenn ich bei dem Skript die NVMEs direkt ausklammern kann, dann gerne her damit. Hier reichen meine Kenntnisse nicht aus.

 

Ich werde jetzt erstmal die "PCI" Tunes deaktiveren und hoffe, dass ich damit nicht auch die Tunes für den Prozessor mit deaktiveren.

 

2 hours ago, anmarcel said:

Ich bekomme keine Fehlermeldung angezeigt (oder ich finde/sehe sie nicht).

 

Das ist irritierend.

Entweder Deijne Art das Raid aufzubauen war falsch oder die verwendete Funktion ist defekt oder es wird gar nicht geschrieben.

Vielleicht läuft die SSD ja, Du erkennst es nur nicht (weil es eben nicht so angezeigt wird, wie Du es erwartest)?

 

 

2 hours ago, anmarcel said:

Auf jeden Fall bleibt die Platte erstmal weg und ein kompletter Powercycle muss durchgeführt werden.

 

Wenn Deine Raid1 Funktion korrekt läuft und ein Datenträger ausgestiegen sit, sollte die Software Dich mit Warnungen vollpflasrern.

Da sie das nicht macht befürchte ich, Du hast da irgendetwas falsch eingestellt (gar kein Raid1 eingerichtet?) oder die Anzeige der SSD ist falsch und sie läuft fehlerfrei.

 

Bittr beschreibe/zeige mal Dein Raid1.

 

2 hours ago, anmarcel said:

Ich habe mich auch nicht bewusst dafür entschieden, sondern lediglich "auto tune" vollzogen. 

 

Was denn nun? ein Script, welches sich um die Einstellungen kümmert (da hatte ich das Script von mgutt vor AUgen) oder nur den powertop -auto--tune Befehl im Go FIle?

 

2 hours ago, anmarcel said:

Wenn ich bei dem Skript die NVMEs direkt ausklammern kann, dann gerne her damit.

 

Dazu müsste man verstehen, was Du da gemacht hast.

 

29 minutes ago, DataCollector said:

Was denn nun? ein Script, welches sich um die Einstellungen kümmert (da hatte ich das Script von mgutt vor AUgen) oder nur den powertop -auto--tune Befehl im Go FIle?

 

Also, ich habe bewusst mich dafür entschieden -auto--tune zu machen. Einmal per powertop in der Kommandozeile und dann eben mit den von Mgutt zu Verfügung gestellten Skripten in der go-Datei.

 

Ich habe aber beim anwenden nicht genau (!) hinterfragt, was passieren könnte, wenn er mit PCI optmiert.

 

Anbei ein paar Bilder von meiner Raid Konfiguration. Sollte ich hier Fehler gemacht habe, bin ich über Hinweise dankbar.

 

 

 

32 minutes ago, DataCollector said:

Wenn Deine Raid1 Funktion korrekt läuft und ein Datenträger ausgestiegen sit, sollte die Software Dich mit Warnungen vollpflasrern.

 

Im log bekomme ich entsprechende Fehlermeldungen. Aber ich bekomme keine PopUps oder sonstige Mitteilungen. Und ehrlich gesagt. habe ich nicht immer eine Log Fenster offen.

 

Leider habe ich es verpennt ein Screenshot vom Log zu machen, bzw. das Log zu sichern.

 

 

 

 

37 minutes ago, anmarcel said:

Also, ich habe bewusst mich dafür entschieden -auto--tune zu machen. Einmal per powertop in der Kommandozeile und dann eben mit den von Mgutt zu Verfügung gestellten Skripten in der go-Datei.

das sollte jedoch "entweder / oder" sein und nicht zusammen

 

38 minutes ago, anmarcel said:

Im log bekomme ich entsprechende Fehlermeldungen. Aber ich bekomme keine PopUps oder sonstige Mitteilungen. Und ehrlich gesagt. habe ich nicht immer eine Log Fenster offen.

 

die solltest du hier posten, und da btrfs ... was (leider) gerne issues bereitet ...

 

lies dich ein zu "scrub" und ggf. "btrfs repair"

 

daher nutzen immer weniger raid1 oder steigen auf zfs um (mit dessen Vor und Nachteilen, einlesen !!!)

4 minutes ago, alturismo said:

das sollte jedoch "entweder / oder" sein und nicht zusammen

 

Ja, das ist mir bewusst. Da nach einem reboot die auto-tune weg sind, wurde nach erfolgreichem Test das go file angepasst. Dann natürlich ohne manuellen auto-tune.

 

5 minutes ago, alturismo said:

lies dich ein zu "scrub" und ggf. "btrfs repair"

 

daher nutzen immer weniger raid1 oder steigen auf zfs um (mit dessen Vor und Nachteilen, einlesen !!!)

 

Danke. Scrub und Repair habe ich durchgeführt. Daten sind auch noch da (und ich habe auch ein BackUp). 

 

Ich würde aber gerne verstehen, wo das Problem liegt. Liegt es am

- btrfs

- an meinen powertunes

- oder falsch konfigurierten Raid1

 

Bei englischen Teil des Forums habe ich noch den Hinweis gefunden, dass man die Powersavings für die SSDs gezielt deaktivert:

nvme_core.default_ps_max_latency_us=0 pcie_aspm=off

 

Bevor ich da aber wild alles eintippe, würde ich gerne wissen, woran es liegt, um zu wissen, was helfen könnte.

1 hour ago, anmarcel said:

Also, ich habe bewusst mich dafür entschieden -auto--tune zu machen. Einmal per powertop in der Kommandozeile und dann eben mit den von Mgutt zu Verfügung gestellten Skripten in der go-Datei.

 

Ich würde testweise das Scipt mal deaktiovienen und wnen überhaupt dann nur den direkten powertop Befehl nutzen.

 

1 hour ago, anmarcel said:

Anbei ein paar Bilder von meiner Raid Konfiguration. Sollte ich hier Fehler gemacht habe, bin ich über Hinweise dankbar.

btrfs. Igitt.

Ich nutze seit unraid 6.12.x zfs bei Raid.

Ansonsten siebt es gut aus.

btrfs (abgesehen von den Risiken im Dateisystem selber) wird von uraid eigentlich gut unterstützt. Wenn sich ein Datenträger verabschiedet hätte, sollte unraid das melden.

 

1 hour ago, anmarcel said:

Und ehrlich gesagt. habe ich nicht immer eine Log Fenster offen.

 

Das habe ich auch nicht, aber ich bin es gewohnt, daß mir unraid bei erkannten Problemen rechts oben einen Hinweis anzeigt.

 

1 hour ago, anmarcel said:

Leider habe ich es verpennt ein Screenshot vom Log zu machen, bzw. das Log zu sichern.

 

Wenn es wieder passiert kannst Du es ja mal zeigen.

 

4 hours ago, DataCollector said:

btrfs. Igitt.

Ich nutze seit unraid 6.12.x zfs bei Raid.

Ansonsten siebt es gut aus.

btrfs (abgesehen von den Risiken im Dateisystem selber) wird von uraid eigentlich gut unterstützt. Wenn sich ein Datenträger verabschiedet hätte, sollte unraid das melden.

 

 

Danke für die Rückmeldung. Ich habe dann auch mal auf ZFS umgestellt. 

 

4 hours ago, DataCollector said:

Das habe ich auch nicht, aber ich bin es gewohnt, daß mir unraid bei erkannten Problemen rechts oben einen Hinweis anzeigt.

Genau, das rote oder gelbe Pop Up kam aber nicht. Daher bin ich auch so verwirrt gewesen.

 

4 hours ago, DataCollector said:

Wenn es wieder passiert kannst Du es ja mal zeigen.

Ich hoffe, es taucht nicht mehr auf. Falls aber doch, dann werde ich nen Screenshot machen.

 

Danke für die Unterstützung bisher!

 

Heute Nacht war es dann wieder so weit: Eine der beiden Pool NVME war plötzlich weg. 

 

Der Pool-Cache ist mittlerweile auf ZFS umgestellt und der Spindown steht auf "never".

 

Powertop tunes standen/stehen noch auf "Auto". --> Also liegt es schonmal nicht am Dateisystem BTRFS oder ZFS.

Als nächstes werde ich den PCI Part in Powertop mal weg lassen.

 

Es gab keine Fehlermeldung: Lediglich an der fehlenden Temperatur und dem nicht-schreiben merkt man es.

Anbei ein paar Screenshots. 

 

 

 

 

Der Übersicht halber mache ich einfach einen neuen Post.

 

Ich habe jetzt ziemlich viel probiert:

Steckplätze getauscht, Energiesparmaßnahmen deaktiviert, Dateisystem

 

Alles ohne Erfolg. Eine NVMe SSD ist immer ausgestiegen. Das Problem scheint sporadisch bei einigen Mainboard/NVMe Kombinationen aufzutreten. Abhilfe hat relativ häufig der Tausch zu einer Samsung Pro oder Evo geschaffen. Das werde ich jetzt mal probieren.

Ich kann das Thema von meiner Seite als gelöst erklären.

 

Ich habe jetzt zwei Samsungs 990 Pro im Einsatz. Seitdem ich diese verbaut habe (7 Tage) gab es keine Fehler und keine Probleme. Bei den Viper kam es ja nach ca. 12h zum Ausfall. Es lag also definitiv an der Hardware Kombination zwischen MoBo und NVMe SSD. Vielleicht hatte auch eine der beiden NVMe einen defekt. (Ich habe aber beide SSD mit Pre-Clear einmal getestet und genullt. Alles ohne Auffälligkeiten)