Hallo zusammen,

ich versuche auf meinem Unraid‑Server Docker‑Container mit GPU‑Support zu nutzen (u.a. Ollama).

Umgebung:
– Unraid‑Version: 7.2.4
– Nvidia Driver Plugin: 2026.03.19
– GPU: RTX 2080 (Host: nvidia-smi funktioniert, zeigt CUDA 13.2)

Problem: Jeder Docker‑Container mit --gpus all bricht direkt beim Start ab, z.B.

docker run --rm --gpus all nvidia/cuda:12.3.2-base-ubuntu22.04 nvidia-smi

mit folgendem Fehler:

Auto-detected mode as 'legacy'
nvidia-container-cli: ldcache error: process /sbin/ldconfig failed with error code: 1: unknown.

Was ich bisher gemacht habe:
– Nvidia Driver Plugin komplett deinstalliert, neu installiert, Server mehrfach neu gestartet.
– Symlink /sbin/ldconfig.real -> /sbin/ldconfig angelegt.
– nvidia-ctk runtime configure --runtime=docker ausgeführt.
– Aktuelle /etc/nvidia-container-runtime/config.toml (Auszug):

[nvidia-container-cli]
path = "/usr/bin/nvidia-container-cli"
ldcache = "@/sbin/ld.so.cache"
ldconfig = "@/sbin/ldconfig"

[nvidia-container-runtime]
log-level = "warning"
runtimes = ["docker-runc","runc"]
mode = "auto"

Trotzdem schlägt jeder GPU‑Container mit obigem Fehler fehl.

Habt ihr eine Idee, ob das ein bekanntes Problem mit der aktuellen Unraid‑ / Plugin‑ / Treiber‑Kombination ist oder was ich noch prüfen kann (z.B. bestimmte Log‑Files, Versionen etc.)?

Vielen Dank!

### Ergänzung ###

Ich habe im Server 2 Grafikkarten am laufen. Eine 2080 für den Server selbst und eine 2070 für eine VM die ich durchgereicht habe per Bind Selected to VFIO at Boot.

Edited April 30Apr 30 by Sn0w90

27 minutes ago, Sn0w90 said:

Umgebung:
– Unraid‑Version: <deine Version>
– Nvidia Driver Plugin: <Version laut Plugin‑Seite>

27 minutes ago, Sn0w90 said:

Problem mit der aktuellen Unraid‑ / Plugin‑ / Treiber‑Kombination ist

?

Oh sorry...

habe oben auch ergänzt:

– Unraid‑Version: 7.2.4
– Nvidia Driver Plugin: 2026.03.19

Ich komme nicht weiter. Vor einiger Zeit hat es noch alles geklappt. Jetzt klappt es nicht mehr. Habe auch schon nen Backup geladen. Brachte leider auch nichts.

docker run und auch die Diagnostics fehlen.

3 hours ago, Sn0w90 said:

– Aktuelle /etc/nvidia-container-runtime/config.toml (Auszug):

Die toml ist falsch.

Bitte mach eine saubere Deinstallation Neustinstallation vom Plugin:

1. Plugin löschen

2. Reboot

3. Plugin neu installieren
   Evtl. Treiber auswählen wenn du einen anderen brauchst

4. Reboot

Danke schon mal für die schnellen Antworten.

Das Plugin habe ich jetzt schon 3 mal komplett gelöscht und neu installiert. Der Fehler bleibt leider weiterhin.

Habe die Deinstallationen / Installationen auch genauso gemacht wie du beschrieben hast.

Habe genau das gleiche Problem...

Setup:

- Unraid 7.2.4

- NVIDIA-Driver Plugin 2026.03.19

- GPU: RTX 2070 (8GB)

- Container Toolkit v1.19.0 (laut nvidia-container-cli)

Treiber wurde am 28.04. auf 595.71.05 aktualisiert (im Hintergrund, Reboot ausstehend).

Heute habe ich aus anderen Gründen rebootet, seitdem startet kein einziger Container

mit --gpus=all mehr:

nvidia-container-cli: ldcache error: process /sbin/ldconfig failed with error code: 1

Was ich getestet habe:

- Symlinks in /usr/lib64 manuell repariert (libOpenGL.so.0, libGLdispatch.so.0, libGLX.so.0 -> waren reguläre Dateien statt Symlinks, daneben alte Mesa-Versionen vom 16.08.2024)

- Docker daemon restart

- ldconfig läuft sauber durch (auch -X gibt nichts aus)

- nvidia-container-cli -k -d /dev/tty info läuft fehlerfrei durch und erkennt die GPU

- Downgrade auf 595.58.03 → gleicher Fehler

- Downgrade auf 590.48.01 → gleicher Fehler

- Switch-Back-Trick (590.48.01 → 595.71.05 mit Reboot) → gleicher Fehler Plugin baut bei jeder Treiber-Installation den gleichen kaputten Symlink-Stand:

- libOpenGL.so.0 als reguläre Datei (statt Symlink)

- libOpenGL.so.0.0.0 noch als alte Mesa-Version vom 16.08.2024 daneben

(gleiches Pattern bei libGLdispatch und libGLX)

Bin auf das GitHub-Issue gestoßen, den @ich777 selbst geöffnet hat:

https://github.com/NVIDIA/nvidia-container-toolkit/issues/1385

Da steht beschrieben dass v1.18.0+ des Container Toolkits auf Unraid (RAM-Filesystem) nicht funktioniert ohne Patch.

Mein System hat v1.19.0. evtl fehlt der Patch im aktuellen Plugin-Build ? Oder greift nicht?

Danke für deine Arbeit am Plugin!

Update – Problem gelöst!

Nach langem Debuggen hab ich die Lösung gefunden. Kurze Zusammenfassung was ich alles getestet habe und was am Ende geholfen hat:

Was ich getestet habe (was NICHT geholfen hat):

• config.toml: ldconfig = "@/sbin/ldconfig" gesetzt → Container mit ldcache error gescheitert

• config.toml: mode = "legacy" → Container startet gar nicht mehr

• config.toml: ldconfig = "@/bin/true" → gleicher Fehler, /bin/true wird trotzdem mit Exit 1 gewertet

• CDI-Spec generiert (nvidia-ctk cdi generate) und mode = "cdi" gesetzt → Container startet, aber libcuda wird nicht geladen

Was tatsächlich das Problem war:

Es sind zwei separate Probleme die zusammen aufgetreten sind:

1. Das bekannte ldcache/RAM-Filesystem Problem aus Issue #1385 – das verhindert den Container-Start wenn --runtime=nvidia fehlt oder legacy mode aktiv ist

2. Ein neuer Syscall den Treiber 595.71.05 braucht, der vom Docker Default-Seccomp-Profil geblockt wird → das ist der eigentliche Grund warum CUDA nicht funktioniert hat, auch wenn der Container gestartet ist

Fix:

Jeden GPU-Container braucht jetzt folgende Extra Parameters:

• --runtime=nvidia (explizit setzen, --gpus=all alleine reicht nicht!)

• --security-opt seccomp=unconfined

Nach dem Reboot läuft alles wieder – Tdarr transkodiert, Ollama greift auf die GPU zu.

Getestet auf:

• Unraid 7.2.4

• NVIDIA-Driver Plugin 2026.03.19

• Treiber 595.71.05

• Container Toolkit v1.19.0

• RTX 2070

Hoffe das hilft anderen mit dem gleichen Problem.

6 hours ago, Kreuzbube88 said:

Jeden GPU-Container braucht jetzt folgende Extra Parameters:

erstmal Danke für den workaround deinerseits, nur sollte man wissen das beispielsweise der erste Punkt schon immer so war

3 grundsätzliche settings erstmal (plugin Instructions Seite 1)

1. Add '--runtime=nvidia' in your Docker template in 'Extra Parameters' (you have to enable 'Advanced view' in the template to see this option)

2. Add a variable to your Docker template with the Key: 'NVIDIA_VISIBLE_DEVICES' and as Value: 'YOURGPUUUID' (like 'GPU-9cfdd18c-2b41-b158-f67b-720279bc77fd')

3. Add a variable to your Docker template with the Key: 'NVIDIA_DRIVER_CAPABILITIES' and as Value: 'all'

Punkt 2 kann auch "all" sein, kann nur kritisch werden wenn man mehrere Karten verbaut hat, nur als Tipp.

Zum Thema --security-opt seccomp=unconfined

hier sollte erwähnt sein das man hiermit einiges an Sicherheit verliert, sollte nur genutzt werden zum debug um den Container sauber zu konfigurieren, beispielsweise mit einer custom_seccomp.json, würde eher sagen das gehört in den github des jeweiligen container maintainers wenn es jetzt Probleme damit geben sollte.

Soll nur als Anmerkung dienen.

Hey zusammen.

Danke noch mal für die ganzen Tipps.

Kreuzbude88 hat dann aber der den ausschlaggebenden Tipp gegeben. Habe mal nur den Parameter --runtime=nvidia eingegeben. Das hat bei mir gereicht und ollama startet wieder durch.