Dank der Flut an Informationen halten wir uns für allwissend, in Wahrheit aber war der sog. Nebel des Krieges (fog of war) selten so stark und trügerisch wie heute.
Es ist eigentlich ganz einfach.
Ich hab per Oculink die externe 3090 in einem Docker angebunden, mithilfe der 48GB RAM und dem 5 GBITS LAN kann ich jetzt per vLLM und API Zugriff meinem Clawdbot die LLM's durchreichen, auch per tailscale von unterwegs.