Der Shop ist online

Wir bauen Workstation AI-Maschinen für Websites, KI-Agenten und LLM-Training – online konfigurieren und kaufen.

Händlerpreise erhalten
KI-Produkte
KI-LabsOpenAI-AgentenClaude-AgentenGrok-BotWorkstation AI-natives CRMMarketingAlle Produkte
KI-Lösungen
Angewandte KIKI-AgentenGenerative KIKI-AutomatisierungKI-WeiterbildungKI-Pakete für KMUEnterprise AI LabKI-WorkstationsNVIDIA-Hardware & -SoftwareNVIDIA Accelerated ComputingPrivate KIGPU-Private-CloudGPU-ClusterEdge-KIKI nach Branche
KI-Services
PlattformmodernisierungDigital EngineeringDatengrundlagen & KIAutonomer BetriebKI-BeratungDevOps-AutomatisierungCybersicherheitSoftwareentwicklungAgentenentwicklungMLOps-EinrichtungGPU-LeasingGPU-Private-Cloud
Über uns
UnternehmenUnsere GeschichtePartnerKundengeschichten
KI-Rechenzentren
KI-RechenzentrenGPU-Private-CloudGPU-ClusterGPU-Leasing
KI-EinblickeJev-ReiheBenchmark LabModellauswahl
Technische Hinweise
Dokumentation
Linux-BetriebssystemeUbuntuRed Hat Enterprise LinuxSUSE LinuxAlpine LinuxDebian, Rocky & AlmaLinux
KI-Cloud-PlattformenAWS & Amazon BedrockGoogle Cloud & Vertex AIMicrosoft Azure & AI FoundryGPU-Clouds & Marktplätze
Private KI-RechenzentrenFür AnwaltskanzleienFür Steuer- und WirtschaftsprüfungskanzleienOn-Premises-PlattformenVollständig abgesicherte Cloud
ToolsRing PromoterJobshout
News
Blog
KontaktAnmelden

KI-Workstations, Multi-Agenten-KI-Software, GPU-Infrastruktur und intelligente Agentenlösungen für moderne Unternehmen.

Kontakt

KI-Lösungen

Angewandte KIKI-AgentenGenerative KIKI-AutomatisierungKI-WeiterbildungKI-Pakete für KMUEnterprise AI LabKI nach Branche

Produkte

Alle ProdukteWorkstation AI-natives CRM & ERPMarketingOpenAI-AgentenRing PromoterJobshout

Unternehmen

Über unsUnternehmenKI-RechenzentrenWarum WorkstationPartnerKundengeschichtenPreiseKontaktTenthMatrix

Ressourcen

KI-EinblickeTechnische HinweiseDokumentationLinux-BetriebssystemeKI-Cloud-PlattformenPrivate KI-RechenzentrenBlogSucheSitemap
Büro Belgien
Workstation SRL, Rue Vanderkindere 34, 1180 Uccle, BrusselsBE 0751.518.683Mo – Fr: 9:00 – 18:00 Uhr MEZ
+32 492 45 67 46
Hauptsitz Großbritannien
77-79 Marlowes, Hemel Hempstead HP1 1LFAnfahrt – Ausfahrt 20 der M25 (Outer London)Handelsregisternr.: 11641870Mo – Fr: 9:00 – 18:00 Uhr GMT
+44 7515 356 146
Büro Indien
#159 Sector 9, Pocket 1, DDA Flats, 110077 Dwarka, New Delhi
+91 98881 98841
Büro Taiwan
3F, No. 2-4, Aisi Rd., Ren'ai Dist., Keelung City 200, Taiwan基隆市仁愛區愛四路2之4號3樓Mo – Fr: 9:00 – 18:00 Uhr Taiwan-Zeit (GMT+8)
+886 926 892 701+32 492 45 67 46
Büro Estland
Aleksander Puškini tn 30-25, 20306 Narva, EstoniaMo - Fr: 9:00 - 18:00 Uhr estnischer Zeit (EET)
+32 492 45 67 46

© 2026 Workstation AI. Alle Rechte vorbehalten.

DatenschutzDatenlöschungCookiesNutzungsbedingungenWebsite-Sitemap

NVIDIA, das NVIDIA-Logo, RTX, RTX PRO, Blackwell, CUDA, NVLink, MGX, Omniverse, Spectrum-X, Quantum, BlueField, DGX und HGX sind Marken und/oder eingetragene Marken der NVIDIA Corporation in den USA und anderen Ländern. AMD, das AMD-Arrow-Logo, EPYC, Instinct, Ryzen und Threadripper sind Marken von Advanced Micro Devices, Inc. Dell und PowerEdge sind Marken der Dell Inc. oder ihrer Tochtergesellschaften. Intel und Xeon sind Marken der Intel Corporation oder ihrer Tochtergesellschaften. AMAX, AceleMax und LiquidMax sind Marken der AMAX Engineering Corporation. Alle anderen Produktnamen, Logos und Marken sind Eigentum ihrer jeweiligen Inhaber. Wir verwenden sie ausschließlich, um die Produkte zu kennzeichnen, die wir beschreiben, liefern oder unterstützen; ihre Verwendung bedeutet nicht, dass ihre Inhaber uns empfehlen.

Startseite / Technische Hinweise / Technology
AIAI AgentsSecurityHardware

NVIDIA NemoClaw für KI-Rechenzentren und KI-Fabriken in Unternehmen: wie Workstation es einrichtet, integriert und unterstützt

Was NemoClaw ist und was nicht, Upstream-Status, Referenzarchitekturen in drei Größenordnungen, Modell-Routing nach Datenklasse unter UK GDPR, das Sicherheitsmodell im Detail, Integration mit wslvault, wslproxy, WSL VPN, OpsAPI SSO und Ring Promoter, Agenten-Observability mit validierter OpenTelemetry- und Prometheus-Konfiguration, ein phasenweises Vorgehen, ausgearbeitete Beispiele und Runbooks

9. November 2026Technology46 min read

Ein Leitfaden aus der Praxis, um NVIDIA NemoClaw vom Laptop eines Entwicklers in ein KI-Rechenzentrum oder eine KI-Fabrik eines Unternehmens zu bringen. Er erklärt, was NemoClaw ist und wie es mit OpenShell, dem Agent Toolkit, NIM und Nemotron zusammenhängt; was laut NVIDIAs eigener Dokumentation bereit ist und was nicht; Referenzarchitekturen in drei Größenordnungen; Modell-Routing nach Datenklasse unter UK GDPR; das Sicherheitsmodell im Detail; wie wir den Stack mit Workstations eigenen Werkzeugen umgeben (wslvault, wslproxy, WSL VPN, OpsAPI Single Sign-on, Ring Promoter, Kubepilot, NebulaDB und unser OpenTelemetry-Stack); Agenten-Observability; Release-Management; unseren phasenweisen Einrichtungsservice; drei ausgearbeitete Beispiele; und die Runbooks, die wir übergeben. Er schließt an unseren früheren Beitrag zu NVIDIA OpenShell an, der die Sandbox-Runtime für sich behandelt.

Ein Agenten-Harness läuft in einer von NemoClaw verwalteten OpenShell-Sandbox auf NVIDIA-Hardware mit lokaler Nemotron-Inferenz, umgeben von Workstation-Kontrollen: WSL VPN, OpsAPI Single Sign-on mit Freigaben, wslvault, wslproxy, Ring Promoter und Observability.

Zusammenfassung. NemoClaw bündelt ein Agenten-Harness (OpenClaw, Hermes oder LangChain Deep Agents Code), eine Modellroute und die OpenShell-Sandbox zu einer wiederholbaren, versionierten Einrichtung mit standardmäßig verweigertem Egress und Zugangsdaten, die außerhalb des Agenten bleiben. Das ist die richtige Grundlage für dauerhaft laufende Agenten, aber NVIDIAs eigene Dokumentation stellt klar, dass das Projekt eine Alpha-Version im Early Preview ist, ausgerichtet auf einen Host und einen vertrauenswürdigen Betreiber, ohne Single Sign-on, ohne Betreiberrollen, ohne Fleet-Policy-Dienst, mit manuellem Audit-Export und ohne Service-Level. Ein Unternehmenseinsatz benötigt daher eine Schicht darum herum. Diese Schicht liefern wir: privaten Zugang über WSL VPN, namentlich benannte Freigebende über OpsAPI Single Sign-on, kurzlebige Secrets aus wslvault, eine zweite Egress- und WAF-Prüfung in wslproxy, gestaffelte Releases über Ring Promoter sowie Traces, Metriken und Audit in OpenTelemetry, Grafana, ELK und NVIDIA Minerva. Außerdem liefern wir die Hardware, dimensionieren sie, bauen sie auf und betreiben sie gemeinsam mit Ihnen.
Hinweis zu Umfang und Transparenz. Die Fakten zu NemoClaw in diesem Artikel stammen von NVIDIAs öffentlicher Produktseite und aus den Repositorys NVIDIA/NemoClaw, NVIDIA/nemoclaw-community und NVDLI/NemoClawDLI mit Stand vom 9. November 2026. NemoClaw entwickelt sich schnell: Das Repository trägt Release-Candidate-Tags, während seine Plattformmatrix noch Alpha angibt, und mehrere der erwähnten Funktionen sind upstream als experimentell oder zurückgestellt gekennzeichnet. Wir zeigen nur NemoClaw-Befehle, Dateinamen und Policy-Syntax, die in diesen Repositorys vorkommen. Die Konfiguration für Workstations eigene Dienste folgt den in unseren früheren Technotes veröffentlichten Formaten oder ist als veranschaulichend gekennzeichnet. Die Konfiguration des OpenTelemetry Collector und die Prometheus-Regeln wurden mit den jeweils eigenen Werkzeugen validiert. Abschnitt 16 beschreibt, was verifiziert wurde und was nicht.

1. Management-Zusammenfassung

Die meisten Organisationen, die 2026 Agenten ausprobiert haben, haben dieselbe Lektion gelernt: Ein leistungsfähiges Modell mit Werkzeugen lässt sich leicht vorführen, aber schwer vertrauen. Ein dauerhaft laufender Agent liest nicht vertrauenswürdigen Text (E-Mails, Tickets, Webseiten, Dokumente), besitzt Zugangsdaten und kann das Netzwerk erreichen. Kommen diese drei Dinge zusammen, kann eine einzige präparierte Anweisung in einem Dokument einen hilfreichen Assistenten in ein Werkzeug zur Datenexfiltration verwandeln. NVIDIAs NemoClaw ist eine direkte Antwort auf dieses Problem. Es bündelt ein gewähltes Agenten-Harness mit einer Modellroute und einer Sandbox, deren Netzwerk-, Dateisystem-, Prozess- und Inferenzverhalten durch eine Policy außerhalb der Reichweite des Agenten gesteuert wird.

Für einen CTO oder Infrastrukturverantwortlichen sind dies die geschäftlichen Kernpunkte:

  • Es verkürzt den Weg vom Prototyp zum kontrollierten Pilotbetrieb. Der Blueprint liefert einen bewährten, per Digest gepinnten Ausgangspunkt statt eines von Hand zusammengestellten Containers pro Team.
  • Es ermöglicht, sensible Arbeit auf Ihren eigenen GPUs zu halten. Nemotron und andere offene Modelle können lokal auf DGX-, RTX-PRO- oder HGX-Systemen bereitgestellt werden, sodass als „Restricted“ eingestufte Daten den Standort nie verlassen müssen. Gehostete Frontier-Modelle bleiben für Arbeit verfügbar, die dafür freigegeben ist.
  • Für sich allein ist es noch keine Unternehmensplattform. NVIDIAs Dokumentation führt Single Sign-on als Roadmap-Punkt, Betreiberrollen und Mandantenfähigkeit als außerhalb des Umfangs, Fleet-Management und Audit-Export als manuell und bietet kein Service-Level. In diesen Lücken kommt es auf Integrationsarbeit und einen Partner an.
  • Das Risiko ist mit den richtigen Kontrollen beherrschbar. Standardmäßig verweigerter Egress, vermittelte Zugangsdaten, menschliche Freigabe für folgenreiche Aktionen, gestaffelte Releases und eine lückenlose Nachweiskette machen aus Agenten statt einer Sicherheitsausnahme einen kontrollierten Dienst.

Workstation, ein NVIDIA-Partner, liefert die Hardware, baut die Plattform, schreibt die Policy, integriert unsere eigenen Sicherheits- und Release-Werkzeuge und unterstützt das Ergebnis. Der Rest dieses Artikels beschreibt die Technik dahinter.

2. Was NemoClaw ist und was nicht

NVIDIA beschreibt NemoClaw als eine Reihe offener Blueprints für spezialisierte, dauerhaft laufende autonome Agenten, die ein Team vom Experiment zu einem kontrollierten Einsatz bringen, mit Laufzeitkontrollen, Modell-Routing, Skills und Observability (siehe die offizielle NVIDIA-NemoClaw-Seite). Im GitHub-Repository, veröffentlicht unter Apache 2.0, ist es ein Referenz-Stack: eine Host-CLI, eine Agenten-Integrationsschicht, ein versionierter Blueprint und Lifecycle-Werkzeuge, die unterstützte Agenten in OpenShell-Sandboxes mit verwalteter Inferenz, Network Policy, verwalteten Integrationen und persistentem Zustand ausführen.

Die Beziehung zwischen den NVIDIA-Namen ist das Erste, wonach die meisten Teams fragen; hier daher in einer Tabelle.

KomponenteWas sie istRolle in einem NemoClaw-Einsatz
NemoClawNVIDIAs Referenz-Stack und Blueprints für einen sichereren Betrieb von AgentenDas Paket: Host-CLI (nemoclaw, plus die Aliase nemohermes und nemo-deepagents), versionierter Blueprint, Policy-Stufen und Presets, verwaltete Inferenz und MCP-Einrichtung, Backup, Neuaufbau und Wiederherstellung
OpenShellNVIDIAs offene Sandbox-Runtime für AgentenDie Durchsetzungsschicht: Gateway, Sandbox-Lifecycle, Policy für Netzwerk, Dateien und Prozesse, Modell-Routing und Speicherung von Zugangsdaten. NemoClaw ruft sie auf; es ersetzt sie nicht
Agenten-HarnessOpenClaw (Standard), Hermes von Nous Research oder LangChain Deep Agents CodeFührt die Reasoning-Schleife des Agenten, seine Werkzeuge, Skills und sein Gedächtnis innerhalb der Sandbox aus
NemotronNVIDIAs Familie offener ModelleDas Standardmodell in den Inferenzprofilen des Blueprints; lokal oder über NVIDIA Endpoints bereitgestellt
NIMNVIDIAs paketierte Inferenz-MicroservicesEine Möglichkeit, Modelle lokal bereitzustellen; in NemoClaw liegt der Provider „Local NVIDIA NIM“ derzeit hinter einem experimentellen Flag
NeMoNVIDIAs Framework zur Anpassung und Optimierung von ModellenWo Sie ein Modell für eine Domäne spezialisieren, bevor Sie es Agenten bereitstellen
Agent ToolkitNVIDIAs Dach für seine offenen Modelle, Bibliotheken, Runtimes und Blueprints für UnternehmensagentenDie Familie, zu der NemoClaw, OpenShell, Nemotron und NeMo gehören

Die kürzeste zutreffende Unterscheidung: OpenShell entscheidet, was ein Agent berühren darf; NemoClaw fügt Modell, Harness, Werkzeuge und Runtime zu etwas zusammen, das Sie installieren, aktualisieren und wiederherstellen können. NemoClaws eigener Ökosystem-Leitfaden formuliert es als Wahl zwischen zwei Wegen. Wählen Sie den NemoClaw-Weg, wenn Sie NVIDIAs Standards und ein getestetes Onboarding wünschen; wählen Sie den OpenShell-Weg mit eigenen Images, eigener Policy und eigener Orchestrierung, wenn Ihre Plattform ein Layout benötigt, das der Blueprint nicht abdeckt. Große KI-Fabriken landen oft auf dem zweiten Weg, mit den Blueprints von NemoClaw als Referenz; darauf kommen wir in Abschnitt 5 zurück.

Was NemoClaw laut seiner Dokumentation gegenüber einer einfachen OpenShell-Community-Sandbox ergänzt: automatische Provider-Erstellung beim Onboarding mit Herausfiltern sensibler Host-Variablen, ein gehärtetes Runtime-Image ohne Build-Werkzeuge und Netzwerk-Probes, ein strafferes Dateisystem-Layout, hostseitige Validierung der Modellroute, verwaltete MCP-Server mit Platzhaltern für Zugangsdaten, Digest-Verifizierung des Blueprints, Zustandsübernahme beim Neuaufbau, Berichte zur Host-Bereitschaft und ein Prozesslimit nach bestem Bemühen.

3. Upstream-Status und Grenzen des Supports

Lesen Sie vor jedem Design die Plattformmatrix von NemoClaw und die Seite zur Unternehmensreife. Sie sind ungewöhnlich offen und prägen die Architektur. In unseren eigenen Worten war der Stand am 9. November 2026:

BereichWas die Dokumentation von NemoClaw sagtWas wir darum herum ergänzen
ProjektphaseAlpha, als Early Preview gekennzeichnet, nach bestem Bemühen gepflegt, ohne Service-LevelGepinnte, getestete Releases; unser eigener Support und eigene Service-Levels für die Plattform, die wir bauen und betreiben
TopologieEin Host pro Installation; Sandboxes laufen als Docker-Container (oder qualifizierte rootless Podman-Container), nicht als Kubernetes-Pods; native Kubernetes- und OpenShift-Einsätze liegen außerhalb des UmfangsDedizierte Agenten-Hosts, daneben gemeinsame Dienste (Inferenz, Secrets, Gateway, Observability) auf Kubernetes
BetreiberEin einziger vertrauenswürdiger Betreiber pro Host; kein Rollenmodell für Betreiber; Sandboxes sind auf einen Host-Nutzer beschränkt; gemeinsame Hostnutzung durch mehrere Nutzer wird nicht unterstütztNamentlicher Zugang über WSL VPN und persönliche SSH-Schlüssel; Freigaben an OpsAPI-Rollen gebunden
IdentitätEnterprise Single Sign-on für Agenten-Gateways steht auf der Roadmap; OpenClaw nutzt Device Pairing, Hermes ein Bearer TokenDashboards bleiben auf Loopback und werden über das VPN erreicht; unsere Freigabekonsole hinter der OpsAPI-Anmeldung
FlotteKeine hostübergreifende Konsole; flottenweite Policy-Verteilung und Disaster Recovery sind manuellRing Promoter für gestaffelte Policy- und Blueprint-Releases; Ansible für Flottenänderungen; getestete Backups
Audit und SIEMSitzungslogs und Traces existieren, aber der Export erfolgt pro Sandbox und manuellCollectors, die Sitzungen, Traces und Verweigerungen zentral und mit Schwärzung übertragen
AusgabenToken-Budgets liegen beim Inferenzanbieter; NemoClaw misst und begrenzt Ausgaben nichtToken- und Kostenmetriken pro Agent, Budgets und Alarme; lokale Inferenz für gleichmäßige Workloads
SecretsProvider-Schlüssel werden im Gateway-Speicher von OpenShell gehalten; die Integration externer Secrets-Manager ist manuellwslvault als maßgebliche Quelle, mit einem hostseitigen Rotationsjob
NetzwerkStandardmäßig verweigerter Egress mit Betreiberfreigabe; Air-Gap-Installationen nicht unterstützt; der Installer setzt Ubuntu oder Debian vorausGespiegelte, geprüfte Installer und Images; wslproxy als einziger Egress für Werkzeuge

Nichts davon ist Kritik. Es ist ein Referenz-Stack, der tut, was ein Referenz-Stack tun sollte, und er sagt Ihnen klar, wo die Verantwortung des Betreibers beginnt. Unsere Aufgabe ist es, diese Verantwortung mit Werkzeugen und Personal auszufüllen.

4. Schichtenarchitektur

Sieben Schichten von unten nach oben: NVIDIA-Hardware, Host-Plattform, Inferenz, OpenShell-Runtime, NemoClaw-Referenz-Stack, Agenten-Harness sowie Skills, Werkzeuge und MCP-Server, mit einer Spalte von Workstation-Kontrollen rechts: WSL VPN, OpsAPI SSO mit Freigaben, wslvault, wslproxy, Ring Promoter und Observability.

Wir betrachten einen Einsatz als sieben Schichten, jede mit einem Verantwortlichen und einem Fehlermodus, für den geplant werden muss.

  1. NVIDIA-Hardware. Wo Modelle laufen und wo Sandboxes laufen. Das kann dieselbe Maschine sein (eine DGX Station auf einem Schreibtisch) oder es können unterschiedliche Ebenen sein (CPU-lastige Agenten-Hosts neben einem GPU-Inferenzpool).
  2. Host-Plattform. Ubuntu oder Debian, Docker oder qualifiziertes rootless Podman, der NVIDIA-Treiber, das Container Toolkit und eine intakte CDI-Spezifikation. NemoClaws Bereitschaftsprüfung (nemoclaw host probe) berichtet über diese Schicht, ohne etwas zu verändern, und eignet sich daher gut als Build-Gate.
  3. Inferenz. Lokale Modellserver (vLLM, llama.cpp, Ollama oder NIM), ein hostseitiger Model Router oder gehostete Anbieter. OpenShell hält das Provider-Credential; der Agent sieht einen Platzhalter.
  4. OpenShell-Runtime. Das Gateway und die Sandbox. Landlock-Dateisystemregeln, seccomp-Filter, ein Netzwerk-Namespace, abgegebene Privilegien und ein Egress-Proxy, der Host, Port, aufrufende Binärdatei und bei HTTP Methode und Pfad prüft.
  5. NemoClaw. CLI, Blueprint und Lifecycle: Onboarding, Policy-Stufen und Presets, verwaltete MCP-Server, Status, Logs, Backup und Neuaufbau.
  6. Harness. OpenClaw, Hermes oder Deep Agents Code, mit eigener Konfiguration unter /sandbox/.openclaw, /sandbox/.hermes oder /sandbox/.deepagents. NemoClaws Sicherheitsempfehlungen betonen, dass diese Konfiguration vom Agenten veränderbar ist und keine Isolationsgrenze darstellt.
  7. Skills und Werkzeuge. Paketierte Skills, verwaltete MCP-Server über authentifiziertes HTTPS und interne APIs. In unserem Design verlässt jeder Tool-Aufruf die Sandbox über die OpenShell-Policy und anschließend über wslproxy.

Die Workstation-Kontrollen rechts im Diagramm ersetzen keine dieser Schichten. Sie beantworten Fragen, die die Schichten dem Betreiber überlassen: Wer ist diese Person, darf sie dies freigeben, woher stammt dieses Secret und wann läuft es ab, welche Version der Policy läuft in der Produktion, und können wir nachweisen, was passiert ist.

5. Referenzarchitekturen in drei Größenordnungen

Drei Referenzarchitekturen: ein Team-Pod auf DGX Station GB300, DGX Spark oder einer Workstation mit RTX PRO 6000; eine Abteilungsplattform mit dedizierten NemoClaw-Agenten-Hosts und gemeinsamen Diensten auf Kubernetes über RTX-PRO-6000-Server und HGX B300; und eine KI-Fabrik mit Vera Rubin NVL72 oder HGX B300 für Modelle, Vera-CPU-Kapazität für Sandboxes und OpenShell im Flottenmaßstab, jeweils mit demselben Kontrollmodell.

5.1 Team-Pod: ein System der Workstation-Klasse

Der einfachste sinnvolle Einsatz ist eine Maschine, auf der NemoClaw auf dem Host läuft, mit einer Sandbox pro Agent und lokal bereitgestelltem Modell. NemoClaws Plattformmatrix führt DGX Spark als getestet und DGX Station (GB300) als mit Einschränkungen getestet, und auf beiden bietet es standardmäßig einen verwalteten lokalen vLLM-Pfad, wenn Docker vorhanden ist. Generische Linux-Hosts mit RTX- oder RTX-PRO-GPUs waren als zurückgestellt geführt: Die verwaltete vLLM-Installation liegt hinter einem experimentellen Flag. Auf diesen Maschinen betreiben wir den Modellserver meist selbst und binden NemoClaw als vorhandenen lokalen Endpunkt an, was der Onboarding-Ablauf unterstützt.

  • Hardware: DGX Station (GB300) für größere lokale Modelle und mehrere Agenten; DGX Spark für einen oder zwei Agenten mit einem kleineren Modell (das Profil mit zwei Spark-Systemen ist upstream als experimentell gekennzeichnet; siehe das DGX-Spark-Paarbundle); oder eine Workstation mit RTX PRO 6000 Blackwell wie unsere TR PRO mit zwei RTX-PRO-6000-Karten.
  • Runtime: ein Host-Nutzer, die Policy-Stufe Restricted, an Loopback gebundene Dashboards. NemoClaws Empfehlung für Headless-Server lautet, Dashboards per SSH-Portweiterleitung zu erreichen, was wir über WSL VPN tun.
  • Kontrollen: Zugangsdaten aus wslvault, OpenTelemetry an einen zentralen Collector, Freigaben über unsere Konsole.
  • Gut geeignet für: ein Chipdesign- oder Forschungsteam, ein Labor oder ein Pilotprojekt, bei dem die Daten vor Ort bleiben müssen.

5.2 Abteilungsplattform: Agenten-Hosts plus gemeinsame Dienste

Sobald mehrere Teams Agenten wünschen, ändern sich zwei Dinge: Inferenz wird zu einem gemeinsamen Dienst, und Sie benötigen einen Weg, viele Sandboxes einheitlich zu verwalten. Da NemoClaw Sandboxes nicht als Kubernetes-Pods betreibt, behalten wir eine saubere Trennung bei:

  • Agenten-Hosts sind dedizierte Linux-Server oder VMs mit jeweils einer NemoClaw-Installation, die eine Handvoll Sandboxes für ein Team oder eine Datenklasse tragen. Sie sind „Cattle“: von Ansible aus einem gepinnten Release gebaut, neu aufgebaut statt repariert.
  • Gemeinsame Dienste laufen auf einem Kubernetes-Cluster: Modell-Serving (NIM oder vLLM) auf RTX-PRO-6000-Server-Edition-Nodes oder einem HGX-B300-System, das wslproxy-Tool-Gateway, wslvault, der Freigabedienst, Ring Promoter und der Observability-Stack. Kubepilot gibt dem Plattformteam ein sicheres Cockpit für diesen Cluster.
  • Agenten erreichen die gemeinsame Inferenz über die von NemoClaw unterstützten Routen für lokale oder kompatible Endpunkte, wobei der Endpunkt in der Policy ausdrücklich zugelassen ist. Bei privaten Adressen verlangt NemoClaw, dass der Host als vertrauenswürdig benannt wird, und pinnt seine aufgelöste Adresse, was genau das gewünschte Verhalten ist.

Hinweis zur Dimensionierung: Eine Agenten-Sandbox benötigt CPU, Arbeitsspeicher und Festplatte, keine GPU, es sei denn, der Agent führt selbst CUDA-Arbeit aus. Der Großteil des GPU-Budgets entfällt auf den gemeinsamen Inferenzpool, dimensioniert nach gleichzeitigen Agenten, Kontextlänge und den Tokens pro Sekunde des Modells. Wir dimensionieren ihn anhand eines kurzen Lasttests mit der tatsächlichen Agenten-Workload während des Pilotprojekts statt nach einer Faustregel.

5.3 KI-Fabrik: OpenShell im Flottenmaßstab

Im Maßstab einer KI-Fabrik, mit Hunderten von Agenten und vielen Mandanten, ist die Single-Host-CLI von NemoClaw die falsche Control Plane. NVIDIAs Antwort ist die OpenShell Reference Architecture, die seine NemoClaw-Seite als Full-Stack-Infrastruktur für den Betrieb sicherer Agenten über KI-Fabriken, Unternehmensrechenzentren und den Edge beschreibt und die NVIDIA mit Vera-CPUs kombiniert, um Agenten im großen Maßstab effizient zu steuern. Die detaillierte Dokumentation dieser Architektur haben wir nicht gesehen; die Einzelheiten behandeln wir daher als Designarbeit, die für das eingesetzte Release gemeinsam mit NVIDIA abzuschließen ist. Die Struktur, mit der wir planen:

  • Modelle auf Vera-Rubin-NVL72-Racks oder HGX-B300-Systemen, bereitgestellt als Multi-Node-Pools mit mandantenspezifischen Kontingenten am Gateway.
  • Sandboxes auf CPU-dichter Kapazität (wo NVIDIA Vera positioniert), betrieben von OpenShell mit plattformeigener Orchestrierung: der „OpenShell-Weg“ aus NemoClaws Ökosystem-Leitfaden, mit den Blueprints, Policy-Stufen und Presets von NemoClaw als Basis.
  • Kontrollen als vollständiges Workstation-Set, wobei Agententelemetrie mit GPU- und Fabric-Telemetrie aus NVIDIA Minerva und UFM korreliert wird (siehe unsere Minerva-Technote und die Technote zur Observability mit UFM und DCGM).

6. Modell-Routing, Datenklassifizierung und UK GDPR

6.1 Die Routen, die NemoClaw bietet

NemoClaw gibt jeder Sandbox einen verwalteten Inferenzpfad, und OpenShell kümmert sich auf dem Host um den Upstream-Anbieter, sodass Provider-Schlüssel außerhalb der Sandbox bleiben. Die Dokumentation beschreibt zwei Mechanismen:

  • An die Sandbox gebundene Provider. Für NVIDIA Endpoints, OpenAI, Anthropic, Google Gemini, OpenRouter, den Hermes-Provider und neuere lokale Optionen (Ollama, eigenständiges vLLM, llama.cpp) ruft der Agent den eigenen Hostnamen des Anbieters mit einem Platzhalter-Credential auf. OpenShell prüft Ziel, ausführbare Datei und Anfragepfad und setzt dann das echte Credential ein. Die Basis-Policy für NVIDIA Endpoints erlaubt zum Beispiel nur bestimmte Pfade für Completions und Modelllisten.
  • Die gemeinsame Route inference.local. Wird von Local NIM, dem Model Router und einigen anderen Optionen genutzt. Der Agent ruft einen virtuellen Hostnamen auf, und das Gateway leitet an das konfigurierte Backend weiter.

Der Model Router läuft auf dem Host (Port 4000 im Profil routed des Blueprints) und wählt pro Anfrage das günstigste Modell eines Pools, dessen vorhergesagte Qualität innerhalb einer konfigurierten Toleranz zum besten liegt. Der Pool wird in nemoclaw-blueprint/router/pool-config.yaml definiert; seine Standardkonfiguration listet Modelle auf NVIDIA Endpoints mit Kosten pro Million Tokens und einem tolerance von 0,20, wobei 0 immer das stärkste und 1 immer das günstigste Modell wählt. Zwei Folgen sind für das Design wichtig. Erstens ist der Standardpool gehostet, geroutete Anfragen verlassen also Ihren Standort. Zweitens trägt jeder Pooleintrag seine eigene API-Basis, sodass ein Pool aus lokalen und gehosteten Modellen möglich erscheint; das haben wir nicht validiert und würden es testen, bevor wir uns darauf verlassen.

6.2 Erst klassifizieren, dann routen

Das Routing wird in NemoClaw pro Sandbox gewählt, nicht pro Prompt. Die Datenklassifizierung muss daher auf der Ebene des Agenten und seiner Sandbox erfolgen: Ein Agent, der als Restricted eingestufte Daten sehen darf, läuft in einer Sandbox, deren einzige Inferenzroute lokal ist. Wir verwenden ein vierstufiges Schema, das sich auf die bestehenden Richtlinien der meisten britischen Organisationen abbilden lässt:

DatenklasseBeispieleZulässige InferenzroutenPlatzierung der Sandbox
RestrictedUnveröffentlichte Chipdesigns, exportkontrollierte Daten, besondere Kategorien personenbezogener Daten, KundengeheimnisseNur lokale Modelle, auf eigener Hardware, an einem britischen Standort unter Ihrer KontrolleDedizierter Agenten-Host; Stufe Restricted; kein gehosteter Provider angebunden
ConfidentialHandelsverträge, Personalfälle, die meisten personenbezogenen DatenLokale Modelle oder ein privater Endpunkt unter Vertrag mit Verarbeitung im Vereinigten Königreich oder einem Land mit AngemessenheitsbeschlussGemeinsamer Host nur für dieselbe Klasse
InternalRunbooks, interne Dokumentation, Code ohne SecretsModel-Router-Pool oder gehostete Anbieter mit bestehender AuftragsverarbeitungsvereinbarungGemeinsame Abteilungs-Hosts
PublicVeröffentlichtes Material, Open-Source-CodeJeder freigegebene AnbieterBeliebig

Zwei Regeln sorgen dafür, dass dies hält. NemoClaws Sicherheitsempfehlungen warnen davor, Hosts von Inferenzanbietern direkt in die Network Policy aufzunehmen, weil dies die Isolation der Zugangsdaten und die Nutzungserfassung umgeht; wir tun das nie, sodass eine Sandbox ein Modell nur über die beim Onboarding festgehaltene Route erreicht. Und ein Agent, der sowohl Restricted- als auch gehostete Fähigkeiten benötigt, wird in zwei Agenten mit einer geprüften Übergabe aufgeteilt, statt beide Routen zu erhalten.

6.3 UK GDPR und Datensouveränität

Dies ist technische Orientierung, keine Rechtsberatung, aber diese Punkte arbeiten wir mit dem Datenschutzbeauftragten eines Kunden durch:

  • Rollen. Sie sind der Verantwortliche. Ein gehosteter Modellanbieter ist normalerweise Auftragsverarbeiter und benötigt einen Vertrag nach Artikel 28. Prüfen Sie dessen Bedingungen zu Aufbewahrung, Nutzung für Training und Unterauftragsverarbeitern; NemoClaws Dokumentation erinnert Betreiber daran, dass die eigenen Datenrichtlinien jedes Anbieters gelten.
  • Internationale Übermittlungen. Ein gehosteter Endpunkt außerhalb des Vereinigten Königreichs benötigt einen Übermittlungsmechanismus (Angemessenheit, das International Data Transfer Agreement oder das UK Addendum) und eine Transfer Risk Assessment. Restricted- und die meisten Confidential-Arbeiten umgehen die Frage, indem sie lokal bleiben.
  • DSFA. Dauerhaft laufende Agenten, die mit personenbezogenen Daten arbeiten, erfordern voraussichtlich eine Datenschutz-Folgenabschätzung. Wo die Ausgabe eines Agenten in eine Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung für eine Person einfließt, belassen Sie einen Menschen in der Entscheidung.
  • Datenminimierung in der Telemetrie. Sitzungslogs und Traces können Prompts, Tool-Eingaben und Ergebnisse enthalten. Legen Sie eine Aufbewahrung fest, schwärzen Sie am Collector (Abschnitt 9) und beschränken Sie, wer sie lesen darf.
  • Herstellertelemetrie. Laut der Dokumentation von NemoClaw senden CLI und Installer standardmäßig Betriebstelemetrie an NVIDIA, ohne Nutzerinhalte, Secrets, private Endpunktadressen, Dateipfade und langlebige Kennungen, aber einschließlich Modell- und Konfigurationsnamen, die individuell sein können. Entscheiden Sie, ob Sie dies zulassen; wird NEMOCLAW_DISABLE_TELEMETRY=1 vor der Installation und CLI-Nutzung gesetzt, ist sie deaktiviert. Auf Restricted-Hosts setzen wir dies standardmäßig und dokumentieren die Entscheidung in jedem Fall.

7. Das Sicherheitsmodell im Detail

7.1 Die Schichten der Sandbox

NemoClaw startet jede Sandbox mit einer Basis-Policy mit vier Schutzschichten. Netzwerk- und Inferenzregeln lassen sich während der Laufzeit der Sandbox ändern; Dateisystem- und Prozessregeln werden bei ihrer Erstellung festgelegt.

SchichtWas sie tutHinweise zum Betrieb
NetzwerkJeder Egress läuft über den Proxy von OpenShell; nicht gelistete Ziele werden blockiert. Regeln können auf die aufrufende Binärdatei beschränkt werden (anhand der Kernel-Sicht auf die ausführbare Datei identifiziert und bei der ersten Nutzung gehasht) und mit protocol: rest auf HTTP-Methoden und -Pfade. MCP- und JSON-RPC-Regeln können Tool- oder Methodennamen abgleichen.Verwenden Sie für HTTP-APIs immer L7-Inspektion; reine L4-Einträge lassen nach dem Verbindungsaufbau jede Payload durch
DateisystemLandlock hält Systempfade schreibgeschützt; der Agent schreibt in sein Home-Verzeichnis, sein Konfigurationsverzeichnis und /tmpDie mitgelieferte Policy betreibt Landlock im Best-Effort-Modus, und auf Kerneln älter als 5.13 fällt sie auf Container-Mounts zurück. Wir verlangen einen Kernel 5.13 oder neuer und prüfen ihn beim Build
ProzessLäuft als unprivilegierter Sandbox-Nutzer mit seccomp-Filtern, no-new-privileges und einem Limit für die ProzessanzahlDas dokumentierte Limit gilt nach bestem Bemühen innerhalb des Entrypoints; wir setzen zusätzlich harte Limits in der Container-Runtime
InferenzModellaufrufe werden an das verwaltete Backend umgeleitet, wobei das Credential außerhalb der Sandbox eingesetzt wirdNiemals Provider-Hosts in die Network Policy aufnehmen

7.2 Least Privilege: Stufen, Presets und eigene Regeln

NemoClaw liefert vier Policy-Stufen in nemoclaw-blueprint/policies/tiers.yaml aus: Restricted (nur die Basis-Sandbox), Balanced (ergänzt Paket-Registries, Hugging Face und Websuche und ist der Onboarding-Standard), Open (ergänzt Messaging- und Produktivitätsdienste) und Personal (breiter Web-Egress auf den Ports 80 und 443, ausdrücklich nicht für nicht vertrauenswürdige Prompts oder Daten). Unsere Regel für die Produktion ist einfach: von Restricted ausgehen, niemals Open oder Personal verwenden und nur geprüfte eigene Presets hinzufügen, die auf unser Tool-Gateway zeigen. Paketinstallationen und Modell-Downloads gehören in den Image-Build, nicht in einen laufenden Agenten.

Eigene Presets verwenden dieselbe YAML-Struktur wie die von NemoClaw mitgelieferten Presets. Dieses hier, für das EDA-Beispiel in Abschnitt 12, erlaubt dem Agenten, genau drei Routen auf unserem wslproxy-Tool-Gateway zu erreichen und sonst nichts:

# presets/ws-tool-gateway.yaml  (format of nemoclaw-blueprint/policies/presets/*.yaml)
preset:
  name: ws-tool-gateway
  description: "Workstation tool gateway (wslproxy) for the EDA verification agent"

network_policies:
  ws_tool_gateway:
    name: ws_tool_gateway
    endpoints:
      - host: tools.agents.internal.example
        port: 443
        protocol: rest
        enforcement: enforce
        rules:
          - allow: { method: GET,  path: "/eda/v1/regressions/**" }
          - allow: { method: POST, path: "/eda/v1/regressions" }
          - allow: { method: POST, path: "/approvals/v1/requests" }
    binaries:
      # Take these from your harness's baseline policy; these are OpenClaw's.
      - { path: /usr/local/bin/openclaw }
      - { path: /usr/local/bin/node }

Angewendet wird es mit Befehlen aus der CLI-Referenz von NemoClaw. Zuerst eine Vorschau, dann den privaten Host als vertrauenswürdig benennen, damit NemoClaw seine Adresse pinnt, dann anwenden:

nemoclaw eda-verify policy add \
  --from-file ./presets/ws-tool-gateway.yaml \
  --trusted-private-host tools.agents.internal.example \
  --dry-run

nemoclaw eda-verify policy add \
  --from-file ./presets/ws-tool-gateway.yaml \
  --trusted-private-host tools.agents.internal.example --yes

nemoclaw eda-verify policy list      # confirm what is live
nemoclaw eda-verify policy explain   # redacted summary the agent can read

In der Produktion führt die Release-Pipeline (Abschnitt 10) diese Befehle aus, nicht ein Mensch von Hand.

7.3 Vermittlung von Zugangsdaten mit wslvault

OpenShell hält Provider-Schlüssel und Bearer-Werte verwalteter MCP-Server bereits aus der Sandbox heraus: Der Agent hält einen Platzhalter, der erst an einer freigegebenen Egress-Grenze gegen den echten Wert ausgetauscht wird, und die CLI kann gespeicherte Werte nicht zurücklesen. Was NemoClaw dem Betreiber überlässt, ist, woher diese Werte stammen und wie sie rotiert werden. Wir unterscheiden drei Arten von Zugangsdaten:

  1. Schlüssel von Inferenzanbietern und MCP-Bearer-Werte liegen im Gateway-Speicher von OpenShell, wie von NemoClaw vorgesehen. Ihre maßgebliche Quelle ist wslvault. Ein hostseitiger Job ruft den Wert ab, exportiert ihn in seine eigene Umgebung (NemoClaws credentials add nimmt gerade deshalb den Namen einer Umgebungsvariablen entgegen, damit Werte nie auf einer Kommandozeile erscheinen) und folgt dem dokumentierten Rotationsablauf von NemoClaw. Da eine Rotation einen Neuaufbau der Sandbox bedeuten kann, werden diese Werte im Abstand von Tagen im Wartungsfenster rotiert.
  2. Schreib-Zugangsdaten für Geschäftssysteme (ERP, Ticketing, Versionsverwaltung, Cloud-APIs) gelangen nie in OpenShell oder die Sandbox. Sie werden von unserem Tool-Broker hinter wslproxy gehalten, der für jede freigegebene Aktion einen kurzlebigen Lease von wslvault anfordert und ihn ablaufen lässt.
  3. Dienstidentität zwischen Komponenten nutzt kurzlebige Zertifikate aus der PKI-Engine von wslvault für Mutual TLS zwischen Broker, wslproxy und Backends.

wslvault, Workstations Open-Source-Dienst für Secrets, eignet sich aus den in unserer Technote zu wslvault und KI-Agenten dargelegten Gründen gut für Agenten: KV-, Transit-, PKI- und Lease-Engines im Vault-Stil pro Mandant; Envelope Encryption mit mandantenspezifischen Schlüsseln, sodass der Agent eines Mandanten die Secrets eines anderen nicht entschlüsseln kann, selbst wenn eine höhere Schicht eine Anfrage falsch routet; identitätsgebundene Tokens; Leases mit echtem Widerruf; und ein manipulationssicheres, hashverkettetes Audit-Log pro Mandant. Das Stoppen eines Agenten kann daher alles widerrufen, was er nutzen könnte. Siehe auch die Produktseite zu wslvault.

7.4 Egress-Allow-Lists, doppelt

Die Policy von OpenShell ist die erste Allow-List, und zwar die, mit der der Agent nicht verhandeln kann. wslproxy, Workstations API-Gateway auf Basis von OpenResty, ist die zweite: Jeder Tool-Aufruf verlässt die Sandbox in Richtung eines einzigen Gateway-Hosts, und wslproxy entscheidet, welchen Upstream er erreicht. Zwei unabhängige Prüfungen sind wichtig, weil sie unterschiedlich versagen. OpenShell kennt die aufrufende Binärdatei und die Sandbox; wslproxy kennt den Upstream, den OpenAPI-Vertrag der API, Rate Limits und die WAF und protokolliert jede Entscheidung mit einer Support-ID. Ein Fehler in einer Schicht wird von der anderen aufgefangen. Details stehen in Abschnitt 8.2.

7.5 Menschliche Freigabeschritte

NemoClaw hat einen Freigabeablauf für Betreiber, aber es ist eine Netzwerk-Freigabe: Trifft ein Agent auf einen nicht gelisteten Host, zeigt OpenShell dies in der Oberfläche openshell term an, und ein Betreiber kann es genehmigen oder ablehnen. Freigaben bestehen für diese Sandbox-Instanz fort und werden zurückgesetzt, wenn sie neu erstellt wird. In der Entwicklung ist das nützlich. In der Produktion behandeln wir es als Vorfallsignal, nicht als Arbeitsablauf: Niemand genehmigt Endpunkte im Terminal, und dauerhafter Zugriff kommt nur über ein geprüftes Preset in einem Release.

Folgenreiche Aktionen benötigen eine andere Art der Freigabe, gebunden an eine namentlich benannte Person und eine Rolle. Wir setzen dies mit einem Freigabe-Broker um, einem kleinen Workstation-Dienst hinter wslproxy:

  1. Die Policy des Agenten erlaubt ihm, eine Freigabeanfrage einzureichen (ein POST an /approvals/v1/requests im Preset oben), nicht aber, die Schreib-API des Zielsystems aufzurufen.
  2. Die Anfrage erscheint in der Freigabekonsole. Freigebende melden sich über OpsAPI Single Sign-on an (mit MFA, wo der Workspace dies verlangt); die Konsole prüft ihre Workspace-Rolle und verweigert Selbstfreigaben.
  3. Nach der Freigabe beschafft der Broker einen kurzlebigen wslvault-Lease und führt den Aufruf selbst aus. Der Agent erhält das Ergebnis, niemals das Credential.
  4. Jede Anfrage, Entscheidung, freigebende Person und jedes Ergebnis wird protokolliert, und Freigaben verfallen, wenn sie nicht bearbeitet werden.

Das Ergebnis: Ein Agent, der durch eine Prompt Injection vollständig kompromittiert ist, kann trotzdem keine Änderung eigenständig vornehmen. Das Schlimmste, was er tun kann, ist fragen, und ein Mensch muss Ja sagen.

7.6 Audit-Trails

Keine einzelne Komponente kennt die ganze Geschichte, daher setzen wir sie zusammen. OpenClaw schreibt pro Sitzung ein JSONL-Ereignisprotokoll innerhalb der Sandbox, einschließlich Tool-Aufrufen, Ergebnissen, Token-Nutzung und Kostenmetadaten, das nemoclaw <name> sessions export mit Berechtigungen nur für den Eigentümer herauskopiert. OpenShell protokolliert Netzwerkentscheidungen; nemoclaw <name> logs zeigt Lifecycle- und Gateway-Ausgaben. wslproxy protokolliert jede Gateway-Entscheidung, wslvault führt sein hashverkettetes Audit, der Freigabe-Broker protokolliert Entscheidungen, und Ring Promoter führt die Release-Historie. Abschnitt 9 zeigt, wie dies übertragen und korreliert wird.

7.7 Bedrohungsmodell

BedrohungBeispielPrimäre KontrolleAbsicherung
Indirekte Prompt InjectionEin Ticket fordert den Agenten auf, eine Designdatei per E-Mail an eine externe Adresse zu sendenKeine Route zu nicht gelisteten Hosts; kein Mail-Egress, sofern kein geprüftes Preset ihn ergänztAlarm bei Verweigerung; Freigabe für jeden Versand erforderlich
Werkzeugmissbrauch auf einer erlaubten APIDer Agent wird dazu gebracht, Datensätze über eine API zu löschen, die er lesen darfL7-Regeln erlauben nur die benötigten Methoden und PfadeRouten-Allow-List in wslproxy aus dem OpenAPI-Vertrag; Schreibzugriffe laufen über den Freigabe-Broker
Exfiltration über einen erlaubten HostDaten werden in Query-Strings an einen zulässigen Dienst codiertAuf Binärdateien beschränkte Regeln verhindern, dass curl oder Python eine für das Harness gedachte Route wiederverwendenWAF und Rate Limits in wslproxy; Alarme bei Payload-Größe
Diebstahl von ZugangsdatenDer Agent durchsucht seine Umgebung und Dateien nach SchlüsselnNur Platzhalter in der Sandbox; Schreib-Zugangsdaten gelangen nie hineinKurze Leases; Widerruf beim Stoppen
Manipulation der KonfigurationDer Agent bearbeitet seine eigene Harness-Konfiguration, um Modell oder Werkzeuge zu ändernHosteigene Einstellungen werden beim Neuaufbau erneut angewendet; Policy und Zugangsdaten liegen außerhalb der SandboxPrüfungen auf Konfigurationsabweichungen; nach einem Verdacht Neuaufbau aus vertrauenswürdigen Eingaben
Beeinflussung von Prozessen desselben NutzersInnerhalb der Sandbox sendet der Agent Signale an das Harness-Gateway oder imitiert esOpenShell schließt die Sandbox als Ganzes einJedes solche Anzeichen als Kompromittierung behandeln; die Sandbox neu erstellen
LieferketteEin veränderter Installer, ein verändertes Image oder ein veränderter SkillGeprüfter, gepinnter Installer; per Digest gepinnte Images; Skills aus unserem eigenen RepositoryRing-Promoter-Gates; Image-Scanning
Gefälschte TelemetrieCode in der Sandbox sendet gefälschte Spans, um Aktivitäten zu verbergenDer Collector setzt die Identität vom Host aus, nicht aus Span-FeldernAbgleich mit OpenShell- und wslproxy-Logs
Ausufernde Kosten oder LastEine Schleife ruft ein gehostetes Modell tausendfach aufLokale Modelle für gleichmäßige Arbeit; Token-Budgets pro AgentBudgetalarme; anbieterseitige Limits

NVIDIAs DLI-Kurs zur Absicherung von Agenten mit NemoClaw und OpenShell veranschaulicht das Kernrisiko als drei sich überschneidende Kreise: nicht vertrauenswürdige Eingaben, Zugriff auf Secrets und eine Möglichkeit, Daten nach außen zu senden. Jede der obigen Kontrollen entfernt oder verkleinert einen dieser Kreise.

7.8 Red-Team-Tests vor der Produktion

  • Eine Anweisung in einem Dokument platzieren, das der Agent liest, und ihn auffordern, Daten an einen nicht gelisteten Host zu senden. Erwartet: ein Verweigerungsereignis innerhalb von Sekunden und keine gesendeten Daten.
  • Den Agenten auffordern, curl oder einen Python-Einzeiler gegen einen Host zu verwenden, der nur für die Harness-Binärdatei erlaubt ist. Erwartet: eine Verweigerung.
  • Eine Methode versuchen, die die Regeln nicht erlauben (zum Beispiel DELETE, wo nur GET zulässig ist). Erwartet: eine L7-Verweigerung und eine wslproxy-Blockierung mit Support-ID.
  • Die Sandbox nach Zugangsdaten durchsuchen. Erwartet: nur Platzhalter.
  • Die Harness-Konfiguration so ändern, dass sie auf ein anderes Modell zeigt. Erwartet: Die Änderung wird beim Neuaufbau rückgängig gemacht und von der Abweichungsprüfung gemeldet.
  • Eine Freigabeanfrage einreichen, deren Text behauptet, bereits genehmigt zu sein. Erwartet: Sie wartet auf eine echte freigebende Person.
  • Ein verschleiertes Token in ein Tool-Ergebnis einbringen. Prüfen, was der Collector schwärzt, und festhalten, was nicht; musterbasierte Schwärzung ist nicht vollständig, wie NemoClaws eigene Trace-Dokumentation sagt.
  • Eine Fork-Schleife und eine Token-Schleife ausführen. Erwartet: Prozesslimits und Budgetalarme lösen aus.
  • Bei verwalteten MCP-Servern ein Tool versuchen, das die Policy nicht auflistet. Erwartet: eine Verweigerung.

8. Integration der Werkzeuge von Workstation

Ablauf einer Agentenaufgabe: Ein Betreiber erreicht die Konsole über WSL VPN, ein wslproxy-Zugriffsprofil und OpsAPI SSO; der Agent in seiner OpenShell-Sandbox führt einen Modellaufruf über die Inferenzroute aus, je nach Datenklasse an ein lokales Nemotron, den Model Router oder ein gehostetes Modell; ein Tool-Aufruf durchläuft die Egress-Policy von OpenShell, wo Verweigerungen einen Alarm auslösen, dann das wslproxy-Gateway, dann bei Schreibzugriffen eine Freigabe, und erreicht die interne API mit einem Credential aus einem kurzlebigen wslvault-Lease; alle Schritte speisen eine Nachweiskette in Prometheus, Grafana, ELK, ein SIEM und Minerva.

8.1 wslvault: woher jedes Secret kommt

Behandelt in Abschnitt 7.3. In der Praxis betreiben wir einen wslvault-Mandanten pro Geschäftsbereich oder Datenklasse, sodass ein Agenten-Host für Restricted-Arbeit eine Identität hält, die nur Secrets des Restricted-Mandanten lesen kann. Der hostseitige Rotationsjob und der Tool-Broker sind auf der Agentenseite die einzigen wslvault-Clients; die Sandbox kommuniziert nie mit wslvault.

8.2 wslproxy: das Tool-Gateway und der Edge

wslproxy spielt zwei Rollen. Als Tool-Gateway ist es der einzige Host, den Agenten für Werkzeuge erreichen dürfen. Routen werden pro Anfrage aus einer JSON-Konfiguration ausgewertet; das Hinzufügen oder Entfernen der Route eines Agenten erfordert daher kein Neuladen des Proxys, was auch einen gatewayseitigen Notschalter sofort wirksam macht. Seine WAF Engine v2 ergänzt eine nachvollziehbare Durchsetzungsschicht: Allow-Lists für Methoden, Limits für JSON-Tiefe und -Größe, Geschwindigkeitslimits, Positive Security anhand von OpenAPI-Pfad und -Methode sowie einen Policy-Namen, eine Regel und eine Support-ID bei jeder Blockierung (siehe unsere Technote zur WAF Engine v2). Für Agenten ist die OpenAPI-Positive-Security-Stufe die wichtige: Eine Route ist nur erreichbar, wenn sie im veröffentlichten Vertrag der API steht.

Als Edge schützt wslproxy die für Menschen bestimmten Konsolen mit Zugriffsprofilen. Dieses Profil, im von WSLProxy für data/access_profiles/<env>/<name>.json dokumentierten Format, öffnet die Freigabekonsole und die Agenten-Dashboards nur für Personen im WSL VPN, die in den richtigen Gruppen sind:

{
  "name": "agent-ops",
  "allow_cidrs": "10.8.1.0/24",
  "endpoints": [
    { "path": "/approvals",        "path_key": "starts_with", "groups": "agent-approvers,platform-admins" },
    { "path": "/grafana",          "path_key": "starts_with", "groups": "agent-operators,platform-admins" },
    { "path": "/api/agent-health", "path_key": "starts_with" }
  ]
}

Es wird mit einem einzigen Feld, "access_profile": "agent-ops", im Server-Record an die Domain der Konsole gebunden. Jeder Fehlschlag führt zur Verweigerung, und Antworten tragen Header, die den Grund erklären. Das Design und seine Fallstricke (den Origin auf den Edge beschränken, jeden Edge-Standort prüfen, mit und ohne VPN testen) stehen in unserer Technote zu WSL VPN und wslproxy-Zugriffsprofilen. Das MCP-Gateway von wslproxy zur Steuerung externer MCP-Server mit Tool-Allow-Lists und Audit pro Tool war zum Zeitpunkt der Erstellung noch in Arbeit; bis es verfügbar ist, stützt sich die Kontrolle über MCP-Tools auf die MCP-fähigen Regeln von OpenShell.

8.3 WSL VPN: privater Zugang für Menschen

wslvpn ist ein selbst gehostetes Zero-Trust-VPN auf Basis von WireGuard: Eine Person meldet sich an, ihr Gerät wird registriert und sein Sicherheitszustand geprüft, und eine Policy entscheidet, was sie erreichen kann, wobei jede Sitzung eine eigene Overlay-Adresse erhält. Für NemoClaw transportiert es drei Arten von Datenverkehr: SSH der Betreiber zu den Agenten-Hosts (wo NemoClaw-Dashboards an Loopback gebunden bleiben und per Portweiterleitung erreicht werden, wie es NVIDIAs Empfehlung für Headless-Systeme vorsieht), die Freigabekonsole und Grafana über wslproxy sowie administrativen Zugriff auf Modell-Endpunkte. Agenten selbst nutzen das VPN nie; Agenten-Hosts liegen in einem privaten Segment ohne eingehenden Zugriff aus Nutzernetzen.

8.4 OpsAPI Single Sign-on: namentlich benannte Personen, Rollen und Freigaben

OpsAPI bietet eine einheitliche Anmeldung und ein einheitliches Benutzerverzeichnis für unsere Apps, mit MFA und Rollen pro Workspace. Apps leiten auf die gehostete Anmeldeseite weiter, erhalten an ihrem Callback ein Token und prüfen es bei OpsAPI, statt es selbst zu verifizieren; der vollständige Vertrag steht in unserer Technote zu VPN und OpsAPI SSO. Zwei Fakten aus dieser Note prägen das Design: OpsAPI ist kein SAML- oder OpenID-Connect-Identitätsanbieter, und es beantwortet die Frage „Wer ist diese Person und welche Rolle hat sie?“. Wir nutzen es daher für Apps, die wir kontrollieren (die Freigabekonsole, das Portal für Agentenanfragen), und halten Drittanbieterwerkzeuge, die SAML oder OIDC benötigen, mit ihrer eigenen Identitätsintegration hinter der Netzwerkschicht. Rollen, die wir typischerweise definieren: Agentenanfragender, Agentenfreigebender pro System, Agentenbetreiber, Policy-Autor und Plattformadministrator, wobei Freigebende für eine bestimmte Aktion nie dieselbe Person sind wie der Anfragende.

8.5 Ring Promoter: Agenten wie Software releasen

Behandelt in Abschnitt 10.

8.6 Kubepilot: der Cluster darunter

Im Abteilungs- und Fabrikmaßstab laufen die gemeinsamen Dienste auf Kubernetes, und Kubepilot ist das Cockpit, das unsere Ingenieure dafür nutzen: CoPilot zur Diagnose mit einem lokalen Modell, Pilot zum schreibgeschützten Durchsuchen von Workloads, Logs und Topologie und AutoPilot zur Behebung hinter Dry-Run, Konfidenzuntergrenzen, Cooldowns, Allow-Lists und einem Notschalter (siehe die Kubepilot-Technote). Kubepilot stellt außerdem einen MCP-Server bereit, was es zu einem naheliegenden Werkzeug für einen IT-Operations-Agenten macht. Einem solchen Agenten erlauben wir über MCP-fähige Policy-Regeln nur die schreibgeschützte Seite und lassen AutoPilot im Dry-Run, sofern eine Änderung nicht den Freigabe-Broker passiert hat.

8.7 NebulaDB: Retrieval und Gedächtnis, die vor Ort bleiben

Agenten scheitern häufiger an Daten als an Modellen. NebulaDB, unsere Open-Source-Datenbank für Agentendaten, kombiniert Vektor-, Keyword- und hybride Suche, SQL mit semantischem Abgleich, ein LLM-Gateway und einen MCP-Server in einer einzigen Binärdatei, die Sie selbst betreiben, mit Zugriffsfiltern pro Nutzer und Ablehnungsregeln (siehe den technischen Leitfaden zu NebulaDB). Für einen Restricted-Agenten bedeutet das, dass Retrieval und Gedächtnis den Standort nie verlassen. Der Agent erreicht es als verwalteten MCP-Server über die Policy, wobei der Bearer-Wert von OpenShell gehalten wird.

8.8 JobShout und unsere eigenen Agenten

Wir wenden dasselbe Muster auf unsere eigenen Agenten an. Der SEO Analyst von JobShout crawlt eine Seite, schlägt Korrekturen vor und veröffentlicht erst, nachdem ein Mensch zugestimmt hat (siehe die Technote zum SEO Analyst). Es ist ein kleines Beispiel, aber es ist die Struktur, die wir überall empfehlen: Agenten schlagen vor, Menschen genehmigen, ein Broker handelt.

9. Observability von Agenten

Einem Agenten, der sich nicht beobachten lässt, kann man nichts Wichtiges anvertrauen. NemoClaw liefert das Rohmaterial; es zu sammeln, zu korrelieren und darauf zu alarmieren, ist Aufgabe des Betreibers.

9.1 Was NemoClaw bereitstellt

  • Zustand: nemoclaw <name> status meldet den Sandbox-Zustand, den Zustand von Gateway und Prozessen, den gewählten Provider und das gewählte Modell sowie eine Inferenzprüfung innerhalb der Sandbox. nemoclaw <name> logs --follow streamt Lifecycle- und Gateway-Ausgaben.
  • Live-Netzwerkansicht: openshell term zeigt aktive Verbindungen, blockierte Anfragen und den Routing-Status.
  • Sitzungsaufzeichnungen: die JSONL-Logs von OpenClaw pro Sitzung, exportierbar mit nemoclaw <name> sessions export.
  • Traces: Für OpenClaw aktiviert das Setzen von NEMOCLAW_OPENCLAW_OTEL=1 vor dem Onboarding oder Neuaufbau OTLP/HTTP-Traces über das Diagnose-Plugin von OpenClaw, wobei die Erfassung von Prompt- und Tool-Inhalten standardmäßig deaktiviert ist. Für Deep Agents Code sendet die Onboarding-Option --observability Traces mit begrenztem Inhalt an http://host.openshell.internal:4318/v1/traces. In beiden Fällen betreibt der Betreiber den empfangenden Collector. Einen entsprechenden Trace-Pfad für Hermes haben wir nicht gefunden; dessen Laufzeitzustand wird in der Sandbox gehalten.

NemoClaws Dokumentation stellt ausdrücklich klar, dass der lokale Trace-Receiver keine Authentifizierung hat, dass Code in der Sandbox Spans und Servicenamen fälschen kann und dass Trace-Inhalte als sensibel zu behandeln sind. Daraus ergibt sich unser Collector-Design.

9.2 Collector auf jedem Agenten-Host

Auf jedem Agenten-Host läuft ein OpenTelemetry Collector, der nur an die Bridge-Adresse der Sandbox gebunden ist. Er verwirft jedes Attribut, das nicht auf einer Allow-List steht, bereinigt Werte, die wie Bearer Tokens oder NVIDIA-API-Schlüssel aussehen, setzt die Identität aus der eigenen Umgebung des Hosts (sodass ein gefälschter Span nicht behaupten kann, ein anderer Agent zu sein), leitet Aufruf- und Fehlermetriken pro Werkzeug und Modell ab und leitet Traces an das Gateway-Paar des Standorts weiter, das in unserem Referenzdesign zu UFM und OpenTelemetry beschrieben ist. Die Attributnamen auf der Allow-List sind ein Beispiel; richten Sie sie nach dem aus, was Ihr Harness tatsächlich ausgibt.

# /etc/otelcol-contrib/config.yaml  (Workstation collector on each NemoClaw agent host)
receivers:
  otlp:
    protocols:
      http:
        # Bind to the sandbox bridge address only, never 0.0.0.0.
        endpoint: ${env:SANDBOX_BRIDGE_IP}:4318

processors:
  memory_limiter:
    check_interval: 1s
    limit_percentage: 75
    spike_limit_percentage: 20
  # Trace content can include prompts, tool arguments and tool results.
  # Drop anything that is not on the allow-list before it leaves the host.
  redaction:
    allow_all_keys: false
    allowed_keys:
      - service.name
      - gen_ai.operation.name
      - gen_ai.request.model
      - gen_ai.usage.input_tokens
      - gen_ai.usage.output_tokens
      - gen_ai.tool.name
      - error.type
    blocked_values:
      - "(?i)bearer\\s+[a-z0-9._~+/-]+=*"
      - "nvapi-[A-Za-z0-9_-]{20,}"
    summary: info
  # Identity comes from the host, not from span fields the sandbox can forge.
  resource/host:
    attributes:
      - key: ws.site
        value: ${env:WS_SITE}
        action: upsert
      - key: ws.agent_host
        value: ${env:HOSTNAME}
        action: upsert
      - key: ws.sandbox
        value: ${env:NEMOCLAW_SANDBOX}
        action: upsert
  batch:
    send_batch_size: 512
    timeout: 5s

connectors:
  spanmetrics:
    dimensions:
      - name: gen_ai.tool.name
      - name: gen_ai.request.model

exporters:
  otlp/gateway:
    endpoint: otel-gateway.internal.example:4317
    tls:
      ca_file: /etc/otelcol-contrib/ca.pem
    sending_queue:
      enabled: true
      queue_size: 5000
    retry_on_failure:
      enabled: true
  prometheus:
    endpoint: 127.0.0.1:9464

service:
  pipelines:
    traces:
      receivers: [otlp]
      processors: [memory_limiter, redaction, resource/host, batch]
      exporters: [otlp/gateway, spanmetrics]
    metrics/spans:
      receivers: [spanmetrics]
      processors: [memory_limiter, resource/host, batch]
      exporters: [prometheus]

Betreiben Sie einen Collector pro Sandbox oder setzen Sie NEMOCLAW_SANDBOX pro Receiver-Port, damit das Sandbox-Label zuverlässig ist. Logs (Ausgaben von NemoClaw und OpenShell, exportierte Sitzungen) gehen über dasselbe Gateway an den Elastic-Stack als einzigen primären Log-Speicher, im Einklang mit unserem Observability-Standard.

9.3 Signale und Alarme

FrageSignalQuelle
Was hat der Agent Schritt für Schritt getan?Spans für Modell- und Tool-AufrufeHarness-Traces über den Host-Collector; Tempo oder Elastic APM
Tastet etwas die Grenze ab?Policy-Verweigerungen pro SandboxOpenShell- und NemoClaw-Logs in ELK; eine Log-Pipeline von Workstation zählt sie als ws_agent_policy_denials_total
Was kostet jede Aufgabe?Eingabe- und Ausgabe-Tokens, Modell, Kosten pro SitzungSitzungslogs von OpenClaw (Token-Nutzung und Kostenmetadaten); Spans; die Kostentabelle des Routers pro Modell
Laufen die Freigaben?Anzahl und Alter offener Freigaben, Genehmigungs- und AblehnungsratenMetriken des Freigabe-Brokers
Ist die Inferenz intakt?Status-Probe, Queue-Tiefe, Time to First Tokennemoclaw <name> status; Metriken des Modellservers
Sind die GPUs der Engpass?Auslastung, Speicher, Drosselung, XID-FehlerDCGM und dcgm-exporter; Minerva und UFM im Fabrikmaßstab

Unser anfänglicher Regelsatz steht unten. Namen, die mit ws_ oder ws: beginnen, sind Workstation-Metriken oder Recording Rules; die anderen stammen aus den Span-Metriken des Collectors und aus dcgm-exporter.

# rules/nemoclaw-agents.yaml  (Prometheus or Mimir ruler)
groups:
  - name: nemoclaw-agents
    rules:
      - record: ws:agent_tool_calls:rate5m
        expr: sum by (ws_sandbox, gen_ai_tool_name, status_code) (rate(traces_span_metrics_calls_total[5m]))

      - alert: AgentPolicyDenialBurst
        expr: sum by (ws_sandbox) (increase(ws_agent_policy_denials_total[15m])) > 5
        labels:
          severity: page
        annotations:
          summary: "Sandbox {{ $labels.ws_sandbox }} hit the egress policy {{ $value }} times in 15 minutes"
          runbook: "Possible prompt injection or a broken tool. Follow the misbehaving-agent runbook; do not widen policy to make it stop."

      - alert: AgentToolErrorRateHigh
        expr: |
          sum by (ws_sandbox) (ws:agent_tool_calls:rate5m{status_code="STATUS_CODE_ERROR"})
            / sum by (ws_sandbox) (ws:agent_tool_calls:rate5m) > 0.2
        for: 15m
        labels:
          severity: ticket
        annotations:
          summary: "More than 20% of tool calls from {{ $labels.ws_sandbox }} are failing"

      - alert: AgentDailyTokenBudgetExceeded
        expr: sum by (ws_sandbox) (increase(ws_agent_tokens_total[1d])) > on (ws_sandbox) group_left ws_agent_token_budget_daily
        labels:
          severity: ticket
        annotations:
          summary: "Sandbox {{ $labels.ws_sandbox }} is over its daily token budget"

      - alert: AgentApprovalQueueStale
        expr: max by (ws_sandbox) (ws_agent_approval_pending_age_seconds) > 3600
        labels:
          severity: ticket
        annotations:
          summary: "An approval for {{ $labels.ws_sandbox }} has waited over an hour"

      - alert: InferenceGPUSaturated
        expr: avg by (Hostname) (avg_over_time(DCGM_FI_DEV_GPU_UTIL{ws_role="inference"}[15m])) > 95
        for: 30m
        labels:
          severity: ticket
        annotations:
          summary: "Inference GPUs on {{ $labels.Hostname }} have been above 95% for 30 minutes; agents will queue"

Eine Häufung von Policy-Verweigerungen alarmiert einen Menschen, weil sie das deutlichste Frühzeichen eines Injection-Versuchs ist. Die schlechteste Reaktion ist, die Policy so lange zu erweitern, bis der Alarm aufhört; das Runbook in Abschnitt 13 sagt, was stattdessen zu tun ist. Zur Kostenseite der LLM-Observability im weiteren Sinne siehe unsere Technote zu LLM-Engpässen und Kostenkontrolle.

10. Release-Management von Agenten mit Ring Promoter

Das Verhalten eines Agenten ist das Produkt mehrerer versionierter Dinge: des NemoClaw-Release, des Blueprints (mit seinem gepinnten Sandbox-Image-Digest und der exakten OpenShell-Version, die er benötigt), der Policy-Stufe und eigener Presets, der Harness-Konfiguration und Skills, der Modellroute oder des Router-Pools, der wslproxy-Routen und der Freigaberegeln. Ändert sich eines davon, kann sich das Verhalten ändern. Wir behandeln die Gesamtheit als ein Agenten-Release-Bundle und bewegen es mit Ring Promoter, Workstations Open-Source-Control-Plane für Releases, durch Ringe, genau wie Anwendungscode (siehe die Technote zu den QA-Gates von Ring Promoter und die Produktseite).

RingWas dort läuftGate zum Verlassen
intNeues Bundle auf einem Labor-Agenten-Host, synthetische DatenAutomatisch: nemoclaw host probe fehlerfrei, Presets bestehen die Prüfung per policy add --dry-run, Skill-Tests grün
testRepräsentative Daten, vollständige EvaluierungssuiteAutomatisch: Aufgabenerfolg und Sicherheits-Evals mindestens auf dem Niveau des vorherigen Bundles; Red-Team-Paket bestanden; Verweigerungs- und Fehlerraten im Budget
accPilotnutzer, echte Systeme, Freigaben aktivMenschlich: Abnahme durch Business Owner und Sicherheit
prodAlle NutzerVersionsverifizierter Zustand; automatisches Rollback bei fehlerhaftem Zustand

Zwei Anpassungen sorgen dafür, dass Ring Promoter zu NemoClaw passt. Erstens der Deployer: Agenten-Hosts sind Docker-Hosts, keine Kubernetes-Workloads; wir nutzen daher den GitHub-Actions-Deployer von Ring Promoter, um einen Workflow auszulösen, der Ansible gegen die Agenten-Hosts dieses Rings ausführt (Backup, Installation des gepinnten Release, Neuaufbau der betroffenen Sandboxes, Anwenden der Presets), und seinen kubectl-Deployer für die gemeinsamen Dienste. Zweitens der Zustandscheck: Ein kleiner Workstation-Endpunkt auf jedem Agenten-Host kapselt nemoclaw <name> status und meldet die Bundle-Version, sodass der versionsverifizierte Zustandscheck von Ring Promoter einen Host ablehnen kann, der zwar intakt ist, aber das falsche Bundle ausführt. Eine veranschaulichende Konfiguration im Stil unserer früheren Ring-Promoter-Beispiele:

# Ring policy for agent bundles (illustrative)
rings:
  - name: int
    auto_promote: true
  - name: test
    auto_promote: true
  - name: acc
    auto_promote: false     # human gate before prod
  - name: prod
    auto_promote: false

apps:
  eda-verify-agent:
    rings:
      test:
        health_url: https://agents-test.internal.example/api/agent-health/eda-verify
        health_version_field: bundle_version
      prod:
        health_url: https://agents.internal.example/api/agent-health/eda-verify
        health_version_field: bundle_version

Ein Rollback ist eine Promotion des vorherigen Bundles, die Sandboxes aus den früheren gepinnten Eingaben neu aufbaut. Der Neuaufbau von NemoClaw überträgt Home-Verzeichnis und Workspace der Sandbox mit Integritätsprüfungen und wendet hosteigene Einstellungen erneut an, sodass das Gedächtnis des Agenten ein Rollback übersteht; ist das Gedächtnis selbst verdächtig, stellen Sie es aus einem Backup wieder her, das vor dem fehlerhaften Release erstellt wurde.

11. Unser Einrichtungsservice: ein phasenweises Vorgehen

Acht Phasen über etwa vierzehn Wochen, danach Managed Support: Discovery und Auswahl der Anwendungsfälle, Hardware-Dimensionierung, Plattformaufbau, Erstellung der Policy, Pilot, Härtung für die Produktion, Übergabe und Managed Support, jeweils mit einem Abschluss-Gate.

PhaseWas wir tunWas Sie erhaltenAbschluss-Gate
1. Discovery und Auswahl der AnwendungsfälleWorkshops mit Business Ownern, Sicherheit und Datenschutz; Bewertung möglicher Anwendungsfälle nach Nutzen, Datenklasse, Werkzeugrisiko und MessbarkeitZwei erste Anwendungsfälle, ihre Datenklassen, Erfolgsmetriken und ein namentlich benannter RisikoverantwortlicherAnwendungsfälle und Risikoverantwortlicher abgenommen
2. Hardware-Dimensionierung und LieferungModellauswahl und Serving-Plan; Lastschätzung; Dimensionierung von Agenten-Hosts und Inferenz; bei Bedarf Strom-, Kühlungs- und RackplanungEine Stückliste, von uns geliefert; Lieferzeiten bestätigtUnterzeichnete Stückliste
3. PlattformaufbauHost-Betriebssystem, Treiber, Container-Runtime; NemoClaw aus einem geprüften, gepinnten Installer; Modell-Serving; wslvault, wslproxy, WSL VPN, OpsAPI-Konsole, Collectors, Ring PromoterEine funktionierende, aus Code gebaute PlattformHost-Prüfung auf jedem Host fehlerfrei; jede Kontrolle aktiv
4. Erstellung der PolicyBasis auf Stufe Restricted, eigene Presets, wslproxy-Routen aus OpenAPI-Verträgen, Freigaberegeln, Routing nach DatenklasseGeprüfte Policy in der Versionsverwaltung, mit TestsPresets geprüft; Red-Team-Tests im Test-Ring bestanden
5. PilotEchte Nutzer, echte Systeme, Freigaben aktiv, tägliche Prüfung von Traces und VerweigerungenGemessene Ergebnisse anhand der Metriken aus Phase 1Ergebnis- und Sicherheitsmetriken erreicht
6. Härtung für die ProduktionVollständiger Red-Team-Lauf, Backup- und Wiederherstellungsübung, Ausfallübungen, Kapazitätsprüfung, Probe der RunbooksEine Plattform, bereit für breitere NutzungRed-Team- und Disaster-Recovery-Übung bestanden
7. ÜbergabeSchulung für Betreiber, Freigebende und Policy-Autoren; Runbooks; Begleitung im BetriebEin Team, das sie betreiben kannIhr Team führt jedes Runbook ohne Hilfe aus
8. Managed SupportMonitoring, Patching über die Ringe, Policy-Änderungen auf Anfrage, vierteljährliches Red Teaming, MonatsberichtEin unterstützter DienstFortlaufend

Managed Support wird mit vertraglich vereinbarten Service-Levels angeboten: Abdeckungszeiten (Geschäftszeiten oder rund um die Uhr), Reaktions- und Wiederherstellungsziele nach Schwere, ein Patch-Rhythmus für NemoClaw, OpenShell, Harnesses und Modelle über die Ringe sowie ein Monatsbericht zu Agentenergebnissen, Verweigerungen, Freigaben, Kosten pro Aufgabe und GPU-Nutzung. Unser Support umfasst die Plattform, die wir bauen und betreiben, sowie unsere eigene Software. NemoClaw bietet upstream kein Service-Level; wir verfolgen daher Upstream-Issues und -Releases für Sie und pinnen nur Versionen, die wir getestet haben. NVIDIA-Software, die von einem NVIDIA-AI-Enterprise-Abonnement abgedeckt ist, wird zu NVIDIAs Bedingungen unterstützt.

12. Ausgearbeitete Beispiele

Dies sind veranschaulichende Designs auf Basis der obigen Muster, keine Beschreibungen eines bestimmten Kunden.

12.1 EDA-Verifikationsagent

NVIDIA hebt Chipdesign als Anwendungsfall für NemoClaw hervor und verweist auf ein Beispiel von Cadence, bei dem die RTL-Verifikationszeit von Wochen auf Stunden sank; diese Zahl haben wir nicht verifiziert. Unser Design für ein Verifikationsteam:

  • Maßstab und Hardware: Team-Pod auf einer DGX Station GB300 neben der bestehenden Simulationsfarm.
  • Harness: LangChain Deep Agents Code, dessen terminalorientierte Coding-Schleife zu Testbench- und Log-Arbeit passt.
  • Datenklasse und Modell: Restricted (unveröffentlichtes Design-IP). Nur lokales Nemotron; kein gehosteter Provider angebunden; Herstellertelemetrie deaktiviert.
  • Werkzeuge: schreibgeschützter Zugriff auf den Spiegel des RTL-Repositorys; eine schmale Job-API auf der Farm über wslproxy (Regressionen auflisten, Ergebnisse lesen, einen Regressionslauf einreichen), genau wie im Preset in Abschnitt 7.2. Keine Route ins Internet.
  • Freigaben: Der Agent darf einen Merge Request mit einer vorgeschlagenen Korrektur nur über den Freigabe-Broker eröffnen; ein Verifikationsleiter genehmigt.
  • Kennzahlen: Zeit vom Regressionsfehler bis zur triagierten Grundursache, Rate falscher Triagen, verbrauchte Farmstunden, Verweigerungen pro Woche.
  • Übung: ein platzierter Kommentar in einer Testdatei, der den Agenten auffordert, eine Netzliste anderswohin hochzuladen; erwartet wird ein Verweigerungsalarm innerhalb von Minuten.

12.2 Agent für Fertigungsbetrieb

  • Maßstab und Hardware: Abteilungsplattform; Agenten-Hosts auf einem Standortserver, Inferenz auf einem RTX-PRO-6000-Inferenzserver.
  • Harness: Hermes, dessen Schleife aus Skills und Gedächtnis zu wiederkehrenden Schichtaufgaben passt.
  • Datenklasse und Modell: Confidential. Lokales Modell; keine gehostete Route.
  • Werkzeuge: schreibgeschützte APIs zu MES und Historian über wslproxy; eine API für Arbeitsauftragsentwürfe; NebulaDB für Wartungshandbücher und frühere Störungsnotizen.
  • Grenze: keinerlei Route zum OT-Netzwerk oder zu Steuerungen. Der Agent schlägt vor; er löst nie selbst etwas aus.
  • Freigaben: Das Anlegen eines Arbeitsauftrags erfordert die Rolle Schichtleiter in OpsAPI.
  • Kennzahlen: Zeit bis zur Diagnose, Rate angenommener Vorschläge, Rate wiederkehrender Störungen.

12.3 IT-Operations-Agent (AIOps) in einer KI-Fabrik

  • Maßstab und Hardware: KI-Fabrik; Sandboxes auf CPU-Kapazität, Inferenz auf dem eigenen Pool der Fabrik.
  • Harness: OpenClaw, mit aktivierten OpenTelemetry-Traces.
  • Datenklasse und Modell: Internal. Standardmäßig lokales Modell; Model Router für lange Zusammenfassungen zulässig.
  • Werkzeuge: NVIDIA Minerva über seinen MCP-Server, die REST-API von UFM und Prometheus-Abfragen, alles schreibgeschützt; der MCP-Server von Kubepilot im schreibgeschützten Modus; die Ticketing-API, um Incidents zu kommentieren.
  • Behebung: Jede Änderung, etwa das Leeren eines GPU-Nodes, läuft als Ansible-Playbook über den Freigabe-Broker unter Change Control, nach dem Muster aus unserer Minerva-Technote.
  • Kennzahlen: mittlere Zeit bis zur Triage, Rate korrekter Grundursachen bei geprüften Incidents, zurückgewonnene GPU-Stunden, abgelehnte Freigaben.

13. Betriebs-Runbooks

13.1 Installation: in der Produktion nie per Pipe an bash

NVIDIAs Quick-Start leitet ein Skript von nvidia.com/nemoclaw.sh direkt an bash weiter, wobei NEMOCLAW_AGENT Hermes oder Deep Agents Code auswählt. Auf einer Entwickler-Workstation ist das in Ordnung. In einem Unternehmen laden wir es herunter, prüfen es, pinnen es und spiegeln es:

# 1. Fetch over HTTPS only (the same flags NemoClaw's own update command uses)
curl -fsSL --proto '=https' --proto-redir '=https' \
  -o nemoclaw.sh https://www.nvidia.com/nemoclaw.sh

# 2. Review it, record its hash, and store both in your artefact repository
sha256sum nemoclaw.sh

# 3. Install an exact, reviewed source revision rather than the moving default.
#    Export the telemetry setting in the operators' shell profile too, if you opt out.
export NEMOCLAW_DISABLE_TELEMETRY=1
NEMOCLAW_INSTALL_REF=<reviewed-commit-sha> bash ./nemoclaw.sh

Der Installer akzeptiert NEMOCLAW_INSTALL_REF (eine exakte Git-Referenz oder einen Commit) und NEMOCLAW_INSTALL_TAG; standardmäßig folgt er einem gepflegten Tag lkg, der sich verschieben kann. Der Blueprint pinnt sein Sandbox-Image per Digest und deklariert die exakte OpenShell-Version, die er unterstützt. Das Onboarding lädt dennoch Pakete, Images und Quellcode über das Netzwerk, und NemoClaw führt Air-Gap-Installationen als nicht unterstützt; wir laden die gepinnten Images daher vorab in eine private Registry für Scanning und Wiederherstellung und erlauben den Agenten-Hosts nur während der Build-Fenster den minimal nötigen ausgehenden Zugriff.

13.2 Patchen von NemoClaw, OpenShell, Harnesses und Modellen

  1. Lesen Sie die Upstream-Release-Notes und die Plattformmatrix für Ihre Hardware; eröffnen Sie einen Change.
  2. Sichern Sie jede Sandbox: nemoclaw backup-all (der Installer führt vor einem OpenShell-Upgrade ebenfalls ein striktes Backup aus).
  3. Bauen Sie ein neues Agenten-Bundle mit der neuen gepinnten Installationsreferenz und stufen Sie es nach int hoch.
  4. Auf jedem Host im Ring: das gepinnte Release installieren, dann nemoclaw upgrade-sandboxes --check, um veraltete Sandboxes aufzulisten, dann nemoclaw <name> rebuild für jede davon.
  5. Aktualisieren Sie OpenShell nicht separat: Der Blueprint deklariert die exakte Version, die er benötigt. Aktualisieren Sie das Harness nicht innerhalb einer laufenden Sandbox: Es ist per Image gepinnt, und NemoClaws Empfehlung lautet, neu aufzubauen.
  6. Modelle: das neue Modell neben dem alten bereitstellen, die Route einer Test-Sandbox umstellen, die Evaluierungssuite ausführen und dann wie jede andere Bundle-Änderung durch die Ringe hochstufen.
  7. Host-Betriebssystem und Treiber: über dieselben Ringe patchen; den Kernel für die vollständige Landlock-Durchsetzung auf 5.13 oder neuer halten.

13.3 Incident Response: ein sich fehlverhaltender Agent

  1. Eindämmen. Wenden Sie die niedrigste Stufe des Notschalters an, die das Verhalten stoppt (siehe unten). Erweitern Sie nicht die Policy, damit Alarme aufhören.
  2. Sichern. Exportieren Sie die Sitzung (nemoclaw <name> sessions export), sammeln Sie nemoclaw <name> logs, die OpenShell-Verweigerungen, wslproxy-Entscheidungen nach Support-ID, wslvault-Audit-Einträge und Freigabe-Records. Behandeln Sie den Export als sensibel.
  3. Verstehen. Finden Sie die Eingabe, die das Verhalten verändert hat: ein Dokument, ein Ticket, eine Webseite oder ein Tool-Ergebnis. Prüfen Sie das Harness-Verzeichnis auf Konfigurationsabweichungen.
  4. Wiederherstellen. Erstellen Sie die Sandbox aus vertrauenswürdigen Eingaben neu (NemoClaws Empfehlung nach vermuteter Kompromittierung), stellen Sie bei Bedarf das Gedächtnis aus einem Backup von vor dem Vorfall wieder her und rotieren Sie jedes Credential, das der Agent nutzen konnte.
  5. Lernen. Nehmen Sie die Eingabe als Red-Team-Test auf, passen Sie Policy- oder Freigaberegeln über ein Release an und melden Sie über Ihren Incident-Prozess (und binnen 72 Stunden an das ICO, wenn eine Verletzung des Schutzes personenbezogener Daten voraussichtlich ein Risiko für Personen darstellt).

13.4 Der Notschalter, in Stufen

StufeMaßnahmeWirkung
1. Einengennemoclaw <name> policy remove <preset> --yesEntfernt den Egress eines Presets aus der aktiven Policy; der Agent läuft mit geringerer Reichweite weiter
2. Am Gateway verweigernDie Routen des Agenten in wslproxy deaktivierenSofort, ohne Neuladen; jeder Tool-Aufruf wird abgelehnt und protokolliert
3. Stoppennemoclaw <name> stopStoppt die Sandbox, behält aber Zustand, Policy und Zugangsdaten für die Untersuchung
4. Zugangsdaten kappenDie wslvault-Leases und -Rollen des Agenten widerrufen; Inferenzschlüssel über den Credential-Ablauf von NemoClaw rotierenNichts, was der Agent halten oder anfordern könnte, funktioniert noch
5. IsolierenDen Agenten-Host per Firewall abschotten und aus dem VPN entfernenHost für forensische Arbeit abgeschnitten

Die Stufen 1 bis 3 werden bei der Übergabe und danach vierteljährlich geprobt, sodass die Person in Rufbereitschaft jede davon schon einmal ausgeführt hat, bevor sie sie braucht.

14. Hardware für NemoClaw

SystemWo es passtNemoClaw-Status (Plattformmatrix, November 2026)
NVIDIA DGX SparkAgenten für ein einzelnes Team mit kleineren lokalen ModellenGetestet; Profil mit zwei Spark-Systemen experimentell
NVIDIA DGX Station (GB300)Team-Pod mit größeren lokalen ModellenMit Einschränkungen getestet
Workstations mit RTX PRO 6000 BlackwellTeam-Pod; Maschinen für Entwicklung und Policy-ErstellungZurückgestellt für verwaltetes lokales Serving; betreiben Sie den Modellserver selbst oder nutzen Sie einen gemeinsamen Endpunkt
Systeme mit RTX PRO 6000 Server EditionGemeinsame Inferenz auf AbteilungsebeneInferenzebene; Agenten-Hosts sind separat
NVIDIA HGX B300Inferenzpools auf Abteilungs- oder FabrikebeneInferenzebene
NVIDIA Vera Rubin NVL72Modell-Serving in der KI-Fabrik im Rack-MaßstabInferenzebene; Sandbox-Flotte gemeinsam mit NVIDIA entworfen

Für 3D-Workflows (NVIDIA nennt die kontrollierte Steuerung von Blender und Omniverse unter den Einsatzzwecken von NemoClaw) kombinieren Sie die Agenten mit Omniverse Enterprise; zur Spezialisierung von Modellen siehe unseren NeMo-Einrichtungsservice. Unser Paket Agentic AI Enterprise Workstation ist ein fertiger Ausgangspunkt für einen Team-Pod. Unsicher, was passt? Fragen Sie unseren AI Sales Engineer.

15. NVIDIA-Partner: Engineering, Software und Personal

Workstation ist NVIDIA-Partner. Über die Lieferung der Hardware hinaus stellen wir Engineering, Software und Personal bereit, um KI-Rechenzentren und KI-Fabriken von Unternehmen zu planen, aufzubauen und zu betreiben: Dimensionierung und Lieferung von DGX-, RTX-PRO-, HGX- und Vera-Rubin-Systemen, Rack-, Strom- und Netzwerkdesign, Modell-Serving mit NIM und Nemotron, Einrichtung von NemoClaw und OpenShell, Erstellung von Policies und Red-Team-Tests, Integration mit wslvault, wslproxy, WSL VPN, OpsAPI, Ring Promoter, Kubepilot und NebulaDB, Observability mit OpenTelemetry, Grafana, ELK, DCGM, UFM und Minerva sowie Ingenieure, die Sie durch Pilot, Übergabe und Managed Support begleiten. NVIDIAs eigene Beschreibung finden Sie auf der offiziellen NVIDIA-NemoClaw-Seite; für praktisches Lernen ist der Kurs des NVIDIA Deep Learning Institute zur Absicherung von Agenten mit NemoClaw und OpenShell eine gute Grundlage für die Ingenieure, die die Plattform verantworten werden.

16. Quellen und Hinweise zur Verifizierung

  • NVIDIA-Produktseite: die offizielle Seite NVIDIA NemoClaw, gelesen am 9. November 2026: Positionierung, Komponenten des Agent Toolkit, unterstützte Harnesses, Einsatzsysteme, die OpenShell Reference Architecture und die Vera-Ankündigung, Anwendungsfälle und der DLI-Kurs. Alle Formulierungen hier sind unsere eigene Zusammenfassung.
  • NemoClaw-Repository (github.com/NVIDIA/NemoClaw, Apache 2.0, main bei Commit 5215c9df8a05, neuester Tag v1.0.0-rc1): README; die Seiten zu Architektur, Ökosystem, Inferenz-Routing, Model Router, Network Policy, Freigaben, Monitoring, Trace-Export, Zugangsdaten, Security Best Practices, Plattformunterstützung, Unternehmensreife und CLI-Referenz unter docs/; nemoclaw-blueprint/blueprint.yaml, policies/openclaw-sandbox.yaml, policies/tiers.yaml, policies/presets/, router/pool-config.yaml; sowie install.sh. Jeder NemoClaw-Befehl, jedes Flag, jede Umgebungsvariable, jeder Dateiname und jeder Policy-Schlüssel in diesem Artikel kommt dort vor.
  • Community und Schulung: NVIDIA/nemoclaw-community (Beispielkatalog und dessen Verifizierungsstatus) und NVDLI/NemoClawDLI (das Repository des DLI-Kurses).
  • Nicht verifiziert: Wir haben NemoClaw für diesen Artikel nicht installiert und keinen der gezeigten NemoClaw-Befehle ausgeführt. Das eigene Preset ist im Format der mitgelieferten Presets geschrieben, wurde aber nicht auf eine laufende Sandbox angewendet; prüfen Sie es mit policy add --dry-run. Eine detaillierte Dokumentation der OpenShell Reference Architecture oder von Vera-basierten Sandbox-Flotten, die von NVIDIA zitierte Cadence-Zahl und einen Trace-Export-Pfad für Hermes haben wir nicht gesehen. Ein gemischter Model-Router-Pool aus lokalen und gehosteten Modellen ist ungetestet. Upstream-Statuskennzeichnungen ändern sich häufig; prüfen Sie die Plattformmatrix für Ihr Release erneut.
  • OpenTelemetry Collector-Konfiguration: mit otelcol-contrib validate in otel/opentelemetry-collector-contrib:0.165.0 validiert. Endpunkte und Attributnamen sind Beispiele.
  • Prometheus-Regeln: mit promtool check rules validiert, Prometheus 3.1.0. DCGM_FI_DEV_GPU_UTIL ist eine Metrik von dcgm-exporter; traces_span_metrics_calls_total stammt aus dem Span-Metrics-Connector des Collectors; Namen, die mit ws_ oder ws: beginnen, sind Workstation-Metriken, die unsere Pipelines erzeugen.
  • Werkzeuge von Workstation: Fakten zu wslvault, wslproxy und seinem Zugriffsprofilformat, wslvpn, OpsAPI Single Sign-on, Ring Promoter, Kubepilot, NebulaDB und JobShout stammen aus unseren oben verlinkten veröffentlichten Technotes. Der Freigabe-Broker, der Zustandsendpunkt für Agenten, der hostseitige Rotationsjob und die gezeigte Ring-Promoter-Konfiguration sind Designs von Workstation, und der Ring-Promoter-Block dient der Veranschaulichung.
  • Veranschaulichende Inhalte: die ausgearbeiteten Beispiele, Wochenangaben, die Zuordnung der Datenklassen und die Alarmschwellen sind Ausgangspunkte, keine Messungen aus einem Kundensystem.

Hinweis zu Rechten: NVIDIA, das NVIDIA-Logo, NemoClaw, OpenShell, Nemotron, NeMo, NIM, NVIDIA AI Enterprise, Agent Toolkit, Omniverse, DGX, DGX Spark, DGX Station, RTX, RTX PRO, RTX Spark, GeForce RTX, HGX, Vera, Vera Rubin, Blackwell, Grace, BlueField, CUDA, DCGM, Spectrum-X, Minerva, Unified Fabric Manager (UFM), Dynamo und Deep Learning Institute (DLI) sind Marken und/oder eingetragene Marken der NVIDIA Corporation in den Vereinigten Staaten und anderen Ländern. NVIDIA-Produkte und -Technologien können durch Patente und andere Rechte des geistigen Eigentums der NVIDIA Corporation geschützt sein; alle diese Rechte werden anerkannt und bleiben ihren Inhabern vorbehalten. Produktinformationen sind in unseren eigenen Worten aus öffentlichem Material und Repositorys von NVIDIA zusammengefasst; maßgebliche Quelle sind die Website und die Dokumentation von NVIDIA. OpenClaw, Hermes und Nous Research, LangChain und Deep Agents, Cadence, Blender und Kubernetes gehören ihren jeweiligen Inhabern, und andere Unternehmens- und Produktnamen, darunter Docker, Podman, Ubuntu, Debian, vLLM, Ollama, llama.cpp, OpenAI, Anthropic, Google Gemini, OpenRouter, Hugging Face, WireGuard, OpenResty, OpenTelemetry, Prometheus, Grafana, Grafana Mimir, Tempo, Elasticsearch, Ansible und GitHub, können Marken ihrer jeweiligen Inhaber sein. Die eigenen Diagramme, Konfigurationen und Texte von Workstation sind © Workstation.

Diesen Artikel teilen

Mehr zu Technology

Laptops für KI-Entwickler: LLMs lokal unter Linux mit GPUs mit 16 GB und 24 GB betreiben (Leitfaden 2026)

Laptops für KI-Entwickler: LLMs lokal unter Linux mit GPUs mit 16 GB und 24 GB betreiben (Leitfaden 2026)

Was auf eine RTX 5080 oder RTX 5090 Laptop GPU passt, die Speicherrechnung, die lohnenden offenen Modelle, die Einrichtung von Ubuntu 26.04 mit dem NVIDIA-Stack, Ollama, llama.cpp und vLLM, Coding-Assistenten, LoRA-Fine-Tuning, Sicherheit und wann Arbeit auf einen Server gehört

Weiterlesen
ML- und LLM-Systeme testen, deren Korrektheit sich nicht beweisen lässt: ein Python-Evidenz-Kit

ML- und LLM-Systeme testen, deren Korrektheit sich nicht beweisen lässt: ein Python-Evidenz-Kit

Evidenz statt Beweise, in etwa 400 Zeilen Python mit echter Ausgabe: Slice-Metriken mit Bootstrap-Intervallen und einem Pass/Fail-Vertrag, Property- und metamorphe Tests mit Hypothesis, Kalibrierung und Conformal Prediction, Pydantic-Verträge und Regressionsevaluierungen für LLM-Ausgaben, Drift-Prüfungen, ein CI-Gate und die exakte Verifikation eines kleinen neuronalen Netzes

Weiterlesen
TorchCurves in der Praxis: lernbare B-Spline- und Legendre-Kurven in PyTorch

TorchCurves in der Praxis: lernbare B-Spline- und Legendre-Kurven in PyTorch

torchcurves installieren, eine Kurve anpassen und dimensionieren, B-Spline oder Legendre und die Eingabeabbildung wählen, eine monotone Kalibrierungskurve und ein additives Modell auf tabellarischen Daten bauen, mit SciPy, scikit-learn, einem KAN und einem MLP vergleichen, Koeffizienten nach JSON exportieren, testen und in der Produktion betreiben, mit echten Ausgaben

Weiterlesen