Am besten geeignet für: Inferenz-APIs, die auf null skalieren, und schnelle GPU-Pods für die Entwicklung.
Der Anfragepfad auf RunPod: Schalten Sie Ihr eigenes Gateway und Ihre eigene Identität davor, nutzen Sie Endpunkt-Authentifizierung und halten Sie sensible Arbeit in der Secure Cloud. Serverlose Worker skalieren mit den Anfragen; Community-Cloud-Hosts sind Dritte.
KI-Dienste
Pods in der Secure Cloud (Rechenzentrumspartner) oder Community Cloud.
Serverlose GPU-Endpunkte, die mit den Anfragen skalieren, und Instant Clusters für Multi-Node-Arbeit.
GPUs und Beschleuniger
Eine breite Auswahl an NVIDIA- und AMD-GPUs, von RTX-Karten bis H100 und neuer.
Agenten und Identität
API-Schlüssel und Endpunkt-Authentifizierung; schalten Sie Ihr eigenes Gateway und Ihre eigene Identität davor.
Sicherheit und Daten
Nutzen Sie die Secure Cloud für alles Sensible; Community-Cloud-Hosts sind Dritte.
Skalierung und Optimierung
Serverlose Worker skalieren automatisch hoch und runter; legen Sie Mindest-Worker fest, um Kaltstarts zu vermeiden.
UK- und EU-Regionen
Rechenzentren in Europa und Nordamerika; wählen Sie Regionen pro Workload.
Worauf Sie achten sollten
Kaltstarts bei serverlosen Endpunkten; Image-Größe und Modell-Ladezeit sind wichtig.
Wie Workstation hilft: Wir paketieren Modelle für schnelle Kaltstarts, schalten authentifizierte Gateways davor und binden Endpunkte in CI/CD ein.
Logos sind Marken ihrer jeweiligen Inhaber, werden nur zur Kennzeichnung der jeweiligen Plattform verwendet und stammen von Wikimedia Commons. Diagramme vom Workstation-Team.