Vertex AI, Gemini et des TPU aux côtés des GPU NVIDIA.
Idéal pour: Les équipes qui construisent sur Gemini, l'IA à forte intensité de données sur BigQuery et les grands entraînements sur TPU.
Le chemin d'une requête sur Google Cloud : aucun fichier de clés, car le service utilise Workload Identity Federation ; Model Armor filtre prompts et réponses ; Vertex AI se trouve dans un périmètre VPC Service Controls avec des clés de chiffrement gérées par le client.
Services d'IA
Vertex AI : Gemini et modèles partenaires du Model Garden, tuning, évaluation, pipelines et points de terminaison.
Vertex AI Agent Builder et Agent Engine, avec l'Agent Development Kit (ADK) open source et le protocole Agent2Agent (A2A).
BigQuery ML et Vertex AI Search pour la recherche sur les données de l'entreprise.
GPU et accélérateurs
Cloud TPU, y compris les dernières générations pour l'entraînement et l'inférence.
VM A3 (H100), A3 Ultra (H200), A4 (B200) et A4X (GB200).
GKE avec des pools de nœuds GPU et TPU ; Cloud Run avec GPU pour l'inférence serverless.
Agents et identité
Workload Identity Federation pour que services et pipelines s'authentifient sans fichiers de clés.
Conditions IAM et comptes de service par agent.
Sécurité et données
VPC Service Controls autour de Vertex AI, clés de chiffrement gérées par le client et contrôles de résidence des données.
Model Armor pour filtrer prompts et réponses contre l'injection et les fuites de données.
Passage à l'échelle et optimisation
Débit provisionné pour Gemini ; Dynamic Workload Scheduler pour la capacité GPU et TPU.
Mise en cache du contexte et prédiction par lots pour réduire les coûts.
Régions Royaume-Uni et UE
Londres (europe-west2) et régions de l'UE.
Points de vigilance
Le code pour TPU (JAX, PyTorch/XLA) diffère de CUDA ; planifiez le portage avant de vous engager.
Comment Workstation vous aide: Nous construisons des solutions Vertex AI et Gemini, exploitons des clusters GKE GPU et TPU et les connectons à vos données sur site.
Les logos sont des marques de leurs propriétaires respectifs, utilisés uniquement pour identifier chaque plateforme, et proviennent de Wikimedia Commons. Schémas réalisés par l'équipe Workstation.