Der Shop ist online

Wir bauen Workstation AI-Maschinen für Websites, KI-Agenten und LLM-Training – online konfigurieren und kaufen.

Händlerpreise erhalten
KI-Produkte
KI-LabsOpenAI-AgentenClaude-AgentenGrok-BotWorkstation AI-natives CRMMarketingAlle Produkte
KI-Lösungen
Angewandte KIKI-AgentenGenerative KIKI-AutomatisierungKI-WeiterbildungKI-Pakete für KMUEnterprise AI LabKI-WorkstationsNVIDIA-Hardware & -SoftwareNVIDIA Accelerated ComputingPrivate KIGPU-Private-CloudGPU-ClusterEdge-KIKI nach Branche
KI-Services
PlattformmodernisierungDigital EngineeringDatengrundlagen & KIAutonomer BetriebKI-BeratungDevOps-AutomatisierungCybersicherheitSoftwareentwicklungAgentenentwicklungMLOps-EinrichtungGPU-LeasingGPU-Private-Cloud
Über uns
UnternehmenUnsere GeschichtePartnerKundengeschichten
KI-Rechenzentren
KI-RechenzentrenGPU-Private-CloudGPU-ClusterGPU-Leasing
KI-EinblickeJev-ReiheBenchmark LabModellauswahl
Technische Hinweise
Dokumentation
Linux-BetriebssystemeUbuntuRed Hat Enterprise LinuxSUSE LinuxAlpine LinuxDebian, Rocky & AlmaLinux
KI-Cloud-PlattformenAWS & Amazon BedrockGoogle Cloud & Vertex AIMicrosoft Azure & AI FoundryGPU-Clouds & Marktplätze
Private KI-RechenzentrenFür AnwaltskanzleienFür Steuer- und WirtschaftsprüfungskanzleienOn-Premises-PlattformenVollständig abgesicherte Cloud
ToolsRing PromoterJobshout
News
Blog
KontaktAnmelden

KI-Workstations, Multi-Agenten-KI-Software, GPU-Infrastruktur und intelligente Agentenlösungen für moderne Unternehmen.

Kontakt

KI-Lösungen

Angewandte KIKI-AgentenGenerative KIKI-AutomatisierungKI-WeiterbildungKI-Pakete für KMUEnterprise AI LabKI nach Branche

Produkte

Alle ProdukteWorkstation AI-natives CRM & ERPMarketingOpenAI-AgentenRing PromoterJobshout

Unternehmen

Über unsUnternehmenKI-RechenzentrenWarum WorkstationPartnerKundengeschichtenPreiseKontaktTenthMatrix

Ressourcen

KI-EinblickeTechnische HinweiseDokumentationLinux-BetriebssystemeKI-Cloud-PlattformenPrivate KI-RechenzentrenBlogSucheSitemap
Büro Belgien
Workstation SRL, Rue Vanderkindere 34, 1180 Uccle, BrusselsBE 0751.518.683Mo – Fr: 9:00 – 18:00 Uhr MEZ
+32 492 45 67 46
Hauptsitz Großbritannien
77-79 Marlowes, Hemel Hempstead HP1 1LFAnfahrt – Ausfahrt 20 der M25 (Outer London)Handelsregisternr.: 11641870Mo – Fr: 9:00 – 18:00 Uhr GMT
+44 7515 356 146
Büro Indien
#159 Sector 9, Pocket 1, DDA Flats, 110077 Dwarka, New Delhi
+91 98881 98841
Büro Taiwan
3F, No. 2-4, Aisi Rd., Ren'ai Dist., Keelung City 200, Taiwan基隆市仁愛區愛四路2之4號3樓Mo – Fr: 9:00 – 18:00 Uhr Taiwan-Zeit (GMT+8)
+886 926 892 701+32 492 45 67 46
Büro Estland
Aleksander Puškini tn 30-25, 20306 Narva, EstoniaMo - Fr: 9:00 - 18:00 Uhr estnischer Zeit (EET)
+32 492 45 67 46

© 2026 Workstation AI. Alle Rechte vorbehalten.

DatenschutzDatenlöschungCookiesNutzungsbedingungenWebsite-Sitemap

NVIDIA, das NVIDIA-Logo, RTX, RTX PRO, Blackwell, CUDA, NVLink, MGX, Omniverse, Spectrum-X, Quantum, BlueField, DGX und HGX sind Marken und/oder eingetragene Marken der NVIDIA Corporation in den USA und anderen Ländern. AMD, das AMD-Arrow-Logo, EPYC, Instinct, Ryzen und Threadripper sind Marken von Advanced Micro Devices, Inc. Dell und PowerEdge sind Marken der Dell Inc. oder ihrer Tochtergesellschaften. Intel und Xeon sind Marken der Intel Corporation oder ihrer Tochtergesellschaften. AMAX, AceleMax und LiquidMax sind Marken der AMAX Engineering Corporation. Alle anderen Produktnamen, Logos und Marken sind Eigentum ihrer jeweiligen Inhaber. Wir verwenden sie ausschließlich, um die Produkte zu kennzeichnen, die wir beschreiben, liefern oder unterstützen; ihre Verwendung bedeutet nicht, dass ihre Inhaber uns empfehlen.

Startseite / Technische Hinweise / Technology
AILLMSecurityArchitecture

Private KI für Finanzdaten: Residency, Routing und Kosten auf AWS Bedrock, Microsoft Azure und eigenen GPUs

Abrechnungsmodelle und Leerlaufkosten, Kosten pro Aufruf bei drei Volumina, Bedrock in-region vs. EU-Profile, Converse API mit Prompt-Caching und Regionsdurchsetzung in IAM, Azure-Deployment-Typen und Claude auf Foundry, Anbieter in Großbritannien und der EU, eine residency-bewusste Anbieter-Registry, Workflow zur Kostensenkung, ein Golden-Set-Evaluierungs-Harness und GPU-Break-even

14. November 2026Technology17 min read

Ein Praxisleitfaden zum Hosting von KI für Finanzdaten von Kunden im Vereinigten Königreich. Er nimmt eine typische reale Arbeitslast, die Klassifizierung von Banktransaktionen sowie das Auslesen von Belegen und das Beantworten von Chatfragen, und arbeitet durch, wie AWS Bedrock und Microsoft Azure abrechnen, wo beide Daten tatsächlich verarbeiten, was jeder Weg bei drei Volumina kostet, wie Sie die Rechnung mit Regeln, Gedächtnis, Prompt-Caching und Batch senken, wie Sie die Qualität vor dem Preis testen, wann sich eine dedizierte GPU rechnet und welche Governance-Prüfungen das Ganze begleiten sollten. Workflows und Code sind durchgehend enthalten.

Eine Anfrage fließt von einer Regel-Engine und dem Kundengedächtnis über einen gecachten Prompt zu einem Residency-Router und zur Validierung, daneben die Kostenformel pro Aufruf, durchgerechnet für Claude Haiku auf Bedrock EU.

Zusammenfassung. Standard-Deployments bei Bedrock und Azure werden pro Token abgerechnet und kosten daher im Leerlauf nichts; sie abzuschalten spart kein Geld und ändert nur, wohin Daten gehen können. Legen Sie zuerst die Residency-Regel fest. Wenn das Vereinigte Königreich vorgeschrieben ist, nutzen Sie Amazon Nova in Bedrocks Region London, einen britischen Anbieter wie Civo relaxAI oder Ihre eigenen GPUs. Wenn die EU akzeptabel ist, ist Claude Haiku über Bedrocks EU-Inferenzprofil die stärkste kostengünstige Option. Claude auf Microsoft Foundry bietet noch keine Verarbeitung in der EU oder im Vereinigten Königreich, und im Vereinigten Königreich gehostetes GPT-5 mini auf Azure kostet pro Aufruf etwa dreimal so viel und erfordert eine Freigabe durch Microsoft. Senken Sie dann das Volumen vor dem Preis: Regeln und ein Gedächtnis pro Kunde ersparen Aufrufe, Prompt-Caching senkt den Preis des wiederholten Teils jedes Prompts auf etwa ein Zehntel, und nächtliche Batch-Arbeit kostet die Hälfte. Testen Sie die Qualität an einem Golden Set, bevor Sie irgendetwas umstellen.

Diese Technote ist die Ergänzung zu unserem Blogbeitrag Private KI im Vereinigten Königreich hosten: Bedrock, Azure oder eigene GPUs?. Die Preise sind ungefähre Listenpreise mit Stand November 2026, in US-Dollar, sofern nicht anders angegeben, mit £1 = $1,30 und €1 = $1,15. Einige stammen von Preis-Trackern Dritter, weil die Preisseiten der Anbieter ihre Tabellen nicht immer für automatisierte Werkzeuge darstellen. Prüfen Sie jede Zahl im Rechner des Anbieters nach, bevor Sie sich festlegen.

1. Die Arbeitslast und die Datenregel

Das durchgerechnete Beispiel ist eine britische Finanzanwendung: ein Buchhaltungs- oder Steuerprodukt, das Banktransaktionen und Belege von Kunden importiert. Der größte Teil der KI-Ausgaben entfällt auf die Klassifizierung: ein Aufruf pro Transaktion mit etwa 3.600 Eingabe-Tokens (die Kategorieliste, die Regeln des Kunden und einige Beispiele sowie die Transaktion) und etwa 250 Ausgabe-Tokens. Messen Sie Ihre eigenen Zahlen mit einem LLM-Tracing-Werkzeug wie Langfuse, bevor Sie irgendeiner Schätzung trauen, auch unserer.

AufgabeWie oft sie die KI aufruftAnforderungen
Banktransaktionen klassifizierenEinmal pro TransaktionEtwa 3.600 Tokens rein, 250 raus; der Großteil des Volumens
Gescannte PDFs und Belege auslesenEinmal pro Seite oder BildEin Modell, das Bilder lesen kann
Chat-Assistent für KundenEinmal pro NachrichtEin starkes Dialogmodell; die Latenz ist wichtig
Import-Fallback für unlesbare DateienNur wenn Regeln versagenDerselbe Weg wie bei der Klassifizierung

Die Datenregel, die alles bestimmt: Finanzdaten von Kunden dürfen nicht an öffentliche KI-Dienste für Verbraucher gehen. Sie müssen im Vereinigten Königreich oder mindestens in der EU verarbeitet werden, ohne Training darauf und ohne lange Aufbewahrung. Schreiben Sie diese Regel auf, machen Sie Ihre Datenschutzverantwortliche oder Ihren Datenschutzverantwortlichen zur Eigentümerin bzw. zum Eigentümer, und lassen Sie den Code sie durchsetzen (Abschnitt 8).

2. Leerlaufkosten: was tatsächlich abgerechnet wird, wenn nichts passiert

Ein verbreiteter Reflex ist, KI-Dienste nachts abzuschalten, um Geld zu sparen. Das funktioniert nur bei Diensten, die nach Stunden abgerechnet werden. So rechnet jedes Modell ab:

AbrechnungsmodellName bei BedrockName bei AzureKosten im LeerlaufEinsetzen, wenn
Bezahlung pro TokenOn-DemandStandard / Global Standard / Data Zone StandardKeineFast immer, bei KMU-Volumina
Reservierte KapazitätProvisioned Throughput (über den AWS-Vertrieb)Provisioned Throughput Units (PTU)Voller Stundensatz, ob genutzt oder nichtSehr hohes, gleichmäßiges Volumen oder garantierte Latenz
BatchBatch-Inferenz (etwa 50 % günstiger)Batch-Deployments (rabattiert)KeineArbeit, auf die niemand wartet, etwa Nachverarbeitungen
Prompt-CachingCache-Lesezugriff zu etwa dem 0,1-Fachen des Eingabepreises (Claude)Abhängig vom ModellKeineJeder Prompt mit einem langen wiederholten Präfix
Gemietete GPUIhr eigener Modellserver auf einer Cloud- oder Colocation-GPUVoller MonatssatzSehr hohes Volumen oder Daten, die Ihre Kontrolle nie verlassen dürfen

Auf jedem Weg mit Bezahlung pro Token entscheidet der Ein/Aus-Schalter also, wohin Daten gehen, nicht, was Sie zahlen. Auch die unterstützende Infrastruktur ist günstig: Bei AWS kosten IAM-Rollen, Konfiguration und eine leere Log-Gruppe nichts, und ein einzelner CloudWatch-Alarm kostet etwa $0,10 im Monat.

3. Das Kostenmodell

Jeder Weg mit Abrechnung pro Token lässt sich auf eine Formel zurückführen:

cost per call = input_tokens × input_price + output_tokens × output_price

# Claude Haiku on Bedrock EU, ~$0.11 in / $0.55 out per million tokens
= 3,600 × 0.11 / 1,000,000 + 250 × 0.55 / 1,000,000
= $0.000396 + $0.000138
≈ $0.00053 per call  →  ~$53 per 100,000 calls

Balkendiagramm der ungefähren monatlichen Kosten pro 100.000 Klassifizierungen: Nova Micro London $23, Claude Haiku Bedrock EU mit Caching $24, Nova Lite London $39, Qwen3-32B auf Nebius $44, Claude Haiku auf Microsoft Foundry $49, Claude Haiku Bedrock EU $53, Civo relaxAI $66, Mistral Small auf Scaleway $72, GPT-5 mini Azure UK South $156 plus Reasoning-Tokens; eine gemietete GPU im Vereinigten Königreich kostet pauschal $942 im Monat.

WegVerarbeitet inPreis pro 1 Mio. Tokens (Ein- / Ausgabe)10k / Monat100k / Monat1 Mio. / Monat
Amazon Nova Micro, Bedrock LondonVereinigtes Königreich~$0,049 / $0,196~$2~$23~$225
Amazon Nova Lite, Bedrock LondonVereinigtes Königreich~$0,084 / $0,336~$4~$39~$386
Claude Haiku 5.5, Bedrock-EU-ProfilEU~$0,11 / $0,55~$5~$53~$534
Claude Haiku 5.5, Microsoft FoundryNicht festgelegt~$0,10 / $0,50~$5~$49~$485
GPT-5 mini, Azure OpenAI UK SouthVereinigtes Königreich (nach Freigabe)~$0,28 / $2,20~$16~$156+~$1.558+
Civo relaxAIVereinigtes Königreichab £0,10 / £0,60~$7~$66~$663
Qwen3-32B, NebiusEU oder USA (nur bei einem dedizierten Endpunkt fest)~$0,10 / $0,30~$4~$44~$435
Mistral Small 3.2, ScalewayFrankreich€0,15 / €0,35~$7~$72~$722
Gemietete L40S GPU, LondonVereinigtes Königreich (Ihr Modell)pauschal$942$942$942
Ihr eigener GPU-ServerIhre Räumlichkeitenkeine Kosten pro AufrufNur Hardware, Strom und Wartung

Zwei Vorbehalte. GPT-5 mini ist ein Reasoning-Modell: Versteckte Reasoning-Tokens werden als Ausgabe abgerechnet, die tatsächliche Zahl liegt also über der angegebenen. Und der günstigste Weg ist nur dann günstig, wenn er korrekt klassifiziert; ein Modell, das jede zehnte Transaktion falsch einordnet, erzeugt Support- und Korrekturaufwand, der die Token-Rechnung weit übersteigt. Abschnitt 9 zeigt, wie Sie das testen.

4. AWS Bedrock im Detail

4.1 Wo Bedrock Daten verarbeitet

Bedrock bietet drei Arten, ein Modell aufzurufen, und sie entscheiden über die Residency:

  • In-Region: Die Anfrage wird in der Region verarbeitet, die Sie aufrufen. Amazon Nova Micro und Nova Lite sind in-region in Europa (London), eu-west-2, verfügbar. Das ist der Weg, der ausschließlich im Vereinigten Königreich bleibt.
  • Geografische regionsübergreifende Inferenzprofile (IDs mit dem Präfix eu.): Die Anfrage kann in jeder Region innerhalb dieses geografischen Raums verarbeitet werden. Claude Haiku über das EU-Profil bleibt in EU-Regionen, ist aber nicht auf das Vereinigte Königreich festgelegt.
  • Globale Profile: Verarbeitung dort, wo Kapazität frei ist. Für diese Datenregel nicht geeignet.

Ein häufiger Fehler ist die Annahme, dass „eine EU-Region“ „das Vereinigte Königreich“ bedeutet. Stockholm (eu-north-1) oder Frankfurt ist ein EU-Standort, kein britischer Standort; beschreiben Sie das in Ihrer Dokumentation und Ihrer Datenschutzerklärung zutreffend. AWS gibt an, dass Bedrock Prompts und Antworten weder zum Training von AWS-Modellen verwendet noch mit Modellanbietern teilt; das Logging von Modellaufrufen ist deaktiviert, sofern Sie es nicht aktivieren.

4.2 Nova in London mit einem gecachten Präfix aufrufen

Die Bedrock Converse API bietet eine einheitliche Anfrageform für Nova und Claude. Ein cachePoint nach dem System-Prompt markiert bei Modellen, die das unterstützen, das wiederholte Präfix für das Prompt-Caching:

import json, boto3

brt = boto3.client("bedrock-runtime", region_name="eu-west-2")   # London

SYSTEM_PROMPT = open("classify_system_prompt.txt").read()        # categories, rules, examples

def classify(txn: dict, model_id="amazon.nova-micro-v1:0") -> dict:
    resp = brt.converse(
        modelId=model_id,                                         # in-region model: UK only
        system=[{"text": SYSTEM_PROMPT}, {"cachePoint": {"type": "default"}}],
        messages=[{"role": "user", "content": [{"text": json.dumps(txn)}]}],
        inferenceConfig={"maxTokens": 300, "temperature": 0},
    )
    usage = resp["usage"]   # inputTokens, outputTokens, cacheReadInputTokens, cacheWriteInputTokens
    answer = json.loads(resp["output"]["message"]["content"][0]["text"])
    return {"answer": answer, "usage": usage}

Für Claude über das EU-Profil ist der Aufruf derselbe, mit der EU-Inferenzprofil-ID des Modells als modelId, ausgeführt aus einer der EU-Quellregionen des Profils. Prüfen Sie die aktuellen Quell- und Zielregionen des Profils in der Bedrock-Konsole, bevor Sie sie in eine Datenschutzerklärung schreiben.

4.3 Die Region in IAM durchsetzen

Verlassen Sie sich nicht allein auf Code, um Anfragen in der Region zu halten. Gewähren Sie der Anwendungsrolle nur die Modelle und Regionen, die die Datenregel erlaubt. Für einen Dienst, der ausschließlich im Vereinigten Königreich arbeitet:

{
  "Version": "2012-10-17",
  "Statement": [
    {
      "Sid": "InvokeUkOnlyModels",
      "Effect": "Allow",
      "Action": ["bedrock:InvokeModel", "bedrock:InvokeModelWithResponseStream"],
      "Resource": [
        "arn:aws:bedrock:eu-west-2::foundation-model/amazon.nova-micro-v1:0",
        "arn:aws:bedrock:eu-west-2::foundation-model/amazon.nova-lite-v1:0"
      ]
    }
  ]
}

Ein Dienst, für den die EU zulässig ist, ergänzt die ARN des Inferenzprofils und die Foundation-Model-ARNs in jeder Zielregion des Profils, also genau die Liste, die Ihre Datenschutzerklärung nennen sollte.

4.4 Was Geld kostet, ohne etwas zu bringen

  • Private Netzwerk-Endpunkte (AWS PrivateLink Interface Endpoints) kosten etwa $7 bis $8 pro Endpunkt und Availability Zone im Monat. Sie helfen nur, wenn Ihre Anwendungsserver innerhalb von AWS laufen. Laufen sie anderswo, durchquert der Datenverkehr trotzdem das Internet, um die VPC zu erreichen; lassen Sie sie also weg und verwenden Sie TLS mit IAM-Authentifizierung.
  • Provisioned Throughput wird jede Stunde abgerechnet, ob genutzt oder nicht. Bei KMU-Volumina ist On-Demand günstiger.

Richten Sie unbedingt einen AWS-Budgets-Alarm ein, zum Beispiel bei $20 im Monat, damit eine Retry-Schleife oder eine außer Kontrolle geratene Nachverarbeitung jemanden alarmiert, bevor es die Rechnung tut.

5. Microsoft Azure im Detail

5.1 Deployment-Typen und Residency

Die Pro-Token-Deployments von Azure gibt es in drei Residency-Bereichen: Global Standard (Verarbeitung in jeder Azure-Region), Data Zone Standard (Verarbeitung innerhalb einer Datenzone wie den USA oder der EU) und regionales Standard (Verarbeitung in der Region des Deployments). Reservierte Kapazität heißt PTU und wird stündlich abgerechnet.

  • Claude auf Microsoft Foundry ist als Global Standard oder in einer US-Datenzone verfügbar. Zum Zeitpunkt der Erstellung gibt es keine EU-Datenzone für Claude, und die Dokumentation von Microsoft weist darauf hin, dass Daten außerhalb der gewählten Region verarbeitet werden können. Das schließt es unter einer EU-oder-UK-Regel aus, unabhängig vom Preis.
  • Azure OpenAI in UK South ist auf beiden Clouds der einzige Weg zu OpenAI-Modellen mit Verarbeitung im Vereinigten Königreich. Kunden berichten, dass dafür eine Freigabe durch Microsoft nötig ist, dass man mit null Kontingent starten kann und dass ältere Modelle nach Zeitplan abgekündigt werden; planen Sie also Migrationen ein. GPT-5 mini kommt mit etwa $0,28 Eingabe und $2,20 Ausgabe pro Million Tokens auf etwa die dreifachen Kosten pro Transaktion im Vergleich zu Claude Haiku, noch vor Reasoning-Tokens.

5.2 Azure OpenAI aufrufen

Die v1-API von Azure OpenAI akzeptiert den Standard-OpenAI-Client mit einer anderen Basis-URL; eine Anwendung, die bereits das OpenAI-Format spricht, braucht also nur Konfiguration und den Deployment-Namen anstelle eines Modellnamens:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://<your-resource>.openai.azure.com/openai/v1/",
    api_key=os.environ["AZURE_OPENAI_API_KEY"],
)
resp = client.chat.completions.create(
    model="<your-uk-south-deployment>",
    messages=[{"role": "system", "content": SYSTEM_PROMPT},
              {"role": "user", "content": txn_json}],
)

Wo es passt: Organisationen, die bereits fest an Microsoft-Verträge gebunden sind, oder Kunden, die ausdrücklich OpenAI-Modelle mit Verarbeitung im Vereinigten Königreich verlangen. Für diese Arbeitslast und diese Regel kostet es mehr und bietet weniger Zugangssicherheit als Bedrock.

6. Alternativen im Vereinigten Königreich und in der EU

OptionVerarbeitet inHinweise
Civo relaxAIRechenzentren im Vereinigten KönigreichBritisches Unternehmen; OpenAI-kompatible API ab £0,10 / £0,60 pro Million Tokens; offene Modelle, also Qualität testen
Scaleway Generative APIsFrankreichOpenAI-kompatibel; Mistral und andere offene Modelle; kostenloses Startkontingent; Batch-Rabatt
Nebius Token FactoryEU oder USAGeteilte Endpunkte wählen ihre Region selbst; nutzen Sie einen dedizierten Endpunkt, um sie festzulegen, und aktivieren Sie Zero Data Retention
Ihr eigener GPU-ServerIhre Räumlichkeiten oder ColocationOffene Modelle über Ollama oder vLLM; keine Gebühr pro Aufruf; Kapazität, Patches und Verfügbarkeit liegen bei Ihnen
Gemietete GPU im Vereinigten KönigreichVereinigtes KönigreichEtwa $942 im Monat für eine L40S in London; Sie betreiben den Modellserver

Die meisten davon sprechen das Anfrageformat von OpenAI, sodass ein Adapter sie alle abdeckt. Eine minimale Anbieter-Registry, die die Residency jedes Wegs mitführt (zur Veranschaulichung; Basis-URLs und Modellnamen sind Platzhalter):

from dataclasses import dataclass
from openai import OpenAI

@dataclass(frozen=True)
class Route:
    name: str
    residency: str          # "UK", "EU" or "GLOBAL"
    base_url: str
    model: str
    key_env: str

ROUTES = [
    Route("own-gpu",   "UK", "http://llm.internal:11434/v1",   "<open-model>",   "LOCAL_LLM_KEY"),
    Route("relaxai",   "UK", "<relaxai-base-url>",           "<model>",        "RELAXAI_API_KEY"),
    Route("scaleway",  "EU", "<scaleway-base-url>",          "<model>",        "SCW_SECRET_KEY"),
]

ALLOWED = {"UK": {"UK"}, "EU": {"UK", "EU"}}

def routes_for(rule: str) -> list[Route]:
    """Only routes the customer's data rule permits, in preference order."""
    return [r for r in ROUTES if r.residency in ALLOWED[rule]]

Der Sinn dieses Designs ist, dass ein Weg ohne deklarierte Residency nicht ausgewählt werden kann und ein falsch konfigurierter Fallback nicht stillschweigend Daten, die im Vereinigten Königreich bleiben müssen, an einen EU- oder globalen Endpunkt senden kann.

7. Weniger und kleinere Aufrufe

Pipeline: Transaktion, Regel-Engine, Kundengedächtnis, Prompt mit gecachtem Präfix, Anbieter-Router mit Residency-Richtlinie, der Nova London, Claude Haiku EU oder Ihre eigene GPU wählt, danach Validierung mit Schema und Konfidenz; jeder Aufruf wird mit Budgetalarm getrackt; nächtliche Nachverarbeitung mit Batch-Inferenz.

Der günstigste KI-Aufruf ist der, den Sie gar nicht machen. Nach Wirkung geordnet:

  1. Regeln zuerst. Empfängernamen, Händlerkategoriecodes und einfache Muster klassifizieren einen großen Teil der Transaktionen ganz ohne Modell. Protokollieren Sie, wie viele bei jedem Lauf zutreffen, damit Sie sehen, wie der Anteil wächst.
  2. Gedächtnis pro Kunde. Derselbe Supermarkt, derselbe Vermieter oder dasselbe Software-Abonnement taucht jede Woche oder jeden Monat auf. Speichern Sie die bestätigten Antworten jedes Kunden und verwenden Sie sie für wiederkehrende Empfänger erneut; rufen Sie das Modell nur auf, wenn der Empfänger neu ist oder sich das Betragsmuster ändert.
  3. Prompt-Caching. Jede Klassifizierung sendet dieselbe Kategorieliste, dieselben Regeln und Beispiele erneut. Wenn etwa 3.000 der 3.600 Eingabe-Tokens ein stabiles Präfix sind, senkt das Lesen aus dem Cache zum 0,1-Fachen des Eingabepreises die Kosten für Claude Haiku auf Bedrock EU von etwa $53 auf etwa $24 pro 100.000 Aufrufe. Zwei Bedingungen: Das Präfix muss zwischen den Aufrufen byte-identisch sein (alles Variable gehört dahinter), und es muss die minimale cachefähige Länge des Modells überschreiten, die bei kleineren Modellen mehrere tausend Tokens betragen kann. Messen Sie zuerst den wiederholten Anteil.
  4. Kürzere Prompts. Die Kosten skalieren mit der Länge. Entfernen Sie Beispiele, die die Genauigkeit auf Ihrem Golden Set nicht verändern.
  5. Nächtliche Arbeit als Batch. Die Neuklassifizierung der Historie nach einer Kategorieänderung ist perfekte Batch-Arbeit zum etwa halben Preis.
SchrittAufrufe pro 100k Transaktionen (Beispiel)Monatliche Kosten, Haiku EU (Beispiel)
Jede Transaktion an das Modell100.000~$53
Regeln treffen bei 40 % zu60.000~$32
Gedächtnis verwendet die Hälfte des Rests erneut30.000~$16
Prompt-Caching für den Rest30.000~$7

Die Prozentsätze dienen der Veranschaulichung; Ihre Logs liefern die echten Werte. Entscheidend ist das Muster: Jede Ebene entfernt Arbeit, bevor die teurere Ebene läuft.

8. Residency durchsetzen, nicht nur dokumentieren

  • Datenregel pro Kunde, gespeichert beim Konto (Vereinigtes Königreich oder EU) und vom Router bei jedem Aufruf gelesen.
  • Allow-List von Wegen mit deklarierter Residency (Abschnitt 6); unbekannte Wege werden abgelehnt.
  • Durchsetzung auf Cloud-Seite: IAM beschränkt auf die erlaubten Modell-ARNs und Regionen (Abschnitt 4.3); bei Azure nur regionale Deployments oder Deployments in der EU-Datenzone im Abonnement.
  • Kein Training und minimale Aufbewahrung: Prüfen Sie die Bedingungen jedes Anbieters; aktivieren Sie Zero Data Retention, wo es diese Option gibt; halten Sie Ihre eigenen Prompt-Logs aus allgemeinen Log-Speichern heraus oder schwärzen Sie sie.
  • Notschalter pro Weg: eine Admin-Einstellung, die einen Weg sofort und ohne Deployment aus der Kette entfernt.
  • Jeden Aufruf tracen: Weg, Modell, Region, Eingabe-, gecachte und Ausgabe-Tokens, Kosten und Latenz, damit Finanzabteilung und Datenschutzverantwortliche dieselben Zahlen sehen.
  • Budgetalarme für jedes Cloud-Konto und jeden API-Schlüssel.
  • Zutreffend dokumentieren in Ihrer Datenschutzerklärung und im Verzeichnis von Verarbeitungstätigkeiten: Nennen Sie die Regionen, nicht nur „Europa“.

9. Qualität vor Preis testen

Fünf Schritte: ein Golden Set aus etwa 200 Transaktionen mit bekannten Antworten aufbauen, jeden erlaubten Weg mit demselben Prompt ausführen, Genauigkeit, Kosten, Latenz und Schemafehler bewerten, den günstigsten Weg wählen, der die Messlatte erreicht, mit einem stärkeren Fallback, dann im Schattenbetrieb ausrollen und bei jeder Änderung erneut ausführen.

Bauen Sie ein Golden Set aus etwa 200 echten Transaktionen mit bekannten richtigen Antworten auf, gewichtet auf die schwierigen Fälle: Rückerstattungen, Überweisungen zwischen eigenen Konten eines Kunden, aufgeteilte Zahlungen und mehrdeutige Empfänger. Führen Sie jeden Weg aus, den Ihre Residency-Regel erlaubt, einschließlich Ihres eigenen GPU-Modells als Vergleichsbasis, mit demselben Prompt und Temperatur 0. Ein minimales Test-Harness (zur Veranschaulichung):

import csv, time, statistics

def evaluate(route, golden_csv, classify, price_in, price_out):
    rows = list(csv.DictReader(open(golden_csv)))
    right, costs, latencies, schema_fail = 0, [], [], 0
    for row in rows:
        t0 = time.perf_counter()
        try:
            out = classify(row, route)                 # returns {"answer": {...}, "usage": {...}}
        except ValueError:                             # unparseable or off-schema answer
            schema_fail += 1
            continue
        latencies.append(time.perf_counter() - t0)
        right += out["answer"]["category"] == row["expected_category"]
        u = out["usage"]
        costs.append(u["inputTokens"] * price_in / 1e6 + u["outputTokens"] * price_out / 1e6)
    n = len(rows)
    return {
        "route": route,
        "accuracy": right / n,
        "schema_failures": schema_fail,
        "cost_per_1k": 1000 * statistics.mean(costs) if costs else None,
        "p95_latency_s": statistics.quantiles(latencies, n=20)[18] if len(latencies) >= 20 else None,
    }

Wählen Sie den günstigsten Weg, der Ihre Genauigkeitsmesslatte insgesamt und bei den schwierigen Kategorien erreicht, und leiten Sie Antworten mit niedriger Konfidenz an ein stärkeres Modell oder einen Menschen weiter. Rollen Sie ihn zuerst im Schattenbetrieb neben dem aktuellen Weg aus und stellen Sie dann um, wobei der alte Weg als Fallback erhalten bleibt. Behalten Sie das Golden Set: Es wird zum Regressionstest, den Sie jedes Mal erneut ausführen, wenn ein Anbieter ein Modell abkündigt oder Sie den Prompt ändern.

10. Wann sich eine dedizierte GPU rechnet

Liniendiagramm der monatlichen Kosten über die Zahl der Klassifizierungen: Claude Haiku auf Bedrock EU steigt um etwa $53 pro 100.000; Nova Micro London um etwa $23 pro 100.000; eine gemietete GPU im Vereinigten Königreich liegt pauschal bei etwa $942. Die GPU erreicht Haiku bei etwa 1,8 Millionen Klassifizierungen im Monat und erreicht Nova Micro innerhalb von zwei Millionen nicht.

Eine gemietete GPU im Vereinigten Königreich für etwa $942 im Monat erreicht Claude Haiku auf Bedrock EU erst bei etwa 1,8 Millionen Klassifizierungen im Monat und erreicht Nova Micro innerhalb von zwei Millionen nicht. Darunter ist die Bezahlung pro Token günstiger und kostet im Leerlauf nichts. Die Rechnung ändert sich in drei Fällen:

  • Sie besitzen die Hardware bereits. Dann zählen nur Strom und Wartung, und ein leistungsfähiges offenes Modell auf einer GPU der Workstation-Klasse kann die Klassifizierung zu Grenzkosten nahe null bedienen.
  • Daten dürfen Ihre Kontrolle nie verlassen, aus vertraglichen oder regulatorischen Gründen, unabhängig von den Kosten.
  • Die GPU bedient mehrere Arbeitslasten: Klassifizierung, Dokumentenauslesen, Embeddings und interne Assistenten zusammen können einen dedizierten Server schon weit unter 1,8 Millionen Aufrufen rechtfertigen.

Einen eigenen Modellserver zu betreiben bedeutet, für Kapazitätsplanung, Modellaktualisierungen, Monitoring und Failover selbst verantwortlich zu sein. Behalten Sie einen Pro-Token-Weg als Fallback in der Kette, damit ein GPU-Fehler den Dienst verschlechtert, statt ihn zu stoppen.

11. Checkliste für die Entscheidung

  1. Die oder der Datenschutzverantwortliche legt die Regel fest: nur Vereinigtes Königreich oder EU erlaubt.
  2. Messen Sie mit Tracing die echten Token-Zahlen und den Anteil des wiederholten Präfixes.
  3. Führen Sie das Golden Set über jeden erlaubten Weg aus; wählen Sie zuerst nach Genauigkeit, dann nach Kosten.
  4. Ergänzen Sie Regeln, Gedächtnis pro Kunde und Prompt-Caching, bevor Sie das Volumen skalieren.
  5. Deployen Sie mit Regionsdurchsetzung auf IAM- oder Abonnementebene, einem Notschalter pro Weg und Budgetalarmen; lassen Sie private Endpunkte und reservierte Kapazität weg, es sei denn, Ihre Server laufen in derselben Cloud und Ihr Volumen rechtfertigt sie.
  6. Dokumentieren Sie die Regionen in der Datenschutzerklärung und im Verzeichnis von Verarbeitungstätigkeiten.
  7. Prüfen Sie jeden Preis in den Rechnern der Anbieter nach, und führen Sie das Golden Set erneut aus, wenn ein Anbieter ein Modell ändert oder abkündigt.

12. Wie Workstation helfen kann

Wir helfen Organisationen im Vereinigten Königreich, KI auf sensiblen Daten zu betreiben: Auswahl und Anbindung residency-bewusster Wege auf Bedrock, Azure und bei britischen Anbietern, Aufbau des Evaluierungs-Harness und der Golden Sets, Ergänzung von Caching und Regeln zur Kostensenkung sowie Lieferung oder Hosting von GPU-Servern, wenn sich ein eigenes Modell lohnt. Für die Hardwareseite lesen Sie unseren Leitfaden GPU Private Cloud und nutzen Sie den VRAM-Rechner, vergleichen Sie Leasing und Kauf auf gpuleasing.co.uk, oder sprechen Sie mit uns.

Annahmen und Quellen

  • Arbeitslast: etwa 3.600 Eingabe- und 250 Ausgabe-Tokens pro Klassifizierung; messen Sie Ihre eigenen Werte.
  • Preise: ungefähre Listenpreise vom November 2026 von Anbieterseiten und Preis-Trackern Dritter; Wechselkurse £1 = $1,30, €1 = $1,15. Gemietete GPU: etwa $942 im Monat für eine NVIDIA L40S in London.
  • AWS: Preise für Amazon Bedrock (On-Demand, Batch, Provisioned Throughput), Modellkarten und regionale Verfügbarkeit von Amazon Nova (Nova Micro und Nova Lite in-region in London), Dokumentation zur regionsübergreifenden Inferenz in Bedrock, Preise für AWS PrivateLink.
  • Anthropic: Preise für Claude, einschließlich der Basis-, Cache-Lese- und Batch-Tarife für Claude Haiku 5.5.
  • Microsoft: Deployment-Typen in Foundry (Global Standard, Data Zone Standard, PTU, Batch) und Dokumentation zu Claude in Foundry; InfoQ, „Claude Reaches GA on Microsoft Foundry: European Enterprises Cannot Deploy It“ (Juli 2026); Microsoft-Q&A-Threads zum Zugang zu UK South und zur Abkündigung von Modellen.
  • Civo: Ankündigung des Starts der relaxAI-API (Deployments im Vereinigten Königreich ab £0,10 / £0,60 pro Million Tokens). Preise für Scaleway Generative APIs. Dokumentation von Nebius Token Factory zu Regionen und Zero Data Retention.
  • Sämtlicher Code dient der Veranschaulichung und muss vor der Verwendung angepasst, geprüft und getestet werden.

Hinweis zu Schutzrechten: Amazon Web Services, AWS, Amazon Bedrock und Amazon Nova sind Marken von Amazon.com, Inc. oder seinen verbundenen Unternehmen. Microsoft, Azure und Microsoft Foundry sind Marken der Microsoft-Unternehmensgruppe. Claude ist eine Marke von Anthropic, PBC. OpenAI und GPT sind Marken von OpenAI. NVIDIA und L40S sind Marken der NVIDIA Corporation. Andere Produkt- und Firmennamen sind Eigentum ihrer jeweiligen Inhaber.

Diesen Artikel teilen

Mehr zu Technology

Laptops für KI-Entwickler: LLMs lokal unter Linux mit GPUs mit 16 GB und 24 GB betreiben (Leitfaden 2026)

Laptops für KI-Entwickler: LLMs lokal unter Linux mit GPUs mit 16 GB und 24 GB betreiben (Leitfaden 2026)

Was auf eine RTX 5080 oder RTX 5090 Laptop GPU passt, die Speicherrechnung, die lohnenden offenen Modelle, die Einrichtung von Ubuntu 26.04 mit dem NVIDIA-Stack, Ollama, llama.cpp und vLLM, Coding-Assistenten, LoRA-Fine-Tuning, Sicherheit und wann Arbeit auf einen Server gehört

Weiterlesen
ML- und LLM-Systeme testen, deren Korrektheit sich nicht beweisen lässt: ein Python-Evidenz-Kit

ML- und LLM-Systeme testen, deren Korrektheit sich nicht beweisen lässt: ein Python-Evidenz-Kit

Evidenz statt Beweise, in etwa 400 Zeilen Python mit echter Ausgabe: Slice-Metriken mit Bootstrap-Intervallen und einem Pass/Fail-Vertrag, Property- und metamorphe Tests mit Hypothesis, Kalibrierung und Conformal Prediction, Pydantic-Verträge und Regressionsevaluierungen für LLM-Ausgaben, Drift-Prüfungen, ein CI-Gate und die exakte Verifikation eines kleinen neuronalen Netzes

Weiterlesen
TorchCurves in der Praxis: lernbare B-Spline- und Legendre-Kurven in PyTorch

TorchCurves in der Praxis: lernbare B-Spline- und Legendre-Kurven in PyTorch

torchcurves installieren, eine Kurve anpassen und dimensionieren, B-Spline oder Legendre und die Eingabeabbildung wählen, eine monotone Kalibrierungskurve und ein additives Modell auf tabellarischen Daten bauen, mit SciPy, scikit-learn, einem KAN und einem MLP vergleichen, Koeffizienten nach JSON exportieren, testen und in der Produktion betreiben, mit echten Ausgaben

Weiterlesen