Облачный деплой LLM: AWS Bedrock vs Azure AI vs GCP Vertex

~7 минут чтения

Предварительно: Продакшен деплой LLM, Сравнение движков инференса

Самостоятельный деплой LLM на GPU-кластере требует 2-6 инженеров и $50-200K/год только на инфраструктуру. Облачные платформы (Bedrock, Vertex, Azure AI) снижают порог входа до одного API-вызова и переводят затраты из CapEx в OpEx. При 1M токенов/день managed-решение стоит $2.5-3.5K/мес без найма ML-инфраструктурной команды. Но lock-in реален: миграция между облаками занимает 2-4 недели из-за различий в API, IAM и data residency. Выбор платформы на 80% определяется существующим облачным footprint компании, а не техническими преимуществами конкретного провайдера.

URL: Xenoss, Medium, Planetary Labour, Finout, Springer Тип: cloud-deployment / aws-bedrock / gcp-vertex / azure-ai Дата: Январь-Февраль 2026 Сбор: Ralph Research ФАЗА 5

---

Part 1: Overview

Executive Summary

Key Insight:

AWS Bedrock offers the most model flexibility (40+ models), Azure AI excels at OpenAI integration with enterprise guardrails, and GCP Vertex AI leads on deployment speed and Gemini-native features. Choice depends on existing cloud footprint, model needs, and compliance requirements.

2026 Cloud LLM Platform Leaders:

Platform	Best For	Key Strength
AWS Bedrock	Multi-model flexibility	40+ foundation models
Azure AI Foundry	Enterprise Microsoft stack	Native OpenAI integration
GCP Vertex AI	Speed, Gemini ecosystem	Fastest deployment

---

Part 2: Platform Comparison

Feature Matrix

Feature	AWS Bedrock	Azure AI	GCP Vertex
Model count	40+	15+	20+
OpenAI models	❌	✅ Native	❌
Anthropic Claude	✅	✅	✅
Google Gemini	❌	❌	✅ Native
Llama	✅	✅	✅
Mistral	✅	✅	✅
Fine-tuning	✅	✅	✅
RAG support	✅ Knowledge Bases	✅ AI Search	✅ Vertex Search
Agents	✅ Bedrock Agents	✅ AI Foundry	✅ Vertex Agents

Model Availability

Model Family	AWS Bedrock	Azure AI	GCP Vertex
GPT-5.x	❌	✅ Native	❌
Claude 4.x	✅	✅	✅
Gemini 3	❌	❌	✅ Native
Llama 4	✅	✅	✅
Mistral Large 2	✅	✅	✅
DeepSeek	✅ (new)	⚠️ Limited	⚠️ Limited
Cohere	✅	✅	✅
AI21	✅	✅	✅
Stability AI	✅	✅	✅

---

Part 3: AWS Bedrock

Key Features

Feature	Description
Model variety	40+ foundation models
Guardrails	Built-in safety filters
Knowledge Bases	Managed RAG
Agents	Bedrock Agents for workflows
Provisioned Throughput	Guaranteed capacity

Bedrock Agents

Capability	Description
Orchestration	Automatic task decomposition
Tool use	Native Lambda integration
Memory	Session persistence
Traceability	Request/response logging

Pricing Model

Pricing Type	Description
On-demand	Pay per token
Provisioned	Reserved capacity (40-70% discount)
Batch	Async processing (50% discount)

Bedrock Strengths

Strength	Details
Model flexibility	Most models in one place
AWS integration	Native Lambda, S3, DynamoDB
Enterprise security	IAM, VPC, KMS
Cost management	Provisioned throughput

Bedrock Limitations

Limitation	Impact
No OpenAI	GPT models unavailable
No Gemini	Google models unavailable
Complex pricing	Multiple pricing dimensions

---

Part 4: Azure AI Foundry

Key Features

Feature	Description
OpenAI native	Direct GPT integration
AI Studio	Visual development environment
Content Safety	Built-in content filtering
Prompt Flow	Visual prompt engineering
Stored Completions	Caching for cost reduction

Azure OpenAI Service

Feature	Details
Models	GPT-4o, GPT-5.x, o1/o3
Fine-tuning	Available for select models
Provisioned	PTUs for guaranteed throughput
Data residency	Regional deployment options

Azure AI Strengths

Strength	Details
OpenAI integration	Best GPT experience
Enterprise features	Microsoft 365, Teams
Compliance	SOC, HIPAA, EU regions
Developer experience	Visual tools, Prompt Flow

Azure Limitations

Limitation	Impact
Limited non-OpenAI	Fewer model options
Microsoft lock-in	Best with MS ecosystem
Regional availability	Varies by model

---

Part 5: GCP Vertex AI

Key Features

Feature	Description
Gemini native	Best Gemini experience
Model Garden	20+ third-party models
Vertex Search	Enterprise RAG
AutoML	Custom model training
Pipelines	MLOps workflows

Gemini on Vertex

Feature	Details
Models	Gemini 2.5 Pro, Flash, Ultra
Context	Up to 2M tokens
Multimodal	Text, image, video, audio
Grounding	Google Search integration

Vertex AI Strengths

Strength	Details
Deployment speed	15-25 min for pre-built
Gemini ecosystem	Best long context, multimodal
ML infrastructure	TPUs, GPU flexibility
Open source support	Strong Kubernetes, Kubeflow

Vertex Limitations

Limitation	Impact
No OpenAI	GPT models unavailable
Complex setup	Steeper learning curve
Enterprise features	Less mature than Azure

---

Part 6: Pricing Comparison

Input Pricing (per 1M tokens)

Model	AWS Bedrock	Azure AI	GCP Vertex
GPT-4o	—	$2.50	—
Claude Sonnet	$3.00	$3.00	$3.00
Gemini Pro	—	—	$1.25
Llama 4 70B	$0.65	$0.80	$0.70
Mistral Large 2	$2.00	$2.00	$2.00

Hidden Costs

Cost Type	AWS	Azure	GCP
Data egress	$0.09/GB	$0.087/GB	$0.12/GB
Storage	S3 rates	Blob rates	GCS rates
Fine-tuning	Per hour	Per hour	Per hour
Provisioned	Commit 1-12mo	Commit 1-12mo	Commit 1-12mo

FinOps Considerations

Platform	Cost Optimization
AWS	Provisioned throughput, Spot
Azure	PTUs, Reserved instances
GCP	Committed use, Sustained use

---

Part 7: Deployment Patterns

Pattern 1: Multi-Cloud

graph TD
    AL["Abstraction Layer<br/>(LangChain, LiteLLM, Custom)"]
    AL --> BED["AWS Bedrock<br/>(Claude/Llama)"]
    AL --> AZ["Azure AI<br/>(GPT/OpenAI)"]

    style AL fill:#f3e5f5,stroke:#9c27b0
    style BED fill:#fff3e0,stroke:#ef6c00
    style AZ fill:#e8eaf6,stroke:#3f51b5

Pattern 2: Single Cloud + APIs

graph TD
    PC["Primary Cloud<br/>(Infrastructure, Storage, Compute)"]
    PC --> NAT["Native LLM<br/>(Bedrock)"]
    PC --> API["API Proxies<br/>(OpenAI)"]
    PC --> SELF["Self-host<br/>(vLLM)"]

    style PC fill:#e8eaf6,stroke:#3f51b5
    style NAT fill:#e8f5e9,stroke:#4caf50
    style API fill:#fff3e0,stroke:#ef6c00
    style SELF fill:#f3e5f5,stroke:#9c27b0

Pattern 3: Hybrid Edge

graph TD
    CL["Cloud LLM<br/>(Complex queries, batch)"]
    CL -->|Fallback| E1["Edge LLM<br/>(Simple)"]
    CL -->|Fallback| E2["Edge LLM<br/>(Low-lat)"]
    CL -->|Fallback| E3["Edge LLM<br/>(Offline)"]

    style CL fill:#e8eaf6,stroke:#3f51b5
    style E1 fill:#e8f5e9,stroke:#4caf50
    style E2 fill:#fff3e0,stroke:#ef6c00
    style E3 fill:#fce4ec,stroke:#c62828

---

Part 8: Selection Decision Tree

graph TD
    START{"Основная потребность?"} -->|"OpenAI/GPT модели?"| AZ["Azure AI Foundry"]
    START -->|"Long context 1M+?"| GCP["GCP Vertex AI (Gemini)"]
    START -->|"Максимум моделей?"| AWS["AWS Bedrock (40+)"]
    START -->|"Существующий облачный стек?"| CLOUD{"Какой провайдер?"}
    START -->|"Compliance?"| COMP{"Требования?"}

    CLOUD -->|AWS| AWS
    CLOUD -->|Azure| AZ
    CLOUD -->|GCP| GCP

    COMP -->|"EU"| ANY["Любой с EU регионами"]
    COMP -->|"HIPAA"| HIPAA["Azure, AWS"]
    COMP -->|"FedRAMP"| FED["Azure, AWS"]

    style START fill:#f3e5f5,stroke:#9c27b0
    style AZ fill:#e8eaf6,stroke:#3f51b5
    style GCP fill:#e8f5e9,stroke:#4caf50
    style AWS fill:#fff3e0,stroke:#ef6c00
    style CLOUD fill:#f3e5f5,stroke:#9c27b0
    style COMP fill:#fce4ec,stroke:#c62828
    style ANY fill:#e8f5e9,stroke:#4caf50
    style HIPAA fill:#e8eaf6,stroke:#3f51b5
    style FED fill:#e8eaf6,stroke:#3f51b5

---

Part 9: Interview-Relevant Numbers

Deployment Speed

Platform	Pre-built Setup	Custom Setup
GCP Vertex	15-25 min	20-35 min
Azure AI	20-30 min	25-40 min
AWS Bedrock	20-35 min	30-45 min

Model Count

Platform	Native Models	Third-party
AWS Bedrock	5	35+
Azure AI	10+	5+
GCP Vertex	5+	15+

Cost Benchmarks

Scenario	AWS	Azure	GCP
1M tokens/day	~$3K/mo	~$3.5K/mo	~$2.5K/mo
Provisioned	40-70% off	50-60% off	50-70% off
Batch (50% off)	✅	✅	✅

Enterprise Adoption

Statistic	AWS	Azure	GCP
Enterprise accounts	90%+	85%+	70%+
Compliance certs	100+	90+	80+
Region availability	30+	60+	40+

---

---

Заблуждение: облачный LLM всегда дешевле self-hosted

При объеме >5M токенов/день self-hosted vLLM на H100 ($2/час spot) обходится в $1,500/мес, тогда как managed API за тот же объем -- $7,500-10,000/мес. Порог окупаемости self-hosted: ~2M токенов/день. Ниже этого объема managed действительно дешевле из-за нулевых затрат на инфраструктурную команду.

Заблуждение: мультиклауд стратегия устраняет vendor lock-in

Абстракция через LiteLLM/LangChain скрывает различия в API, но не в IAM, data residency, VPC peering, audit logging. Миграция compliance-зависимого workload между AWS и Azure занимает 4-8 недель, а не "переключил endpoint". Реальный мультиклауд работает только для stateless inference без PII.

Заблуждение: выбирать облако нужно по лучшим бенчмаркам моделей

85% enterprise-клиентов выбирают LLM-платформу на основе существующего облачного контракта, а не технических преимуществ. Команда на AWS выберет Bedrock даже если Vertex AI дешевле на 20%, потому что интеграция с IAM, S3, CloudWatch уже настроена. Стоимость переезда перевешивает разницу в ценах на токены.

---

Interview Questions

Q: Как выбрать между managed cloud LLM (Bedrock/Vertex/Azure) и self-hosted (vLLM)?

Red flag: "Managed всегда лучше, не нужно думать об инфраструктуре"

Strong answer: "Зависит от объема и требований. При <2M токенов/день managed дешевле: нет затрат на DevOps, автоскейлинг из коробки, compliance сертификации. При >5M токенов/день self-hosted на vLLM/TensorRT-LLM экономит 60-70%. Ключевые факторы: data residency (managed ограничен регионами провайдера), latency (self-hosted убирает network hop, -30-50ms), модельная гибкость (self-hosted позволяет custom модели и fine-tuning без ограничений). Гибридный подход: managed для burst traffic + self-hosted для baseline."

Q: Компания использует AWS. Нужен доступ к GPT-5 и Claude. Как архитектурно решить?

Red flag: "Перейти на Azure для GPT-5"

Strong answer: "Паттерн Single Cloud + API Proxies. Основная инфраструктура остается на AWS: Bedrock для Claude (native), прямой API-вызов OpenAI для GPT-5 через API Gateway. Abstraction layer (LiteLLM) для унификации: единый интерфейс, fallback между провайдерами, cost tracking. Важно: данные и compute остаются в AWS VPC, только inference-запросы идут наружу. Egress cost $0.09/GB -- при средних 2KB/запрос это $0.18 на 1M запросов, пренебрежимо мало."

Q: Как оптимизировать расходы на облачный LLM при 300K запросов/месяц?

Red flag: "Перейти на самую дешевую модель"

Strong answer: "Три уровня оптимизации. (1) Semantic routing: 60% simple запросов на Llama 8B (\(0.0008/1K), 25% moderate на Gemini Flash (\)0.002/1K), 15% complex на GPT-5 (\(0.015/1K) -- экономия 48% (\)18K->$9.4K/мес). (2) Provisioned throughput: committed capacity на 1-12 мес дает 40-70% скидку на основную модель. (3) Batch processing: асинхронные задачи (summarization, classification) через batch API со скидкой 50%. Суммарная экономия: 60-75% от naive подхода."

---

Sources

1. Xenoss — "AWS Bedrock vs. Azure AI vs. Google Vertex"
2. Medium — "Comparing LLM Deployment Pipelines: AWS vs. GCP vs. Azure"
3. Planetary Labour — "Cloud AI Agents: AWS, Azure, Google Cloud Solutions 2026"
4. Finout — "Bedrock vs. Vertex vs. Azure Cognitive: FinOps comparison"
5. Springer — "Cloud Power-Ups: Bedrock, Vertex, and Azure OpenAI"

---

See Also

• Продакшен деплой LLM -- self-hosted деплой с vLLM/SGLang как альтернатива managed cloud
• Ценообразование API LLM -- API pricing для managed endpoints vs self-hosted cost
• Оптимизация расходов LLMOps -- стратегии снижения cloud costs: batching, caching, routing
• Каскадная маршрутизация LLM -- routing между cloud providers для cost optimization и fallback
• Наблюдаемость LLM -- мониторинг cloud endpoints: latency, availability, cost tracking