Panduan Google Cloud: Bagaimana Menerapkan Welcome to Gemini at Work 2026: Introducing di Production?
Ringkasan: Google Cloud baru saja merilis kapabilitas Gemini Agent universal dan Agent Development Kit (ADK) 2.0 pada ajang Gemini at Work 2026, memungkinkan orkestrasi multi-agent yang persisten dan context-aware langsung di atas infrastruktur serverless Cloud Run. Blueprint ini membedah arsitektur referensi untuk membangun agen AI enterprise-grade dengan model terbaru seperti Gemini 4 Argon dan Gemini 3.8 Flash, mengintegrasikan graph workflows deterministik, serta menerapkan kontrol FinOps dan zero-trust security secara presisi di lingkungan produksi.
Apa yang Baru Dirilis Google Cloud & Masalah Enterprise yang Diselesaikan
Dalam evaluasi arsitektural kami terhadap topologi produksi AI di berbagai enterprise, masalah fundamental yang sering ditemui bukanlah pada kapabilitas model bahasa itu sendiri, melainkan pada orkestrasi state, persistensi eksekusi, dan integrasi sistem kontrol. Pendekatan stateless LLM wrappers yang populer di tahun-tahun sebelumnya terbukti rapuh ketika dihadapkan pada workflow bisnis yang kompleks, asinkron, dan membutuhkan intervensi multi-sistem.
Pengumuman dari Thomas Kurian pada Gemini at Work 2026 menandai pergeseran paradigma yang masif: transisi dari prompting statis menuju agentic workflows yang otonom. Google Cloud merilis Gemini Agent, sebuah agen universal tunggal yang memiliki konteks bisnis mendalam, mampu merencanakan pekerjaan, menggunakan tools, dan mengeksekusi tugas secara persisten. Agen ini tidak bekerja sendirian; ia didukung oleh kapabilitas multi-agent orchestration di mana Gemini dapat secara dinamis membuat sub-agents spesifik dengan identitas unik (seperti @agents.company.com) untuk menangani tugas paralel maupun sekuensial yang berjalan selama berjam-jam atau berhari-hari.
Untuk memfasilitasi pembangunan agen tingkat produksi ini, Google merilis Agent Development Kit (ADK) 2.0. ADK 2.0 memperkenalkan Graph Workflows yang memungkinkan engineer untuk menggabungkan logika deterministik dengan penalaran AI yang adaptif. Melalui protokol A2A (Agent-to-Agent), agen dapat saling berkomunikasi, mendelegasikan tugas, dan berbagi konteks secara terstruktur. Selain itu, ekosistem model di Vertex AI telah diperbarui secara signifikan dengan lini model 2026 seperti Gemini 4 Argon, Gemini 3.8 Flash, Gemini 3.1 Pro, dan Gemini 2.5 Pro/Flash, memberikan fleksibilitas (model choice flexibility) untuk mencocokkan model dengan kompleksitas tugas guna mengoptimalkan akurasi dan biaya.
Use Case Nyata di Lapangan: Ide Implementasi Praktis
Untuk memahami bagaimana kapabilitas baru ini mengubah lanskap rekayasa perangkat lunak di lapangan, kita perlu melihat aplikasi praktisnya di berbagai sektor industri. Berikut adalah tiga use case nyata yang mendemonstrasikan penyelesaian masalah enterprise menggunakan arsitektur ini:
1. High-Throughput Enterprise Workloads (E-Commerce & Retail)
- Masalah Sehari-hari: Platform e-commerce sering menghadapi lonjakan trafik (burst traffic) yang ekstrem selama flash sale atau kampanye promosi. Sistem customer support berbasis LLM tradisional sering kali mengalami timeout, tail-latency yang tinggi, dan menabrak batas kuota API karena setiap request diproses secara sinkron tanpa manajemen state yang baik.
- Cara Kerja di Lapangan: Menggunakan ADK 2.0 Graph Workflows yang di-deploy di atas Cloud Run, engineer dapat merancang agen yang menangani interaksi pelanggan secara asinkron. Cloud Run secara otomatis melakukan scale-out instance CPU atau GPU (seperti NVIDIA L4) berdasarkan metrik konkurensi. Agen utama (menggunakan
gemini-2.5-flash untuk latensi rendah) menerima request, sementara sub-agent (menggunakan gemini-3.1-pro-preview untuk penalaran kompleks) memproses resolusi keluhan atau pencarian inventaris melalui integrasi BigQuery.
- Dampak Nyata: Isolasi tail-latency yang presisi. Permintaan sederhana diselesaikan dalam hitungan milidetik, sementara tugas berat dieksekusi di background tanpa memblokir thread utama, memastikan uptime 99.99% bahkan saat trafik melonjak 10x lipat.
2. Zero-Trust Governance & IAM (FinTech & Perbankan)
- Masalah Sehari-hari: Institusi keuangan memiliki regulasi ketat terkait akses data. Memberikan akses database langsung ke sebuah agen AI monolitik melanggar prinsip least-privilege. Jika agen tersebut dikompromikan melalui prompt injection, seluruh data nasabah berisiko terekspos.
- Cara Kerja di Lapangan: Arsitektur multi-agent memungkinkan pemisahan tugas (segregation of duties). Agen front-end berinteraksi dengan pengguna tanpa memiliki akses ke data sensitif. Ketika data nasabah dibutuhkan, ia mendelegasikan tugas ke Coworker Agent khusus (misal:
compliance@agents.company.com) yang berjalan di instance Cloud Run terpisah. Instance ini dibungkus oleh VPC Service Controls (VPC SC) dan menggunakan IAM Service Account yang hanya memiliki akses read-only ke tabel Cloud SQL spesifik.
- Dampak Nyata: Penegakan batas keamanan zero-trust secara arsitektural. Eksploitasi pada agen front-end tidak akan memberikan akses ke data finansial karena Coworker Agent memvalidasi setiap tool call secara deterministik sebelum mengeksekusi query.
3. Production FinOps & Unit Economics (SaaS & Developer Productivity)
- Masalah Sehari-hari: Menjalankan model frontier berukuran besar untuk setiap request pengguna akan menghancurkan unit economics dari produk SaaS. Biaya per request menjadi terlalu tinggi, membuat margin keuntungan menipis atau bahkan negatif.
- Cara Kerja di Lapangan: Mengimplementasikan Smart Routing dan Model Choice Flexibility dari Gemini Agent. ADK 2.0 dikonfigurasi untuk mengevaluasi kompleksitas prompt. Tugas klasifikasi, ekstraksi entitas, atau drafting kode standar dirutekan ke
gemini-2.5-flash atau gemini-3-flash-preview yang sangat efisien. Hanya tugas yang membutuhkan deep reasoning, sintesis multi-dokumen, atau complex coding yang dirutekan ke gemini-2.5-pro atau gemini-4-argon.
- Dampak Nyata: Optimasi cost-per-request yang drastis. Seperti yang akan kita lihat pada simulasi FinOps di bagian akhir blueprint ini, strategi routing yang tepat dapat memangkas Total Cost of Ownership (TCO) hingga lebih dari 70% tanpa mengorbankan kualitas output akhir.
Arsitektur Referensi di Google Cloud
Untuk merealisasikan kapabilitas persistent execution dan multi-agent orchestration di lingkungan produksi, kita membutuhkan arsitektur yang tangguh, scalable, dan aman. Secara fundamental, arsitektur ini menggabungkan serverless compute dari Cloud Run dengan kapabilitas generatif dari Vertex AI, diikat oleh kontrol jaringan dari VPC Service Controls.
Berikut adalah diagram arsitektur referensi yang merepresentasikan topologi produksi untuk Gemini Agent menggunakan ADK 2.0:
flowchart LR
%% Pengguna & Entry Point
User([Pengguna / Klien]) -->|HTTPS / WebSockets| GLB[Cloud Load Balancing]
%% Perimeter Keamanan
subgraph Vpc_Sc["VPC Service Controls Perimeter"]
direction TB
%% Compute Layer
subgraph Compute["Serverless Compute Layer"]
direction LR
CR_Main[Cloud Run: Main Agent<br/>ADK 2.0 Runtime]
CR_Sub[Cloud Run: Coworker Agent<br/>ADK 2.0 Runtime]
CR_Main <-->|A2A Protocol / gRPC| CR_Sub
end
%% AI & Data Layer
subgraph Ai_Data["Vertex AI & Data Services"]
direction TB
VAI_Flash[Vertex AI: gemini-2.5-flash<br/>Fast Routing]
VAI_Pro[Vertex AI: gemini-3.1-pro-preview<br/>Heavy Reasoning]
BQ[(BigQuery<br/>Data Analytics)]
CSQL[(Cloud SQL PG17<br/>Transactional Data)]
end
%% Integrasi
CR_Main -->|API Call| VAI_Flash
CR_Sub -->|API Call| VAI_Pro
CR_Sub -->|Tool Call| BQ
CR_Sub -->|Tool Call| CSQL
end
%% Koneksi Load Balancer ke Compute
GLB -->|Serverless NEG| CR_Main
%% Styling
classDef gcp fill:#e8f0fe,stroke:#4285f4,stroke-width:2px,color:#1a73e8;
classDef security fill:#fce8e6,stroke:#ea4335,stroke-width:2px,color:#c5221f,stroke-dasharray: 5 5;
classDef database fill:#e6f4ea,stroke:#34a853,stroke-width:2px,color:#137333;
class CR_Main,CR_Sub,VAI_Flash,VAI_Pro gcp;
class VPC_SC security;
class BQ,CSQL database;
Analisis Komponen Arsitektur
- Cloud Load Balancing & Serverless NEG: Titik masuk utama untuk semua trafik. Mendukung protokol HTTP/2 dan WebSockets yang esensial untuk kapabilitas Live API (seperti streaming audio/video untuk voice agents).
- Cloud Run (ADK 2.0 Runtime): Cloud Run bertindak sebagai host untuk agen ADK. Dengan dukungan Direct VPC egress, Cloud Run dapat berkomunikasi secara privat dengan layanan Google Cloud lainnya tanpa melalui internet publik. Fitur concurrency Cloud Run memungkinkan satu instance menangani ratusan request secara bersamaan, sangat efisien untuk agen yang sering menunggu respons I/O dari Vertex AI.
- A2A Protocol (Agent-to-Agent): Agen utama (Main Agent) dan agen pekerja (Coworker Agent) berkomunikasi menggunakan protokol A2A bawaan ADK 2.0. Ini memungkinkan pendelegasian tugas yang persisten. Jika agen utama di-restart, state percakapan dan status delegasi tetap terjaga karena ADK mengelola memory dan context compression secara terpusat.
- Vertex AI Model Routing: Agen utama menggunakan
gemini-2.5-flash untuk merespons interaksi pengguna secara real-time dan melakukan intent classification. Ketika tugas analitik kompleks terdeteksi, tugas tersebut didelegasikan ke Coworker Agent yang menggunakan gemini-3.1-pro-preview dan memiliki akses ke tools spesifik.
- VPC Service Controls (VPC SC): Seluruh ekosistem dibungkus dalam perimeter VPC SC. Ini memastikan bahwa eksfiltrasi data tidak dimungkinkan. Meskipun agen dikompromikan, ia tidak dapat mengirim data ke endpoint eksternal yang tidak diizinkan oleh kebijakan perimeter.
Implementasi Langkah demi Langkah
Untuk mengimplementasikan arsitektur di atas, kita akan menggunakan kombinasi gcloud CLI untuk infrastruktur dan Python ADK 2.0 untuk logika agen. Instruksi ini menggunakan standar API dan model aktif tahun 2026.
1. Persiapan Infrastruktur & IAM Guardrails
Pertama, kita buat Service Account khusus dengan prinsip least-privilege dan mengonfigurasi deployment Cloud Run.
# 1. Buat Service Account untuk Coworker Agent
gcloud iam service-accounts create coworker-agent-sa \
--description="SA untuk Coworker Agent dengan akses terbatas" \
--display-name="Coworker Agent SA"
# 2. Berikan akses spesifik ke Vertex AI dan BigQuery (Least Privilege)
gcloud projects add-iam-policy-binding my-enterprise-project \
--member="serviceAccount:coworker-agent-sa@my-enterprise-project.iam.gserviceaccount.com" \
--role="roles/aiplatform.user"
gcloud projects add-iam-policy-binding my-enterprise-project \
--member="serviceAccount:coworker-agent-sa@my-enterprise-project.iam.gserviceaccount.com" \
--role="roles/bigquery.dataViewer"
# 3. Deploy Cloud Run dengan Direct VPC dan Service Account spesifik
gcloud run deploy coworker-agent-service \
--image=gcr.io/my-enterprise-project/coworker-agent:v2.0 \
--service-account=coworker-agent-sa@my-enterprise-project.iam.gserviceaccount.com \
--network=projects/my-enterprise-project/global/networks/my-vpc \
--subnet=projects/my-enterprise-project/regions/asia-southeast1/subnetworks/my-subnet \
--vpc-egress=all-traffic \
--region=asia-southeast1 \
--allow-unauthenticated=false # Hanya dapat dipanggil oleh Main Agent via IAM
2. Kode Implementasi ADK 2.0 (Python)
Berikut adalah implementasi multi-agent orchestration menggunakan ADK 2.0. Kode ini mendemonstrasikan bagaimana agen utama merutekan tugas ke agen spesialis menggunakan model yang berbeda.
import os
from google.adk import Agent, GraphWorkflow
from google.adk.tools import Tool, ToolConfig
from google.cloud import bigquery
# Inisialisasi BigQuery Client
bq_client = bigquery.Client()
# 1. Definisikan Custom Tool untuk Coworker Agent
def query_sales_data(region: str) -> str:
"""Mengambil data penjualan dari BigQuery berdasarkan region."""
query = f"""
SELECT sum(revenue) as total_revenue, count(transaction_id) as total_trx
FROM `my-enterprise-project.sales_data.transactions_2026`
WHERE region = @region
"""
job_config = bigquery.QueryJobConfig(
query_parameters=[bigquery.ScalarQueryParameter("region", "STRING", region)]
)
result = bq_client.query(query, job_config=job_config).result()
for row in result:
return f"Total Revenue: {row.total_revenue}, Total Transactions: {row.total_trx}"
return "Data tidak ditemukan."
sales_tool = Tool(
name="query_sales_data",
description="Gunakan tool ini untuk mengambil data agregat penjualan dari database.",
func=query_sales_data,
config=ToolConfig(timeout_ms=5000)
)
# 2. Definisikan Coworker Agent (Heavy Reasoning & Data Access)
# Menggunakan model Gemini 3.1 Pro Preview untuk analisis mendalam
analyst_agent = Agent(
name="finance_analyst",
model="gemini-3.1-pro-preview",
instruction="""Anda adalah analis keuangan senior.
Tugas Anda adalah mengambil data menggunakan tool yang tersedia,
menganalisis tren, dan memberikan ringkasan eksekutif yang komprehensif.""",
tools=[sales_tool]
)
# 3. Definisikan Main Agent (Fast Routing & User Interaction)
# Menggunakan model Gemini 2.5 Flash untuk latensi rendah
router_agent = Agent(
name="customer_frontdesk",
model="gemini-2.5-flash",
instruction="""Anda adalah agen penerima tamu.
Sapa pengguna dengan ramah. Jika pengguna menanyakan data analitik atau laporan keuangan,
delegasikan tugas tersebut ke finance_analyst.""",
sub_agents=[analyst_agent] # Mengaktifkan A2A Protocol
)
# 4. Buat Graph Workflow untuk Orkestrasi Deterministik
workflow = GraphWorkflow(name="enterprise_reporting_flow")
workflow.add_node("router", router_agent)
workflow.set_entry_point("router")
# Eksekusi Workflow (Dalam produksi, ini dijalankan oleh ADK Runtime di Cloud Run)
if __name__ == "__main__":
user_prompt = "Tolong buatkan laporan performa penjualan untuk region 'APAC' bulan ini."
response = workflow.run(input=user_prompt)
print(f"Agent Response: {response.output}")
Dalam implementasi di atas, router_agent bertindak sebagai front-door yang sangat cepat dan murah. Ketika ia mendeteksi intensi pengguna yang membutuhkan analisis data, ia secara otonom mendelegasikan tugas tersebut ke analyst_agent melalui protokol A2A. analyst_agent kemudian menggunakan sales_tool untuk mengeksekusi query BigQuery secara aman.
Kesiapan Production: FinOps, Kuota & Guardrails Keamanan
Membawa agen AI ke lingkungan produksi bukan sekadar masalah fungsionalitas, melainkan tentang tata kelola, keandalan, dan keekonomian unit (unit economics).
Guardrails Keamanan & Kuota
Dari perspektif keamanan, penggunaan VPC Service Controls adalah mandat arsitektural. VPC SC mencegah data exfiltration dengan memblokir akses ke layanan Google Cloud dari luar perimeter yang ditentukan, bahkan jika kredensial IAM bocor. Selain itu, fitur concurrency di Cloud Run (hingga 1000 concurrent requests per instance) harus disetel dengan hati-hati. Untuk workload agen AI yang bersifat I/O bound (menunggu respons Vertex AI), menyetel concurrency ke angka yang tinggi (misal: 250-500) akan sangat menghemat biaya komputasi karena satu instance CPU/GPU dapat melayani banyak request secara paralel tanpa idle.
Terkait kuota Vertex AI, arsitek harus memantau batas Tokens per Minute (TPM) dan Requests per Minute (RPM). Menggunakan strategi multi-model routing seperti yang didemonstrasikan sebelumnya tidak hanya menghemat biaya, tetapi juga mendistribusikan beban kuota melintasi beberapa model (misal: membagi beban antara kuota gemini-2.5-flash dan gemini-3.1-pro-preview), mencegah throttling pada satu model spesifik.
📊 Simulasi FinOps & TCO Produksi
Untuk membuktikan dampak finansial dari strategi model routing dan arsitektur serverless, kami telah menjalankan simulasi deterministik menggunakan verified SKU pricing dari Google Cloud. Simulasi ini membandingkan pendekatan monolitik (menggunakan model heavy reasoning untuk semua hal) versus pendekatan optimized routing (menggunakan model flash untuk tugas standar).
📊 Simulasi FinOps & TCO Produksi: Simulasi TCO FinOps: Multi-Agent Orchestration (10 Juta Request/Bulan) (Berdasarkan Informasi SKU Google Terbaru)
Asumsi Beban Kerja Produksi (us-central1 / asia-southeast1):
- Volume trafik: 10 Juta request per bulan
- Rata-rata penggunaan token: 1.000 input token dan 200 output token per request
- Komputasi: Cloud Run dialokasikan setara 100 instance aktif konstan selama 1 bulan (2.592.000 detik per bulan)
- Option A menggunakan model Gemini 2.5 Pro untuk heavy reasoning
- Option B menggunakan model Gemini 2.5 Flash untuk optimized agentic routing
| Opsi Arsitektur |
Rincian Rumus & Harga Satuan SKU (Resmi) |
Estimasi Biaya Bulanan |
| Arsitektur Heavy Reasoning (Gemini 2.5 Pro) |
Gemini 2.5 Pro Input (10B tokens): $1.25/1M input tokens × 10,000 = $12,500.00
Gemini 2.5 Pro Output (2B tokens): $10/1M output tokens × 2,000 = $20,000.00
Cloud Run vCPU (100 instances * 1 vCPU): $2.4e-05/vCPU-second × 259,200,000 = $6,220.80
Cloud Run Memory (100 instances * 2 GiB): $2.5e-06/GiB-second × 518,400,000 = $1,296.00 |
$40,016.80 / mo |
| Arsitektur Optimized Routing (Gemini 2.5 Flash) |
Gemini 2.5 Flash Input (10B tokens): $0.15/1M input tokens × 10,000 = $1,500.00
Gemini 2.5 Flash Output (2B tokens): $0.6/1M output tokens × 2,000 = $1,200.00
Cloud Run vCPU (100 instances * 1 vCPU): $2.4e-05/vCPU-second × 259,200,000 = $6,220.80
Cloud Run Memory (100 instances * 2 GiB): $2.5e-06/GiB-second × 518,400,000 = $1,296.00 |
$10,216.80 / mo |
| Dampak Net FinOps (Penghematan Bulanan) |
Berdasarkan informasi SKU Google terbaru |
Penghematan 74.5% ($29,800.00 / bulan) |
Sumber Harga Resmi Google Cloud (2026.09): cloud.google.com, cloud.google.com
Secara arsitektural, data FinOps di atas menegaskan bahwa kecerdasan buatan di tingkat enterprise bukan sekadar tentang memilih model terbesar. Dengan memanfaatkan ADK 2.0 untuk merutekan 10 juta request ke gemini-2.5-flash sebagai front-door agent, organisasi dapat menghemat hampir $30.000 per bulan (penghematan 74.5%). Anggaran yang dihemat ini kemudian dapat dialokasikan kembali untuk membiayai eksekusi sub-agent yang menggunakan model heavy reasoning seperti gemini-4-argon atau gemini-3.1-pro-preview hanya pada persentase kecil request yang benar-benar membutuhkan penalaran mendalam. Inilah esensi dari rekayasa arsitektur AI modern: menyeimbangkan kapabilitas kognitif dengan efisiensi operasional yang deterministik.