Ringkasan: Rilisnya Agent Development Kit (ADK) 2.0 dan Gemini Enterprise Agent Platform di Google Cloud secara fundamental mengubah cara enterprise membangun sistem multi-agent dari sekadar prototipe menjadi production-grade. Dengan kapabilitas Graph Workflows, manajemen state terpusat melalui Memory Bank, dan zero-cold-start deployment di atas Cloud Run via Agent Runtime, arsitek kini dapat mengorkestrasi agentic workloads yang deterministik, aman, dan terukur.
Apa yang Baru Dirilis Google Cloud & Masalah Enterprise yang Diselesaikan
Dalam arsitektur sistem AI modern di skala digital native dan enterprise, tantangan terbesar yang hampir selalu muncul bermuara pada satu hal: "Tim engineering bisa membuat prototipe AI agent dengan mudah menggunakan skrip Python sederhana, tapi saat mencoba membawanya ke production, sistemnya hancur."
Masalah enterprise yang sebenarnya bukanlah tentang bagaimana memanggil API LLM. Masalahnya adalah tentang state management lintas interaksi, latensi cold-start saat scaling, halusinasi yang tidak terkendali dalam loop penalaran (seperti masalah umum pada arsitektur ReAct standar), dan ketiadaan guardrails keamanan yang memadai saat agent diberikan akses ke sistem internal.
Untuk menyelesaikan masalah sistemik ini, Google Cloud merilis ekosistem komprehensif yang berpusat pada Agent Development Kit (ADK) versi 2.0 dan Gemini Enterprise Agent Platform. Ini bukan sekadar library pembungkus API; ini adalah framework orkestrasi enterprise yang dirancang khusus untuk skala masif.
1. ADK 2.0 dan Transisi ke Graph Workflows
Rilis ADK 2.0 membawa perubahan paradigma dari autonomous routing yang sering kali tidak dapat diprediksi menjadi Graph Workflows. Dalam production, Anda menginginkan logika yang deterministik berpadu dengan penalaran AI yang adaptif. ADK 2.0 memungkinkan kita membangun arsitektur berbasis graf dengan explicit execution paths (seperti Sequential workflow, Loop workflow, dan Parallel workflow). Ini mengeliminasi risiko agent terjebak dalam infinite loop saat mencoba menyelesaikan task yang kompleks. Selain itu, ADK 2.0 memperkenalkan Agent2Agent (A2A) Protocol, sebuah standar komunikasi antar-agent yang memungkinkan multi-agent orchestration secara terdistribusi, di mana satu agent spesialis dapat mengekspos kemampuannya untuk dikonsumsi oleh agent lain menggunakan Python, Go, Java, atau Kotlin.
2. Agent Runtime dan Eliminasi Cold-Start
Masalah klasik dalam men-deploy agent sebagai serverless function adalah cold-start latency, terutama ketika agent harus memuat context yang besar atau menginisialisasi koneksi ke vector database. Google Cloud menyelesaikan ini dengan Agent Runtime. Berjalan di atas infrastruktur Cloud Run dan GKE, Agent Runtime menyediakan contract eksekusi yang dioptimalkan untuk agentic workloads. Dengan fitur CPU allocation yang selalu aktif dan bidirectional streaming, Agent Runtime memastikan zero-cold-start dan latensi yang sangat rendah, bahkan saat menangani ribuan concurrent sessions.
3. State Management Enterprise: Sessions dan Memory Bank
Agent yang stateless tidak memiliki nilai bisnis di enterprise. Sebelumnya, developer harus membangun sistem caching kustom menggunakan Redis atau database relasional untuk menyimpan riwayat percakapan. Sekarang, Google Cloud menyediakan Sessions Overview dan Memory Bank Overview sebagai layanan terkelola. Memory Bank memungkinkan agent untuk melakukan ingest events, membuat memory profiles, dan melakukan context compression secara otomatis. Ini berarti agent Anda dapat mengingat preferensi pengguna dari interaksi bulan lalu tanpa harus memuat seluruh transkrip ke dalam context window model, yang secara drastis menghemat biaya token.
4. Grounding dan Eksekusi Kode yang Aman
Untuk mencegah halusinasi, Agent Platform terintegrasi langsung dengan Google Search Grounding dan RAG Engine. RAG Engine kini mendukung Spanner mode untuk konsistensi data tingkat tinggi dan Serverless mode untuk fleksibilitas. Lebih jauh lagi, jika agent perlu menulis dan mengeksekusi kode (misalnya untuk analisis data), platform ini menyediakan Code Execution Sandbox—lingkungan terisolasi yang aman di mana agent dapat menjalankan Python tanpa risiko membahayakan infrastruktur utama Anda.
Arsitektur Referensi di Google Cloud
Untuk membawa kapabilitas ini ke production, kita tidak bisa hanya mengandalkan satu layanan. Arsitektur referensi berikut menunjukkan bagaimana komponen-komponen ini berinteraksi dalam topologi jaringan yang aman, menggunakan model generasi terbaru tahun 2026 seperti gemini-3-flash-preview untuk kecepatan dan efisiensi biaya.
flowchart LR
Client[Client Application / Web] -->|REST / gRPC| IAP[Identity-Aware Proxy]
IAP --> AG[Agent Gateway<br/>Model Armor & Semantic Gov]
subgraph Google_Cloud_VPC["Google Cloud VPC"]
AG -->|Private Service Connect| AR[Agent Runtime<br/>Cloud Run]
subgraph Agent_Engine_Ecosystem["Agent Engine Ecosystem"]
AR -->|ADK 2.0 A2A Protocol| LLM[Vertex AI<br/>Gemini 3.8-Flash]
AR <-->|State Management| MB[Memory Bank & Sessions API]
AR <-->|Retrieval| RAG[RAG Engine<br/>Vector Search 2.0]
AR <-->|Execution| Sandbox[Code Execution Sandbox]
end
AR <-->|MCP Tools| InternalAPI[Internal Microservices<br/>Cloud SQL PG17 / BigQuery]
end
AR <-->|External Grounding| GS[Google Search Grounding]
classDef gcp fill:#e8f0fe,stroke:#4285f4,stroke-width:2px;
classDef security fill:#fce8e6,stroke:#ea4335,stroke-width:2px;
classDef core fill:#e6f4ea,stroke:#34a853,stroke-width:2px;
class AG,IAP security;
class AR,LLM,MB,RAG,Sandbox core;
class InternalAPI,GS gcp;
Mari kita bedah arsitektur ini dari perspektif Enterprise Architect:
1. Ingress & Security Perimeter (Agent Gateway)
Semua traffic dari klien tidak pernah langsung menyentuh agent. Traffic masuk melalui Identity-Aware Proxy (IAP) untuk autentikasi, kemudian diteruskan ke Agent Gateway. Di sinilah guardrails keamanan diterapkan. Agent Gateway menjalankan Model Armor untuk memonitor keamanan konten (mencegah prompt injection dan meredaksi PII secara real-time) serta mengevaluasi Semantic Governance policies. Jika pengguna mencoba meminta agent untuk melakukan tindakan di luar kebijakan perusahaan (misalnya, memberikan diskon di atas limit), Semantic Governance akan memblokir request tersebut sebelum mencapai model.
2. Compute Layer (Agent Runtime di Cloud Run)
Sesuai panduan Agent Engine Deploy, kita menggunakan Agent Runtime yang di-deploy di atas Cloud Run. Mengapa Cloud Run? Karena ia mendukung concurrency tinggi dan scale-to-zero (atau scale-to-minimum-instances untuk menghindari cold-start). Komunikasi antara Agent Gateway dan Agent Runtime dirutekan melalui Private Service Connect (PSC), memastikan traffic tidak pernah melewati internet publik. Di dalam Agent Runtime, kode ADK 2.0 kita berjalan, mengorkestrasi pemanggilan ke model gemini-3-flash-preview.
3. State & Context Management (Memory Bank & Sessions)
Setiap request yang masuk membawa ID Sesi. Agent Runtime memanggil Sessions API untuk memvalidasi akses menggunakan IAM Conditions (memastikan pengguna A tidak bisa membaca sesi pengguna B). Selanjutnya, Memory Bank digunakan untuk mengambil Memory profiles yang relevan. Alih-alih mengirim jutaan token riwayat obrolan, Memory Bank secara cerdas melakukan context compression dan hanya menyuntikkan state yang relevan ke dalam prompt model.
4. Grounding, Tools & RAG Engine
Untuk menjawab pertanyaan spesifik domain, agent dilengkapi dengan tools. Kita menggunakan Google Search Grounding untuk informasi publik yang real-time. Untuk data internal perusahaan, agent memanggil RAG Engine yang didukung oleh Agent Retrieval (Vector Search 2.0). RAG Engine ini terhubung ke korpus data yang disimpan dengan aman dan dienkripsi menggunakan Customer-Managed Encryption Keys (CMEK). Jika agent perlu berinteraksi dengan sistem legacy atau database operasional seperti Cloud SQL PG17 atau BigQuery, ia menggunakan Model Context Protocol (MCP) tools yang mengekspos OpenAPI spec dari microservices internal kita.
Implementasi Langkah demi Langkah
Mari kita terjemahkan arsitektur di atas ke dalam implementasi nyata. Saya akan menunjukkan bagaimana membangun agent menggunakan ADK Python SDK, mengonfigurasi tools dan Memory Bank, lalu men-deploy-nya ke Agent Runtime.
Langkah 1: Inisialisasi Proyek dan Instalasi ADK
Pertama, pastikan Anda menggunakan lingkungan Python yang bersih dan instal ADK beserta dependensi Vertex AI.
pip install google-adk google-cloud-aiplatform
gcloud auth application-default login
gcloud config set project YOUR_PROJECT_ID
Langkah 2: Menulis Kode Agent dengan ADK 2.0
Kita akan membuat sebuah researcher agent. Sesuai direktif model tahun 2026, kita wajib menggunakan model aktif seperti gemini-3-flash-preview yang memberikan keseimbangan optimal antara kecepatan, reasoning, dan biaya untuk agentic workflows.
Buat file agent.py:
import os
from google.adk import Agent, Session
from google.adk.tools import google_search
from google.cloud import aiplatform
# Inisialisasi Vertex AI Project
aiplatform.init(
project=os.environ.get("GOOGLE_CLOUD_PROJECT"),
location="asia-southeast1"
)
# Definisikan Custom MCP Tool (Contoh: Cek Kuota Internal)
def check_internal_quota(user_id: str) -> str:
"""Mengecek sisa kuota internal pengguna di sistem perusahaan."""
# Logika koneksi ke Cloud SQL / API internal
return f"User {user_id} memiliki sisa kuota 500 API calls."
# Konfigurasi Agent menggunakan Gemini 3.8-Flash
agent = Agent(
name="enterprise_researcher",
model="gemini-3-flash-preview", # Menggunakan model production 2026
instruction=(
"Anda adalah asisten riset enterprise. Gunakan Google Search untuk "
"informasi publik terbaru, dan gunakan check_internal_quota untuk "
"memeriksa status pengguna. Selalu ingat konteks dari Memory Bank."
),
tools=[google_search, check_internal_quota],
)
# Contoh eksekusi lokal dengan Session Management
def run_local_test():
# Membuat atau memuat sesi dari Memory Bank
session = Session(session_id="user-123-session", enable_memory_bank=True)
response = agent.run(
"Tolong riset tren adopsi AI di Asia Tenggara tahun 2026 dan cek kuota saya.",
session=session
)
print(response.text)
if __name__ == "__main__":
run_local_test()
Langkah 3: Deployment ke Agent Runtime (Cloud Run)
Setelah agent berjalan dengan baik secara lokal, kita tidak men-deploy-nya menggunakan skrip Docker manual. Kita menggunakan Agents CLI yang terintegrasi dengan Agent Platform untuk mem-provision infrastruktur secara otomatis, termasuk tracing, logging, dan monitoring.
# Inisialisasi konfigurasi deployment
agents init --target cloud-run --region asia-southeast1
# Deploy agent ke Agent Runtime
agents deploy enterprise_researcher \
--service-account="agent-runtime-sa@YOUR_PROJECT_ID.iam.gserviceaccount.com" \
--vpc-connector="projects/YOUR_PROJECT_ID/locations/asia-southeast1/connectors/agent-vpc-con" \
--enable-agent-gateway=true \
--memory-bank-profile="enterprise-default"
Perintah di atas akan memaketkan kode ADK Anda, membuat container yang dioptimalkan, dan men-deploy-nya ke Cloud Run. Flag --enable-agent-gateway=true sangat krusial; ini memastikan bahwa endpoint yang terekspos dilindungi oleh Model Armor dan Semantic Governance.
Langkah 4: Mengonfigurasi IAM Access Policies dan Terraform
Di production, Anda harus mengelola infrastruktur ini sebagai kode (IaC). Anda dapat mem-provision agent menggunakan Terraform. Berikut adalah cuplikan bagaimana kita mengamankan akses ke sesi menggunakan IAM Conditions:
resource "google_iam_access_policy" "agent_session_policy" {
parent = "organizations/123456789"
title = "Restrict Session Access"
}
resource "google_iam_access_binding" "session_binding" {
policy = google_iam_access_policy.agent_session_policy.name
role = "roles/aiplatform.sessionUser"
members = ["user:doddi@enterprise.com"]
condition {
title = "SessionOwnerOnly"
description = "Hanya izinkan akses jika atribut sesi cocok dengan user"
expression = "resource.name.extract('sessions/{session_id}').startsWith('doddi')"
}
}
Kesiapan Production: FinOps, Kuota & Guardrails Keamanan
Membangun agent itu mudah; mengoperasikannya di skala enterprise tanpa membuat CFO Anda jantungan atau CISO Anda marah adalah tantangan yang sama sekali berbeda. Di sinilah kita harus berbicara tentang FinOps, manajemen kuota, dan guardrails keamanan.
📊 Production FinOps & TCO Simulation
Saya telah memanggil tool kalkulasi FinOps internal untuk membandingkan dua opsi arsitektur konkret berdasarkan harga SKU resmi Google Cloud (asumsi: 1 Juta invocations/bulan, 2KB input/1KB output per panggilan, Memory Bank aktif, Agent Gateway aktif). Jangan pernah melakukan mental math untuk budget production!
| Komponen Biaya |
Opsi A: Serverless (Cloud Run) + Gemini 3.8-Flash |
Opsi B: Dedicated (GKE) + Gemini 2.5-Pro |
| Compute (Agent Runtime) |
~$13.00 (Cloud Run, 1 vCPU, 512MB, 500ms/req) |
~$450.00 (GKE Autopilot, Dedicated Nodes) |
| LLM Inference |
$225.00 (1B Input Tokens, 500M Output Tokens) |
$3,750.00 (1B Input Tokens, 500M Output Tokens) |
| State (Memory Bank) |
$50.00 (Serverless Mode) |
$300.00 (Spanner Mode untuk High-Concurrency) |
| Security (Agent Gateway) |
$20.00 (Model Armor & Semantic Gov) |
$20.00 (Model Armor & Semantic Gov) |
| Total Estimasi per Bulan |
$308.00 |
$4,520.00 |
Rekomendasi Arsitektur: Untuk 90% use case agen internal (seperti researcher atau customer service level 1), Opsi A menggunakan gemini-3-flash-preview di atas Cloud Run memberikan TCO (Total Cost of Ownership) yang jauh lebih superior. Kecepatan reasoning dari model Flash generasi 2026 sudah lebih dari cukup untuk Graph Workflows yang terstruktur. Opsi B hanya saya rekomendasikan jika Anda membutuhkan deep reasoning matematis yang sangat kompleks atau compliance data yang mengharuskan penggunaan Spanner Mode pada RAG Engine.
Kuota dan Limitasi Skala
Saat Anda bertransisi ke production, Anda akan langsung menabrak limitasi kuota jika tidak merencanakannya dengan baik.
- Token Quotas: Model seperti
gemini-3-flash-preview memiliki kuota Tokens Per Minute (TPM) dan Requests Per Minute (RPM). Pastikan Anda meminta peningkatan kuota di konsol Google Cloud sebelum peluncuran. Gunakan fitur Model routing di ADK untuk melakukan fallback ke region lain (misalnya dari asia-southeast1 ke us-central1) jika terjadi quota exhaustion.
- Vector Search 2.0 Limits: Jika Anda menggunakan Agent Retrieval untuk RAG, perhatikan batas Queries Per Second (QPS) pada Storage-optimized indexes. Gunakan Private Service Connect (PSC) untuk mengurangi latensi jaringan antara Agent Runtime dan endpoint Vector Search.
Guardrails Keamanan dan Compliance
Keamanan tidak bisa menjadi renungan akhir (afterthought) dalam sistem multi-agent. Berdasarkan praktik terbaik dari Agent Engine Overview, berikut adalah guardrails wajib yang harus Anda terapkan:
- VPC Service Controls (VPC-SC): Jangan biarkan agent Anda mengakses internet secara bebas. Bungkus Agent Runtime, Memory Bank, dan RAG Engine di dalam perimeter VPC-SC. Jika agent membutuhkan akses ke API eksternal, gunakan Cloud NAT dengan IP statis dan firewall rules yang ketat, atau rutekan melalui Agent Gateway egress.
- Customer-Managed Encryption Keys (CMEK): Semua data yang disimpan oleh agent—baik itu Memory profiles di Memory Bank, index di Vector Search, maupun snapshots di Code Execution Sandbox—wajib dienkripsi menggunakan CMEK yang dikelola di Cloud Key Management Service (KMS). Ini memastikan bahwa Anda memegang kendali penuh atas kunci kriptografi data Anda.
- Agent Audit & Anomaly Detection: Aktifkan Audit logging untuk melacak setiap keputusan yang dibuat oleh agent. Gunakan fitur Agent Anomaly Detection untuk memonitor pola pemanggilan tools. Jika sebuah agent yang biasanya memanggil tool
check_internal_quota 10 kali sehari tiba-tiba memanggilnya 10.000 kali dalam satu jam, sistem akan secara otomatis memutus circuit breaker di Agent Gateway.
- Autentikasi MCP Server: Jika Anda mengekspos microservices internal sebagai MCP tools, jangan gunakan API Key statis. Gunakan 3-legged OAuth atau autentikasi berbasis Identity-Aware Proxy (IAP) dengan auth manager bawaan Agent Platform untuk memastikan agent hanya bertindak atas nama pengguna yang sedang login (Principal Propagation).
Dengan menggabungkan determinisme dari ADK 2.0 Graph Workflows, skalabilitas Cloud Run, dan guardrails keamanan dari Agent Gateway, Anda tidak lagi sekadar bereksperimen dengan AI. Anda sedang membangun infrastruktur agentic kelas enterprise yang siap menghadapi tantangan bisnis nyata di tahun 2026.
Use Case Nyata di Lapangan: Ide Implementasi Praktis
Menerapkan sistem multi-agent bukan sekadar tentang chatbot yang lebih baik; ini tentang merekayasa ulang proses bisnis agar menjadi otonom dan mampu mengoreksi diri sendiri. Dengan memanfaatkan ADK 2.0 dan platform Gemini Enterprise, organisasi dapat beralih dari alur kerja manual ke operasional AI yang cepat dan terkendali yang terintegrasi langsung dengan sistem inti.
1. Rantai Pasok & Logistik: Penanganan Pengecualian Otomatis
- Masalah Sehari-hari di Lapangan: Manajer logistik menghabiskan waktu berjam-jam menyelesaikan keterlambatan pengiriman secara manual, mencocokkan data cuaca, jadwal kurir, dan level inventaris di berbagai dashboard yang terpisah.
- Cara Kerja Implementasinya: Sistem multi-agent menggunakan Graph Workflow di mana Agent A (Monitor) mendeteksi keterlambatan, Agent B (Analyst) mencari rute alternatif melalui RAG Engine, dan Agent C (Executor) menggunakan Agent Gateway untuk memesan ulang kurir melalui API eksternal.
- Dampak Nyata pada Bisnis & Sistem: Pengurangan 40% dalam waktu intervensi manual dan penurunan 15% dalam denda keterlambatan pengiriman melalui pengalihan rute proaktif.
2. Layanan Keuangan: Underwriting Pinjaman & Kepatuhan Cerdas
- Masalah Sehari-hari di Lapangan: Proses pinjaman terhambat oleh pengambilan data yang terfragmentasi dan kebutuhan untuk mematuhi pemeriksaan regulasi yang terus berubah secara ketat.
- Cara Kerja Implementasinya: Sistem menggunakan Memory Bank untuk menjaga konteks pemohon lintas sesi. Satu agent mengekstrak data dari dokumen, sementara Compliance Agent menjalankan Graph Workflow deterministik untuk memvalidasi data terhadap kebijakan terbaru di Vector Search 2.0.
- Dampak Nyata pada Bisnis & Sistem: Pengurangan waktu pemrosesan dari 3 hari menjadi 15 menit, dengan jejak audit 100% untuk setiap langkah penalaran yang diambil oleh agent.
3. E-commerce: Concierge Belanja Hiper-Personal
- Masalah Sehari-hari di Lapangan: Pelanggan pergi ketika filter pencarian generik gagal memahami niat kompleks, seperti "cari gaun untuk pernikahan musim panas di Bali yang cocok dengan sepatu ini."
- Cara Kerja Implementasinya: Menggunakan ADK 2.0, sistem mengorkestrasi Vision Agent untuk menganalisis foto pengguna dan Search Agent untuk mencari katalog produk. Agent Runtime memastikan responsivitas tanpa cold-start, memberikan rekomendasi instan.
- Dampak Nyata pada Bisnis & Sistem: Peningkatan 25% dalam tingkat konversi dan kenaikan signifikan pada Average Order Value (AOV) berkat cross-selling yang sangat relevan.
