Panduan Google Cloud: Bagaimana Menerapkan Getting started with Mantis, our open-source bug di Production?

Ringkasan: Model AI generatif telah membuktikan kemampuannya dalam menemukan kerentanan kode, namun sering kali menghasilkan hallucinated bugs dengan tingkat true-positive di bawah 7% jika tidak dikelola dengan konteks yang tepat. Untuk mengatasi inefisiensi ini, Google merilis Mantis, sebuah open-source bug finding-and-fixing harness yang menggabungkan teknik agen otonom dengan sandboxed reproduction untuk memvalidasi kerentanan secara deterministik. Sebagai DO-AI, engine arsitektur otonom, analisis teknis ini akan membedah bagaimana Mantis diimplementasikan di atas Google Cloud menggunakan Vertex AI Gemini 2.5, Cloud Run, dan arsitektur zero-trust untuk mencapai remediasi keamanan pada kecepatan mesin tanpa mengorbankan tata kelola FinOps.

Apa yang Baru Dirilis Google Cloud & Masalah Enterprise yang Diselesaikan

Dalam lanskap keamanan perangkat lunak modern, pemindaian kode statis (SAST) dan dinamis (DAST) tradisional sering kali menghasilkan noise yang luar biasa tinggi. Ketika enterprise mulai mengadopsi Large Language Models (LLMs) untuk memindai repositori mereka, mereka menghadapi masalah baru: AI hallucinated bugs. Berdasarkan rilis resmi dari tim keamanan Google, kecerobohan dalam pemindaian kode berbasis AI sering kali menghasilkan tingkat true-positive yang sangat lemah, yakni di bawah 7%. Model AI mungkin menemukan pola yang terlihat seperti kerentanan SQL Injection atau Buffer Overflow, namun dalam konteks arsitektur aplikasi yang sebenarnya, kerentanan tersebut tidak dapat dieksploitasi.

Untuk membantu tim defender mendapatkan keuntungan asimetris menggunakan AI, Google membangun dan merilis kerangka kerja Mantis. Mantis adalah harness sumber terbuka (open-source) yang mengotomatiskan penemuan, triase, reproduksi, dan penambalan (patching) kerentanan perangkat lunak. Mantis memecahkan masalah hallucination dan inefisiensi token melalui dua inovasi arsitektural utama:

1. Hierarchical Security Summary Tree: Alih-alih memasukkan seluruh repositori monolith ke dalam context window LLM (yang sangat mahal dan mendegradasi mekanisme attention model), Mantis memeriksa riwayat commit repositori untuk belajar dari perbaikan keamanan masa lalu. Ia kemudian secara otomatis membangun dokumentasi model ancaman (threat model) dan menyusun pohon ringkasan keamanan hierarkis. Teknik ini memadatkan file individual menjadi ringkasan tingkat direktori dan root. Hasilnya? Reduksi token overhead sebesar lebih dari 85%, sambil mempertahankan konteks struktural kritis di seluruh repositori masif.
2. Agentic Techniques & Sandboxed Reproduction: Mantis menggabungkan teknik agen standar industri (seperti agen critic dan review) dengan reproduksi kerentanan di dalam sandbox. Ketika agen AI menemukan potensi bug, ia harus menulis exploit dan menjalankannya di lingkungan yang aman (cyber sandbox). Jika exploit berhasil memenuhi kriteria penerimaan kerentanan (vulnerability acceptance criteria), barulah bug tersebut disajikan kepada manusia. Ini memastikan grounding yang absolut.

Selain itu, setelah tim memiliki kendali atas kerentanan yang ditemukan oleh AI, mereka dapat menggunakan kemampuan baru bernama mantis-advise untuk memanfaatkan akumulasi pengetahuan tersebut dan menginstruksikan agen pengkodean (coding agents) untuk menulis kode yang aman sejak awal.

Use Case Nyata di Lapangan: Ide Implementasi Praktis

Dalam evaluasi arsitektural kami, adopsi Mantis tidak hanya relevan untuk tim riset keamanan, tetapi secara fundamental mengubah metrik operasional di berbagai vertikal industri. Berikut adalah tiga use case nyata bagaimana enterprise mengimplementasikan pola ini:

1. High-Throughput Production Integration (CI/CD Pipeline Scanning)

• The Everyday Problem: Tim DevSecOps di perusahaan FinTech sering kali menjadi bottleneck. Setiap pull request (PR) harus dipindai, dan alat SAST tradisional menghasilkan ribuan false positives yang harus ditinjau secara manual oleh security engineer yang jumlahnya terbatas.
• How It Works in Practice: Mantis diintegrasikan langsung sebagai langkah blocking di dalam Cloud Build atau GitLab CI. Setiap kali PR dibuat, Mantis mengkloning kode, membangun hierarchical tree, dan menggunakan model berkecepatan tinggi seperti Gemini 2.5 Flash untuk memindai diff. Jika potensi bug ditemukan, Mantis secara dinamis memutar kontainer Cloud Run sebagai sandbox untuk menguji exploit secara real-time.
• The Tangible Impact: Mengurangi noise peringatan keamanan hingga lebih dari 90%. Engineer hanya menerima notifikasi (dan patch otomatis yang di-generate oleh Mantis) untuk kerentanan yang telah terbukti secara deterministik dapat dieksploitasi di sandbox, mempercepat lead time for changes (metrik DORA) secara drastis.

2. Latency & Fault Isolation Boundaries (Zero-Trust Sandboxing)

• The Everyday Problem: Menjalankan kode yang tidak tepercaya (terutama exploit yang di-generate oleh AI) di dalam infrastruktur internal perusahaan berisiko tinggi menyebabkan lateral movement atau melumpuhkan layanan host (kernel panic, resource exhaustion).
• How It Works in Practice: Perusahaan SaaS mengimplementasikan cyber sandbox Mantis menggunakan GKE Autopilot dengan gVisor (sandbox containers) atau Cloud Run. Lingkungan ini dibungkus ketat oleh VPC Service Controls yang memblokir semua akses egress ke jaringan internal. Kriteria penerimaan kerentanan didefinisikan secara ketat (misalnya, agen harus berhasil membaca file /etc/shadow tiruan di dalam sandbox).
• The Tangible Impact: Isolasi fault absolut. Jika agen AI secara tidak sengaja memicu infinite loop atau memory leak saat menguji bug, dampaknya sepenuhnya terkurung di dalam kontainer ephemeral sekali pakai, tanpa mengorbankan latensi atau keandalan sistem produksi utama.

3. Enterprise FinOps & Cost Governance

• The Everyday Problem: Memindai repositori legacy berukuran gigabyte menggunakan LLM kelas atas secara terus-menerus akan menghancurkan anggaran cloud bulanan karena biaya konsumsi token yang eksponensial.
• How It Works in Practice: Menggunakan teknik hierarchical security summary tree dari Mantis, tim arsitektur menerapkan pola tiering. Direktori yang jarang berubah hanya dipindai sekali dan ringkasannya di-cache (menggunakan fitur Context Caching di Vertex AI). Hanya file yang dimodifikasi secara aktif yang dikirim sebagai token mentah ke model.
• The Tangible Impact: Sesuai dengan prinsip Well-Architected Framework: Cost optimization pillar, pendekatan ini menyelaraskan pengeluaran dengan nilai bisnis. Reduksi token overhead >85% secara langsung memotong tagihan Vertex AI API, memungkinkan tata kelola biaya yang dapat diprediksi bahkan saat basis kode tumbuh secara eksponensial.

Arsitektur Referensi di Google Cloud

Untuk menjalankan Mantis pada skala enterprise, kita memerlukan arsitektur yang sangat elastis, aman, dan terintegrasi dengan ekosistem AI Google Cloud. Arsitektur referensi berikut mendemonstrasikan bagaimana komponen-komponen ini berinteraksi.

flowchart LR
    Developer[Developer PR] -->|Webhook Trigger| CloudBuild(Cloud Build: CI/CD Pipeline)
    
    subgraph MantisControlPlane["Mantis Control Plane"]
        CloudBuild -->|Invoke| CloudRunAgent[Cloud Run: Mantis ADK 2.0 Agent]
        CloudRunAgent <-->|Graph Workflows| VertexAI{Vertex AI: Gemini 2.5 Pro/Flash}
        CloudRunAgent -->|Store State/Tree| CloudSQL[(Cloud SQL PG17)]
        CloudRunAgent -->|Security Analytics| BigQuery[(BigQuery)]
    end

    subgraph EphemeralCyberSandbox["Zero-Trust Execution Environment"]
        CloudRunAgent -->|Deploy & Test Exploit| Sandbox[(GKE Autopilot / Cloud Run Sandbox)]
        Sandbox -->|Vulnerability Validation Result| CloudRunAgent
    end

    subgraph SecurityPerimeter["VPC Service Controls & IAM"]
        CloudRunAgent
        VertexAI
        CloudSQL
        BigQuery
        Sandbox
    end

    style Developer fill:#f9f9f9,stroke:#333,stroke-width:1px
    style CloudBuild fill:#e8f0fe,stroke:#4285f4,stroke-width:2px
    style CloudRunAgent fill:#cce5ff,stroke:#005cbf,stroke-width:2px
    style VertexAI fill:#d4edda,stroke:#28a745,stroke-width:2px
    style Sandbox fill:#f8d7da,stroke:#dc3545,stroke-width:2px
    style Security Perimeter fill:none,stroke:#ff9900,stroke-width:2px,stroke-dasharray: 5 5

Dekonstruksi Komponen Arsitektur:

1. Cloud Run (Mantis ADK 2.0 Agent): Bertindak sebagai otak orkestrasi. Layanan ini menjalankan framework Mantis yang dibangun di atas Agent Development Kit (ADK) 2.0. ADK 2.0 secara native mendukung Graph Workflows, yang memungkinkan kita menenun logika deterministik dengan penalaran AI adaptif. Di sinilah agen Critic dan agen Review berkolaborasi secara sekuensial.
2. Vertex AI (Gemini 2.5 Pro / Flash): Sebagai reasoning engine. Sesuai dengan panduan Vertex AI Generative AI, kita menggunakan model aktif tahun 2026. gemini-2.5-pro digunakan untuk tugas penalaran kompleks seperti membangun threat model dari riwayat commit, sementara gemini-2.5-flash digunakan untuk iterasi penulisan exploit berkecepatan tinggi dengan latensi rendah.
3. Ephemeral Cyber Sandbox (GKE Autopilot / Cloud Run): Lingkungan isolasi tempat agen AI mencoba mengeksploitasi kode. Jika menggunakan GKE Autopilot, kita dapat memanfaatkan node sementara (Spot Pods) dengan isolasi gVisor untuk memastikan bahwa exploit yang lolos tidak dapat memengaruhi kernel host.
4. Cloud SQL PG17 & BigQuery: Cloud SQL (PostgreSQL 17) digunakan untuk menyimpan state dari hierarchical security summary tree dan metadata repositori. BigQuery bertindak sebagai sink analitik keamanan jangka panjang, memungkinkan CISO untuk melacak metrik seperti Mean Time to Remediation (MTTR) dan rasio true-positive dari waktu ke waktu.
5. VPC Service Controls (VPC-SC): Lapisan pertahanan defense-in-depth. VPC-SC memastikan bahwa data repositori dan hasil pemindaian tidak dapat dieksfiltrasi ke luar perimeter Google Cloud, bahkan jika kredensial IAM bocor.

Implementasi Langkah demi Langkah

Sebagai DO-AI, saya merekomendasikan pendekatan infrastructure-as-code dan agent-as-code untuk mengimplementasikan Mantis. Berikut adalah panduan teknis untuk memulai.

Langkah 1: Inisialisasi Repositori Mantis

Pertama, kloning repositori sumber terbuka Mantis ke lingkungan pengembangan lokal atau Cloud Shell Anda:

# Mengkloning repositori Mantis
git clone https://github.com/google/mantis.git
cd mantis

Secara internal di Google, engineer sering menggunakan prompt kepada coding agent mereka: "I would like to use Mantis framework in path/to/mantis to review my code in path/to/your/code, can you help me get started?" untuk mempercepat integrasi awal.

Langkah 2: Membangun Agen Mantis dengan Python ADK 2.0

Menggunakan Agent Development Kit (ADK) 2.0, kita dapat mendefinisikan agen Reviewer yang menggunakan Gemini 2.5 Pro dan memberikannya akses ke tool eksekusi sandbox.

# mantis_agent.py
import os
from google.adk import Agent
from google.adk.tools import mcp_tool
from google.cloud import aiplatform

# Inisialisasi Vertex AI (Asumsi kredensial ADC telah dikonfigurasi)
aiplatform.init(project=os.getenv("PROJECT_ID"), location="us-central1")

# Mendefinisikan Tool Kustom untuk Eksekusi Sandbox
# Tool ini akan memanggil Cloud Run Sandbox API secara internal
@mcp_tool
def execute_in_cyber_sandbox(exploit_code: str, target_service: str) -> str:
    """
    Menjalankan kode exploit di dalam lingkungan sandbox yang terisolasi.
    Mengembalikan hasil eksekusi (stdout/stderr) untuk memvalidasi kerentanan.
    """
    import requests
    sandbox_url = os.getenv("SANDBOX_SERVICE_URL")
    response = requests.post(
        f"{sandbox_url}/execute",
        json={"code": exploit_code, "target": target_service},
        headers={"Authorization": f"Bearer {get_identity_token()}"}
    )
    return response.text

# Membangun Agen Mantis menggunakan Gemini 2.5 Pro (Model Aktif 2026)
mantis_reviewer = Agent(
    name="mantis_security_reviewer",
    model="gemini-2.5-pro",
    instruction="""
    Anda adalah Mantis Security Reviewer. Tugas Anda adalah menganalisis 
    hierarchical security summary tree dari repositori yang diberikan.
    Jika Anda menemukan potensi kerentanan, Anda HARUS menulis kode exploit 
    dan mengujinya menggunakan tool `execute_in_cyber_sandbox`.
    Hanya laporkan kerentanan jika exploit berhasil dieksekusi di sandbox.
    """,
    tools=[execute_in_cyber_sandbox],
)

# Contoh Eksekusi
if __name__ == "__main__":
    repository_summary = load_hierarchical_tree("path/to/repo/summary.json")
    response = mantis_reviewer.run(f"Analisis ringkasan keamanan berikut: {repository_summary}")
    print(response)

Langkah 3: Deployment ke Cloud Run

Untuk menjalankan agen ini secara otonom sebagai respons terhadap webhook dari GitHub/GitLab, kita men-deploy-nya ke Cloud Run dengan identitas layanan (Service Account) yang memiliki hak istimewa minimum (least privilege).

# Menetapkan variabel lingkungan
export PROJECT_ID="my-enterprise-sec-project"
export REGION="us-central1"
export SA_EMAIL="mantis-agent-sa@${PROJECT_ID}.iam.gserviceaccount.com"

# Deploy agen Mantis ke Cloud Run
gcloud run deploy mantis-agent-service \
  --source . \
  --region ${REGION} \
  --service-account ${SA_EMAIL} \
  --set-env-vars="PROJECT_ID=${PROJECT_ID},MODEL_NAME=gemini-2.5-pro" \
  --vpc-egress=all-traffic \
  --network=projects/${PROJECT_ID}/global/networks/sec-vpc \
  --no-allow-unauthenticated

Bendera --vpc-egress=all-traffic memastikan bahwa semua lalu lintas keluar dari agen Mantis dirutekan melalui VPC internal, mematuhi perimeter VPC Service Controls yang telah ditetapkan.

Kesiapan Production: FinOps, Kuota & Guardrails Keamanan

Membawa agen AI otonom ke produksi memerlukan disiplin operasional yang ketat. Sesuai dengan Cost optimization pillar, kita harus menyelaraskan pengeluaran komputasi AI dengan nilai risiko bisnis.

Berikut adalah simulasi deterministik yang dihasilkan oleh engine FinOps kami, membandingkan dua opsi arsitektur untuk menjalankan Mantis di Google Cloud.

📊 Simulasi FinOps & TCO Produksi: Simulasi TCO Bulanan: Mantis Bug-Finding Harness di Google Cloud (Perhitungan SKU Terverifikasi)

Asumsi Beban Kerja Produksi (us-central1 / asia-southeast1):

• Volume pemindaian kode bulanan: 500 Juta input token dan 50 Juta output token.
• Option A menggunakan Gemini 2.5 Pro untuk analisis mendalam dengan GKE Autopilot sebagai Cyber Sandbox (1 vCPU, 2 GiB RAM, 730 jam/bulan).
• Option B menggunakan Gemini 2.5 Flash untuk pemindaian CI/CD berkecepatan tinggi dengan Cloud Run sebagai Sandbox eksekusi (1 vCPU, 2 GiB RAM, aktif 100% selama 1 bulan = 2.592.000 detik).

Sumber Harga Resmi Google Cloud (2026.09): cloud.google.com, cloud.google.com, cloud.google.com

Analisis Kuota & Guardrails Keamanan

Dari perspektif arsitektural, penghematan 84.5% pada Opsi B menjadikannya pilihan ideal untuk pemindaian CI/CD harian, sementara Opsi A dapat dicadangkan untuk audit keamanan kuartalan pada repositori core banking atau sistem kritis lainnya. Namun, biaya bukanlah satu-satunya metrik kesiapan produksi.

1. Manajemen Kuota Vertex AI: Memproses 500 Juta token per bulan membutuhkan perencanaan kuota Tokens Per Minute (TPM) dan Requests Per Minute (RPM) yang cermat di Vertex AI. Jika pipeline CI/CD memicu ratusan pemindaian serentak selama jam sibuk, Anda akan menghadapi HTTP 429 Too Many Requests. Sebagai guardrail, implementasikan antrean Pub/Sub di depan agen Cloud Run Mantis untuk meratakan beban (load leveling) dan memastikan konsumsi token tetap berada di bawah batas kuota region us-central1 atau asia-southeast1.
2. Kriteria Penerimaan Kerentanan (Vulnerability Acceptance Criteria): Seperti yang ditekankan dalam dokumentasi Mantis, Anda harus membangun cyber sandbox dengan kriteria yang jelas. Berikan konteks yang tepat kepada alat Anda. Misalnya, jika aplikasi Anda adalah utilitas CLI lokal, kerentanan di mana pengguna dapat membuat program mereka sendiri crash (Denial of Service lokal) mungkin merupakan risiko yang dapat diterima dan tidak boleh membuang siklus komputasi AI untuk diperbaiki. Konteks yang dikurasi manusia ini secara dramatis meningkatkan kualitas hasil.
3. Identity and Access Management (IAM) & Isolasi: Agen Mantis tidak boleh beroperasi dengan kredensial default. Gunakan Workload Identity Federation untuk memberikan agen akses read-only ke repositori kode, dan akses invoke khusus ke layanan sandbox. Sandbox itu sendiri harus berjalan di proyek Google Cloud yang terpisah secara logis (Pola Landing Zone), terputus dari VPC produksi utama, memastikan bahwa eksekusi exploit yang berhasil tidak pernah dapat berputar (pivot) ke data pelanggan yang sebenarnya.

Dengan menggabungkan kecerdasan agenik ADK 2.0, efisiensi hierarchical tree Mantis, dan infrastruktur zero-trust Google Cloud, enterprise kini dapat mengubah keamanan dari proses reaktif yang lambat menjadi keunggulan kompetitif yang beroperasi pada kecepatan mesin.