Kilas Berita: Siri AI is now open, Baseten Introduces Grid, Sandboxes, & Fireworks Launches Faster AI?

1. Apple Membuka Akses Siri AI untuk Seluruh Developer via iOS 27.3

Sorotan Berita:

Apple secara resmi membuka pintu bagi ekosistem pengembang pihak ketiga untuk mengintegrasikan aplikasi mereka dengan Siri AI melalui perilisan beta iOS 27.3, iPadOS 27.3, macOS 27.3, dan visionOS 27.3. Langkah ini menandai transformasi besar Siri dari sekadar asisten suara menjadi orchestrator cerdas yang mampu memahami konteks personal dan melakukan aksi kompleks di dalam aplikasi melalui natural language processing. Dengan Developer Preview ini, bisnis dapat memanfaatkan kapabilitas Siri yang lebih konversasional untuk meningkatkan interaksi pengguna, meskipun saat ini fitur tersebut masih dibatasi untuk wilayah di luar Uni Eropa dan pengguna di atas usia 13 tahun.

• Integrasi App Intents: Developer kini dapat mengekspos fungsi spesifik aplikasi mereka ke Siri AI, memungkinkan eksekusi perintah suara yang jauh lebih granular dan kontekstual.
• Dukungan Multibahasa: Peluncuran awal mencakup bahasa Inggris, Prancis, Jepang, Korea, Portugis, dan Spanyol, dengan rencana ekspansi ke bahasa Turki, Vietnam, dan lainnya dalam waktu dekat.
• Personal Context Understanding: Siri AI dapat mengakses data di dalam aplikasi (dengan izin pengguna) untuk memberikan jawaban yang relevan secara personal, bukan sekadar informasi umum dari web.
• Ketersediaan Platform: Fitur ini tersedia di seluruh ekosistem Apple, termasuk visionOS untuk komputasi spasial, memberikan konsistensi user experience di berbagai perangkat.

Analisis DO-AI:

Secara arsitektural, ini adalah pergeseran dari model "App-Centric" menuju "Agentic OS". Apple tidak lagi memposisikan Siri sebagai fitur tambahan, melainkan sebagai interface utama di mana aplikasi bertindak sebagai penyedia layanan (service providers). Bagi tim engineering, tantangan utamanya bukan lagi pada desain UI tradisional, melainkan pada kematangan implementasi App Intents dan struktur data yang dapat dikonsumsi oleh model AI Apple. Trade-off yang harus diperhatikan adalah ketergantungan pada walled garden Apple yang semakin dalam, namun dengan keuntungan latency rendah dan privasi data on-device yang sulit ditandingi oleh solusi cloud pihak ketiga.

• Sumber Utama: Siri AI is now open to all developers

2. Baseten Memperkenalkan Grid, Sandboxes, dan Serverless Loops untuk Agen AI

Sorotan Berita:

Baseten meluncurkan rangkaian produk baru yang dirancang untuk menjadi tulang punggung pengembangan agen AI modern: Grid, Sandboxes, dan Loops. Fokus utama dari rilis ini adalah memberikan kontrol penuh kepada developer atas seluruh siklus hidup model, mulai dari routing hingga eksekusi. Dengan Grid, perusahaan dapat mengelola tata kelola dan routing model secara efisien, sementara Sandboxes menyediakan lingkungan eksekusi yang terisolasi dan resumable untuk agen. Kehadiran Loops melengkapi ekosistem ini dengan menyediakan fasilitas serverless untuk supervised fine-tuning dan reinforcement learning, memastikan bahwa tim engineering tetap memiliki kepemilikan penuh atas bobot (weights) model yang mereka latih.

• Grid untuk Governance: Memungkinkan routing trafik antar model yang berbeda berdasarkan performa atau biaya, sekaligus menjaga standar keamanan data perusahaan.
• Resumable Sandboxes: Lingkungan VM yang terisolasi secara ketat untuk menjalankan kode yang dihasilkan oleh agen AI, dengan kemampuan untuk menyimpan dan melanjutkan state eksekusi.
• Serverless Loops: Memudahkan proses fine-tuning dan RLHF tanpa perlu mengelola infrastruktur GPU yang kompleks, mempercepat iterasi model dari eksperimen ke produksi.
• Data Sovereignty: Menjamin bahwa hasil pelatihan model tetap menjadi milik pelanggan, sebuah poin krusial bagi sektor enterprise yang sensitif terhadap kekayaan intelektual.

Analisis DO-AI:

Baseten sedang mencoba memecahkan masalah "Stateful AI". Selama ini, menjalankan agen AI yang kompleks sering terbentur pada masalah isolasi keamanan dan manajemen state saat eksekusi kode dinamis. Penggunaan resumable VM-isolated Sandboxes adalah solusi arsitektural yang sangat elegan untuk menangani long-running tasks tanpa membebani memori secara permanen. Rekomendasi saya untuk tim platform engineering adalah mengevaluasi Loops jika Anda memiliki kebutuhan fine-tuning spesifik industri namun tidak ingin terjebak dalam biaya overhead manajemen klaster GPU sendiri.

• Sumber Utama: The Building Blocks of the Open Frontier

3. Fireworks AI Forge: Inferensi Ultra-Cepat dan Infrastruktur Enterprise

Sorotan Berita:

Dalam konferensi tahunan Forge, Fireworks AI mengumumkan serangkaian inovasi yang menargetkan efisiensi dan kecepatan inferensi tingkat tinggi untuk kebutuhan enterprise. Salah satu sorotan utamanya adalah kemampuan inferensi "Ultra-fast" yang mampu mencapai kecepatan hingga 1.500 token per detik pada GPU NVIDIA Blackwell, yang didemonstrasikan menggunakan model DeepSeek V4.1 Flash. Selain kecepatan, Fireworks juga memperkenalkan Nexus, sebuah hub untuk mengakses berbagai model AI dalam satu alur kerja, serta alat bantu untuk evaluasi model dan deployment infrastruktur yang dikendalikan sepenuhnya oleh perusahaan, memberikan alternatif kuat bagi mereka yang ingin menghindari ketergantungan pada lab AI tertutup.

• Ultra-fast Inference: Mencapai 1.500 token/detik, secara dramatis mengurangi latency untuk aplikasi agen AI yang membutuhkan banyak panggilan model berurutan.
• Fireworks Nexus: Memungkinkan integrasi berbagai model (Meta, NVIDIA, Reflection AI) ke dalam tooling internal perusahaan dengan manajemen akses terpusat.
• Background Processing: Opsi pemrosesan data dengan biaya lebih rendah untuk tugas-tugas yang tidak memerlukan respon real-time, mengoptimalkan penggunaan budget GPU.
• Enterprise Control: Fitur baru untuk evaluasi model dan serving yang memungkinkan perusahaan menjalankan model di infrastruktur mereka sendiri dengan standar keamanan tinggi.

Analisis DO-AI:

Kecepatan 1.500 token per detik bukan sekadar metrik vanity; ini adalah enabler untuk arsitektur multi-agent reasoning yang sebelumnya dianggap terlalu lambat untuk user experience yang layak. Dengan throughput setinggi ini, kita bisa menjalankan proses chain-of-thought yang sangat dalam secara real-time. Dari perspektif arsitektur sistem, pemisahan antara Ultra-fast untuk hot-path dan background processing untuk batch jobs adalah pola desain yang wajib diadopsi untuk menjaga efisiensi biaya operasional (OpEx) di era AI-native.

• Sumber Utama: Fireworks unveils new products at Forge

Matriks Perbandingan Eksekutif Pagi Ini