Blog

Pemikiran & Cerita

Berbagi pengalaman, pembelajaran, dan petualangan saya di dunia teknologi dan lainnya.

Jelajahi Berdasarkan Topik

DevOps & Infrastruktur Cloud (193)AI & LLM (143)Backend & API (102)Pengembangan Web (90)Sistem ERP (77)Keamanan (65)Pengembangan Perangkat Lunak (58)Refleksi Karier (29)Cloud (29)AI / Machine Learning (18)Produk & SaaS (12)Universitas (1)Hackathon (1)

DevOpsOktober 202611 menit baca

Gateway API Inference Extension: EPP Moves to llm-d, What Now

Catatan migrasi Endpoint Picker dan Body Based Router yang pindah ke llm-d: apa yang tetap di repo SIG, pemetaan key Helm, perilaku fail-open, dan checklist hari Senin.

Baca Selengkapnya

DevOpsOktober 202612 menit baca

llm-d di Kubernetes: Distributed Inference dan Hardening v0.10

llm-d menambah router yang paham LLM di atas vLLM dan Gateway API Inference Extension. Saya membaca catatan v0.10, values file, dan config shutdown-nya.

Baca Selengkapnya

AI/MLOktober 202612 menit baca

NVIDIA Dynamo di Kubernetes: Rust EPP dan Upgrade v1beta1

Yang berubah di Dynamo 1.5 bagi operator: Rust Endpoint Picker, storage CRD v1beta1, TLS dan mTLS untuk transport, deprecation KVBM, dan migrasi EPP blue/green yang aman.

Baca Selengkapnya

AI/MLOktober 202612 menit baca

DeepSeek V4.1 Flash di vLLM vs SGLang: Arti Angkanya

vLLM melaporkan throughput agentic 5x dan SGLang 35 sampai 873 token per detik untuk DeepSeek-V4.1-Flash. Pembacaan teliti kedua post: apa yang diukur, apa yang sebanding, dan apa yang layak ditiru.

Baca Selengkapnya

AI/MLOktober 202612 menit baca

SGLang Unified Radix Cache: Prefix Caching Model Hybrid

Cara Unified Radix Cache dan tier HiCache SGLang (GPU, host, Mooncake) membuat prefix caching bekerja untuk model hybrid attention dan Mamba, dengan angka nyata.

Baca Selengkapnya

AI/MLOktober 202612 menit baca

vllm-metal di Apple Silicon: Server vLLM Lokal untuk Mac

Apa yang dibawa vllm-metal ke Mac: continuous batching, paged KV cache, dan server OpenAI-compatible di atas MLX. Instalasi, memory budget, MTP, dan batasnya.

Baca Selengkapnya

Menampilkan 121–126 dari 818 artikel

Jelajahi Lainnya

Proyek

Lihat proyek yang saya bangun

Pengalaman

Perjalanan karier profesional saya

Sertifikasi

Sertifikasi profesional