Context Window Claude Code: Compaction dan Kendali Token

Ada satu momen di setiap sesi Claude Code yang panjang ketika semuanya melambat dan menjadi lebih mahal tanpa alasan yang terlihat. Anda bertanya hal kecil, jawabannya bagus, dan entah bagaimana giliran itu lebih mahal daripada refactor yang Anda kerjakan sejam lalu. Tidak ada yang rusak — Anda memang sedang membayar percakapannya, bukan pertanyaannya.

Memahami sebabnya membuat solusinya menjadi jelas, dan sebagian besar solusinya adalah kebiasaan, bukan setelan. Anthropic memublikasikan angka nyata di sini, dan angka itu layak dibaca sebelum mengoptimalkan apa pun.

Kenapa pemakaian membengkak di sesi panjang

Model mental yang penting: setiap permintaan membawa seluruh percakapan, dan setiap panggilan tool adalah permintaan lain yang membawa kumpulan hasil baru. Beberapa efek berbeda menumpuk di atasnya.

• Konteks panjang. Pertanyaan satu baris di sesi yang terbuka seharian tetap membawa seluruh riwayat, yang memang dibuat lebih murah oleh prompt caching tetapi tidak menjadi gratis.
• Cache miss. Pesan pertama setelah jeda lebih lama dari masa hidup cache memproses ulang semuanya — satu jam pada langganan, lima menit pada API key atau penyedia cloud secara default.
• Pekerjaan latar. Scheduled task dan pesan yang dikirim dari sesi lain masing-masing mengirim konteks penuh Anda, bahkan saat Anda menganggur.
• Rekan agen. Setiap teammate aktif adalah instans terpisah dengan jendelanya sendiri; dokumentasinya menyebut agent teams memakai kira-kira tujuh kali token sesi biasa ketika teammate berjalan dalam plan mode.

Sebagai kalibrasi, Anthropic melaporkan rata-rata sekitar tiga belas dolar per developer per hari aktif di penggelaran enterprise, dengan sembilan puluh persen pengguna di bawah tiga puluh dolar per hari aktif. Kalau Anda jauh di luar itu, penyebabnya biasanya sesi yang tak pernah dibersihkan atau model yang dibiarkan di tingkat termahal.

Compact, clear, rewind: tiga alat yang berbeda

Ketiganya sering dipertukarkan dalam percakapan padahal fungsinya benar-benar berbeda. Salah memilih adalah cara orang kehilangan pekerjaan atau membayar ringkasan yang sebenarnya tidak dibutuhkan.

Yang tidak kentara adalah asimetri biayanya. Compaction membaca percakapan yang diringkasnya, jadi meringkas konteks yang sangat besar itu sendiri permintaan besar, sementara membersihkan sesi gratis. Kalau Anda tidak butuh kesinambungan, bersihkan saja.

Mengarahkan compaction alih-alih menerimanya

Ringkasan generik mempertahankan hal yang salah. Anda bisa memberi tahu apa yang penting, baik per pemanggilan maupun sebagai instruksi tetap di berkas memori proyek.

# Steer what a compaction keeps, instead of accepting a generic summary
/compact Focus on the failing test output and the files we already edited

# Or make it the default for this repository, in CLAUDE.md:
#
#   # Compact instructions
#   When you are using compact, please focus on test output and code changes

# Starting unrelated work? Clearing is free; compacting is not.
/clear

# See where the context actually went before deciding
/context

Dalam pekerjaan saya sendiri, instruksi yang paling membantu adalah mempertahankan keluaran tes dan daftar berkas yang sudah diedit. Justru itulah detail yang cenderung dibuang ringkasan, dan kehilangannya berarti giliran berikutnya membaca ulang berkas yang sudah ia pahami.

Pindahkan instruksi keluar dari jendela

Perubahan dengan daya ungkit terbesar bukan mengelola konteks dengan lebih baik, melainkan memasukkan lebih sedikit ke dalamnya. Empat langkah, kira-kira berurut menurut imbal hasilnya.

• Jaga berkas memori proyek tetap pendek. Ia dimuat di awal setiap sesi, jadi instruksi alur kerja yang detail di sana tetap dibayar meski Anda sedang mengerjakan hal lain; panduannya menyarankan di bawah sekitar dua ratus baris.
• Pindahkan prosedur ke dalam skill. Skill hanya dimuat ketika dipanggil, yang mengubah biaya permanen menjadi biaya sesekali.
• Saring keluaran tool dengan hook. Hook yang mem-grep log sebelum Claude melihatnya mengubah puluhan ribu token menjadi ratusan.
• Delegasikan pekerjaan bertele-tele ke subagent, agar kebisingannya tinggal di jendela mereka dan hanya ringkasan yang kembali ke jendela Anda.

Pola di balik keempatnya sama: konteks seharusnya memuat apa yang dibutuhkan tugas saat ini, dan tidak memuat apa pun yang sekadar mungkin berguna. Sisanya harus bisa diambil sesuai kebutuhan.

Hook, skill, dan subagent dalam praktik

Satu contoh konkret lebih berharga daripada prinsipnya. Hook dengan imbal hasil tertinggi yang saya jalankan menyaring keluaran tes sehingga hanya kegagalan yang sampai ke model, karena menjalankan tes itu sering sekaligus sangat bertele-tele.

// settings.json — a PreToolUse hook that filters test output before it
// ever reaches the model. Tens of thousands of tokens become hundreds.
{
  "hooks": {
    "PreToolUse": [
      {
        "matcher": "Bash",
        "hooks": [
          { "type": "command", "command": "~/.claude/hooks/filter-test-output.sh" }
        ]
      }
    ]
  }
}

// The same idea in three other shapes:
//   a skill  -> domain knowledge on demand instead of exploration
//   a subagent -> verbose work in its own window, a summary comes back
//   a CLI tool -> gh, aws and psql add no per-tool listing to context

Dua kebiasaan terkait layak diadopsi bersamaan. Utamakan perkakas baris perintah dibanding integrasi bila keduanya ada, karena CLI tidak menambah daftar tool ke konteks. Dan pasang code intelligence untuk bahasa bertipe, sehingga satu lompat-ke-definisi menggantikan pencarian yang disusul membaca empat berkas kandidat.

Rutinitas kerja

Ini lingkar kerja yang benar-benar saya jalani, dan tidak butuh disiplin lagi begitu menjadi kebiasaan.

1. Satu sesi per tugas. Beri nama kalau layak dilanjutkan nanti, lalu bersihkan sebelum memulai hal yang tidak berhubungan.
2. Pakai plan mode untuk apa pun yang tidak sepele, agar pengerjaan ulang yang mahal dihindari alih-alih diringkas.
3. Berhenti lebih awal ketika arahnya salah. Tekan escape, atau rewind ke checkpoint, alih-alih menjelaskan jalan keluar lewat percakapan.
4. Ringkas dengan instruksi ketika tugas panjang memang butuh kesinambungan, dan bersihkan ketika tidak.
5. Tinjau rincian pemakaian setiap minggu dan perbaiki apa pun yang ditandai mendominasi pemakaian terakhir.

Semua ini bukan soal berhemat demi berhemat. Konteks yang lebih ramping adalah konteks yang lebih tajam: model membelanjakan perhatiannya pada berkas yang penting alih-alih pada transkrip semua yang Anda kerjakan sejak sarapan.

Konteks adalah satu-satunya sumber daya dalam sesi agentik yang sepenuhnya Anda kendalikan, dan hampir semua keluhan biaya bermuara pada membiarkannya tumbuh tanpa pengawasan. Bersihkan antar tugas, jaga instruksi yang selalu dimuat tetap pendek, saring keluaran bertele-tele sebelum tiba, dan compaction berubah menjadi peristiwa langka alih-alih pajak berulang.