Ringkasan Utama
LLM adalah model terlatih yang memprediksi teks satu panggilan API pada satu waktu dan tidak menyimpan memori antar panggilan. AI agent adalah sistem yang dibangun di sekitar model itu, yang menjalankan sebuah loop, memanggil tools, melacak state, dan mengejar sebuah tujuan dengan sejumlah otonomi. Model adalah otaknya; agent menambahkan loop, tools, dan memori.
Jika Anda membangun dengan AI saat ini, dua istilah sering dipakai seolah bermakna sama: model dan agent. Padahal keduanya berbeda. Salah membedakannya membuat fitur sederhana jadi terlalu rumit, sementara tugas yang sulit malah kurang dibangun.
Ringkasnya: large language model, atau LLM, adalah otak terlatih yang mengubah teks masuk menjadi teks keluar. AI agent adalah keseluruhan sistem yang Anda bungkus di sekitar otak itu agar bisa bertindak sendiri. Tulisan ini menarik garis pemisahnya dengan jelas, lalu menunjukkan kapan masing-masing tepat digunakan.
Apa Itu LLM Sebenarnya
LLM adalah jaringan saraf yang dilatih pada teks dalam jumlah besar. Pada intinya ia melakukan satu hal: dari teks yang ada, ia memprediksi token berikutnya, lalu berikutnya, sampai berhenti. Wikipedia menggambarkan sebagian besar model dasar sebagai prediktor token berikutnya sebelum di-fine-tune.
Anda mengakses LLM melalui sebuah panggilan API. Anda mengirim prompt, menerima kembali sebuah completion, dan panggilan itu berakhir. Model tidak menyimpan memori tentang permintaan itu setelah selesai. Ia tidak bisa mengeklik tautan, membaca berkas, atau menjalankan kode sendiri. Setiap panggilan bersifat independen dan stateless.
- Ia memetakan teks masuk ke teks keluar dalam satu proses inferensi, tanpa efek samping.
- Ia stateless per panggilan, sehingga riwayat apa pun harus dikirim ulang pada prompt berikutnya.
- Dengan sendirinya ia tidak bisa bertindak di dunia nyata, hanya menghasilkan teks.
Apa yang Ditambahkan AI Agent
AI agent adalah sistem yang menempatkan LLM di dalam sebuah loop. Anthropic menggambarkan agent sebagai sistem tempat model secara dinamis mengarahkan prosesnya sendiri dan penggunaan tools, memperoleh umpan balik dari tiap langkah untuk menentukan tindakan berikutnya. Polanya adalah amati, putuskan, bertindak, lalu ulangi.
Agar loop itu berguna, agent memberi model tiga hal yang tidak dimiliki panggilan API biasa: tools yang bisa dipanggil, memori yang membawa state antar langkah, dan lingkungan yang bisa diamati dan diubah. Tools diekspos melalui function calling, tempat model mengembalikan permintaan terstruktur untuk menjalankan sebuah fungsi, lalu kode Anda mengeksekusinya dan mengumpankan hasilnya kembali.
Bagaimana panggilan LLM biasa dibandingkan dengan AI agent penuh di lima dimensi.
| Aspek | LLM (modelnya) | AI agent (sistemnya) |
|---|---|---|
| Apa itu | Prediktor token berikutnya yang terlatih | Model yang dibungkus loop kendali |
| State antar langkah | Tidak ada; stateless per panggilan | Menyimpan memori dan konteks |
| Tools / tindakan | Hanya keluaran teks | Memanggil tools, API, dan kode |
| Otonomi | Satu giliran, lalu berhenti | Menentukan langkah berikutnya sendiri |
| Contoh khas | Meringkas satu paragraf | Riset dan menyunting kode lintas berkas |
Anggap tools sebagai tangan agent dan memori sebagai buku catatannya. Model tetap hanya menghasilkan teks, tetapi teks itu kini bisa menyebut tool yang harus dijalankan, dan loop mengubah hasilnya menjadi input berikutnya.
Perbedaan Utama Sekilas
Perbedaannya bersifat arsitektural, bukan soal ukuran model. LLM yang sama bisa menggerakkan satu panggilan atau sebuah agent; yang berubah adalah mesin di sekitarnya.
- Cakupan: LLM adalah satu panggilan inferensi; agent adalah sistem berjalan yang bisa membuat banyak panggilan.
- State: LLM lupa setelah tiap panggilan; agent menyimpan memori dan konteks antar langkah.
- Tindakan: LLM hanya mengeluarkan teks; agent bisa memanggil tools yang membaca berkas, mengakses API, atau menjalankan kode.
- Otonomi: LLM melakukan tepat satu giliran; agent menentukan langkah berikutnya sendiri sampai tujuan atau kondisi berhenti tercapai.
Kapan Anda Butuh Agent
Sebagian besar tugas tidak butuh agent. Jika pekerjaannya satu transformasi yang jelas, seperti ringkas teks ini, klasifikasikan tiket ini, atau susun balasan ini, satu panggilan model lebih murah, lebih cepat, dan jauh lebih mudah di-debug. Panduan Anthropic sendiri menyarankan menambah kompleksitas agent hanya ketika terbukti memperbaiki hasil.
Anda beralih ke agent ketika tugasnya terbuka dan langkah-langkahnya belum diketahui di awal: riset yang mencakup banyak sumber, perubahan kode yang perlu membaca dan menyunting berkas lalu menjalankan ulang tes, atau alur kerja yang harus bereaksi terhadap hasil begitu muncul. Ketika model butuh data langsung atau tindakan nyata di antara langkah, loop itu sepadan.
Agent melipatgandakan biaya dan titik kegagalan. Setiap iterasi loop adalah panggilan model lain, peluang lain untuk memanggil tool yang salah atau lepas kendali, jadi mulailah dengan panggilan biasa dan tambahkan loop, tools, serta memori hanya bila satu panggilan tidak cukup.
Poin Praktis untuk Membangun
Sesuaikan arsitektur dengan tugas, bukan dengan tren. Mulai sederhana, ukur, dan naikkan ke agent hanya ketika satu panggilan terbukti kurang. Jaga agar tools sedikit dan dijelaskan dengan baik supaya model memilihnya dengan andal.
- Default ke satu panggilan model; perlakukan loop agent sebagai pengecualian yang harus Anda justifikasi.
- Beri agent tujuan yang jelas dan batas berhenti yang tegas, seperti batas langkah atau anggaran, agar tidak berputar selamanya.
- Jaga definisi tool tetap ringkas dan diberi nama jelas; model memilih tools dari deskripsinya.
Garisnya sederhana begitu Anda melihatnya: LLM adalah modelnya, satu panggilan stateless yang mengubah teks menjadi teks, sedangkan AI agent adalah sistem di sekitarnya yang menambahkan loop, tools, dan memori untuk mengejar sebuah tujuan. Pilih panggilan model untuk tugas yang jelas, dan agent hanya ketika pekerjaannya benar-benar terbuka.