AI
AI Agent vs LLM: What Is the Difference?
Agustus 20268 menit baca
LLM adalah model terlatih yang memprediksi teks untuk satu input lalu berhenti, tanpa menyimpan memori antar panggilan. AI agent adalah sistem lebih besar yang membungkus model dalam sebuah loop, memberinya tools, memori, dan tujuan sehingga bisa mengambil beberapa langkah sendiri. Singkatnya, LLM adalah otaknya, dan agent adalah otak ditambah loop, tools, serta memori.
Tidak. Agent tidak membutuhkan model yang lebih besar; ia adalah arsitektur di sekitar model. LLM yang sama bisa melayani satu panggilan API atau berada di dalam loop agent. Yang menjadikannya agent adalah mesin di sekitarnya, yaitu tools, memori, dan loop keputusan, bukan ukuran modelnya.
Tidak, dan sebagian besar tugas tidak membutuhkannya. Jika tugas Anda satu transformasi yang jelas seperti meringkas atau mengklasifikasikan teks, satu panggilan model lebih murah, lebih cepat, dan lebih mudah di-debug. Gunakan agent hanya ketika pekerjaannya terbuka dan memerlukan beberapa langkah atau tindakan nyata di antaranya.
Function calling adalah cara model meminta memakai sebuah tool. Model mengembalikan permintaan terstruktur yang menyebut nama fungsi dan argumennya, kode Anda menjalankannya, lalu hasilnya diumpankan kembali ke model. Putaran tool-use inilah yang diulang oleh loop agent untuk berinteraksi dengan dunia.
Setiap panggilan API LLM bersifat independen: Anda mengirim prompt, menerima completion, dan model tidak menyimpan apa pun sesudahnya. Untuk melanjutkan percakapan, Anda harus mengirim ulang pesan sebelumnya pada prompt berikutnya. Agent menambahkan lapisan memori justru untuk membawa state yang tidak disimpan model itu sendiri.
Ringkasan Utama
LLM adalah model terlatih yang memprediksi teks satu panggilan API pada satu waktu dan tidak menyimpan memori antar panggilan. AI agent adalah sistem yang dibangun di sekitar model itu, yang menjalankan sebuah loop, memanggil tools, melacak state, dan mengejar sebuah tujuan dengan sejumlah otonomi. Model adalah otaknya; agent menambahkan loop, tools, dan memori.
Jika Anda membangun dengan AI saat ini, dua istilah sering dipakai seolah bermakna sama: model dan agent. Padahal keduanya berbeda. Salah membedakannya membuat fitur sederhana jadi terlalu rumit, sementara tugas yang sulit malah kurang dibangun.
Ringkasnya: large language model, atau LLM, adalah otak terlatih yang mengubah teks masuk menjadi teks keluar. AI agent adalah keseluruhan sistem yang Anda bungkus di sekitar otak itu agar bisa bertindak sendiri. Tulisan ini menarik garis pemisahnya dengan jelas, lalu menunjukkan kapan masing-masing tepat digunakan.
LLM adalah jaringan saraf yang dilatih pada teks dalam jumlah besar. Pada intinya ia melakukan satu hal: dari teks yang ada, ia memprediksi token berikutnya, lalu berikutnya, sampai berhenti. Wikipedia menggambarkan sebagian besar model dasar sebagai prediktor token berikutnya sebelum di-fine-tune.
Anda mengakses LLM melalui sebuah panggilan API. Anda mengirim prompt, menerima kembali sebuah completion, dan panggilan itu berakhir. Model tidak menyimpan memori tentang permintaan itu setelah selesai. Ia tidak bisa mengeklik tautan, membaca berkas, atau menjalankan kode sendiri. Setiap panggilan bersifat independen dan stateless.
AI agent adalah sistem yang menempatkan LLM di dalam sebuah loop. Anthropic menggambarkan agent sebagai sistem tempat model secara dinamis mengarahkan prosesnya sendiri dan penggunaan tools, memperoleh umpan balik dari tiap langkah untuk menentukan tindakan berikutnya. Polanya adalah amati, putuskan, bertindak, lalu ulangi.
Agar loop itu berguna, agent memberi model tiga hal yang tidak dimiliki panggilan API biasa: tools yang bisa dipanggil, memori yang membawa state antar langkah, dan lingkungan yang bisa diamati dan diubah. Tools diekspos melalui function calling, tempat model mengembalikan permintaan terstruktur untuk menjalankan sebuah fungsi, lalu kode Anda mengeksekusinya dan mengumpankan hasilnya kembali.
Bagaimana panggilan LLM biasa dibandingkan dengan AI agent penuh di lima dimensi.
| Aspek | LLM (modelnya) | AI agent (sistemnya) |
|---|---|---|
| Apa itu | Prediktor token berikutnya yang terlatih | Model yang dibungkus loop kendali |
| State antar langkah | Tidak ada; stateless per panggilan | Menyimpan memori dan konteks |
| Tools / tindakan | Hanya keluaran teks | Memanggil tools, API, dan kode |
| Otonomi | Satu giliran, lalu berhenti | Menentukan langkah berikutnya sendiri |
| Contoh khas | Meringkas satu paragraf | Riset dan menyunting kode lintas berkas |
Anggap tools sebagai tangan agent dan memori sebagai buku catatannya. Model tetap hanya menghasilkan teks, tetapi teks itu kini bisa menyebut tool yang harus dijalankan, dan loop mengubah hasilnya menjadi input berikutnya.
Perbedaannya bersifat arsitektural, bukan soal ukuran model. LLM yang sama bisa menggerakkan satu panggilan atau sebuah agent; yang berubah adalah mesin di sekitarnya.
Sebagian besar tugas tidak butuh agent. Jika pekerjaannya satu transformasi yang jelas, seperti ringkas teks ini, klasifikasikan tiket ini, atau susun balasan ini, satu panggilan model lebih murah, lebih cepat, dan jauh lebih mudah di-debug. Panduan Anthropic sendiri menyarankan menambah kompleksitas agent hanya ketika terbukti memperbaiki hasil.
Anda beralih ke agent ketika tugasnya terbuka dan langkah-langkahnya belum diketahui di awal: riset yang mencakup banyak sumber, perubahan kode yang perlu membaca dan menyunting berkas lalu menjalankan ulang tes, atau alur kerja yang harus bereaksi terhadap hasil begitu muncul. Ketika model butuh data langsung atau tindakan nyata di antara langkah, loop itu sepadan.
Agent melipatgandakan biaya dan titik kegagalan. Setiap iterasi loop adalah panggilan model lain, peluang lain untuk memanggil tool yang salah atau lepas kendali, jadi mulailah dengan panggilan biasa dan tambahkan loop, tools, serta memori hanya bila satu panggilan tidak cukup.
Sesuaikan arsitektur dengan tugas, bukan dengan tren. Mulai sederhana, ukur, dan naikkan ke agent hanya ketika satu panggilan terbukti kurang. Jaga agar tools sedikit dan dijelaskan dengan baik supaya model memilihnya dengan andal.
Garisnya sederhana begitu Anda melihatnya: LLM adalah modelnya, satu panggilan stateless yang mengubah teks menjadi teks, sedangkan AI agent adalah sistem di sekitarnya yang menambahkan loop, tools, dan memori untuk mengejar sebuah tujuan. Pilih panggilan model untuk tugas yang jelas, dan agent hanya ketika pekerjaannya benar-benar terbuka.