# AI Agent vs LLM: What Is the Difference?

> LLM adalah satu panggilan model stateless yang mengubah teks menjadi teks; AI agent adalah sistem di sekitarnya yang menambahkan loop, tools, dan memori untuk mengejar tujuan.

URL: https://www.matthewswong.com/id/blog/ai-agent-vs-llm-model/

- Author: Matthews Wong (https://www.matthewswong.com/id/about/)
- Published: 2026-08-05
- Updated: 2026-08-05
- Category: AI

> **Key takeaway:** LLM adalah model terlatih yang memprediksi teks satu panggilan API pada satu waktu dan tidak menyimpan memori antar panggilan. AI agent adalah sistem yang dibangun di sekitar model itu, yang menjalankan sebuah loop, memanggil tools, melacak state, dan mengejar sebuah tujuan dengan sejumlah otonomi. Model adalah otaknya; agent menambahkan loop, tools, dan memori.

Jika Anda membangun dengan AI saat ini, dua istilah sering dipakai seolah bermakna sama: model dan agent. Padahal keduanya berbeda. Salah membedakannya membuat fitur sederhana jadi terlalu rumit, sementara tugas yang sulit malah kurang dibangun.

Ringkasnya: large language model, atau LLM, adalah otak terlatih yang mengubah teks masuk menjadi teks keluar. AI agent adalah keseluruhan sistem yang Anda bungkus di sekitar otak itu agar bisa bertindak sendiri. Tulisan ini menarik garis pemisahnya dengan jelas, lalu menunjukkan kapan masing-masing tepat digunakan.

## Apa Itu LLM Sebenarnya

LLM adalah jaringan saraf yang dilatih pada teks dalam jumlah besar. Pada intinya ia melakukan satu hal: dari teks yang ada, ia memprediksi token berikutnya, lalu berikutnya, sampai berhenti. Wikipedia menggambarkan sebagian besar model dasar sebagai prediktor token berikutnya sebelum di-fine-tune.

Anda mengakses LLM melalui sebuah panggilan API. Anda mengirim prompt, menerima kembali sebuah completion, dan panggilan itu berakhir. Model tidak menyimpan memori tentang permintaan itu setelah selesai. Ia tidak bisa mengeklik tautan, membaca berkas, atau menjalankan kode sendiri. Setiap panggilan bersifat independen dan stateless.

- Ia memetakan teks masuk ke teks keluar dalam satu proses inferensi, tanpa efek samping.
- Ia stateless per panggilan, sehingga riwayat apa pun harus dikirim ulang pada prompt berikutnya.
- Dengan sendirinya ia tidak bisa bertindak di dunia nyata, hanya menghasilkan teks.

## Apa yang Ditambahkan AI Agent

AI agent adalah sistem yang menempatkan LLM di dalam sebuah loop. Anthropic menggambarkan agent sebagai sistem tempat model secara dinamis mengarahkan prosesnya sendiri dan penggunaan tools, memperoleh umpan balik dari tiap langkah untuk menentukan tindakan berikutnya. Polanya adalah amati, putuskan, bertindak, lalu ulangi.

Agar loop itu berguna, agent memberi model tiga hal yang tidak dimiliki panggilan API biasa: tools yang bisa dipanggil, memori yang membawa state antar langkah, dan lingkungan yang bisa diamati dan diubah. Tools diekspos melalui function calling, tempat model mengembalikan permintaan terstruktur untuk menjalankan sebuah fungsi, lalu kode Anda mengeksekusinya dan mengumpankan hasilnya kembali.

> Anggap tools sebagai tangan agent dan memori sebagai buku catatannya. Model tetap hanya menghasilkan teks, tetapi teks itu kini bisa menyebut tool yang harus dijalankan, dan loop mengubah hasilnya menjadi input berikutnya.

## Perbedaan Utama Sekilas

Perbedaannya bersifat arsitektural, bukan soal ukuran model. LLM yang sama bisa menggerakkan satu panggilan atau sebuah agent; yang berubah adalah mesin di sekitarnya.

- Cakupan: LLM adalah satu panggilan inferensi; agent adalah sistem berjalan yang bisa membuat banyak panggilan.
- State: LLM lupa setelah tiap panggilan; agent menyimpan memori dan konteks antar langkah.
- Tindakan: LLM hanya mengeluarkan teks; agent bisa memanggil tools yang membaca berkas, mengakses API, atau menjalankan kode.
- Otonomi: LLM melakukan tepat satu giliran; agent menentukan langkah berikutnya sendiri sampai tujuan atau kondisi berhenti tercapai.

## Kapan Anda Butuh Agent

Sebagian besar tugas tidak butuh agent. Jika pekerjaannya satu transformasi yang jelas, seperti ringkas teks ini, klasifikasikan tiket ini, atau susun balasan ini, satu panggilan model lebih murah, lebih cepat, dan jauh lebih mudah di-debug. Panduan Anthropic sendiri menyarankan menambah kompleksitas agent hanya ketika terbukti memperbaiki hasil.

Anda beralih ke agent ketika tugasnya terbuka dan langkah-langkahnya belum diketahui di awal: riset yang mencakup banyak sumber, perubahan kode yang perlu membaca dan menyunting berkas lalu menjalankan ulang tes, atau alur kerja yang harus bereaksi terhadap hasil begitu muncul. Ketika model butuh data langsung atau tindakan nyata di antara langkah, loop itu sepadan.

> Agent melipatgandakan biaya dan titik kegagalan. Setiap iterasi loop adalah panggilan model lain, peluang lain untuk memanggil tool yang salah atau lepas kendali, jadi mulailah dengan panggilan biasa dan tambahkan loop, tools, serta memori hanya bila satu panggilan tidak cukup.

## Poin Praktis untuk Membangun

Sesuaikan arsitektur dengan tugas, bukan dengan tren. Mulai sederhana, ukur, dan naikkan ke agent hanya ketika satu panggilan terbukti kurang. Jaga agar tools sedikit dan dijelaskan dengan baik supaya model memilihnya dengan andal.

- Default ke satu panggilan model; perlakukan loop agent sebagai pengecualian yang harus Anda justifikasi.
- Beri agent tujuan yang jelas dan batas berhenti yang tegas, seperti batas langkah atau anggaran, agar tidak berputar selamanya.
- Jaga definisi tool tetap ringkas dan diberi nama jelas; model memilih tools dari deskripsinya.

Garisnya sederhana begitu Anda melihatnya: LLM adalah modelnya, satu panggilan stateless yang mengubah teks menjadi teks, sedangkan AI agent adalah sistem di sekitarnya yang menambahkan loop, tools, dan memori untuk mengejar sebuah tujuan. Pilih panggilan model untuk tugas yang jelas, dan agent hanya ketika pekerjaannya benar-benar terbuka.

| Aspek | LLM (modelnya) | AI agent (sistemnya) |
| --- | --- | --- |
| Apa itu | Prediktor token berikutnya yang terlatih | Model yang dibungkus loop kendali |
| State antar langkah | Tidak ada; stateless per panggilan | Menyimpan memori dan konteks |
| Tools / tindakan | Hanya keluaran teks | Memanggil tools, API, dan kode |
| Otonomi | Satu giliran, lalu berhenti | Menentukan langkah berikutnya sendiri |
| Contoh khas | Meringkas satu paragraf | Riset dan menyunting kode lintas berkas |

## Sumber dan bacaan lanjutan

- Anthropic Engineering — Building Effective Agents
- Wikipedia — Large language model
- Wikipedia — Intelligent agent
- OpenAI Platform — Function calling guide
- Anthropic Docs — Tool use overview

## Source links

- https://www.anthropic.com/engineering/building-effective-agents
- https://en.wikipedia.org/wiki/Large_language_model
- https://en.wikipedia.org/wiki/Intelligent_agent
- https://developers.openai.com/api/docs/guides/function-calling
- https://platform.claude.com/docs/en/docs/agents-and-tools/tool-use/overview

## FAQ

### Apa perbedaan antara AI agent dan LLM?

LLM adalah model terlatih yang memprediksi teks untuk satu input lalu berhenti, tanpa menyimpan memori antar panggilan. AI agent adalah sistem lebih besar yang membungkus model dalam sebuah loop, memberinya tools, memori, dan tujuan sehingga bisa mengambil beberapa langkah sendiri. Singkatnya, LLM adalah otaknya, dan agent adalah otak ditambah loop, tools, serta memori.

### Apakah AI agent hanya LLM yang lebih besar?

Tidak. Agent tidak membutuhkan model yang lebih besar; ia adalah arsitektur di sekitar model. LLM yang sama bisa melayani satu panggilan API atau berada di dalam loop agent. Yang menjadikannya agent adalah mesin di sekitarnya, yaitu tools, memori, dan loop keputusan, bukan ukuran modelnya.

### Apakah saya selalu butuh agent untuk memakai LLM?

Tidak, dan sebagian besar tugas tidak membutuhkannya. Jika tugas Anda satu transformasi yang jelas seperti meringkas atau mengklasifikasikan teks, satu panggilan model lebih murah, lebih cepat, dan lebih mudah di-debug. Gunakan agent hanya ketika pekerjaannya terbuka dan memerlukan beberapa langkah atau tindakan nyata di antaranya.

### Apa hubungan function calling dengan agent?

Function calling adalah cara model meminta memakai sebuah tool. Model mengembalikan permintaan terstruktur yang menyebut nama fungsi dan argumennya, kode Anda menjalankannya, lalu hasilnya diumpankan kembali ke model. Putaran tool-use inilah yang diulang oleh loop agent untuk berinteraksi dengan dunia.

### Apa yang membuat LLM bersifat stateless?

Setiap panggilan API LLM bersifat independen: Anda mengirim prompt, menerima completion, dan model tidak menyimpan apa pun sesudahnya. Untuk melanjutkan percakapan, Anda harus mengirim ulang pesan sebelumnya pada prompt berikutnya. Agent menambahkan lapisan memori justru untuk membawa state yang tidak disimpan model itu sendiri.

---

- HTML version: https://www.matthewswong.com/id/blog/ai-agent-vs-llm-model/
- English: https://www.matthewswong.com/en/blog/ai-agent-vs-llm-model/
- Site index for agents: https://www.matthewswong.com/llms.txt
- Sitemap: https://www.matthewswong.com/sitemap.xml
- API description (OpenAPI): https://www.matthewswong.com/openapi.json