# Rekayasa Prompt untuk Produksi: Di Luar Dasar-Dasar > Rekayasa prompt produksi berbeda dari rekayasa prompt tutorial — version control, pengujian, pencegahan regresi, dan pola yang benar-benar meningkatkan keandalan. URL: https://www.matthewswong.com/id/blog/prompt-engineering-production/ - Author: Matthews Wong (https://www.matthewswong.com/id/about/) - Published: 2025-06-10 - Updated: 2025-06-10 - Category: AI Setiap posting blog tentang rekayasa prompt mencakup chain-of-thought, contoh few-shot, dan instruksi peran. Itu baik untuk demo. Prompt produksi memiliki persyaratan berbeda: mereka perlu di-versi, diuji, dipantau untuk regresi, dan dioptimalkan untuk biaya. Setelah enam bulan menjalankan fitur LLM di produksi di AI Gymbro, saya telah mengembangkan serangkaian praktik yang membuat rekayasa prompt benar-benar berskala. ## Memperlakukan Prompt sebagai Kode: Version Control Kesalahan terbesar yang saya buat di awal adalah menyimpan prompt secara inline dalam kode aplikasi — template string yang terkubur dalam fungsi layanan. Perbaikannya: perlakukan prompt sebagai artefak dengan versioning mereka sendiri. Saya menyimpan prompt di direktori prompts/ sebagai file Markdown dengan header YAML frontmatter yang berisi versi, model, max_tokens, temperature. ### Templating Prompt dan Injeksi Variabel Gunakan pustaka template yang tepat: Handlebars (JavaScript) atau Jinja2 (Python) memberi Anda partial (komponen prompt yang dapat digunakan kembali), bagian kondisional (hanya sertakan blok konteks RAG jika konteks ada), dan konstruksi loop. Ekstrak komponen prompt umum ke partial bersama yang semua prompt impor. ### Manajemen Contoh Few-Shot Simpan contoh dalam direktori examples/ terpisah, ditandai dengan prompt yang mereka miliki dan tanggal validitas. Tinjau dan segarkan contoh setiap kuartal. Untuk produksi, pilih contoh few-shot secara dinamis berdasarkan kesamaan dengan permintaan saat ini menggunakan pencarian vektor kecil. > Pola rekayasa prompt paling andal yang saya temukan untuk output terstruktur adalah menyediakan format output sebagai contoh lengkap dalam prompt, bukan sebagai deskripsi JSON Schema. Model mengikuti contoh lebih baik daripada schema, dan Anda menangkap pelanggaran format sebelum mencapai parser JSON Anda. ## Pengujian Prompt: Pencegahan Regresi Masalah prompt produksi paling umum adalah regresi: perubahan prompt yang meningkatkan perilaku pada kasus yang gagal menurunkan perilaku pada kasus yang sebelumnya bekerja. Saya memelihara direktori evals/ dengan kasus uji. Jalankan evals pada setiap perubahan prompt menggunakan langkah CI. ### Optimasi Prompt Otomatis Setelah Anda memiliki suite uji, Anda dapat menggunakan optimasi prompt otomatis: alat seperti DSPy (Stanford) yang secara otomatis menghasilkan dan menguji variasi prompt. Saya menggunakan DSPy untuk mengoptimalkan prompt rekomendasi latihan saya dan mendapatkan peningkatan 22% dalam skor eval. > **Temperature 0 Tidak Selalu yang Anda Inginkan** > Menyetel temperature ke 0 adalah saran umum untuk prompt produksi. Tetapi temperature 0 dapat menyebabkan degradasi kualitas dengan memperkuat perubahan prompt kecil dan menghasilkan output yang terlalu percaya diri. Saya menggunakan temperature 0,1 sebagai default untuk prompt produksi saya — hampir deterministik, tetapi dengan cukup variansi untuk menghindari mode kegagalan deterministik. ## Optimasi Biaya Melalui Rekayasa Prompt Prompt yang lebih baik seringkali adalah prompt yang lebih pendek. Saya menjalankan audit prompt pada system prompt AI Gymbro saya dan menguranginya dari 1.100 token menjadi 620 token tanpa degradasi kualitas yang terukur. Itu 480 token lebih sedikit per permintaan — pada 10.000 permintaan/hari, itu 4,8 juta token/hari yang dihemat. ## Perbedaan Prompt Spesifik Model Prompt tidak ditransfer sempurna antara model. Prompt yang dioptimalkan untuk GPT-4o seringkali akan berkinerja buruk pada Claude dan sebaliknya. Saat Anda memigrasikan prompt dari satu model ke model lain, anggaran waktu untuk re-optimasi. ## Membangun Praktik Prompt Ops Jangka panjang, mengelola prompt pada skala memerlukan memperlakukannya seperti perangkat lunak: version control (Git), pengujian (evals), CI/CD (jalankan eval otomatis pada perubahan), observabilitas (log versi prompt di samping panggilan LLM), dan proses review perubahan. ## Sumber & Bacaan Lanjutan - Stanford NLP — DSPy: Compiling Declarative Language Model Calls — https://github.com/stanfordnlp/dspy - PromptFoo — Pengujian dan Evaluasi Prompt — https://promptfoo.dev/docs/intro - Anthropic — Panduan Rekayasa Prompt — https://docs.anthropic.com/en/docs/build-with-claude/prompt-engineering/overview ## Source links - https://github.com/stanfordnlp/dspy - https://promptfoo.dev/docs/intro - https://docs.anthropic.com/en/docs/build-with-claude/prompt-engineering/overview ## FAQ ### Mengapa prompt produksi harus di-versi secara terpisah dari kode aplikasi? Menyimpan prompt secara inline sebagai string template yang terkubur dalam fungsi layanan membuat mereka sulit dilacak, ditinjau, dan di-rollback. Memperlakukan prompt sebagai artefak di direktori prompts/ tersendiri dengan frontmatter YAML (versi, model, max_tokens, temperature) memberi mereka auditabilitas yang sama seperti perubahan kode lainnya. Ini juga memungkinkan proses review 'prompt PR' sehingga setiap perubahan bersifat disengaja dan terlihat. ### Apa itu regresi prompt dan bagaimana cara mencegahnya? Regresi prompt terjadi ketika perubahan yang memperbaiki satu kasus yang gagal secara diam-diam merusak kasus yang sebelumnya bekerja. Solusinya adalah memelihara direktori evals/ berisi kasus uji dan menjalankannya di setiap perubahan prompt sebagai langkah CI, sehingga regresi terdeteksi sebelum mencapai produksi. Pendekatan ini mencerminkan cara pengujian perangkat lunak mencegah regresi kode. ### Mengapa post ini merekomendasikan temperature 0,1 daripada temperature 0 untuk produksi? Menyetel temperature ke 0 memperkuat efek perubahan prompt kecil dan dapat menghasilkan output yang terlalu percaya diri, yang lebih sulit di-debug. Nilai 0,1 hampir deterministik tetapi memperkenalkan cukup variansi untuk menghindari mode kegagalan deterministik ini, menjadikannya default yang lebih aman untuk prompt produksi. ### Bagaimana optimasi prompt mengurangi biaya token pada system prompt AI Gymbro? Audit prompt pada system prompt AI Gymbro berhasil memangkasnya dari 1.100 token menjadi 620 token tanpa degradasi kualitas yang terukur — pengurangan 480 token per permintaan. Pada 10.000 permintaan per hari, ini berarti 4,8 juta token yang dihemat setiap harinya, membuktikan bahwa prompt yang lebih baik seringkali adalah prompt yang lebih pendek. ### Apakah prompt bisa digunakan ulang di berbagai model LLM tanpa perubahan? Tidak — prompt tidak ditransfer sempurna antara model. Claude merespons lebih baik terhadap instruksi berpikir langkah demi langkah yang eksplisit, GPT-4o cenderung mengikuti instruksi format secara lebih harfiah, dan model Gemini merespons baik terhadap contoh output yang eksplisit. Saat memigrasikan prompt dari satu model ke model lain, alokasikan waktu khusus untuk re-optimasi. --- - HTML version: https://www.matthewswong.com/id/blog/prompt-engineering-production/ - English: https://www.matthewswong.com/en/blog/prompt-engineering-production/ - Site index for agents: https://www.matthewswong.com/llms.txt - Sitemap: https://www.matthewswong.com/sitemap.xml - API description (OpenAPI): https://www.matthewswong.com/openapi.json