Context engineering adalah keterampilan menyusun seluruh informasi yang dikirim ke AI: instruksi, dokumen referensi, contoh, riwayat percakapan, dan hasil dari tools. Kalau prompting soal cara bertanya, context engineering soal apa saja yang AI lihat saat menjawab. Untuk pekerjaan berulang, chatbot, atau AI agent, kualitas konteks menentukan apakah jawaban AI konsisten atau berubah-ubah.
Bedanya dengan Prompt Engineering
| Prompt engineering | Context engineering | |
|---|---|---|
| Fokus | Kalimat perintah | Seluruh isi jendela konteks |
| Skala | Satu permintaan | Alur kerja, aplikasi, agent |
| Pertanyaan utama | Bagaimana meminta dengan jelas? | Informasi apa yang perlu ada, dan apa yang harus dibuang? |
| Contoh | "Ringkas dalam 3 poin" | Memilih 3 dokumen relevan dari 500, lalu menyusunnya sebelum pertanyaan |
Keduanya saling melengkapi. Prompt yang sempurna tetap menghasilkan jawaban buruk kalau dokumennya salah, dan dokumen yang tepat tetap sia-sia kalau instruksinya kabur.
Kenapa Context Engineering Makin Penting
Model sekarang bisa membaca ratusan ribu token sekaligus. Godaannya: tempel saja semuanya. Masalahnya, konteks yang terlalu banyak justru menurunkan kualitas:
- Informasi penting tenggelam. Riset tentang model bahasa menunjukkan bagian di tengah konteks panjang lebih sering terlewat dibanding bagian awal dan akhir.
- Informasi yang saling bertentangan, misalnya dua versi kebijakan, membuat AI memilih salah satu secara acak.
- Biaya dan waktu naik karena setiap token diproses dan ditagih.
Jadi tujuannya bukan konteks sebanyak mungkin, tapi konteks yang paling relevan dengan tugas.
Lima Komponen Konteks
1. Instruksi sistem
Aturan tetap yang berlaku untuk setiap jawaban: peran, gaya bahasa, hal yang tidak boleh, dan format keluaran. Tulis sekali, uji, lalu jangan diubah sembarangan. Di ChatGPT ini setara dengan Custom Instructions atau GPT khusus; di Claude setara dengan instruksi Project.
2. Pengetahuan referensi
Dokumen yang menjadi dasar jawaban: SOP, katalog produk, kebijakan, atau dokumentasi teknis. Pilih yang relevan saja. Untuk koleksi besar, gunakan RAG agar hanya potongan yang cocok yang diambil.
3. Contoh
Dua atau tiga contoh masukan dan keluaran yang benar mengajarkan pola lebih cepat daripada aturan panjang. Pilih contoh yang mewakili kasus berbeda, bukan tiga contoh yang mirip.
4. Riwayat dan memori
Apa yang sudah dibahas dan diputuskan sebelumnya. Riwayat penuh jarang dibutuhkan; ringkasan keputusan biasanya cukup dan jauh lebih hemat.
5. Hasil tools
Untuk AI agent, hasil pencarian, isi file, atau respons API ikut masuk konteks. Hasil tools yang terlalu panjang perlu dipangkas sebelum dikirim kembali ke model. Standar seperti Model Context Protocol mengatur cara AI mengambil konteks dari tools.
Contoh Praktis: Asisten Balas Chat Pelanggan
Misalkan toko online ingin AI membantu admin membalas pertanyaan pelanggan di WhatsApp. Konteks yang disusun dengan baik:
[INSTRUKSI]
Kamu membantu admin Toko Rapi membalas chat pelanggan.
Bahasa santai sopan, maksimal 3 kalimat, sapa dengan "Kak".
Kalau informasi tidak ada di DATA, jawab: "Sebentar ya Kak,
saya cek dulu" dan tandai [PERLU ADMIN]. Jangan menjanjikan diskon.
[DATA]
Ongkir: gratis untuk Jabodetabek di atas Rp150.000.
Pengiriman: dikirim H+1 setelah pembayaran, kecuali Minggu.
Retur: maksimal 3 hari setelah barang diterima, wajib video unboxing.
[CONTOH]
Pelanggan: Kak bisa COD?
Jawaban: Maaf Kak, saat ini belum ada COD. Pembayaran bisa lewat
transfer atau QRIS ya. [PERLU ADMIN: tidak]
[CHAT PELANGGAN]
{pesan}Perhatikan yang tidak ada di sana: seluruh katalog 300 produk, riwayat chat seminggu, dan kebijakan internal yang tidak relevan untuk pelanggan.
Prinsip Menyusun Konteks
- Relevan lebih penting dari lengkap. Setiap potongan harus menjawab: apakah AI butuh ini untuk tugas ini?
- Beri label dan pembatas. Bagian seperti [INSTRUKSI], [DATA], dan [CONTOH] membantu model membedakan perintah dan bahan.
- Taruh hal penting di awal atau akhir. Instruksi kunci di awal, pertanyaan atau tugas di akhir.
- Satu sumber kebenaran. Kalau ada dua versi dokumen, kirim yang terbaru saja.
- Ringkas riwayat secara berkala. Untuk sesi panjang, ganti riwayat dengan ringkasan keputusan.
- Atur jalur "tidak tahu". Beri AI cara aman untuk mengaku tidak tahu, seperti tanda [PERLU ADMIN] di contoh tadi. Tanpa jalur itu, AI cenderung mengarang.
Kesalahan yang Sering Terjadi
- Menempel semua dokumen "biar aman". Hasilnya lambat, mahal, dan jawaban malah kurang tepat.
- Instruksi tersebar di banyak pesan. Aturan yang ditulis di pesan ke-3, ke-12, dan ke-20 mudah terlupa. Kumpulkan di instruksi sistem.
- Tidak pernah menguji ulang. Setiap kali dokumen atau instruksi berubah, uji dengan 5 sampai 10 pertanyaan contoh yang sama untuk memastikan jawabannya tidak memburuk.
Langkah Berikutnya
Mulai dari pekerjaan yang paling sering kamu ulang. Tulis instruksi sistemnya, kumpulkan dua contoh terbaik, dan simpan sebagai template. Kalau ingin menerapkan konteks ini di alur kerja dengan banyak langkah, baca multi-agent workflow. Untuk menghemat biaya dari konteks yang rapi, lihat cara hemat token AI.
