Cara hemat token AI yang paling berpengaruh ada tiga: kirim konteks seperlunya, batasi panjang jawaban, dan pakai model yang sesuai tugas. Tiga kebiasaan itu saja bisa memangkas pemakaian token sampai separuhnya. Di bawah ini ada sembilan trik lengkap, contoh hitungan biaya dalam rupiah, dan kesalahan yang paling sering membuat tagihan membengkak.
Panduan ini berlaku untuk dua jenis pengguna: yang memakai API (bayar per token) dan yang berlangganan ChatGPT Plus atau Claude Pro (jatah pesan terbatas). Prinsipnya sama, karena jatah langganan juga dihitung dari banyaknya token yang diproses.
Apa Itu Token dan Kenapa Perlu Hemat Token AI
Token adalah potongan teks yang dibaca model. Satu token bisa berupa satu kata pendek, sebagian kata, atau tanda baca. Kata bahasa Indonesia yang panjang dan berimbuhan, seperti "mempertanggungjawabkan", biasanya dipecah menjadi beberapa token. Akibatnya, teks bahasa Indonesia umumnya memakai lebih banyak token per kata dibanding bahasa Inggris.
Yang dihitung selalu dua sisi:
- Input: instruksi, dokumen yang kamu tempel, dan seluruh riwayat percakapan yang dikirim ulang setiap kali kamu membalas.
- Output: jawaban yang ditulis AI. Di hampir semua penyedia API, harga token output beberapa kali lipat harga input.
Poin kedua penting: jawaban yang bertele-tele lebih mahal daripada prompt yang panjang.
Contoh Hitungan: Dari Rp290 Ribu Menjadi Rp150 Ribu per Hari
Misalkan kamu membuat fitur ringkasan tiket keluhan pelanggan dengan API. Kita pakai harga contoh USD 3 per 1 juta token input dan USD 15 per 1 juta token output, dengan kurs Rp16.000. Cek harga terbaru di halaman resmi penyedia, karena harga sering berubah.
| Skenario | Input per permintaan | Output per permintaan | Biaya 1.000 permintaan per hari |
|---|---|---|---|
| Sebelum dirapikan | 2.000 token | 800 token | USD 18, sekitar Rp288.000 |
| Sesudah dirapikan | 1.200 token | 400 token | USD 9,6, sekitar Rp154.000 |
Hitungan seperti ini bisa kamu ulang dengan angka sendiri di Kalkulator Token & Biaya AI. Perubahannya sederhana: instruksi sistem dipadatkan, hanya isi tiket yang dikirim (tanpa riwayat email lengkap), dan jawaban dibatasi lima poin. Hasilnya hampir separuh biaya hilang, sekitar Rp4 juta per bulan.
9 Trik Hemat Token AI
1. Tulis instruksi padat, buang basa-basi
Kalimat seperti "Halo, kalau tidak merepotkan, bisakah kamu membantu saya untuk..." tidak membuat jawaban lebih bagus. Ganti dengan perintah langsung:
Ringkas keluhan berikut dalam 3 poin. Sebut produk, masalah, dan permintaan pelanggan.2. Batasi panjang dan bentuk jawaban
Tanpa batasan, model cenderung menjawab panjang, lengkap dengan pembuka dan penutup. Sebut batasnya secara eksplisit: jumlah poin, jumlah kalimat, atau jumlah kata. Di API, isi juga parameter batas token output (misalnya max_tokens) sebagai pengaman.
Jawab maksimal 80 kata. Tanpa pembuka, tanpa penutup.3. Kirim bagian yang relevan saja
Menempel laporan 40 halaman untuk menanyakan satu tabel adalah pemborosan terbesar. Potong dulu bagian yang dibutuhkan. Kalau sering bertanya ke kumpulan dokumen yang sama, pertimbangkan pendekatan RAG yang hanya mengambil potongan relevan.
4. Pakai model kecil untuk tugas sederhana
Klasifikasi, ekstraksi data, terjemahan pendek, dan perbaikan ejaan tidak butuh model paling pintar. Model kecil dari OpenAI, Anthropic, atau Google harganya bisa belasan kali lebih murah dan jawabannya lebih cepat. Simpan model besar untuk analisis, penulisan panjang, dan coding yang rumit.
5. Mulai percakapan baru saat topik berganti
Setiap kali kamu membalas, seluruh riwayat percakapan ikut diproses lagi. Percakapan yang sudah 50 pesan berarti setiap balasan baru membawa beban 50 pesan sebelumnya. Inilah alasan jatah Claude Pro atau ChatGPT Plus terasa cepat habis di sesi panjang. Kalau topik sudah berganti, buka chat baru dan tempel ringkasan singkat dari chat lama bila perlu.
6. Simpan template prompt yang sudah teruji
Untuk pekerjaan berulang, jangan menyusun instruksi dari nol setiap hari. Simpan satu versi yang ringkas dan terbukti menghasilkan jawaban bagus, lalu ganti bagian variabelnya saja. Kumpulan template prompt siap pakai bisa jadi titik awal.
7. Minta format terstruktur
Daftar poin, tabel, atau JSON biasanya lebih pendek daripada paragraf naratif, dan lebih mudah diproses ulang di spreadsheet atau kode. Contoh:
Keluarkan JSON saja: {"kategori": "", "prioritas": "rendah|sedang|tinggi", "ringkasan": ""}8. Manfaatkan prompt caching dan batch
Penyedia API besar menawarkan prompt caching: bagian awal prompt yang sama persis (misalnya instruksi sistem panjang atau dokumen referensi) disimpan sementara, dan pengiriman berikutnya ditagih jauh lebih murah. Syaratnya, bagian yang sama harus berada di awal prompt dan tidak berubah.
Untuk pekerjaan yang tidak perlu jawaban instan, seperti meringkas ribuan ulasan produk semalaman, gunakan Batch API. OpenAI dan Anthropic sama-sama memberi potongan sekitar 50% untuk permintaan batch.
9. Uji di sampel kecil sebelum diproses massal
Sebelum menjalankan prompt ke 10.000 baris data, coba dulu di 10 baris. Cek apakah jawabannya sudah benar dan cukup pendek. Satu kesalahan instruksi yang lolos ke proses massal berarti membayar 10.000 jawaban yang harus diulang.
Cara Memperkirakan Jumlah Token
Penyedia API menyediakan tokenizer resmi atau endpoint penghitung token, dan setiap respons API mencantumkan jumlah token input dan output yang dipakai. Catat angka itu di log aplikasi supaya kamu tahu fitur mana yang paling boros.
Untuk perkiraan cepat sebelum mengirim, tempel teksnya ke Kalkulator Token & Biaya AI. Tool ini memperkirakan jumlah token dan langsung menghitung biaya per permintaan, per hari, dan per bulan dalam rupiah dari harga model yang kamu isi. Sebagai patokan kasar, kalikan jumlah kata bahasa Indonesia dengan sekitar 1,5 sampai 2 untuk mendapat perkiraan token. Angka pastinya berbeda per model.
Kesalahan yang Membuat Token Cepat Habis
- Menempel file utuh berulang kali. Kalau dokumennya sudah ada di percakapan, rujuk saja bagiannya ("lihat tabel 3 di dokumen tadi") daripada menempel ulang.
- Meminta "jelaskan sedetail mungkin". Kalimat ini hampir selalu menghasilkan jawaban panjang yang sebagian besar tidak kamu baca.
- Mengulang pertanyaan yang sama karena jawaban pertama kurang pas. Lebih hemat memperbaiki instruksinya sekali dengan menyebut apa yang salah, daripada menekan "regenerate" berkali-kali.
- Memakai mode penalaran panjang untuk tugas ringan. Mode "thinking" atau "reasoning" menghasilkan token tambahan yang ikut ditagih. Aktifkan hanya untuk soal yang memang butuh berpikir bertahap.
Langkah Berikutnya
Hemat token pada dasarnya soal menulis prompt yang jelas. Kalau ingin memperbaiki cara menulis instruksinya, lanjut ke cara prompting yang benar. Untuk memahami kenapa konteks yang rapi menghasilkan jawaban lebih baik sekaligus lebih murah, baca context engineering.
