Bilang Tolong ke ChatGPT Bikin Boros? Mekanisme Biaya Token dan Pelajaran Prompt Ringkas buat Bisnis

Ya, bilang tolong ke ChatGPT memang ada ongkos komputasinya, karena setiap kata yang kamu ketik diproses sebagai token. Untuk pemakaian pribadi, satu kata itu nyaris tak terasa. Ongkos yang terasa buat bisnis datang dari pesan tambahan, prompt bertele-tele yang dipanggil berulang, dan jawaban yang kepanjangan.

Bagian dari playbook: Playbook Prompt ChatGPT

Intinya:

• Setiap kata di prompt dan di jawaban AI dihitung sebagai token, dan token adalah satuan biaya serta kuota.
• Pesan “makasih ya” yang dikirim terpisah lebih mahal daripada kata “tolong” di dalam prompt, karena memicu satu putaran jawaban baru.
• Buat bisnis yang memanggil AI berulang lewat otomasi, kata yang tidak mengubah hasil ikut dibayar di setiap panggilan.

Coba kamu bayangin dua situasi ini. Misalnya ada pemilik toko skincare lokal yang membuka ChatGPT sesekali untuk menulis caption. Dia selalu mulai dengan “Halo, tolong ya”, lalu menutup dengan “makasih banyak”. Buat dia, kebiasaan itu tidak masalah. Waktunya jauh lebih berharga daripada beberapa token.

Sekarang situasi kedua. Toko yang sama mulai memakai AI lewat API untuk menyusun draft balasan setiap chat pelanggan yang masuk. Template prompt-nya disalin dari kebiasaan lama: tiga paragraf pembuka, pujian ke AI, dan permintaan yang diulang dengan kata berbeda. Nah, sekarang tiga paragraf itu ikut diproses di setiap chat. Kalau sehari ada ratusan chat, kata-kata yang tidak mengubah hasil ikut dibayar ratusan kali.

Pertanyaannya bergeser. Yang perlu dipikirkan adalah seberapa sering prompt yang sama dipanggil, dan berapa banyak isinya yang benar-benar bekerja.

Kenapa bilang tolong ke ChatGPT ada ongkosnya?

Isu ini ramai pada April 2025. Seorang pengguna X bertanya berapa biaya listrik OpenAI karena orang bilang “please” dan “thank you” ke model mereka. Sam Altman menjawab singkat: “tens of millions of dollars well spent - you never know,” seperti dilaporkan TechRadar.

Perlu dicatat, itu jawaban santai di media sosial. Itu bukan laporan biaya yang diaudit. Yang lebih berguna buat kita adalah mekanismenya.

Token adalah satuan hitung yang dipakai AI

Token adalah potongan teks yang diproses model bahasa. Satu kata bisa jadi satu token atau dipecah menjadi beberapa token. Menurut dokumentasi konsep OpenAI, patokan kasarnya sekitar 4 karakter atau 0,75 kata per token untuk teks bahasa Inggris.

Patokan itu khusus bahasa Inggris. Untuk teks bahasa Indonesia, jangan menebak. OpenAI menyediakan alat tokenizer untuk mengecek jumlah token sebuah teks secara langsung.

Di API, input dan output diukur dalam token. Harga di halaman pricing OpenAI juga dihitung per sejuta token, dengan tarif input dan output yang dipisah. Di aplikasi ChatGPT, kamu tidak melihat tagihan per token. Efeknya biasanya terasa sebagai waktu tunggu dan batas pemakaian, tergantung paketnya.

Yang mahal adalah pesan “makasih” yang berdiri sendiri

Ini bagian yang sering terlewat. Kata “tolong” di dalam prompt hanya menambah sedikit token. Pesan “makasih ya” yang dikirim sendirian memicu satu permintaan baru yang lengkap.

Di percakapan multi-turn, model perlu konteks dari pesan sebelumnya supaya nyambung. Dokumentasi conversation state OpenAI menyebut bahwa semua token input sebelumnya dalam rantai percakapan tetap ditagih sebagai token input di API. Jadi satu ucapan terima kasih bisa membuat sistem memproses ulang percakapan panjang, lalu menulis balasan basa-basi.

Makin panjang percakapannya, makin mahal satu pesan pendek di ujungnya.

Jawaban panjang juga dihitung

Output token adalah token yang dihasilkan model sebagai jawaban. Output token ikut diukur dan punya tarif sendiri. Jadi prompt yang tidak menyebut format dan panjang jawaban sering menghasilkan teks yang lebih panjang dari kebutuhan.

Ada juga batas yang disebut context window. Context window adalah jumlah token maksimal yang bisa dipakai dalam satu permintaan, termasuk input, output, dan untuk model tertentu token reasoning. Prompt yang gemuk memakan ruang ini lebih cepat.

Apakah prompt yang sopan bikin hasil lebih bagus?

Ada riset yang menarik soal ini. Studi Yin dan kawan-kawan (2024) menguji tingkat kesopanan prompt dalam bahasa Inggris, Mandarin, dan Jepang. Temuannya: prompt yang kasar sering menurunkan kinerja model. Bahasa yang terlalu sopan juga tidak menjamin hasil lebih baik. Tingkat kesopanan terbaik berbeda tergantung bahasanya.

Baca jugaPrompt & ChatGPTSystem Prompt Anti Basa-basi: Cara Setop AI Buang Token buat Disclaimer dan Pemanis Kalimat

Bahasa Indonesia tidak diuji di studi itu. Jadi kesimpulan yang aman adalah ini: sopan secukupnya itu wajar, dan memotong kata “tolong” bukan cara utama berhemat. Sumber hemat yang besar ada di tempat lain.

Prompt minimalis itu apa, dan kenapa cocok buat bisnis kecil?

Prompt minimalis adalah prompt yang hanya berisi informasi yang mengubah hasil jawaban AI. Setiap kalimat di dalamnya punya tugas. Kalau sebuah kalimat dihapus dan hasilnya tidak berubah, kalimat itu bisa dibuang.

Atribut prompt minimalis:

1. Tujuan jelas di awal. AI tahu output apa yang diminta sebelum membaca detail.
2. Konteks yang relevan saja. Info produk, target pembeli, atau batasan yang memang memengaruhi jawaban.
3. Format output eksplisit. Misalnya tiga opsi, maksimal dua kalimat per opsi.
4. Spesifikasi menggantikan kata sifat kosong. “Bagus, menarik, keren” diganti kriteria yang bisa diperiksa.
5. Struktur stabil. Bagian yang tetap selalu ditulis sama, bagian yang berubah ditaruh di akhir.

Poin keempat paling sering bocor. Kata sifat generik menambah token tanpa memberi arah. Pola yang sama juga muncul di prompt gambar, dan sudah saya bahas di artikel soal kata sifat generik yang bikin hasil gambar AI ngasal.

Contoh ilustrasi, prompt yang gemuk:

Halo ChatGPT, kamu asisten yang sangat hebat dan kreatif. Tolong ya,
saya minta bantuan buatkan caption Instagram yang bagus, menarik, keren,
dan bikin orang mau beli. Tolong buat yang menarik banget ya. Makasih!

Versi ringkas dengan isi yang lebih berguna:

Tugas: tulis 3 opsi caption Instagram.
Produk: serum wajah untuk kulit berminyak, tekstur ringan.
Pembaca: pekerja kantoran 25-35 tahun di kota besar.
Format: maksimal 2 kalimat per opsi, 1 ajakan cek link di bio.
Hindari: klaim medis dan janji hasil.

Versi kedua tidak selalu lebih sedikit tokennya. Yang berubah adalah rasio kata yang bekerja. Kalau kamu ingin melihat lebih banyak perbandingan seperti ini, ada contoh prompt kasus bisnis yang optimal dan yang meleset.

Kenapa ini penting buat tim tipis dengan budget terbatas?

Bisnis kecil di Indonesia jarang punya orang khusus yang memantau biaya AI. Biasanya pemilik bisnis sendiri yang merakit otomasinya, lalu lupa mengecek lagi setelah jalan.

Masalahnya muncul lewat efek perkalian. Prompt dipakai manual sekali sehari, borosnya tidak terasa. Prompt yang sama dipasang di otomasi balasan chat, generator deskripsi produk, atau ringkasan laporan harian, borosnya ikut dikalikan.

Misalnya kamu menjual 200 produk dan memakai AI untuk menulis deskripsinya. Setiap paragraf pembuka yang tidak perlu ikut dibaca 200 kali. Kalau setiap deskripsi juga keluar dua kali lebih panjang dari kebutuhan, kamu membayar output yang akhirnya kamu potong sendiri.

Ada biaya yang tidak tercatat di tagihan juga: waktu tunggu. Prompt dan jawaban yang lebih pendek cenderung membuat proses terasa lebih cepat. Untuk balasan chat pelanggan, kecepatan ini ikut memengaruhi pengalaman pembeli.

Jebakannya: kapan prompt pendek justru bikin boros?

Ini penting, saya ulang ya: tujuannya prompt yang efisien. Prompt yang paling pendek belum tentu paling efisien. Ada beberapa jebakan yang perlu kamu tahu.

Memotong konteks penting bikin kamu mengulang

Prompt yang terlalu dipangkas sering menghasilkan jawaban meleset. Lalu kamu menjelaskan ulang, mengirim pesan kedua dan ketiga, dan setiap putaran memproses konteks lagi. Satu prompt lengkap di awal sering lebih hemat daripada tiga putaran revisi.

Prompt caching bisa membalik hitungan

Prompt caching adalah fitur yang memakai ulang hasil pemrosesan awalan prompt yang sama di permintaan berikutnya. Menurut dokumentasi prompt caching OpenAI, token yang kena cache ditagih dengan tarif input yang jauh lebih murah dan diproses lebih cepat. Ada panjang minimum supaya awalan prompt bisa di-cache.

Dokumentasi itu bahkan menunjukkan bahwa dalam kondisi tertentu, memperpanjang awalan yang dipakai berulang bisa lebih murah daripada membiarkannya pendek. Hitungannya tergantung model, tarif, dan seberapa sering awalan itu dipakai ulang.

Pelajarannya buat otomasi: konsistensi struktur bisa lebih berpengaruh daripada jumlah kata. Taruh instruksi tetap di awal dengan kata-kata yang sama persis. Taruh data yang berubah, seperti isi chat pelanggan, di bagian akhir. Kalau pembuka prompt kamu ubah-ubah setiap kali, peluang kena cache hilang.

Untuk pemakaian manual sesekali, jangan terlalu dipikirkan

Kalau kamu cuma chat dengan ChatGPT beberapa kali sehari, pakai bahasa yang nyaman buat kamu. Energi kamu lebih baik dipakai untuk memperjelas tujuan dan konteks. Optimasi token baru layak dikejar saat prompt dipanggil berulang atau dibayar per pemakaian.

Angka di aplikasi dan API tidak sama

Pengguna aplikasi ChatGPT berlangganan paket, sedangkan pengguna API membayar per token. Jadi jangan memindahkan logika tagihan API mentah-mentah ke kebiasaan chat harian. Prinsip ringkasnya tetap berlaku, tapi bobot urgensinya berbeda.

Yang bisa kamu cek minggu ini

Langkah ini berurutan, karena hasil langkah awal dipakai di langkah berikutnya.

1. Daftar prompt yang dipakai berulang. Template balasan chat, generator caption, ringkasan rapat, atau prompt di dalam otomasi.
2. Urutkan berdasarkan frekuensi. Prompt yang paling sering dipanggil diperiksa duluan, karena di situ efek perkaliannya paling besar.
3. Uji setiap kalimat. Tanyakan: kalau kalimat ini dihapus, apakah hasilnya berubah? Kalau tidak, hapus.
4. Pisahkan bagian tetap dan bagian berubah. Instruksi, gaya bahasa brand, dan aturan di awal. Data yang berganti di akhir.
5. Tulis format dan batas panjang output. Jumlah opsi, jumlah kalimat, atau struktur poin yang kamu butuhkan.
6. Bandingkan dua versi pada input nyata. Pakai sekitar 5 sampai 10 contoh kasus. Nilai kualitas jawabannya, lalu cek jumlah token di dashboard pemakaian kalau kamu memakai API.
7. Gabungkan basa-basi ke instruksi berikutnya. Daripada mengirim “makasih” sendirian, tulis “Makasih, sekarang ubah opsi kedua jadi lebih santai.”

Kalau setelah dicek ternyata yang berantakan adalah urutan prioritasnya, pendekatan gabungan Pareto dan first principles dalam satu prompt bisa membantu memilih otomasi mana yang perlu dibenahi duluan.

Satu pemikiran untuk dibawa pulang: kata “tolong” itu murah, yang mahal adalah kata yang tidak bekerja lalu dipanggil ribuan kali. Kalau bisnismu mulai menjalankan banyak proses lewat AI dan kamu ingin operasionalnya tetap ramping, kamu bisa lihat cara kerja AI Lean Company sebagai bahan pertimbangan.