Kenapa Menjejalkan Banyak Dokumen ke Satu Prompt Bikin Jawaban AI Gampang Meleset

Satu prompt yang dijejali banyak dokumen sekaligus membuat AI membagi perhatiannya ke terlalu banyak teks, sehingga detail penting gampang terlewat atau tertukar. Riset tentang long context menunjukkan akurasi model cenderung turun saat input makin panjang dan makin banyak teks yang mirip. Solusinya sederhana: pecah pekerjaan jadi beberapa prompt bertahap, satu tugas per langkah.
Bagian dari playbook: Playbook Prompt ChatGPT
Kedengarannya teknis, tapi efeknya terasa banget di kerjaan harian. Apalagi kalau kamu pakai AI buat riset kompetitor atau bikin konten dari banyak sumber.
Dua cara riset kompetitor, dua kualitas hasil
Coba kamu bayangin dua pemilik brand skincare lokal. Keduanya mau memahami lima kompetitor sebelum menyusun penawaran baru. Bahannya sama: halaman produk, deskripsi marketplace, transkrip video review, dan catatan harga dari tiap kompetitor.
Pemilik pertama mengunggah semua file sekaligus ke ChatGPT atau Claude. Promptnya satu kalimat: “Analisis semua kompetitor ini, cari celah pasar, dan buatkan positioning untuk brand saya.”
Jawabannya keluar cepat dan terdengar meyakinkan. Masalahnya muncul waktu dicek ulang. Klaim bahan aktif kompetitor A tertukar dengan kompetitor C. Kompetitor yang file-nya di urutan tengah hampir tidak dibahas. Rekomendasi positioning-nya generik, kira-kira bisa dipakai brand skincare mana pun.
Pemilik kedua memakai bahan yang sama, tapi kerjanya dipecah. Tiap kompetitor diringkas dulu dengan format yang seragam. Hasil ringkasan dicek. Baru setelah itu ringkasan-ringkasan itu dibandingkan dalam satu prompt terpisah.
Prosesnya memang lebih lama sedikit. Tapi hasil akhirnya bisa ditelusuri balik ke sumber, dan celah yang ditemukan memang spesifik ke pasar mereka.
Contoh di atas ilustrasi, ya. Tapi polanya punya penjelasan yang cukup jelas dari sisi cara kerja model bahasa.
Kenapa makin banyak dokumen justru bikin jawaban AI makin meleset?
Banyak orang mengira AI membaca semua dokumen seperti mesin fotokopi: rata, teliti, dan sama dalamnya dari halaman pertama sampai terakhir. Kenyataannya, megaprompt banyak dokumen memicu beberapa masalah sekaligus. Ada empat mekanisme yang saling menumpuk di sini.
Perhatian model itu punya batas
Anthropic, dalam tulisan engineering mereka tentang context engineering untuk AI agent, menyebut model bahasa punya semacam “attention budget”. Setiap token baru yang masuk ikut menghabiskan anggaran perhatian itu.
Penjelasannya terkait arsitektur transformer. Setiap token bisa “melihat” setiap token lain di dalam konteks. Untuk n token, ada n² hubungan berpasangan yang harus dikelola. Makin panjang konteks, makin tipis perhatian yang bisa diberikan ke tiap bagian.
Anthropic menyimpulkan konteks perlu diperlakukan sebagai sumber daya terbatas dengan manfaat yang makin menurun. Artinya, menambah dokumen tidak otomatis menambah pemahaman.
Informasi di bagian tengah gampang terlewat
Penelitian Lost in the Middle dari Nelson F. Liu dan tim (arXiv, 2023) menguji model pada tugas tanya jawab multi-dokumen. Temuannya, performa bisa turun signifikan hanya karena posisi informasi relevan dipindah.
Model cenderung paling baik memakai informasi di awal atau akhir input. Informasi yang terselip di tengah konteks panjang lebih sering terlewat. Pola ini muncul juga pada model yang memang dirancang untuk konteks panjang.
Model generasi terbaru tentu sudah berkembang sejak penelitian itu. Tapi pelajarannya tetap berguna: urutan dokumen yang kamu unggah ikut memengaruhi apa yang benar-benar diperhatikan.
Dokumen yang mirip saling mengganggu
Ini bagian yang paling relevan buat riset kompetitor. Laporan Context Rot dari Chroma menguji 18 model, termasuk Claude Sonnet 4, GPT-4.1, dan Gemini 2.5. Hasilnya, performa model tidak stabil saat panjang input bertambah.
Chroma membedakan dua jenis teks tambahan. Teks tidak relevan adalah teks yang sama sekali tidak nyambung dengan pertanyaan. Distractor adalah teks yang topiknya mirip, tapi tidak benar-benar menjawab pertanyaan.
Dalam eksperimen mereka, satu distractor saja sudah menurunkan performa dibanding kondisi tanpa distractor. Empat distractor membuat penurunannya makin dalam.
Sekarang pikirkan dokumen kompetitor. Lima halaman produk skincare akan berisi kata yang mirip: serum, brightening, niacinamide, kulit kusam, aman untuk kulit sensitif. Setiap dokumen menjadi distractor bagi dokumen lainnya. Wajar kalau klaim kompetitor A bisa “pindah” ke kompetitor C.
Satu prompt dipaksa mengerjakan empat pekerjaan sekaligus
Prompt “analisis semua kompetitor dan buatkan positioning” sebenarnya meminta empat pekerjaan berbeda. Membaca semua dokumen. Memilih informasi yang penting. Membandingkan antar sumber. Lalu menulis rekomendasi.
Chroma sendiri mencatat batas penelitiannya. Mereka sengaja menjaga tingkat kesulitan tugas tetap sederhana. Mereka memperkirakan penurunan performa bisa lebih parah pada tugas nyata yang butuh sintesis dan penalaran bertahap.
Riset kompetitor adalah contoh persis tugas sintesis seperti itu. Kalau keempat pekerjaan dijejalkan ke satu prompt, kesalahan di tahap membaca langsung terbawa ke tahap menulis. Kamu juga tidak punya kesempatan untuk mengecek di tengah jalan.
Context window besar belum tentu artinya semua dibaca sama teliti
Di sinilah salah paham yang paling sering terjadi. Model sekarang bisa menerima input sangat panjang. Banyak orang lalu menyimpulkan: kalau muat, berarti aman dimasukkan semua.
Context window itu kapasitas. Ia menunjukkan berapa banyak teks yang bisa diterima model. Ia tidak menjamin seberapa baik model memakai setiap bagian teks itu.
Chroma menjelaskan kenapa salah paham ini bertahan. Banyak model mendapat skor nyaris sempurna pada tes Needle in a Haystack. Tes itu menyembunyikan satu kalimat di dokumen panjang, lalu meminta model menemukannya.
Masalahnya, tes itu sebagian besar mengukur pencocokan kata yang persis sama. Pekerjaan bisnis jarang sesederhana itu. Kamu jarang bertanya “temukan kalimat X”. Kamu lebih sering bertanya “apa kelemahan penawaran kompetitor ini dibanding kita”, yang butuh pemahaman makna dan perbandingan.
Jadi, anggap context window seperti meja kerja yang luas. Meja yang luas memang bisa menampung banyak berkas. Tapi kalau semua berkas dibuka sekaligus dan bertumpuk, kamu tetap lebih gampang salah ambil.
Cara memecah riset banyak sumber jadi prompt bertahap
Polanya sering disebut prompt chaining: satu pekerjaan besar dipecah jadi rangkaian prompt kecil. Output satu langkah menjadi input langkah berikutnya. Ini urutan yang bisa kamu pakai untuk riset kompetitor atau produksi konten dari banyak sumber.
Langkah 1: Tulis pertanyaan keputusannya dulu
Sebelum mengunggah apa pun, tulis satu atau dua pertanyaan yang ingin dijawab. Misalnya: “Klaim apa yang paling sering dipakai kompetitor, dan klaim apa yang belum digarap?”
Pertanyaan ini menentukan informasi apa yang perlu diambil dari tiap dokumen. Tanpa pertanyaan yang jelas, AI akan meringkas semuanya, dan ringkasan semuanya biasanya berakhir generik. Soal ini nyambung dengan pembahasan tentang konteks yang lebih penting dari prompt panjang.
Langkah 2: Ekstrak per dokumen dengan format yang sama
Proses satu dokumen per prompt, atau satu kompetitor per prompt. Pakai format output yang identik untuk semuanya. Contoh promptnya:
Berikut halaman produk satu kompetitor.
<dokumen>
[tempel isi dokumen di sini]
</dokumen>
Ambil informasi berikut dari dokumen di atas saja:
1. Klaim utama produk
2. Target pembeli yang tersirat
3. Bukti yang dipakai (sertifikasi, uji, testimoni)
4. Keberatan pembeli yang dijawab
Untuk setiap poin, sertakan kutipan persis dari dokumen.
Jika informasinya tidak ada, tulis "tidak ditemukan".
Instruksi “tidak ditemukan” itu penting. Tanpa instruksi itu, AI cenderung mengisi kekosongan dengan tebakan yang terdengar masuk akal.
Langkah 3: Cek kutipan sebelum lanjut
Bagian ini sering dilewati, padahal di sinilah kualitas dijaga. Cocokkan beberapa kutipan dengan dokumen aslinya. Kalau kutipannya tidak ada di sumber, ulangi ekstraksi dokumen itu.
Pengecekan per dokumen jauh lebih ringan daripada membongkar satu jawaban panjang yang mencampur lima kompetitor. Kamu tahu persis bagian mana yang salah.
Langkah 4: Bandingkan ringkasan, bukan dokumen mentah
Setelah semua ekstraksi bersih, buka percakapan baru. Masukkan hanya hasil ekstraksi yang formatnya sudah seragam. Lalu minta AI membandingkan berdasarkan pertanyaan keputusan dari Langkah 1.
Sekarang model bekerja dengan teks yang jauh lebih pendek dan terstruktur. Distractor sudah tersaring di tahap ekstraksi. Pola ini mirip yang dijelaskan Anthropic untuk sub-agent: tiap agen boleh menjelajah banyak teks, tapi yang dikirim balik hanya ringkasan padat hasil kerjanya.
Langkah 5: Baru tulis output akhirnya
Positioning, brief konten, atau draft artikel ditulis di langkah terpisah. Masukkan hasil perbandingan dari Langkah 4, plus konteks brand kamu sendiri.
Kalau kamu punya beberapa instruksi gaya penulisan, berikan di langkah ini saja. Menumpuk instruksi gaya di tahap ekstraksi cuma menambah beban. Efek menumpuk instruksi ini dibahas lebih jauh di artikel tentang banyak instruksi sekaligus yang bikin hasil AI melenceng.
Contoh penerapan untuk tim kecil
Misalnya kamu pemilik toko fashion muslim online dengan tim tiga orang. Kamu mau bikin satu bulan konten dari sepuluh sumber: review pembeli, pertanyaan DM, konten kompetitor, dan catatan tren.
Cara megaprompt: semua sumber diunggah, lalu minta “buatkan 30 ide konten”. Hasilnya cenderung campur aduk dan sulit ditelusuri asalnya.
Cara bertahap, sebagai ilustrasi:
- Review dan DM diolah dulu jadi daftar keluhan dan pertanyaan pembeli, lengkap dengan kutipan.
- Konten kompetitor diolah jadi daftar sudut pandang yang sudah sering dipakai.
- Dua daftar itu dibandingkan untuk menemukan pertanyaan pembeli yang belum dijawab kompetitor.
- Dari celah itu baru dibuat ide konten.
Hasil Langkah 1 dan 2 juga bisa disimpan dan dipakai ulang bulan depan. Cara berpikirnya mirip dengan menyusun bank jawaban customer service: bahan diolah sekali dengan rapi, lalu dipakai berkali-kali. Buat tim tipis, ini lebih hemat daripada mengunggah ulang sepuluh file setiap kali butuh konten.
Kalau terpaksa satu prompt, susun dengan cara ini
Ada kalanya memecah prompt tidak praktis. Misalnya waktumu mepet, atau dokumennya memang harus dibaca bersamaan. Untuk kondisi seperti itu, panduan prompting resmi Anthropic untuk input panjang (sekitar 20 ribu token ke atas) memberi beberapa arahan:
- Taruh dokumen di bagian atas. Dokumen panjang diletakkan sebelum pertanyaan dan instruksi. Anthropic menyebut menaruh pertanyaan di akhir bisa meningkatkan kualitas respons hingga 30 persen dalam pengujian mereka, terutama untuk input multi-dokumen yang kompleks.
- Beri pembatas yang jelas per dokumen. Bungkus tiap dokumen dengan tag seperti
<document>, lengkap dengan nama sumbernya. Ini membantu model tidak mencampur isi antar dokumen. - Minta kutipan dulu, analisis kemudian. Minta model mengutip bagian yang relevan sebelum mengerjakan tugasnya. Menurut Anthropic, langkah ini membantu model fokus pada bagian yang relevan dan mengabaikan sisanya.
Angka 30 persen itu hasil pengujian Anthropic pada model mereka sendiri, ya. Anggap sebagai arah, jangan sebagai jaminan untuk semua alat.
Perhatikan juga, poin ketiga sebenarnya adalah Langkah 2 yang “diselipkan” ke dalam satu prompt. Jadi prinsipnya tetap sama: pisahkan tahap memilih informasi dari tahap menulis.
Jebakan dan kapan memecah prompt tidak perlu
Memecah prompt itu alat, tidak wajib di semua situasi. Ada beberapa kondisi di mana satu prompt justru lebih masuk akal.
Dokumennya sedikit dan pendek. Dua atau tiga halaman yang topiknya berbeda jelas biasanya aman diproses sekaligus. Masalah utama muncul saat teksnya panjang dan isinya mirip-mirip.
Tugasnya butuh melihat hubungan lintas dokumen. Contohnya mencari pasal yang saling bertentangan di dua kontrak. Kalau tiap dokumen diringkas terpisah, kontradiksinya bisa hilang di tahap ringkasan. Untuk tugas seperti ini, lebih baik masukkan dokumen yang relevan bersamaan, dengan struktur yang rapi.
Ringkasan bisa membuang nuansa. Setiap tahap ekstraksi adalah keputusan tentang apa yang dibuang. Kalau format ekstraksimu terlalu sempit, informasi penting bisa hilang sebelum sampai ke tahap analisis. Karena itu, pertanyaan di Langkah 1 harus dipikirkan matang.
Format yang terlalu kaku juga berisiko. Daftar field yang kepanjangan di prompt ekstraksi bisa membuat AI fokus mengisi kolom dan melewatkan hal penting di luar kolom itu. Soal keseimbangan ini sudah dibahas di artikel tentang instruksi terlalu detail yang malah bikin hasil jelek. Tambahkan satu field terbuka seperti “hal lain yang menonjol” supaya ada ruang.
Cara tiap aplikasi memproses file berbeda. Aplikasi AI tidak selalu menjelaskan secara rinci bagaimana file unggahan dibaca. Jadi jangan berasumsi semua isi file diperlakukan sama. Cara paling aman tetap mengecek hasil ke sumber aslinya.
Satu lagi: model terus berkembang. Kemampuan membaca konteks panjang di versi berikutnya mungkin membaik. Tapi pola dasarnya kemungkinan tetap relevan, karena menyaring informasi sebelum menganalisis memang kebiasaan kerja yang sehat, dengan AI maupun tanpa AI.
Cek cepat yang bisa kamu lakukan minggu ini
Ambil satu tugas riset yang biasa kamu kerjakan dengan mengunggah banyak file sekaligus. Lalu lakukan uji sederhana ini:
- Jalankan cara lama, simpan hasilnya.
- Pilih tiga klaim spesifik dari hasil itu, lalu cari di dokumen aslinya. Apakah ada, tepat, dan dari sumber yang benar?
- Jalankan ulang dengan cara bertahap: ekstraksi per dokumen dengan kutipan, cek, bandingkan, tulis.
- Bandingkan dua hasil itu. Mana yang lebih mudah ditelusuri balik ke sumber? Mana yang rekomendasinya lebih spesifik ke bisnismu?
Kamu tidak perlu percaya pada artikel ini. Cukup percaya pada hasil pengecekanmu sendiri. Kalau cara bertahap terbukti lebih rapi, simpan prompt ekstraksinya sebagai template. Satu template yang teruji untuk pekerjaanmu sendiri jauh lebih berguna daripada ratusan prompt yang disimpan dari media sosial.
Pada akhirnya, AI bekerja paling baik saat kamu memberinya satu pekerjaan yang jelas dengan bahan yang sudah tersaring. Jumlah dokumen yang kamu unggah tidak menentukan kualitas jawaban. Yang menentukan adalah seberapa rapi kamu memilih apa yang perlu dibaca, dan kapan.
Kalau kamu ingin memetakan pekerjaan riset, marketing, atau sales mana di bisnismu yang paling layak dibantu AI dengan alur bertahap seperti ini, kamu bisa mulai lewat konsultasi AI untuk bisnis.
Pertanyaan yang sering muncul
Apakah lebih baik upload semua file dalam satu percakapan atau buka percakapan baru untuk tiap dokumen?
Untuk tahap ekstraksi, memproses satu dokumen atau satu kompetitor per prompt membantu AI fokus dan memudahkan pengecekan. Untuk tahap perbandingan, buka percakapan baru yang hanya berisi hasil ekstraksi yang sudah dicek, supaya dokumen mentah tidak ikut mengganggu analisis.
Berapa banyak dokumen yang aman dimasukkan ke satu prompt?
Tidak ada angka pasti yang berlaku untuk semua model dan tugas. Patokan praktisnya: dua atau tiga dokumen pendek dengan topik berbeda biasanya masih aman. Makin panjang teksnya dan makin mirip isinya, makin besar alasan untuk memecah pekerjaan jadi beberapa langkah.
Apakah memecah prompt membuat AI kehilangan gambaran besar?
Bisa, kalau format ekstraksinya terlalu sempit atau tugasnya memang butuh membaca hubungan antar dokumen, seperti mencari kontradiksi antar kontrak. Untuk tugas seperti itu, masukkan dokumen yang relevan bersamaan dengan struktur yang jelas, lalu minta AI mengutip bagian relevan sebelum menganalisis.




