Cara Pilih Model AI yang Murah atau Mahal Sesuai Berat Tugasnya

Cara pilih model AI adalah mencocokkan kemampuan model dengan kompleksitas tugas dan dampak kesalahannya. Mulai dari model hemat untuk pekerjaan berpola jelas, lalu gunakan model lebih kuat ketika tugas membutuhkan pertimbangan yang saling berkaitan.

Bagian dari playbook: Playbook AI untuk Produktivitas dan Efisiensi Bisnis

Intinya:

• Model hemat layak dipakai ketika aturan jelas dan hasilnya memenuhi standar tugas.
• Tugas dengan banyak pertimbangan layak diuji menggunakan model yang lebih kuat.
• Risiko tinggi membutuhkan batas kewenangan dan persetujuan manusia, berapa pun harga modelnya.

Misalnya, kamu mengelola toko online dengan tim kecil. Pagi ini, kamu ingin merapikan ejaan deskripsi produk tanpa mengubah spesifikasi.

Siangnya, kamu meminta AI menilai alasan calon pembeli berhenti sebelum checkout. Bahannya mencakup percakapan pelanggan, halaman produk, penawaran, dan alur pembayaran.

Pekerjaan pertama punya batas yang tegas. Pekerjaan kedua mengharuskan AI menghubungkan petunjuk, membedakan kemungkinan penyebab, dan menjelaskan informasi yang masih kurang.

Kalau keduanya selalu memakai model mahal, pekerjaan sederhana ikut menghabiskan jatah penggunaan. Kalau semuanya dipaksa memakai model murah yang kurang mampu, analisis bisa membutuhkan banyak pengulangan.

Nah, titik pilihnya ada pada tuntutan pekerjaan.

Cara pilih model AI dimulai dari bentuk tugasnya

Pemilihan model AI adalah proses menentukan model yang sesuai dengan kebutuhan pekerjaan berdasarkan kompleksitas, risiko kesalahan, biaya penggunaan, dan waktu respons.

Keempat atribut itu perlu dibaca bersama. Harga memberi informasi tentang biaya, sementara kecocokan terlihat dari kemampuan menyelesaikan tugas kamu.

Untuk membaca kompleksitas tugas, perhatikan banyaknya hubungan dan keputusan yang perlu dipertimbangkan sekaligus.

Merapikan daftar nama produk yang panjang bisa tetap sederhana. Aturannya berulang dan bentuk hasilnya sudah diketahui.

Sebaliknya, pertanyaan pendek seperti “penawaran mana yang sebaiknya diprioritaskan?” bisa berat. Jawabannya bergantung pada kapasitas tim, kebutuhan pembeli, margin, dan tujuan bisnis.

Coba cek ciri berikut:

• Aturan jelas: hasil bisa mengikuti pola atau contoh yang sudah disetujui.
• Pertimbangan bercabang: pilihan tertentu mengubah kelayakan pilihan lainnya.
• Bahan bertentangan: sumber berbeda memberi petunjuk yang perlu dibandingkan.
• Ketidakpastian tinggi: AI perlu menyatakan batas kesimpulan dan kebutuhan informasi tambahan.

Semakin banyak pertimbangan yang saling bergantung, semakin masuk akal menguji model dengan kemampuan penalaran lebih kuat.

Mekanismenya begini. Kesalahan memahami satu batasan bisa merembet ke keputusan berikutnya. Jawaban akhirnya mungkin terdengar masuk akal, tetapi seluruh rekomendasinya berdiri di atas asumsi yang keliru.

Pisahkan berat berpikir dari mahalnya akibat

Risiko kesalahan adalah besarnya dampak ketika hasil AI keliru dan digunakan dalam pekerjaan nyata.

Baca jugaAI untuk Produktivitas & OperasionalCara Tes Sendiri Apakah Model AI Baru Beneran Worth Dipakai atau Cuma Hype

Kompleksitas dan risiko bisa bergerak sendiri-sendiri. Tugas sederhana pun dapat memiliki akibat besar.

Misalnya, menyalin nomor rekening dari dokumen ke pesan pelanggan terlihat ringan. Kesalahan satu karakter bisa mengarahkan pembayaran ke tujuan yang salah.

Dalam contoh hipotetis itu, memilih model lebih mahal belum menyelesaikan masalah. Penyalinan langsung dari sumber tepercaya dan pencocokan oleh manusia lebih sesuai dengan kebutuhan tugas.

Sebaliknya, mengeksplorasi beberapa arah kampanye dapat membutuhkan pertimbangan rumit, meskipun risikonya masih rendah selama hasilnya menjadi bahan diskusi internal.

Dari sini, kamu punya empat patokan:

• Sederhana, risiko rendah: mulai dengan model hemat dan instruksi spesifik.
• Rumit, risiko rendah: bandingkan model hemat dengan model lebih kuat pada bahan yang sama.
• Sederhana, risiko tinggi: utamakan proses pasti, sumber tepercaya, dan persetujuan manusia.
• Rumit, risiko tinggi: gunakan model yang terbukti mampu, batasi perannya, dan libatkan penanggung jawab keputusan.

Model lebih kuat dapat membantu mengurai pilihan. Kewenangan menjalankan keputusan tetap perlu ditetapkan secara terpisah.

Bagi pekerjaan agar setiap model punya tempat

Routing model adalah pengalihan tugas ke model yang sesuai berdasarkan aturan yang sudah ditentukan.

Kamu bisa menjalankannya secara manual. Cukup tulis pekerjaan mana yang memakai model hemat dan kondisi apa yang mengharuskan pindah model.

Dokumentasi Anthropic tentang routing menjelaskan pola pengalihan pertanyaan sederhana ke model hemat dan pertanyaan sulit ke model lebih mampu. Kuncinya adalah kategori tugas yang bisa dibedakan dengan cukup andal.

Misalnya, kamu sedang menyiapkan kampanye untuk produk baru. Alurnya bisa dibagi seperti ini:

1. Model hemat merapikan catatan produk ke format yang sudah ditentukan.
2. Model lebih kuat membandingkan arah penawaran berdasarkan kebutuhan pelanggan dan batas operasional.
3. Setelah arah dipilih manusia, model hemat menyusun variasi teks dari brief yang sudah disepakati.

Perbedaan pentingnya ada pada ruang keputusan. Tahap analisis memiliki banyak pilihan terbuka. Tahap variasi teks bekerja dalam batas yang sudah dipersempit.

Namun, pembagian ini punya syarat. Model yang mengerjakan tahap berikutnya harus menerima konteks penting secara utuh.

Kalau ringkasan awal membuang keluhan pelanggan yang relevan, model berikutnya kehilangan bahan pertimbangan. Karena itu, sertakan sumber asli saat kesimpulan bergantung pada detail.

Pindah model juga punya ongkos koordinasi. Untuk pekerjaan kecil yang selesai sekali jalan, memakai satu model yang sudah memadai bisa lebih praktis.

Tim kecil perlu aturan yang mudah diulang

Bagi solopreneur, keputusan memilih model bisa menjadi pekerjaan tambahan kalau harus dipikirkan dari awal setiap kali membuka aplikasi.

Saya menyarankan aturan awal yang sederhana: tetapkan model hemat untuk pekerjaan rutin yang sudah lulus uji. Tulis pengecualian untuk pekerjaan analitis atau berisiko.

Dengan begitu, anggota tim punya acuan yang sama. Mereka tahu kapan boleh melanjutkan dan kapan perlu meminta bantuan.

Kalau daftar pekerjaan kamu masih campur aduk, gunakan pemetaan nilai dan usaha tugas AI untuk menentukan prioritas terlebih dahulu.

Setelah tugas dipilih, barulah tentukan modelnya. Urutan ini membantu kamu menghindari langganan tambahan yang belum punya fungsi jelas.

Perhatikan juga bentuk biaya yang kamu hadapi. Catat pengeluaran, jatah penggunaan yang tersedia, waktu tunggu, dan pengulangan yang diperlukan untuk menyelesaikan pekerjaan.

Jebakannya, kegagalan belum tentu meminta model lebih mahal

Sebelum menaikkan model, lihat jenis kegagalannya.

Kalau AI salah memahami target pembeli karena brief tidak menyebutkannya, lengkapi brief. Model lebih mahal tetap membutuhkan informasi tersebut.

Kalau tugas membutuhkan status stok, sediakan data stok yang benar. Kemampuan penalaran tidak memberikan akses otomatis ke informasi bisnis kamu.

Kalau jawabannya terlalu panjang, perjelas format. Instruksi “maksimal satu paragraf” lebih langsung menangani masalah itu.

Naikkan model ketika kegagalan menyangkut kemampuan: hubungan penting terlewat, batasan saling bertabrakan, atau kesimpulan tidak mengikuti bahan meski konteks sudah cukup.

Aturan “mulai dari yang murah” juga memiliki batas. Saat tenggat sempit dan kamu sudah punya bukti model tertentu mampu menangani tugasnya, gunakan hasil pengujian tersebut.

Harga tinggi sendiri tidak menjamin kecocokan. Pilih berdasarkan hasil pada pekerjaan yang mewakili kebutuhan bisnis.

Terakhir, tentukan pemeriksaan sebelum hasil digunakan. Pembahasan tentang membagi usaha produksi dan verifikasi AI memperdalam bagian ini.

Minggu ini, buat aturan dari pekerjaan nyata

Kamu bisa memulai dengan uji kecil, tanpa membangun sistem otomatis.

1. Pilih tugas yang berulang. Misalnya, merapikan deskripsi produk, menyusun draft balasan, dan membandingkan arah penawaran.
2. Tentukan syarat lolos. Deskripsi harus mempertahankan spesifikasi. Balasan harus mengikuti kebijakan. Analisis harus menjelaskan dasar pilihan dan ketidakpastiannya.
3. Siapkan contoh yang mewakili. Sertakan kasus biasa dan kasus dengan pengecualian, seperti permintaan pelanggan di luar kebijakan.
4. Bandingkan dengan bahan setara. Berikan brief, sumber, dan format keluaran yang sama kepada model yang diuji.
5. Catat hasil yang berguna. Tandai syarat yang gagal, pengulangan yang diperlukan, waktu respons, serta biaya atau jatah penggunaan yang terpakai.
6. Tulis aturan penggunaan. Tetapkan model awal, pemicu pindah model, dan titik persetujuan manusia.

Contoh aturan hipotetis: “Perapian deskripsi memakai model hemat. Analisis penawaran memakai model yang lulus uji pertimbangan. Permintaan pengecualian pelanggan diteruskan kepada pemilik.”

Simpan aturan itu bersama contoh hasil yang memenuhi standar. Tinjau kembali saat jenis pekerjaan atau pilihan model berubah.

Model yang tepat layak dipilih karena mampu memenuhi tuntutan tugas dengan biaya yang masuk akal.

Coba mulai dari satu pekerjaan berulang minggu ini. Kenali dulu berat tugasnya, lalu beri tugas itu kemampuan yang memang dibutuhkan.

Kalau kamu mau menaikkan output tim tanpa menambah headcount lewat sistem AI, lihat AI Lean Company.