AI Gak Akan Pernah Sempurna, Cara Aman Menggunakan AI untuk Bisnis

Cara aman menggunakan AI untuk bisnis adalah membatasi wewenangnya, memeriksa keputusan yang dampaknya mahal, dan menyiapkan langkah pemulihan saat terjadi kesalahan. Jadikan kemungkinan AI salah sebagai asumsi tetap dalam desain proses, termasuk ketika kemampuan model meningkat.

Bagian dari playbook: Playbook AI untuk Produktivitas dan Efisiensi Bisnis

Intinya:

• Besarnya dampak kesalahan menentukan seberapa ketat hasil AI perlu diperiksa.
• Pemeriksaan harus membandingkan hasil AI dengan sumber yang bisa diverifikasi.
• Proses perlu punya penanggung jawab dan tindakan cadangan ketika pemeriksaan gagal.

Misalnya, kamu menjual produk digital dan memakai AI untuk membantu menjawab pertanyaan pelanggan.

Dalam alur pertama, AI membaca pesan, menyusun jawaban, lalu langsung mengirimkannya. Ketika salah memahami ketentuan pengembalian dana, AI telanjur menjanjikan pengecualian kepada pelanggan.

Dalam alur kedua, AI menyiapkan draf berdasarkan ketentuan yang kamu tetapkan. Pesan yang menjanjikan pengembalian dana harus mendapat persetujuan sebelum dikirim.

Kedua alur itu bisa memakai model yang sama. Namun, kesalahan dalam alur kedua masih bisa dihentikan sebelum menjadi janji bisnis.

Nah, ruang antara jawaban AI dan tindakan bisnis itulah yang perlu kamu desain.

Cara aman menggunakan AI untuk bisnis dimulai dari akibat kesalahannya

Desain proses AI berbasis risiko adalah pengaturan alur kerja yang menyesuaikan wewenang AI dan pemeriksaan dengan dampak kesalahan. Empat atribut utamanya adalah batas wewenang, sumber pembanding, penanggung jawab, dan jalur pemulihan.

Mulailah dengan pertanyaan sederhana: kalau hasil ini salah, apa yang terjadi berikutnya?

Draf judul yang kurang menarik masih bisa diganti. Pesan dengan janji layanan yang keliru bisa membuat pelanggan mengambil keputusan berdasarkan informasi salah.

Kesalahannya sama-sama berupa teks. Konsekuensinya berbeda.

Untuk menentukan titik pemeriksaan, lihat tiga hal:

• Dampak: siapa yang terdampak dan komitmen apa yang tercipta?
• Jangkauan: apakah kesalahan berhenti pada satu draf atau tersebar ke banyak pelanggan?
• Kemudahan pemulihan: apakah tindakan bisa dibatalkan sebelum merugikan orang lain?

Karena itu, nilai sebuah tugas dari tindakan lanjutannya. Ringkasan rapat internal membutuhkan pemeriksaan berbeda ketika dipakai sebagai dasar mengubah kesepakatan pelanggan.

Satu keluaran AI bisa berpindah tingkat risiko ketika penggunaannya berubah.

Jawaban yang meyakinkan tetap membutuhkan sumber pembanding

AI generatif dapat menghasilkan informasi salah dengan bahasa yang terdengar meyakinkan. NIST membahas risiko ini sebagai confabulation dalam panduan risiko AI generatif.

Baca jugaAI untuk Produktivitas & OperasionalJebakan "Nanti Aja" yang Bikin Kamu Gak Pernah Mulai Pakai AI di Bisnis

Kelancaran bahasa, dengan demikian, tidak cukup untuk membuktikan kebenaran jawaban.

Dalam contoh layanan pelanggan tadi, jawaban “tentu bisa dikembalikan” mungkin terdengar ramah dan profesional. Kebenarannya tetap bergantung pada ketentuan produk serta kondisi transaksi pelanggan.

Prompt yang lebih jelas dapat membantu mengarahkan jawaban. Proses tetap perlu mengantisipasi informasi yang kurang, dokumen yang tertukar, atau kondisi pelanggan yang belum tercakup.

Judul “AI gak akan pernah sempurna” paling berguna sebagai prinsip operasional: selalu sediakan tempat untuk menangani kesalahan. Kemajuan model bisa mengubah kebutuhan pemeriksaan setelah diuji.

Misalnya, AI diminta menjawab pertanyaan akses produk. Sumber pembandingnya harus mencakup catatan pembelian dan ketentuan akses, bukan sekadar percakapan sebelumnya.

Kalau sumber itu tidak tersedia, alur harus berhenti pada permintaan pengecekan. Memberi jawaban pasti dalam kondisi tersebut justru menambah masalah yang harus diselesaikan kemudian.

Tempatkan pemeriksaan sebelum tindakan yang mahal

Titik pemeriksaan paling berguna berada sebelum keluaran AI berubah menjadi tindakan yang sulit ditarik kembali.

Contohnya sebelum pesan dikirim, akses dicabut, perubahan data disimpan, atau penawaran disetujui.

Validasi berbasis aturan adalah pemeriksaan menggunakan syarat eksplisit yang hasilnya dapat diuji secara konsisten. Dalam desain proses AI berbasis risiko, validasi menyaring kesalahan yang bisa dikenali melalui aturan jelas.

Misalnya, sistem memeriksa apakah produk dalam jawaban cocok dengan produk pada pesanan. Sistem juga bisa menahan proses jika ketentuan yang diperlukan belum tersedia.

Pemeriksaan seperti ini punya batas. Kecocokan nama produk belum membuktikan bahwa seluruh jawaban sudah tepat.

Untuk keputusan yang membutuhkan penilaian konteks, gunakan persetujuan manusia, yaitu izin eksplisit dari penanggung jawab sebelum tindakan dijalankan.

Beri pemeriksa bahan yang cukup:

• Tindakan yang hendak dilakukan.
• Sumber yang mendasari usulan AI.
• Informasi yang belum ditemukan atau saling bertentangan.
• Konsekuensi ketika tindakan disetujui.

Arahan “tolong cek jawaban ini” terlalu terbuka. Arahan “cocokkan janji pengembalian dana dengan ketentuan produk ini” memberi sasaran pemeriksaan yang konkret.

Batas tersebut berkaitan dengan keputusan yang tetap perlu kamu pegang saat memakai AI.

Tim tipis perlu menghemat perhatian pemeriksa

Untuk solopreneur, memeriksa semua kalimat bisa menghabiskan waktu yang tadinya ingin dihemat.

Sebagai praktisi AI dan digital marketing strategist untuk pebisnis Indonesia, saya melihat pembagian perhatian sebagai pertimbangan penting dalam desain proses.

Kamu perlu tahu bagian mana yang aman dikerjakan sebagai draf, bagian mana yang bisa diperiksa melalui aturan, dan bagian mana yang membutuhkan keputusanmu.

Misalnya, AI boleh mengelompokkan pertanyaan pelanggan untuk antrean internal. Ketika hasil pengelompokan menentukan penolakan layanan, tambahkan pemeriksaan sebelum penolakan disampaikan.

Saat kamu sedang mengerjakan pesanan lain, keputusan yang membutuhkan persetujuan harus tetap tertahan. Tetapkan siapa penggantimu atau bagaimana pelanggan menerima pemberitahuan bahwa permintaannya sedang ditinjau.

Hal ini memperdalam rancangan sistem bisnis yang tetap berjalan saat kamu tidak selalu hadir.

Biaya proses juga mencakup waktu memeriksa, memperbaiki, dan menjelaskan kesalahan kepada pelanggan. Ukur seluruh alurnya agar kecepatan membuat draf tidak menutupi pekerjaan tambahan.

Jebakannya, tombol persetujuan bisa menjadi formalitas

Menambahkan manusia ke dalam alur belum otomatis menghasilkan pemeriksaan yang bermakna.

Misalnya, pemeriksa menerima tumpukan jawaban tanpa dokumen pembanding. Dalam situasi itu, tombol persetujuan bisa ditekan berdasarkan kesan bahwa bahasanya sudah rapi.

Perbaiki tampilan dan tugas pemeriksa. Letakkan sumber di dekat usulan tindakan, jelaskan bagian yang perlu diperiksa, dan beri pilihan untuk menahan proses.

Meminta AI memeriksa jawabannya sendiri juga perlu batas. Jika pemeriksaan kedua memakai asumsi salah yang sama, kesalahan awal bisa ikut diloloskan.

Gunakan sumber pembanding yang bisa diverifikasi. Bantuan AI tambahan tetap perlu dinilai berdasarkan bukti yang diperiksanya.

Kapan pemeriksaan manusia untuk setiap keluaran tidak diperlukan? Pada pekerjaan internal yang mudah dibatalkan dan berdampak rendah, pemeriksaan berkala atas sampel bisa menjadi pilihan.

Sebaliknya, jika tim tidak mampu menilai kebenaran keputusan yang berdampak besar, batasi AI pada pekerjaan persiapan. Tahan pelaksanaan sampai tersedia pemeriksa yang kompeten.

Siapkan tindakan saat kesalahan lolos

Jalur pemulihan mengatur apa yang dilakukan setelah kesalahan ditemukan. Dalam desain proses AI berbasis risiko, bagian ini membatasi dampak lanjutan.

Misalnya, pesan yang salah sudah terkirim. Tim perlu bisa menghentikan pengiriman berikutnya, menemukan penerima terdampak, dan menyiapkan koreksi yang diperiksa manusia.

Catat sumber yang digunakan, keluaran AI, persetujuan, serta tindakan yang terjadi. Sesuaikan catatan dengan kebutuhan penelusuran dan batasi aksesnya.

Pilih juga tindakan cadangan yang jelas. Ketika sumber gagal dibaca, proses bisa dialihkan ke penanganan manual atau ditahan sambil memberi pemberitahuan.

Kalimat “nanti dicek” belum menjelaskan siapa yang bergerak dan apa yang harus dihentikan.

Minggu ini, uji satu alur sampai titik gagalnya

Pilih satu pekerjaan berulang yang sudah kamu pahami. Alur menjawab pertanyaan pelanggan bisa menjadi latihan yang konkret.

Baca jugaBisnis & Produk DigitalKenapa Tool AI untuk Developer Membuka Peluang Bisnis AI Non-Teknis

1. Tulis perjalanan pekerjaannya. Catat data masuk, sumber jawaban, usulan AI, pemeriksaan, dan tindakan akhir.
2. Tandai komitmen yang tercipta. Cari bagian yang mengubah uang, akses, data pelanggan, atau janji layanan.
3. Tetapkan batas wewenang. Tulis tindakan yang boleh dilakukan otomatis dan tindakan yang wajib menunggu persetujuan.
4. Uji kondisi bermasalah. Gunakan contoh hipotetis dengan dokumen kosong, produk tertukar, atau permintaan di luar ketentuan.
5. Periksa respons prosesnya. Pastikan tindakan tertahan, penanggung jawab menerima pemberitahuan, dan pekerjaan bisa dilanjutkan secara manual.

Lakukan pengujian dalam lingkungan percobaan sebelum menyentuh pelanggan. Ukuran keberhasilannya mencakup kemampuan proses menghentikan tindakan ketika bukti belum cukup.

Setelah digunakan, perhatikan waktu penyelesaian, pekerjaan ulang, dan kesalahan yang lolos. Temuan itu membantu kamu menyesuaikan pemeriksaan dengan kebutuhan nyata.

Proses yang layak dipercaya punya jawaban jelas saat AI keliru. Coba petakan satu alur minggu ini, lalu cari titik terakhir tempat kesalahan masih bisa dihentikan dengan mudah.

Kalau kamu mau melatih tim memakai AI dengan standar yang sama, lihat pelatihan AI in-house.