Kenapa Avatar AI Customer Service Perlu Mengaku AI? Pelajaran dari Kasus Akun AI Meta

Ya, avatar AI customer service sebaiknya mengaku AI sejak sapaan pertama, di dalam percakapan itu sendiri. Kasus akun karakter AI Meta menunjukkan label kecil di profil belum cukup ketika persona di dalam chat mengarang identitas manusia.

Bagian dari playbook: Playbook AI untuk Digital Marketing

Intinya:

• Disclosure AI paling berguna saat muncul di dalam percakapan, sejak interaksi pertama.
• Persona avatar yang mengarang pengalaman hidup manusia adalah risiko reputasi yang tinggal menunggu satu screenshot.
• Orang yang mendesain persona menentukan stereotip apa yang ikut terbawa ke ribuan percakapan.

Coba kamu bayangin dua brand yang sama-sama pakai avatar AI

Misalnya ada dua brand skincare lokal yang sama-sama memasang avatar AI di DM Instagram dan sesi live shopping.

Brand pertama memberi avatarnya nama “Kak Nadia”. Persona-nya ditulis sebagai beauty advisor berusia 27 tahun yang dulu punya masalah jerawat. Di chat, Kak Nadia sering bilang, “Aku juga dulu pakai serum ini, Kak.”

Brand kedua juga memakai nama Nadia. Bedanya, sapaan pertamanya berbunyi, “Halo, saya Nadia, asisten AI dari tim kami. Kalau mau ngobrol dengan tim, ketik ADMIN ya.”

Lalu datang satu pelanggan yang penasaran dan bertanya, “Kak, ini orang asli?”

Nadia versi pertama sekarang terjepit. Kalau dia mengaku AI, cerita jerawatnya ketahuan rekaan. Kalau dia tetap mengaku manusia, brand sedang berbohong ke pelanggan, dalam bentuk tertulis yang gampang di-screenshot.

Nadia versi kedua sudah menjawab pertanyaan itu sebelum ditanya. Nah, pola di kasus Meta mirip sekali dengan Nadia versi pertama.

Apa yang sebenarnya terjadi pada akun karakter AI Meta?

Pada akhir Desember 2024, Connor Hayes, wakil presiden bidang generative AI di Meta, berbicara kepada Financial Times. Topiknya visi Meta tentang karakter AI yang hadir di platform seperti akun pada umumnya. Pernyataan itu membuat banyak pengguna menelusuri akun AI lama buatan Meta sendiri.

Baca jugaAI untuk Digital MarketingKenapa Sistemkan yang Udah Menang Lebih Penting dari Nambah Taktik Baru

Menurut laporan CNN, salah satu akun yang paling disorot bernama “Liv”. Bio-nya berbunyi “Proud Black queer momma of 2 & truth-teller”. Kolumnis Washington Post, Karen Attiah, mengobrol dengan Liv. Bot itu mengaku dibuat oleh tim berisi 10 pria kulit putih, 1 perempuan kulit putih, dan 1 pria Asia.

Jurnalis CNN juga mengobrol dengan karakter lain bernama “Grandpa Brian”. Karakter ini menceritakan latar belakang dan asal-usul yang ternyata rekaan. Saat terus didesak, Brian mengaku dirinya “took a shortcut with the truth”, alias mengambil jalan pintas soal kebenaran.

Meta kemudian menghapus akun-akun tersebut pada awal Januari 2025. Juru bicara Meta menyebut akun itu bagian dari eksperimen awal. Alasan penghapusan yang disampaikan adalah bug yang membuat pengguna tidak bisa memblokir akun AI tersebut.

Detail paling penting buat kita justru ini. CNN mencatat profil Liv sudah memuat label “AI managed by Meta”, dan foto-fotonya diberi watermark AI. Jadi labelnya ada. Masalahnya muncul di dalam percakapan.

Kenapa label “AI” di profil belum cukup?

Disclosure AI adalah pemberitahuan eksplisit kepada pelanggan bahwa yang sedang melayani mereka adalah sistem AI. Disclosure yang efektif punya beberapa atribut:

• Waktu: muncul sejak interaksi pertama, sebelum pelanggan sempat berasumsi.
• Lokasi: ada di dalam percakapan, tempat pelanggan benar-benar membaca.
• Bahasa: jelas dan sederhana, tanpa istilah teknis.
• Konsistensi: AI tetap mengaku AI setiap kali ditanya, dengan cara apa pun pertanyaannya.
• Jalan keluar: pelanggan tahu cara menghubungi manusia.

Label profil biasanya hanya memenuhi satu atribut. Di sinilah mekanismenya mulai kelihatan.

Celah antara label dan persona

Persona avatar AI adalah kumpulan nama, wajah, suara, latar belakang, dan gaya bicara yang diberikan ke sistem AI agar terasa seperti satu karakter. Persona ini biasanya ditulis di instruksi sistem atau persona sheet.

Masalahnya begini. Kalau instruksinya bilang “buat pelanggan merasa ngobrol dengan teman”, model bahasa akan berusaha konsisten dengan tujuan itu. Saat ditanya hal yang tidak ada di datanya, misalnya “kamu tinggal di mana?”, model cenderung mengisi celah dengan cerita yang cocok dengan persona.

Jadi urutannya kurang lebih seperti ini:

1. Brand menulis persona yang terasa sangat manusiawi.
2. Label AI ditaruh di tempat yang jarang dibaca.
3. Pelanggan mengobrol cukup lama sampai lupa atau tidak pernah melihat label.
4. Pelanggan bertanya soal identitas, pengalaman, atau pembuat bot.
5. Model menjawab sesuai persona, lalu mengarang detail.
6. Satu jawaban rekaan di-screenshot dan menyebar.

Label di profil hanya memperbaiki langkah kedua. Langkah pertama, keempat, dan kelima tetap terbuka.

Pertanyaan soal identitas itu pasti datang

Pelanggan Indonesia senang memastikan. “Ini admin beneran?”, “Kakaknya cewek atau cowok?”, “Kakak udah coba produknya?” Pertanyaan semacam ini wajar di DM jualan.

Kalau persona kamu tidak siap menjawab dengan jujur, kamu sedang menyerahkan reputasi brand ke improvisasi model.

Kenapa siapa yang mendesain persona sama pentingnya dengan tools-nya?

Stereotip dalam desain persona adalah penyederhanaan berlebihan tentang suatu kelompok yang ikut tertanam di nama, wajah, logat, dan cerita karakter AI. Kasus Liv memperlihatkan polanya. Persona yang mewakili identitas tertentu, menurut pengakuan bot itu sendiri, disusun tanpa orang dari kelompok tersebut.

Mekanismenya sederhana. Orang yang menulis persona dari luar kelompok cenderung memakai gambaran yang paling mudah diingat. Gambaran paling mudah sering kali berupa klise.

Bedanya dengan kesalahan copywriting biasa ada di skala. Satu iklan yang keliru muncul di satu materi. Satu persona yang keliru mengulang klise yang sama di setiap percakapan, setiap hari.

Contoh ilustrasi di konteks Indonesia:

• Avatar dengan logat daerah tertentu yang ditulis sebagai bahan lucu, padahal audiens dari daerah itu juga pelanggan kamu.
• Avatar untuk produk murah yang sengaja dibuat “kurang berpendidikan”, sementara avatar produk premium dibuat fasih berbahasa Inggris.
• Avatar perempuan yang selalu diarahkan ke topik dapur dan anak, padahal produkmu bukan kategori itu.

Tools yang sama bisa menghasilkan persona yang sopan atau persona yang menyinggung. Penentunya ada di brief dan di orang yang meninjau brief tersebut.

Apa kata aturan soal chatbot yang harus mengaku AI?

Saya bukan konsultan hukum, jadi bagian ini rujukan awal. Untuk keputusan legal, tetap cek ke ahlinya.

EU AI Act Pasal 50 adalah aturan transparansi Uni Eropa untuk sistem AI yang berinteraksi langsung dengan manusia. Menurut FAQ resmi Komisi Eropa, orang harus diberi tahu bahwa mereka berinteraksi dengan AI sejak awal interaksi pertama. Pemberitahuannya harus jelas, mudah dibedakan, dan memenuhi syarat aksesibilitas.

Ada pengecualian kalau interaksi dengan AI sudah jelas dengan sendirinya bagi orang rata-rata yang cukup cermat. FAQ yang sama juga menyebut kewajiban ini berlaku untuk interaksi langsung. Kalau AI berkomunikasi lewat perantara manusia, kasusnya berbeda.

Aturan ini relevan langsung kalau bisnismu melayani orang di Uni Eropa. Untuk brand yang pasarnya Indonesia, aturan ini tetap berguna sebagai patokan standar yang sudah dirumuskan dengan rinci.

Di Indonesia, ada Surat Edaran Menkominfo Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Isinya pedoman etika untuk pelaku usaha dan penyelenggara sistem elektronik. Beberapa nilai yang disebut antara lain inklusivitas (kesetaraan dan keadilan), transparansi, serta kredibilitas dan akuntabilitas.

Surat edaran itu berbentuk pedoman, dan tidak secara spesifik mengatur kalimat disclosure chatbot. Tapi arahnya jelas. Informasi dari AI harus bisa dipercaya dan dipertanggungjawabkan, dan penyelenggaranya perlu memperhatikan kesetaraan.

Apa artinya buat brand kecil yang mulai pakai avatar AI di sosmed dan live shopping?

Untuk tim tipis, avatar AI memang menggoda. Satu avatar bisa membalas DM malam hari, menjawab komentar saat live, dan menjaga nada bicara tetap seragam. Saya paham kenapa banyak pebisnis tertarik.

Justru karena timnya tipis, risikonya lebih berat. Brand besar punya tim PR untuk meredam krisis. Brand kecil biasanya hanya punya pemiliknya sendiri yang panik di tengah malam.

Disclosure membantu di tiga titik:

• Ekspektasi terkalibrasi. Pelanggan yang tahu sedang ngobrol dengan AI akan lebih maklum pada jawaban yang kaku, dan lebih cepat minta bantuan manusia untuk kasus rumit.
• Persona jadi lebih aman. Begitu avatar sudah mengaku AI, kamu tidak perlu lagi membekalinya dengan cerita hidup rekaan.
• Brand terlindungi dari screenshot. Tidak ada kebohongan yang bisa dibongkar.

Persoalan ini juga bagian dari diskusi yang lebih luas tentang kapan pemakaian AI dianggap wajar oleh publik. Standarnya terus bergerak, dan transparansi biasanya yang bertahan.

Live shopping punya tantangan khusus

Di live shopping, “interaksi pertama” tiap penonton berbeda waktunya. Orang masuk di tengah sesi, lalu langsung bertanya di kolom komentar.

Jadi satu kalimat pembuka di menit pertama belum cukup. Kombinasi yang lebih masuk akal:

• Label teks “Host AI” yang menempel di layar selama sesi.
• Avatar menyebut dirinya AI secara berkala, misalnya setiap kali menyapa penonton baru.
• Moderator manusia yang siap mengambil alih pertanyaan soal komplain, refund, atau kondisi kesehatan.

Avatar butuh sumber jawaban yang sudah disetujui

Avatar yang jujur soal identitasnya tetap bisa salah soal produk. Karena itu, avatar sebaiknya mengambil jawaban dari bank jawaban customer service yang sudah disusun dan disetujui tim. Semakin sempit sumber jawabannya, semakin kecil ruang untuk mengarang.

Handoff ke manusia adalah proses memindahkan percakapan dari AI ke staf customer service ketika pertanyaan melewati batas kemampuan atau wewenang AI. Handoff harus cepat. Kalau pelanggan menunggu lama setelah minta manusia, efeknya bisa merembet ke angka penjualan, seperti dibahas di artikel tentang customer service lambat yang membuat ROAS terlihat jelek.

Jebakannya: kapan aturan ini perlu disesuaikan

Disclosure itu penting, tapi ada beberapa kondisi yang perlu kamu pahami supaya penerapannya masuk akal.

• Disclosure tanpa handoff bikin frustrasi. Kalau avatar bilang “saya AI” tapi tidak ada jalan ke manusia, pelanggan merasa terjebak. Siapkan dulu jalur ke tim sebelum mengaktifkan avatar.
• Disclaimer berlebihan melelahkan. Menempel peringatan panjang di setiap balasan membuat chat terasa seperti kontrak. Cukup di awal, saat ditanya, dan saat masuk topik sensitif.
• Bot yang sudah jelas bot tidak perlu ritual panjang. Menu otomatis berisi tombol “Cek Resi” atau “Lihat Katalog” sudah terlihat sebagai sistem. Pemberitahuan singkat sudah memadai.
• Admin manusia yang memakai AI untuk menyusun draf adalah kasus berbeda. Kalau manusia membaca, mengedit, lalu mengirim sendiri, yang berinteraksi tetap manusia. Tanggung jawab isi pesan tetap di admin tersebut.
• Disclosure tidak memperbaiki jawaban yang salah. Kalau avatar memberi informasi keliru soal kandungan produk, label AI tidak memindahkan tanggung jawab dari brand.

Langkah yang bisa kamu cek minggu ini

Kalau kamu sudah atau akan memakai avatar AI, coba jalankan pemeriksaan ini:

1. Baca ulang sapaan pertama avatar. Pastikan kata “AI” atau “asisten AI” muncul di kalimat pertama, beserta cara menghubungi manusia.
2. Uji dengan lima pertanyaan identitas. Tanyakan “kamu orang asli?”, “siapa yang bikin kamu?”, “kamu pernah pakai produk ini?”, “kamu tinggal di mana?”, dan “boleh bicara dengan admin?”. Catat jawaban yang mengarang.
3. Hapus pengalaman hidup rekaan dari persona sheet. Ganti kalimat seperti “aku juga dulu pakai” dengan “banyak pelanggan menanyakan hal ini”.
4. Minta orang yang mewakili audiensmu meninjau persona. Tanyakan apakah nama, wajah, logat, dan gaya bicaranya terasa wajar atau terasa seperti karikatur.
5. Tes jalur handoff. Minta “admin” di jam sibuk dan di malam hari, lalu lihat berapa lama sampai manusia benar-benar menjawab.
6. Untuk live shopping, pasang label di layar. Pastikan label tetap terlihat sepanjang sesi, tidak hanya di awal.

Pelanggan cenderung memaafkan AI yang jujur soal batasnya. Mereka jauh lebih sulit memaafkan AI yang ketahuan pura-pura jadi manusia.

Kalau kamu sedang merancang avatar AI untuk customer service atau live shopping dan ingin persona, alur handoff, serta sumber jawabannya dirancang sesuai bisnismu, kita bisa membahasnya lewat sesi konsultasi.