AI Bisa Menjawab Customer. Tapi Siapa yang Bertanggung Jawab Kalau Salah?
AI Customer Service kini mampu menjawab pertanyaan pelanggan, merangkum percakapan, merekomendasikan produk, mengklasifikasikan kebutuhan, bahkan membantu menjalankan tindakan tertentu. Kecepatannya membuat AI terlihat seperti agent tambahan yang selalu aktif.
Namun, semakin besar wewenang AI, semakin penting satu pertanyaan yang sering tertinggal: kalau AI memberikan jawaban yang salah, siapa yang bertanggung jawab memperbaikinya?
Pertanyaan ini semakin relevan pada September 2026. Perdebatan industri tidak lagi hanya membahas seberapa pintar AI Agent, tetapi juga siapa yang memberi izin, siapa yang mengawasi, bagaimana kesalahan dideteksi, dan siapa yang mengambil alih ketika sistem tidak lagi aman untuk melanjutkan sendiri.
Untuk customer service, jawabannya tidak boleh berhenti pada “AI yang salah”. Pelanggan berinteraksi dengan sebuah bisnis. Karena itu, bisnis tetap membutuhkan owner, batas wewenang, human handover, ticket, SLA, dan audit trail yang jelas.
AI boleh mempercepat pelayanan. Namun, bisnis tetap membutuhkan manusia dan workflow yang jelas untuk memastikan kesalahan benar-benar diperbaiki.
Jawaban Singkat
Dalam operasional AI Customer Service, bisnis yang menggunakan AI tetap harus memiliki tanggung jawab atas hasil pelayanan kepada pelanggan. Vendor AI dapat bertanggung jawab atas teknologi dan layanan sesuai kontrak, tetapi bisnis tetap perlu menentukan apa yang boleh dilakukan AI, data apa yang boleh dipakai, kapan AI harus berhenti, siapa yang mengambil alih, dan bagaimana tim memperbaiki kesalahan.
Dengan kata lain, AI dapat menghasilkan jawaban. Namun, accountability tetap membutuhkan manusia, proses, dan sistem yang dapat ditelusuri.
Untuk kasus yang menyangkut refund, fraud, data pribadi, komplain berat, keputusan kebijakan, atau risiko keselamatan, bisnis sebaiknya menggunakan AI sebagai pendukung dan mempercepat eskalasi kepada agent manusia.
Kenapa Topik Accountability AI Sedang Naik?
Pada awal September 2026, pembicaraan tentang AI Agent mulai bergeser dari kemampuan menuju governance. Reuters melaporkan bahwa eksperimen internal Meta untuk mengganti sebagian pekerjaan dengan AI Agent menghadapi masalah operasional dan akhirnya dikurangi skalanya. Sementara itu, diskusi industri tentang “accountability gap” menyoroti risiko ketika AI dapat mengambil tindakan tetapi organisasi tidak mempunyai garis tanggung jawab yang jelas.
Selain itu, NIST menempatkan accountability dan transparency sebagai karakteristik penting dalam pengelolaan risiko AI. Kerangka AI Risk Management Framework menekankan bahwa organisasi perlu mengelola risiko AI sepanjang desain, penggunaan, evaluasi, dan operasional sistem.
Sementara itu, dalam customer service, isu tersebut lebih konkret. AI tidak hanya membuat teks. AI dapat memengaruhi keputusan pelanggan, ekspektasi refund, status order, janji layanan, dan tindakan lanjutan.
Karena itu, pertanyaan “apakah AI bisa menjawab?” mulai kalah penting dibanding pertanyaan:
- Apakah AI boleh mengambil keputusan ini?
- Siapa yang menyetujui kebijakan jawaban AI?
- Bagaimana supervisor mengetahui AI melakukan kesalahan?
- Siapa yang mengambil alih ketika pelanggan meminta manusia?
- Apakah histori keputusan AI dapat ditelusuri?
- Berapa lama pelanggan menunggu setelah handover?
AI Customer Service Bukan Masalahnya. AI Tanpa Owner yang Menjadi Masalah
Di sisi lain, AI dapat menjadi bagian yang sangat berguna dalam customer service. Meta Business Agent, misalnya, dirancang untuk menjawab pertanyaan bisnis, memberi rekomendasi, melakukan qualification, booking, dan membantu penjualan. Meta juga menyebut bisnis dapat menentukan kapan anggota tim perlu mengambil alih percakapan.
Artinya, model yang sehat bukan “AI atau manusia”. Model yang lebih kuat adalah AI dengan batas wewenang dan jalur eskalasi yang jelas.
Lebih lanjut, WhatsApp Business Policy menyatakan bahwa bisnis boleh memakai otomatisasi untuk merespons dalam periode layanan pelanggan, tetapi bisnis juga harus menyediakan jalur eskalasi yang cepat, jelas, dan langsung. Salah satu jalur yang disebut secara eksplisit adalah transfer ke agent manusia.
Dengan demikian, human handover bukan sekadar fitur tambahan. Untuk banyak workflow, handover merupakan bagian dari desain layanan yang bertanggung jawab.
Siapa yang Bertanggung Jawab Kalau AI Salah?
Namun, tidak ada satu jawaban legal yang berlaku untuk semua bisnis, negara, kontrak, dan jenis kasus. Namun, secara operasional, tanggung jawab dapat dibagi menjadi beberapa lapisan.
| Pihak | Tanggung Jawab Operasional |
|---|---|
| Bisnis / brand | Menentukan kebijakan, batas wewenang AI, data yang boleh dipakai, jalur eskalasi, serta penyelesaian kepada pelanggan |
| Vendor AI / model | Menyediakan teknologi sesuai spesifikasi, kontrol, dokumentasi, reliabilitas, dan kewajiban kontraktual yang disepakati |
| Supervisor CS | Memantau kualitas, kasus berisiko, escalation, SLA, dan pola kesalahan |
| Agent manusia | Mengambil alih kasus, menggunakan judgment, mengoreksi jawaban, dan menyelesaikan pengecualian |
| Platform operasional | Menjaga ownership, histori, routing, ticket, status, dan jejak proses agar pekerjaan dapat ditelusuri |
Tabel tersebut membahas accountability operasional, bukan penetapan tanggung jawab hukum. Untuk kewajiban hukum, bisnis perlu melihat regulasi, kontrak, jenis data, industri, serta yurisdiksi yang berlaku.
Namun, dari sudut pandang pelanggan, prinsipnya sederhana: bisnis tidak seharusnya meminta pelanggan menyelesaikan sendiri masalah yang muncul dari automation bisnis.
Lima Level Wewenang AI dalam Customer Service
Level 1 — AI Membantu Agent Menulis
AI hanya membuat draft, merangkum chat, atau mencari informasi. Agent manusia tetap memeriksa sebelum mengirim.
Cocok untuk:
- ringkasan percakapan;
- grammar dan tone;
- pencarian knowledge base;
- rekomendasi jawaban; dan
- klasifikasi awal.
Risikonya relatif rendah karena manusia masih berada sebelum keputusan final.
Level 2 — AI Menjawab Pertanyaan Rutin
AI dapat langsung menjawab pertanyaan dengan jawaban yang sudah terkontrol.
Contohnya:
- jam operasional;
- cara pembayaran;
- prosedur umum;
- informasi produk;
- lokasi; dan
- status sederhana yang berasal dari data valid.
Namun, AI tetap harus mempunyai fallback jika informasi tidak ditemukan atau confidence rendah.
Level 3 — AI Menjalankan Tindakan yang Mudah Dibatalkan
AI dapat melakukan tindakan sederhana yang dapat dikoreksi dengan cepat.
Misalnya:
- membuat ticket;
- menjadwalkan callback;
- memperbarui kategori;
- mengumpulkan nomor order; atau
- mengarahkan chat ke tim tertentu.
Pada level ini, audit trail mulai sangat penting.
Level 4 — AI Mengusulkan Keputusan, Manusia Menyetujui
Kasus dengan dampak finansial atau kebijakan sebaiknya tidak langsung dieksekusi AI tanpa kontrol tambahan.
Contohnya:
- refund bernilai besar;
- kompensasi;
- pembatalan tertentu;
- perubahan data sensitif;
- pengecualian kebijakan; atau
- keputusan yang berpotensi merugikan pelanggan.
AI dapat mengumpulkan data dan memberi rekomendasi. Namun, manusia memberikan persetujuan.
Level 5 — AI Harus Handover
Untuk situasi berisiko tinggi, AI sebaiknya berhenti dan mengalihkan kasus.
Contohnya:
- dugaan fraud;
- ancaman keselamatan;
- kebocoran data;
- pelanggan sangat marah;
- permintaan berbicara dengan manusia;
- risiko hukum;
- permintaan yang berulang tanpa solusi; atau
- sistem tidak yakin terhadap informasi yang AI berikan.
Prinsipnya: semakin besar konsekuensi keputusan, semakin kecil ruang AI untuk bertindak tanpa pengawasan manusia.
Karena itu, salah satu cara mengurangi risiko adalah membedakan tindakan yang boleh AI lakukan berdasarkan tingkat dampaknya.
Empat Kesalahan AI Customer Service yang Paling Berbahaya
1. AI Memberikan Informasi yang Terdengar Meyakinkan tetapi Salah
AI dapat menghasilkan jawaban yang lancar dan terdengar yakin. Masalahnya, pelanggan sering menilai keyakinan bahasa sebagai tanda kebenaran.
Karena itu, bisnis perlu membatasi sumber pengetahuan AI dan memastikan jawaban tentang kebijakan, harga, refund, garansi, serta transaksi berasal dari sumber yang valid.
2. AI Menjanjikan Sesuatu yang Sebenarnya Tidak Boleh Diberikan
Contohnya, AI mengatakan refund akan selesai hari ini, padahal tim finance belum menyetujui. Masalahnya bukan hanya informasi salah. AI sudah menciptakan ekspektasi kepada pelanggan.
Solusinya adalah permission boundary. AI hanya boleh memberikan janji yang memang sistem dan organisasi dapat penuhi.
3. AI Terus Membalas Padahal Seharusnya Handover
Ini salah satu kegagalan desain paling umum.
Pelanggan berkata “saya mau bicara dengan agent”, tetapi chatbot kembali meminta customer memilih menu. Pelanggan menjelaskan refund gagal, tetapi AI terus mengulang artikel kebijakan.
Ketika itu terjadi, otomatisasi berubah dari bantuan menjadi hambatan.
4. AI Salah, tetapi Tidak Ada yang Menjadi Owner Kasus
Ini yang paling relevan untuk operasional CS.
AI memberikan jawaban salah. Customer komplain. Chat kemudian masuk ke team inbox, tetapi tidak ada agent yang merasa bertanggung jawab.
Tanpa owner, masalah dapat berpindah-pindah antara chatbot, CS, supervisor, finance, atau warehouse.
Karena itu, AI governance harus bertemu dengan conversation ownership.
Human Handover Bukan Cukup Sekadar “Transfer ke Agent”
Handover yang buruk hanya memindahkan customer dari bot ke manusia.
Handover yang baik memindahkan konteks.
Agent seharusnya menerima:
- identitas customer;
- ringkasan percakapan;
- pertanyaan yang sudah diajukan;
- jawaban AI sebelumnya;
- sumber informasi yang dipakai AI;
- nomor order atau ticket;
- alasan eskalasi;
- tingkat prioritas; dan
- tindakan yang AI atau tim sudah lakukan.
Dengan begitu, customer tidak perlu mengulang cerita dari awal.
Gartner melaporkan pada Juli 2026 bahwa pelanggan semakin memakai GenAI pihak ketiga untuk mencari bantuan, tetapi mereka tetap mengharapkan opsi untuk terhubung dengan agent manusia ketika perusahaan memakai AI dalam customer service.
Artinya, human access tetap menjadi bagian penting dari pengalaman AI Customer Service.
AI Answer Bukan Sama dengan Resolved Ticket
Namun, salah satu kesalahan terbesar dalam mengukur AI adalah hanya menghitung berapa banyak chat yang tidak sampai kepada agent.
Misalnya, metrik seperti containment rate atau deflection rate memang berguna. Namun, keduanya tidak selalu berarti customer mendapatkan solusi.
Customer dapat berhenti karena:
- menyerah;
- bingung;
- berpindah channel;
- mencoba lagi beberapa jam kemudian;
- meminta bantuan di media sosial; atau
- akhirnya menghubungi manusia melalui jalur lain.
Karena itu, AI Customer Service sebaiknya mengukur resolution, bukan hanya automation.
KPI yang Harus Dipantau Saat Menggunakan AI Customer Service
| KPI | Apa yang Diukur |
|---|---|
| AI Resolution Rate | Persentase kasus yang benar-benar selesai tanpa bantuan manusia |
| Human Handover Rate | Persentase chat yang sistem alihkan kepada agent |
| Escalation Accuracy | Apakah sistem benar-benar mengalihkan kasus yang seharusnya di-escalate |
| AI Correction Rate | Berapa banyak jawaban AI yang harus dikoreksi manusia |
| Post-Handover Waiting Time | Berapa lama customer menunggu setelah meminta manusia |
| Repeat Contact Rate | Apakah customer kembali untuk masalah yang sama |
| Reopen Rate | Apakah ticket yang tim anggap selesai kembali dibuka |
| SLA Compliance | Apakah response dan resolution mengikuti target waktu |
| CSAT by Handler | Bandingkan kepuasan setelah AI vs setelah agent manusia |
| High-Risk Error Rate | Frekuensi kesalahan pada refund, fraud, data, atau keputusan sensitif |
Selain itu, satu KPI tambahan sangat berguna: Who Owns the Case?
Jika organisasi tidak dapat menjawab siapa owner kasus setelah AI gagal, masalahnya bukan lagi kualitas model. Masalahnya adalah desain operasi.
Model Accountability untuk Tim Customer Service
Secara sederhana, gunakan alur berikut:
AI menjawab → sistem mengecek risiko → jika aman, lanjut → jika berisiko, buat/eskalasi ticket → assign owner → jalankan SLA → supervisor monitor → tutup kasus dengan alasan yang jelas
Agar alur tersebut bekerja, bisnis membutuhkan lima komponen.
1. Policy Owner
Seseorang harus bertanggung jawab terhadap aturan AI.
Policy owner menentukan:
- topik yang boleh AI jawab;
- topik yang dilarang;
- batas refund;
- kata atau intent pemicu eskalasi;
- data yang boleh AI gunakan; dan
- standar tone serta disclosure.
2. Conversation Owner
Setelah AI melakukan handover, setiap chat perlu mempunyai agent atau tim yang bertanggung jawab.
Agent Assignment membantu memastikan chat tidak saling rebut, saling lempar, atau berhenti tanpa follow up.
3. Ticket dan Status
Kasus yang membutuhkan tindakan tidak boleh hanya tersimpan sebagai chat.
WhatsApp Ticketing membantu tim menyimpan owner, status, prioritas, histori, dan tindak lanjut sampai selesai.
4. SLA
AI dapat memberikan respons instan, tetapi manusia tetap dapat terlambat setelah handover.
Karena itu, SLA Monitoring perlu tetap berjalan setelah automation menyerahkan kasus kepada agent.
5. Audit Trail
Bisnis perlu dapat menelusuri:
- siapa yang mengatur kebijakan;
- jawaban AI;
- kapan AI melakukan handover;
- siapa yang menerima kasus;
- tindakan yang tim lakukan; dan
- cara tim menutup kasus.
Pada akhirnya, audit trail tidak hanya berguna saat terjadi masalah. Data tersebut juga membantu bisnis memperbaiki knowledge base, escalation rule, dan training agent.
Checklist: Apakah AI Customer Service Anda Sudah Punya Accountability?
AI Policy
- AI mempunyai daftar topik yang boleh dan tidak boleh AI jawab
- Bisnis menentukan sumber pengetahuan resmi
- AI tidak boleh membuat janji di luar kewenangan
- Kasus sensitif mempunyai escalation rule
Human Handover
- Customer dapat meminta manusia dengan bahasa natural
- Handover terjadi tanpa memaksa customer mengulang menu
- Agent menerima ringkasan dan histori
- Kasus mendapat owner setelah handover
Operations
- Tim membuat ticket untuk kasus yang membutuhkan tindak lanjut
- SLA tetap berjalan setelah AI menyerahkan chat
- Supervisor dapat melihat kasus at risk dan overdue
- Supervisor dapat memantau workload agent
Quality Control
- Tim mengukur AI correction rate
- Tim melakukan review terhadap jawaban salah
- Tim mencatat root cause
- Tim memperbaiki knowledge base berdasarkan pola kesalahan
Governance
- Ada policy owner
- Ada audit trail
- Permission AI terdokumentasi
- Vendor dan bisnis memahami batas tanggung jawab masing-masing
Jika banyak poin di atas belum tersedia, bisnis mungkin sudah mempunyai AI yang pintar, tetapi belum mempunyai AI Customer Service yang siap dioperasikan secara bertanggung jawab.
Di Mana Peran SatuInbox?
Di sisi lain, SatuInbox tidak memosisikan diri sebagai AI Agent yang mengambil alih seluruh interaksi customer.
Karena itu, peran yang lebih relevan adalah operational accountability setelah percakapan membutuhkan manusia.
SatuInbox membantu tim:
- memberikan owner pada chat;
- mengubah chat menjadi ticket;
- membawa histori percakapan;
- mengatur follow up;
- memantau SLA;
- melihat workload agent; dan
- memastikan kasus benar-benar selesai.
Dengan demikian, AI dapat tetap berfungsi sebagai layer pertama untuk membantu kecepatan. Namun, ketika customer membutuhkan keputusan manusia, workflow tidak berhenti di tombol “handover”.
Baca juga artikel SatuInbox sebelumnya tentang AI Customer Service dan human agent untuk memahami kapan AI sebaiknya melakukan eskalasi.
Kesimpulan
Kesimpulannya, AI bisa menjawab customer. Namun, AI tidak dapat menjadi alasan bisnis kehilangan tanggung jawab terhadap customer.
AI Customer Service yang matang membutuhkan lebih dari model yang pintar. Bisnis membutuhkan batas wewenang, policy owner, human handover, conversation owner, ticket, SLA, dan audit trail.
Karena itu, jangan hanya bertanya:
“Seberapa banyak chat yang bisa diselesaikan AI?”
Tanyakan juga:
“Kalau AI salah, apakah kami tahu siapa yang harus memperbaikinya, seberapa cepat, dan sampai benar-benar selesai?”
Di situlah perbedaan antara automation dan accountable customer service.
Pertanyaan yang Sering Diajukan
Siapa yang bertanggung jawab jika AI Customer Service memberikan jawaban salah?
Secara operasional, bisnis tetap perlu bertanggung jawab terhadap pelayanan kepada pelanggan. Vendor AI dapat memiliki kewajiban sesuai kontrak dan teknologi yang vendor sediakan. Namun, bisnis perlu menentukan batas wewenang, policy, human handover, dan proses koreksi. Tanggung jawab hukum dapat berbeda berdasarkan kontrak, regulasi, industri, dan yurisdiksi.
Kapan AI Customer Service harus melakukan human handover?
AI sebaiknya melakukan handover ketika customer memintanya, confidence rendah, jawaban berulang, kasus menyangkut refund, fraud, data pribadi, keputusan kebijakan, risiko keselamatan, atau ketika AI tidak memiliki wewenang untuk menyelesaikan masalah.
Apakah WhatsApp mewajibkan jalur eskalasi ke manusia?
WhatsApp Business Policy menyatakan bisnis boleh menggunakan otomatisasi dalam periode layanan pelanggan, tetapi juga harus menyediakan jalur eskalasi yang cepat, jelas, dan langsung. Salah satu opsi yang dicantumkan adalah transfer ke agent manusia.
Apa bedanya AI containment rate dan resolution rate?
Containment rate menunjukkan berapa banyak percakapan yang tidak sampai ke agent. Resolution rate mengukur berapa banyak masalah yang benar-benar selesai. Karena itu, resolution lebih dekat dengan hasil yang dirasakan customer.
Apa yang harus dibawa saat AI melakukan handover ke agent?
Handover sebaiknya membawa ringkasan, histori, customer identity, order atau ticket ID, jawaban AI sebelumnya, alasan eskalasi, prioritas, serta tindakan yang AI atau tim sudah lakukan.
Apakah human agent tetap diperlukan jika AI sudah sangat pintar?
Ya, terutama untuk keputusan, empati, pengecualian, negosiasi, risiko, fraud, data sensitif, serta kasus yang tidak mengikuti pola standar. Peran manusia dapat berubah, tetapi accountability tetap membutuhkan human oversight.
Bagaimana cara mengukur apakah AI Customer Service bekerja dengan baik?
Gunakan kombinasi AI resolution rate, escalation accuracy, AI correction rate, repeat contact, reopen rate, post-handover waiting time, SLA compliance, CSAT, dan high-risk error rate. Jangan hanya mengukur deflection.
AI boleh menjawab. Setiap kasus tetap harus punya owner.
Kelola chat, agent, ticket, follow up, SLA, dan histori percakapan dari satu command center agar human handover tidak berhenti sebagai sekadar transfer chat.
Jadwalkan Demo SatuInboxSumber Resmi dan Referensi
- WhatsApp Business — Kebijakan Berkirim Pesan WhatsApp Business
- Meta — Be There for Every Customer With Meta Business Agent
- Gartner — Customers Are 3x More Likely to Use Third-Party GenAI Than Company Chatbots
- NIST — AI Risk Management Framework
- NIST — Generative AI Profile
- ISO — ISO/IEC 42001 AI Management Systems
- Reuters — Meta AI Agent workforce experiment, September 2026
- TechRadar — The AI Agent accountability gap, September 2026