Kenapa Proyek AI Agent Sering Gagal di Perusahaan

Polanya sering mirip. Demo di depan direksi berjalan mulus, pilot disetujui, lalu tiga bulan kemudian agennya diam-diam dimatikan. Ketika ditelusuri, penyebabnya jarang soal model yang kurang pintar. Yang bermasalah biasanya perencanaannya: tugas yang tidak jelas batasnya, data yang belum rapi, dan tidak ada cara untuk tahu apakah agennya bekerja.

Kegagalan pertama juga punya efek samping. Manajemen bisa menyimpulkan "AI belum cocok untuk kita" dan menutup pintu untuk proyek berikutnya, padahal yang belum siap adalah lingkup, data, dan cara mengukurnya. Enam penyebab di bawah ini bisa dikenali sebelum pilot dimulai.

1. Lingkupnya terlalu kabur

"Bangun agen yang bisa membantu semua pekerjaan tim penjualan" terdengar ambisius, tapi tidak bisa diuji. Apa artinya membantu? Tugas mana dulu? Bagaimana tahu agennya sudah bekerja dengan baik?

Agen yang diminta mengerjakan segalanya biasanya mengerjakan semuanya setengah jadi. Lingkup yang sehat bisa ditulis dalam satu kalimat dengan masukan dan keluaran yang jelas, misalnya "membaca email permintaan penawaran dan menyiapkan draf penawaran dari daftar harga resmi".

2. Apakah datanya benar-benar siap?

Agen hanya sebaik informasi yang bisa ia akses. Dokumen kebijakan yang saling bertentangan, daftar harga yang tersebar di beberapa file dengan versi berbeda, atau data pelanggan yang penuh duplikat akan menghasilkan jawaban yang keliru dengan nada meyakinkan.

Banyak proyek baru menyadari masalah ini setelah agen mulai dipakai. Periksa sumber data sebelum membangun: siapa pemiliknya, seberapa sering diperbarui, dan apakah ada satu versi yang dianggap benar.

3. Agen diberi otonomi terlalu cepat

Godaan terbesar dalam proyek agen adalah membiarkannya bertindak sendiri sejak hari pertama: mengirim email, mengubah data, atau memproses transaksi. Saat agen salah, kesalahannya langsung sampai ke pelanggan atau ke pembukuan.

Pola yang lebih aman adalah menaikkan otonomi bertahap. Mulai dari agen yang hanya memberi saran, lalu agen yang menyiapkan draf untuk disetujui, baru kemudian aksi otomatis untuk kasus yang terbukti konsisten. Desain titik persetujuannya dibahas di human-in-the-loop untuk otomasi AI.

4. Bagaimana tahu agennya bekerja dengan baik?

Tanpa evaluasi, kualitas agen dinilai dari kesan. Satu jawaban yang mengesankan di rapat membuat proyek terlihat sukses, satu kesalahan memalukan membuatnya terlihat gagal. Keduanya bukan ukuran.

Evaluasi yang sederhana sudah jauh lebih baik daripada tidak ada:

• Kumpulkan contoh kasus nyata beserta jawaban yang benar, termasuk kasus sulit dan kasus yang seharusnya ditolak agen.
• Jalankan agen pada kumpulan itu setiap kali prompt, model, atau sumber data berubah.
• Catat tingkat keberhasilan per jenis kasus, bukan hanya rata-rata.
• Tinjau sampel hasil dari pemakaian nyata secara berkala.

5. Kenapa biayanya bisa membengkak?

Agen memanggil model berkali-kali per tugas: merencanakan, memanggil alat, membaca hasil, lalu mencoba lagi bila gagal. Setiap putaran memakai token. Agen yang terjebak dalam pengulangan, atau yang membawa riwayat percakapan panjang ke setiap langkah, bisa memakan biaya jauh di atas perkiraan awal.

Pasang batas sejak awal: jumlah langkah maksimal per tugas, batas biaya harian, dan pemantauan pemakaian token per jenis tugas. Untuk menilai apakah biaya itu sepadan dengan manfaatnya, gunakan cara di menghitung ROI proyek AI.

6. Siapa yang merawat agen setelah pilot selesai?

Pilot sering dikerjakan oleh tim kecil yang antusias, lalu ditinggalkan saat mereka pindah ke proyek lain. Agen tetap berjalan, sumber data berubah, dan kualitasnya pelan-pelan turun tanpa ada yang sadar.

Sebelum pilot dimulai, tentukan siapa yang akan memiliki agen ini bila berhasil: siapa yang memperbarui sumber data, memantau biaya, dan menangani keluhan pengguna.

Ringkasan penyebab dan pencegahannya

Checklist pilot AI agent yang realistis

Sebelum menulis satu baris prompt pun, pastikan pertanyaan berikut sudah terjawab:

• Tugas apa persisnya, dan seberapa sering terjadi? Kandidat yang layak bisa dinilai dengan kerangka di cara memilih proses bisnis yang layak diotomasi.
• Data apa yang dibutuhkan, dan apakah sudah bersih serta punya pemilik?
• Aksi apa yang boleh dilakukan agen sendiri, dan mana yang butuh persetujuan?
• Kumpulan kasus uji apa yang dipakai, dan berapa tingkat keberhasilan minimal agar pilot dianggap lulus?
• Berapa batas biaya per hari atau per bulan?
• Bagaimana kondisi sekarang diukur, agar hasil pilot bisa dibandingkan?
• Siapa pemiliknya bila pilot berlanjut ke produksi?
• Kapan pilot dievaluasi, dan apa kriteria untuk berhenti?

Kalau perusahaan perlu menjalankan agen di infrastruktur sendiri karena alasan data, pertimbangannya dibahas di AI agent self-hosted. Pilihan itu menambah tanggung jawab teknis, jadi masukkan ke dalam checklist sejak awal.