--- title: "Memantau Biaya dan Jejak Aplikasi AI dengan Langfuse" description: "Langfuse mencatat setiap panggilan model AI, token, biaya, dan langkah agen dalam satu jejak. Begini cara kerjanya dan hal yang perlu diwaspadai." url: "https://nivelva.com/insight/memantau-biaya-jejak-aplikasi-ai-langfuse" category: "AI \u0026 Otomasi" tags: ["langfuse","observability","biaya api ai","llm","tracing"] author: "Lucas Tan" published: "2026-11-11T13:22:00+07:00" updated: "2026-11-11T13:22:00+07:00" language: "id" publisher: "Nivelva (https://nivelva.com)" --- # Memantau Biaya dan Jejak Aplikasi AI dengan Langfuse > **Jawaban singkat:** Langfuse adalah platform open source untuk merekam jejak (trace) aplikasi AI, termasuk prompt, jawaban, token, latensi, dan biaya per panggilan. Biaya dihitung dari data pemakaian yang dikirim aplikasi, lalu bisa dilihat per pengguna, per fitur, atau per model. Chatbot layanan pelanggan sudah berjalan sebulan, lalu tagihan API AI datang lebih besar dari perkiraan. Pertanyaannya langsung bermunculan: fitur mana yang paling boros, pengguna mana yang memicu percakapan panjang, dan kenapa sebagian jawaban butuh waktu lama? Dashboard penyedia model biasanya hanya menunjukkan total token per API key, bukan cerita lengkap di balik tiap permintaan. Di sinilah alat observability khusus AI seperti Langfuse berguna. Langfuse merekam setiap langkah aplikasi AI, dari prompt yang dikirim, jawaban model, pencarian dokumen, sampai pemanggilan tool oleh agen, lalu menyusunnya dalam satu jejak yang bisa ditelusuri. Dari jejak itu kamu bisa melihat token, latensi, dan biaya per permintaan. ## Apa yang dicatat Langfuse Unit dasarnya adalah trace, yaitu satu rangkaian kejadian untuk satu permintaan pengguna. Di dalamnya ada observasi: panggilan model (generation), pembuatan embedding, pencarian di database vektor, panggilan API, dan langkah lain yang kamu tandai. Beberapa trace bisa dikelompokkan dalam sesi, cocok untuk percakapan chatbot yang berlangsung beberapa giliran. Menurut dokumentasi resminya, Langfuse juga menyediakan manajemen prompt dengan versi, evaluasi (LLM sebagai penilai, penilaian manual, umpan balik pengguna), dataset untuk eksperimen, serta dashboard biaya dan pemakaian. Integrasinya tersedia lewat SDK Python dan JavaScript, berbasis OpenTelemetry, dan untuk pustaka populer seperti OpenAI SDK, LangChain, LlamaIndex, serta gateway seperti LiteLLM. Bagi tim kecil, nilai terbesarnya biasanya ada di dua hal: melihat biaya dipecah per pengguna atau fitur, dan menemukan langkah yang lambat atau gagal di dalam alur agen. Cara memasangnya di aplikasi relatif ringan. Untuk aplikasi yang sudah memakai salah satu pustaka yang didukung, biasanya cukup memasang SDK, mengisi kunci proyek dan alamat server Langfuse di variabel lingkungan, lalu mengaktifkan integrasinya. Panggilan model setelah itu tercatat otomatis. Langkah yang tidak otomatis, seperti pencarian ke database internal atau pemanggilan API pihak ketiga, bisa dibungkus manual supaya ikut muncul di jejak. Mulailah dari satu fitur yang paling mahal atau paling sering dikeluhkan, baru kemudian diperluas ke fitur lain setelah kamu terbiasa membaca jejaknya. Detail langkah per bahasa pemrograman ada di dokumentasi resminya. ## Bagaimana Langfuse menghitung biaya? Ini bagian yang sering disalahpahami. Langfuse tidak membaca tagihan dari penyedia model. Biaya muncul dari dua jalur, sesuai dokumentasi per 11 November 2026: | Jalur | Cara kerja | Kapan dipakai | |:--|:--|:--| | Biaya dikirim langsung | Aplikasi mengirim nilai biaya bersama data generation, Langfuse menyimpannya apa adanya | Kamu sudah menghitung biaya sendiri atau memakai gateway yang menghitungnya | | Biaya disimpulkan | Langfuse mencocokkan nama model dengan definisi harga, lalu mengalikan dengan data pemakaian token yang dikirim | Paling umum, terutama lewat integrasi resmi | | Definisi harga sendiri | Kamu menambah definisi model (pola nama dan harga per jenis token) di pengaturan proyek atau lewat API | Model yang belum ada di daftar bawaan, model self-hosted, atau harga kontrak khusus | Ada beberapa catatan dari dokumentasinya yang perlu diingat. Pertama, biaya hanya dihitung bila aplikasi mengirim data pemakaian token atau biaya. Langfuse tidak lagi menaksir token dari teks. Kedua, nama model harus cocok dengan definisi harga, kalau tidak, biayanya kosong. Ketiga, perubahan harga tidak berlaku mundur, hanya untuk data yang masuk sesudahnya. Keempat, instance self-hosted memakai daftar harga bawaan sesuai versinya sampai di-upgrade. Artinya, angka di Langfuse adalah perkiraan berdasarkan harga yang tercatat, bukan pengganti tagihan resmi. Cocokkan sesekali dengan tagihan penyedia. Kalau ada selisih besar, biasanya penyebabnya definisi harga yang usang atau token cache yang tercatat ganda. ## Memasang: Cloud atau self-hosted? Langfuse tersedia sebagai layanan Cloud yang dikelola tim Langfuse, atau dipasang sendiri. Kode intinya open source di GitHub, sedangkan beberapa fitur tambahan untuk kebutuhan enterprise memerlukan kunci lisensi. Untuk self-hosted, dokumentasinya menyebut beberapa komponen: PostgreSQL untuk data transaksi, ClickHouse untuk data jejak, Redis atau Valkey untuk cache dan antrean, serta object storage kompatibel S3 untuk event mentah. Docker Compose disarankan untuk uji coba atau pemakaian di satu VM, tanpa ketersediaan tinggi dan tanpa backup bawaan. Untuk produksi, dokumentasi mengarahkan ke Kubernetes (Helm) atau panduan cloud. Pilihan self-hosted masuk akal bila prompt dan jawaban berisi data pelanggan yang tidak boleh keluar dari infrastrukturmu. Konsekuensinya, kamu bertanggung jawab atas backup, update, dan kapasitas disk, karena jejak AI bisa tumbuh cepat. Kalau kamu sudah memakai router model seperti di [cara pasang LiteLLM](https://nivelva.com/insight/cara-pasang-litellm-sebagai-router-banyak-model-ai), integrasi ke Langfuse bisa dipasang di level gateway sehingga semua aplikasi tercatat dari satu titik. ## Yang perlu diwaspadai Jejak AI berisi prompt dan jawaban lengkap. Kalau pengguna mengetik nomor telepon, alamat, atau data kesehatan ke chatbot, semuanya ikut tersimpan di Langfuse. Tentukan sejak awal apa yang perlu disensor sebelum dikirim, siapa yang boleh membuka dashboard, dan berapa lama data disimpan. Hal lain adalah disiplin penamaan. Biaya per fitur atau per pengguna hanya bisa dilihat bila setiap trace diberi atribut yang konsisten, misalnya ID pengguna, nama fitur, dan lingkungan (produksi atau uji). Tanpa itu, dashboard hanya menampilkan tumpukan panggilan model tanpa konteks. Terakhir, observability bukan rem. Langfuse menunjukkan ke mana uang pergi, tetapi tidak menghentikan pemakaian berlebih. Untuk membatasi pengeluaran, pasang kuota di gateway atau aplikasi, seperti dibahas di [membatasi kuota dan biaya API AI per tim](https://nivelva.com/insight/membatasi-kuota-biaya-api-ai-per-tim-aplikasi). ## Dari data jejak ke penghematan Setelah beberapa minggu data terkumpul, pola biasanya terlihat: prompt sistem yang terlalu panjang, riwayat percakapan yang dikirim utuh setiap giliran, atau fitur yang memakai model besar padahal model kecil cukup. Teknik menekan biaya dari temuan seperti ini dibahas di [cara menghemat biaya token API AI](https://nivelva.com/insight/menghemat-biaya-token-api). Data jejak juga berguna untuk kualitas. Kumpulan pertanyaan nyata dari pengguna bisa dijadikan dataset uji, lalu setiap perubahan prompt atau model diuji terhadap dataset itu sebelum dirilis. Ringkasnya, Langfuse memberi gambaran lengkap tentang apa yang dilakukan aplikasi AI di setiap permintaan, termasuk biaya perkiraannya. Pasang integrasinya sejak awal, beri atribut pengguna dan fitur secara konsisten, dan cocokkan angkanya dengan tagihan resmi secara berkala. Untuk data sensitif, self-hosted memberi kendali penuh dengan tambahan pekerjaan pemeliharaan. ## Sumber - - - - --- Diterbitkan oleh Nivelva Insight (https://nivelva.com/insight/). Artikel ini: https://nivelva.com/insight/memantau-biaya-jejak-aplikasi-ai-langfuse Kontak Nivelva: WhatsApp https://wa.me/6285111245007, email hello@nivelva.com