Fine-Tuning, RAG, atau Prompt: Mana yang Dibutuhkan?

Panduan memilih prompt engineering, RAG, atau fine-tuning berdasarkan biaya, usaha, kebutuhan data, dan kesegaran informasi, lengkap dengan contoh bisnis.

Ditulis olehTheresia Candiawan

Terbit 7 November 2026 6 menit baca

Jawaban singkat

Mulailah dari prompt yang baik karena paling murah dan cepat. Pakai RAG bila AI harus menjawab dari dokumen perusahaan yang sering berubah. Fine-tuning baru masuk akal bila kamu butuh gaya atau format yang sangat konsisten dan punya banyak contoh berkualitas.

Daftar isi

Kamu ingin AI menjawab pertanyaan pelanggan dengan gaya perusahaanmu, memakai data produkmu, dan tidak mengarang. Lalu muncul tiga istilah dari vendor dan konsultan: prompt engineering, RAG, dan fine-tuning. Mana yang sebenarnya kamu butuhkan?

Untuk sebagian besar bisnis, jawabannya berurutan: mulai dari prompt, tambahkan RAG bila AI perlu pengetahuan dari dokumenmu, dan pertimbangkan fine-tuning hanya bila dua cara pertama sudah dicoba dan masih belum cukup. Ketiganya bukan pilihan yang saling meniadakan. Banyak sistem yang berjalan baik memakai prompt dan RAG sekaligus, dan sebagian kecil menambahkan fine-tuning di atasnya.

Apa beda prompt, RAG, dan fine-tuning?

Prompt engineering adalah menulis instruksi yang jelas: peran, konteks, contoh, format jawaban, dan batasan. Model tidak berubah, yang berubah hanya cara kamu memintanya.

RAG (retrieval-augmented generation) adalah menyambungkan model dengan basis pengetahuan. Setiap ada pertanyaan, sistem mencari potongan dokumen yang relevan, lalu menyertakannya ke model sebagai bahan jawaban. Cara kerjanya lebih rinci dibahas di chatbot AI dari dokumen perusahaan.

Fine-tuning adalah melatih ulang model dengan contoh-contoh milikmu, sehingga perilaku bawaan model bergeser: gaya bahasa, format, atau cara menangani jenis tugas tertentu.

Langkah memilih pendekatan yang tepat

Langkah 1: Tulis tugasnya dan ukuran berhasilnya

Sebelum memilih teknik, tulis tugas yang ingin diotomasi dengan konkret. "Menjawab pertanyaan pelanggan soal garansi dan ongkos kirim" lebih berguna dari "chatbot pintar". Siapkan juga 20 sampai 50 contoh pertanyaan nyata beserta jawaban yang dianggap benar. Kumpulan ini akan dipakai untuk menguji setiap pendekatan secara adil.

Langkah 2: Coba dengan prompt yang serius

Tulis prompt sistem yang lengkap: siapa AI ini, untuk siapa ia menjawab, gaya bahasanya, apa yang tidak boleh dijawab, dan contoh dua atau tiga jawaban ideal. Panduan menulisnya ada di prompt AI untuk bisnis. Jalankan kumpulan contoh dari langkah 1 dan catat hasilnya.

Banyak masalah selesai di sini. Gaya bahasa, format jawaban, dan penolakan yang sopan biasanya bisa diatur lewat prompt. Biayanya nyaris hanya waktu, dan perubahan bisa dicoba dalam hitungan menit.

Langkah 3: Lihat jenis kegagalannya

Kalau hasil langkah 2 belum memuaskan, periksa kenapa jawaban salah. Ada dua pola besar yang perlu dibedakan.

Bila AI tidak tahu faktanya, misalnya harga terbaru, kebijakan internal, atau spesifikasi produk, masalahnya adalah pengetahuan. Ini wilayah RAG.

Bila AI tahu faktanya tapi caranya keliru, misalnya format tidak konsisten, gaya bahasa melenceng, atau klasifikasi sering salah padahal instruksinya sudah jelas, masalahnya adalah perilaku. Ini yang kadang butuh fine-tuning.

Langkah 4: Tambahkan RAG untuk pengetahuan yang berubah

RAG cocok untuk informasi yang banyak dan sering diperbarui: katalog produk, SOP, kontrak, basis pengetahuan dukungan pelanggan. Kelebihannya, saat dokumen berubah kamu cukup memperbarui dokumennya, tanpa melatih ulang model. Jawaban juga bisa menyertakan rujukan ke dokumen sumber sehingga mudah diperiksa.

Yang perlu disiapkan: dokumen yang rapi dan terbaru, aturan pemotongan dokumen, basis data vektor, dan pengujian apakah potongan yang diambil memang relevan. Alat visual seperti yang dibahas di Langflow untuk menyusun alur AI membantu merakit alur RAG tanpa banyak menulis kode.

Langkah 5: Pertimbangkan fine-tuning hanya dengan data yang cukup

Fine-tuning masuk akal bila kamu punya cukup banyak contoh berkualitas (umumnya puluhan hingga ratusan, tergantung tugas dan anjuran penyedia) dari pasangan masukan dan keluaran yang benar, serta kebutuhan yang konsisten dan jangka panjang. Contohnya: mengklasifikasikan tiket keluhan ke kategori internal, menulis deskripsi produk dengan struktur baku, atau merapikan data dari format tertentu.

Fine-tuning kurang cocok untuk menanamkan fakta yang sering berubah. Setiap kali informasinya berubah, model perlu dilatih ulang, dan model yang sudah dilatih tetap bisa mengarang fakta. Untuk fakta, RAG hampir selalu lebih tepat.

Ketersediaan fine-tuning juga berbeda per penyedia dan per model, dan biayanya mencakup pelatihan serta pemakaian. Cek dokumentasi resmi penyedia yang kamu pakai. Untuk model yang bisa dijalankan sendiri, pilihan modelnya dibahas di model AI open-weight.

Langkah 6: Uji ulang dengan kumpulan contoh yang sama

Setiap kali menambah lapisan, jalankan lagi kumpulan contoh dari langkah 1. Bandingkan akurasi, biaya per jawaban, dan waktu respons. Bila tambahan kerumitan tidak memperbaiki hasil secara nyata, kembali ke pendekatan yang lebih sederhana.

Contoh keputusan di beberapa jenis bisnis

Toko online dengan 500 produk yang ingin chatbot menjawab stok dan spesifikasi: prompt untuk gaya bahasa, ditambah RAG atau koneksi langsung ke data produk. Fine-tuning tidak perlu karena faktanya terus berubah.

Kantor jasa yang ingin draf surat penawaran mengikuti format baku: mulai dengan prompt berisi templat dan contoh. Bila volumenya besar dan format sering melenceng, fine-tuning dengan surat-surat lama yang sudah disetujui bisa dipertimbangkan.

Tim layanan pelanggan yang menyortir ribuan tiket ke kategori internal: prompt dengan definisi kategori dan contoh sering sudah cukup. Bila akurasi masih kurang dan tersedia banyak tiket berlabel, fine-tuning model kecil bisa menekan biaya per tiket.

Ringkasan perbandingan

Aspek	Prompt	RAG	Fine-tuning
Usaha awal	Rendah	Sedang	Tinggi
Biaya awal	Hampir nol	Penyiapan dokumen dan basis data	Data latih, pelatihan, pengujian
Kebutuhan data	Beberapa contoh	Dokumen yang rapi	Puluhan hingga ratusan contoh berkualitas
Informasi yang sering berubah	Harus disisipkan manual	Cocok, cukup perbarui dokumen	Kurang cocok, perlu latih ulang
Mengubah gaya dan format	Cukup untuk banyak kasus	Tidak langsung	Paling konsisten
Bisa menunjukkan sumber	Tidak	Ya	Tidak

Pertanyaan yang sering diajukan

Apakah RAG membuat AI berhenti mengarang?

Mengurangi, tapi tidak menghilangkan. Jawaban tetap bisa salah bila potongan dokumen yang diambil tidak tepat. Minta AI menjawab "tidak tahu" bila bahan tidak memuat jawabannya, dan uji secara berkala.

Apakah fine-tuning membuat data perusahaan aman?

Tidak otomatis. Data latih dikirim ke penyedia atau diproses di infrastrukturmu, jadi aturan kerahasiaan tetap berlaku. Model hasil fine-tuning juga bisa mengulang potongan data latih.

Bisakah memakai RAG dan fine-tuning bersamaan?

Bisa. Fine-tuning mengatur gaya dan format, RAG menyediakan fakta terbaru. Tapi mulailah dari prompt dan RAG, karena kombinasi itu sudah cukup untuk sebagian besar kebutuhan.

Berapa banyak dokumen yang dibutuhkan untuk RAG?

Tidak ada batas minimum. Yang lebih penting adalah dokumennya benar, terbaru, dan tidak saling bertentangan. Dokumen yang berantakan akan menghasilkan jawaban yang berantakan.

Checklist sebelum memulai proyek:

Tugas tertulis jelas, dengan 20 sampai 50 contoh pertanyaan dan jawaban benar.
Prompt sistem lengkap sudah diuji dan hasilnya dicatat.
Kegagalan sudah dipilah: kurang pengetahuan atau perilaku keliru.
Dokumen untuk RAG rapi, terbaru, dan punya pemilik yang memperbaruinya.
Fine-tuning hanya bila ada data latih berkualitas dan kebutuhan jangka panjang.
Setiap lapisan baru diuji ulang dengan contoh yang sama.