--- title: "Model AI Open-Weight yang Bisa Dijalankan Sendiri" description: "Gemma 4, Qwen3.8, DeepSeek V4, Mistral, Llama 4, gpt-oss: lisensi resmi, kebutuhan VRAM, kuantisasi, dan alat seperti Ollama, llama.cpp, vLLM." url: "https://nivelva.com/insight/model-ai-open-source" category: "AI \u0026 Otomasi" tags: ["model open-weight","llm lokal","ollama","vllm","llama.cpp","lisensi ai"] author: "Theresia Candiawan" published: "2026-11-04T11:45:00+07:00" updated: "2026-11-04T11:45:00+07:00" language: "id" publisher: "Nivelva (https://nivelva.com)" --- # Model AI Open-Weight yang Bisa Dijalankan Sendiri > **Jawaban singkat:** Model open-weight adalah model AI yang bobotnya bisa diunduh dan dijalankan sendiri. Per 4 November 2026, pilihannya antara lain Gemma 4, Qwen3.8, DeepSeek V4, Mistral, Llama 4, dan gpt-oss, dengan lisensi berbeda. Kebutuhan GPU ditentukan ukuran parameter dan kuantisasi. Model AI **open-weight** adalah model yang bobotnya (hasil pelatihan) dirilis untuk diunduh, sehingga bisa dijalankan di server kantor atau server sewaan tanpa mengirim data ke layanan pihak lain. Per 4 November 2026, pilihan yang menonjol antara lain Gemma 4 dari Google, Qwen3.8 dari Alibaba, DeepSeek V4, Mistral, Llama 4 dari Meta, dan gpt-oss dari OpenAI. Salah pilih di sini mahal. Lisensi yang tidak cocok bisa menghambat produk komersial, dan model yang terlalu besar untuk GPU-mu tidak akan berjalan sama sekali. Semua fakta model di bawah diambil dari model card resmi penerbitnya di Hugging Face. ## Apa bedanya open-weight dan open source? Istilah ini sering tertukar. Open-weight berarti bobot model bisa diunduh dan dipakai sesuai lisensinya. Belum tentu data pelatihan dan kode pelatihannya ikut dibuka. Open Source Initiative (OSI) punya Open Source AI Definition versi 1.0. Definisi itu mensyaratkan kebebasan memakai, mempelajari, mengubah, dan membagikan, serta akses ke tiga hal: informasi data pelatihan yang cukup rinci, kode lengkap untuk melatih dan menjalankan model, dan parameter (bobot). Kebanyakan model populer hanya merilis bobot dan kode inferensi, jadi lebih tepat disebut open-weight. Bagi bisnis, label itu kalah penting dibanding **isi lisensinya**. ## Model open-weight apa saja per 4 November 2026? Tabel ini merangkum model card resmi. "Aktif" adalah jumlah parameter yang bekerja per token pada model Mixture-of-Experts (MoE). | Model | Ukuran (total / aktif) | Konteks | Lisensi | |:--|:--|:--|:--| | gpt-oss-20b | 21B / 3,6B | - | Apache 2.0 | | gpt-oss-120b | 117B / 5,1B | - | Apache 2.0 | | Gemma 4 31B | 30,7B (dense) | 256K token | Apache 2.0 | | Gemma 4 26B A4B | 26B / 3,8B | - | Apache 2.0 | | Qwen3.8-27B | 27B (dense) | 262.144 token, bisa diperluas | Apache 2.0 | | Mistral Small 4 | 119B / sekitar 6,5B | 256K token | Apache 2.0 | | Mistral Large 4 | sekitar 1T / sekitar 52B | 1M token | Mistral Ecosystem Open-Weight License | | DeepSeek-V4.1-Flash | 552B backbone / 8B sampai 16B | 1M token | MIT | | Llama 4 Scout | 109B / 17B | - | Llama 4 Community License | Tanda "-" berarti angka itu tidak kami ambil dari model card yang dikutip. Keluarga Gemma 4 juga punya versi kecil (E2B, E4B, 12B), dan Qwen serta DeepSeek punya varian lain yang jauh lebih besar. ### Lisensi permisif: Apache 2.0 dan MIT Apache 2.0 dan MIT boleh dipakai komersial, diubah, dan didistribusikan. Kewajiban utamanya menyertakan teks lisensi dan pemberitahuan hak cipta. Per model card masing-masing, gpt-oss, Gemma 4, Qwen3.8-27B, dan Mistral Small 4 memakai Apache 2.0, sedangkan DeepSeek-V4.1-Flash memakai MIT. ### Lisensi dengan syarat tambahan **Llama 4 Community License** mewajibkan pemilik produk dengan lebih dari 700 juta pengguna aktif bulanan meminta lisensi ke Meta. Produk yang didistribusikan wajib menampilkan "Built with Llama", pemakaian wajib mengikuti Acceptable Use Policy, dan model turunan yang dilatih dari keluaran Llama namanya harus diawali "Llama". **Mistral Ecosystem Open-Weight License** (dipakai Mistral Large 4) disebut sebagai modifikasi lisensi MIT untuk pemakaian komersial dan non-komersial. Bedanya, menjalankan bisnis *model-as-a-service* membutuhkan lisensi komersial terpisah dari Mistral. > **Baca lisensi per versi, bukan per merek:** > > Lisensi bisa berbeda dalam satu keluarga. Mistral Small 4 memakai Apache 2.0, sedangkan Mistral Large 4 memakai lisensi Mistral sendiri. Selalu buka model card versi yang akan kamu pakai. ## Berapa VRAM yang dibutuhkan? ### Rumus kasarnya Kebutuhan memori untuk bobot kira-kira **jumlah parameter x byte per parameter**. BF16 memakai 2 byte per parameter, 8-bit sekitar 1 byte, dan 4-bit sekitar setengah byte. Contohnya, model 27B di BF16 butuh sekitar 54 GB hanya untuk bobot. Dengan 8-bit turun ke sekitar 27 GB, dan dengan 4-bit sekitar 14 GB. Model 8B di 4-bit cukup sekitar 4 GB, sedangkan model 120B di 4-bit masih sekitar 60 GB. Angka itu belum termasuk **KV cache**, yaitu memori percakapan yang membesar seiring panjang konteks dan jumlah pengguna bersamaan. Sisakan cadangan yang cukup. ### Patokan resmi dari penerbit Beberapa model card memberi angka sendiri. OpenAI menyebut gpt-oss-20b bisa berjalan dalam memori 16 GB, dan gpt-oss-120b muat di satu GPU 80 GB seperti NVIDIA H100. Meta menyebut Llama 4 Scout bisa berjalan di satu GPU H100 dengan kuantisasi int4. Contoh perintah di model card Mistral Large 4 memakai 8 GPU. ### Kuantisasi dan model MoE Kuantisasi berarti menyimpan bobot dengan presisi lebih rendah, misalnya dari 16-bit ke 4-bit, agar muat di GPU lebih kecil. Gantinya, kualitas jawaban bisa sedikit turun tergantung metode dan modelnya. llama.cpp, misalnya, mendukung kuantisasi integer 1,5-bit sampai 8-bit. Model MoE terasa lebih cepat karena hanya sebagian parameter yang aktif per token. Tapi seluruh bobot tetap harus dimuat ke memori. Kebutuhan VRAM mengikuti ukuran **total**, bukan ukuran aktif. ## Alat untuk menjalankannya: Ollama, llama.cpp, atau vLLM? **Ollama** berlisensi MIT, tersedia untuk macOS, Windows, Linux, dan Docker. Ia punya REST API sendiri dan mendukung sebagian API OpenAI di `http://localhost:11434/v1/`, sehingga banyak aplikasi bisa langsung terhubung. **llama.cpp** juga berlisensi MIT dan mendukung hardware sangat beragam: CPU x86 dan ARM, Apple Silicon lewat Metal, NVIDIA lewat CUDA, serta AMD, Vulkan, dan lainnya. Ia punya server yang kompatibel dengan API OpenAI. **vLLM** dirancang untuk melayani banyak permintaan di GPU, dengan PagedAttention, continuous batching, dan server OpenAI-compatible. Ia mendukung format kuantisasi seperti FP8, INT8, INT4, GPTQ, AWQ, dan GGUF. SGLang juga disebut di beberapa model card sebagai alternatif. Model yang sudah berjalan biasanya dihubungkan ke antarmuka chat. Panduannya ada di artikel [Open WebUI, ChatGPT versi sendiri](https://nivelva.com/insight/open-webui-chatgpt-sendiri). Untuk menjawab dari dokumen kantor, baca [chatbot AI untuk dokumen perusahaan](https://nivelva.com/insight/chatbot-ai-dokumen-perusahaan). ## Kapan memilih yang mana? Pilih **Ollama** bila kamu baru mencoba, memakai satu server atau laptop, dan ingin model berjalan dalam hitungan menit. Pilih **llama.cpp** bila hardware-mu tidak standar, misalnya hanya CPU atau Mac, atau kamu butuh kendali lebih atas kuantisasi. Beralih ke **vLLM** saat banyak pengguna memakai model yang sama sekaligus dan kamu punya GPU yang memadai. Di titik itu, efisiensi batching lebih penting daripada kemudahan instalasi. Soal model, model kecil berlisensi Apache 2.0 seperti gpt-oss-20b atau varian kecil Gemma 4 masuk akal untuk awal. Model raksasa seperti DeepSeek V4 atau Mistral Large 4 hanya layak bila kamu benar-benar punya beberapa GPU kelas data center. Dan bila kebutuhanmu masih kecil atau belum pasti, layanan API berbayar sering lebih praktis daripada server sendiri. Dasar pertimbangannya ada di artikel [apa itu LLM untuk bisnis](https://nivelva.com/insight/apa-itu-llm-untuk-bisnis). ## Pertanyaan yang sering diajukan ### Apakah model open-weight gratis? Bobotnya bisa diunduh tanpa biaya lisensi pada model berlisensi Apache 2.0 atau MIT. Biaya yang tetap ada adalah server, GPU, listrik, dan orang yang mengelolanya. ### Bisakah model AI berjalan tanpa GPU? Bisa untuk model kecil dengan kuantisasi, misalnya lewat llama.cpp yang mendukung CPU. Kecepatannya jauh di bawah GPU, jadi cocok untuk uji coba, bukan untuk banyak pengguna. ### Model mana yang paling bagus? Tergantung tugas, bahasa, dan hardware. Uji dua atau tiga model dengan contoh pekerjaan nyata dari bisnismu, lalu pilih yang hasilnya paling sesuai. ### Apakah Llama boleh dipakai untuk produk komersial? Boleh menurut Llama 4 Community License, dengan syarat seperti menampilkan "Built with Llama", mengikuti Acceptable Use Policy, dan meminta lisensi khusus bila pengguna aktif bulanan di atas 700 juta. ## Sumber - - - - - - - - - - - - - --- Diterbitkan oleh Nivelva Insight (https://nivelva.com/insight/). Artikel ini: https://nivelva.com/insight/model-ai-open-source Kontak Nivelva: WhatsApp https://wa.me/6285111245007, email hello@nivelva.com