--- title: "Arti Angka 7B, 70B, dan 400B pada Model AI" description: "Apa maksud 7B, 70B, atau 400B di nama model AI, bagaimana hubungannya dengan kemampuan dan kebutuhan memori, serta beda parameter total dan aktif." url: "https://nivelva.com/insight/arti-angka-7b-70b-400b-model-ai" category: "AI \u0026 Otomasi" tags: ["parameter model","llm","model open-weight","mixture of experts","ai lokal"] author: "Theresia Candiawan" published: "2026-11-07T13:47:00+07:00" updated: "2026-11-07T13:47:00+07:00" language: "id" publisher: "Nivelva (https://nivelva.com)" --- # Arti Angka 7B, 70B, dan 400B pada Model AI > **Jawaban singkat:** Angka seperti 7B, 70B, atau 400B adalah jumlah parameter model dalam miliar (B = billion). Makin banyak parameter, umumnya makin mampu, tapi juga makin besar memori dan daya komputasi yang dibutuhkan. Pada model mixture of experts, yang aktif per token hanya sebagian. Kamu membuka halaman unduhan model AI open-weight dan melihat deretan nama seperti "8B Instruct", "70B", atau "17B-128E". Semuanya tampak seperti kode produk. Padahal angka itu informasi paling penting untuk memutuskan apakah model tersebut bisa jalan di laptop, perlu server GPU, atau cukup dipakai lewat API. Huruf B di belakang angka berarti *billion*, miliar. Jadi 7B artinya model dengan sekitar 7 miliar parameter, 70B sekitar 70 miliar, dan 400B sekitar 400 miliar. Parameter adalah angka-angka yang dipelajari model selama pelatihan, dan jumlahnya menentukan dua hal sekaligus: seberapa banyak pola yang bisa ditampung model, dan seberapa berat model itu dijalankan. ## Parameter itu apa, secara sederhana Model bahasa besar adalah jaringan saraf tiruan yang berisi banyak sekali lapisan perhitungan. Setiap sambungan di jaringan punya bobot, yaitu angka yang menentukan seberapa kuat satu sinyal memengaruhi sinyal berikutnya. Kumpulan bobot inilah yang disebut parameter. Selama pelatihan, bobot itu disesuaikan sedikit demi sedikit agar model makin pandai menebak kata berikutnya dari teks yang dibacanya. Setelah pelatihan selesai, bobot dibekukan dan disimpan sebagai file. File itulah yang kamu unduh ketika mengambil model open-weight. Analogi yang sering dipakai: parameter mirip kapasitas "ingatan pola" model. Model dengan lebih banyak parameter bisa menyimpan lebih banyak pengetahuan dan hubungan antarkonsep. Tapi analogi ini punya batas, karena kualitas juga sangat dipengaruhi data pelatihan, lamanya pelatihan, dan teknik penyempurnaan setelahnya. ## Apakah angka lebih besar selalu lebih pintar? Dalam satu keluarga model yang dilatih dengan cara sama, versi yang lebih besar umumnya lebih baik dalam penalaran, pengetahuan umum, dan mengikuti instruksi yang rumit. Tapi membandingkan lintas keluarga atau lintas generasi tidak sesederhana itu. Model kecil generasi baru sering bisa menyamai atau melampaui model besar generasi lama, karena data pelatihannya lebih baik dan tekniknya lebih maju. Ada juga model kecil yang dilatih khusus untuk satu jenis tugas, misalnya menulis kode atau merangkum, dan unggul di tugas itu meski kalah di tugas umum. Jadi angka parameter adalah petunjuk awal, bukan nilai rapor. Untuk memilih, lebih masuk akal menguji beberapa model dengan contoh tugasmu sendiri. Pertimbangannya dibahas di [model AI kecil vs besar](https://nivelva.com/insight/model-ai-kecil-vs-besar-cukup-ringan). ## Angka parameter dan kebutuhan memori Di sinilah angka parameter paling terasa. Untuk menjalankan model, semua bobotnya harus dimuat ke memori, idealnya memori GPU (VRAM). Ukuran file kira-kira sama dengan jumlah parameter dikali jumlah byte per parameter. Pada presisi 16-bit, setiap parameter memakai 2 byte. Model 8B berarti sekitar 16 GB, model 70B sekitar 140 GB. Dengan kuantisasi, bobot disimpan dengan bit lebih sedikit sehingga file jauh lebih kecil. Dokumentasi alat kuantisasi llama.cpp (dicek per 7 November 2026) mencontohkan model Llama 3.1 8B: sekitar 14,96 GiB pada F16, 7,95 GiB pada Q8_0, dan 4,58 GiB pada Q4_K_M. Tabel berikut memberi gambaran kasar ukuran bobot saja, dihitung dari jumlah parameter. Kebutuhan nyata lebih besar karena ada tambahan untuk konteks percakapan (KV cache) dan overhead program. | Ukuran model | Bobot 16-bit (kira-kira) | Bobot 4-bit (kira-kira) | Gambaran perangkat | |:--|:--|:--|:--| | 1B sampai 4B | 2 sampai 8 GB | di bawah 1 sampai 3 GB | Laptop biasa, sebagian ponsel | | 7B sampai 9B | 14 sampai 18 GB | 4 sampai 6 GB | Laptop dengan RAM besar atau GPU 8 GB | | 13B sampai 32B | 26 sampai 64 GB | 8 sampai 20 GB | GPU kelas atas atau Mac dengan memori besar | | 70B | sekitar 140 GB | sekitar 40 GB | Beberapa GPU atau server khusus | | 400B ke atas | 800 GB lebih | 200 GB lebih | Klaster server GPU | Angka 4-bit di tabel dihitung kasar dari setengah byte per parameter ditambah sedikit cadangan, sesuai pola di dokumentasi llama.cpp yang menunjukkan Q4_K_M memakai sekitar 4,9 bit per bobot. Perhitungan lebih rinci per GPU ada di [berapa VRAM GPU yang dibutuhkan untuk LLM](https://nivelva.com/insight/kebutuhan-vram-gpu-llm), dan penjelasan Q4, Q8, serta dampaknya ke kualitas ada di [apa itu kuantisasi model AI](https://nivelva.com/insight/apa-itu-kuantisasi-model-ai-seperti-q4-q8). ## Parameter total dan parameter aktif Nama seperti "17B-128E" atau penjelasan "400B total, 17B aktif" berasal dari arsitektur *mixture of experts* (MoE). Pada model jenis ini, jaringan dibagi menjadi banyak "pakar" kecil. Untuk setiap token, sebuah komponen bernama router hanya memilih sebagian pakar yang dipakai. Dua contoh dari pengumuman resmi pembuatnya: - Mistral menyebut Mixtral 8x7B punya 46,7 miliar parameter total, tetapi hanya memakai 12,9 miliar parameter per token. - Meta menyebut Llama 4 Maverick punya 17 miliar parameter aktif dan 400 miliar parameter total, dengan 128 pakar yang dirutekan ditambah satu pakar bersama. Saudaranya, Llama 4 Scout, punya 17 miliar parameter aktif dari 109 miliar total dengan 16 pakar. Konsekuensinya penting. Kecepatan menghasilkan teks pada model MoE lebih dekat ke ukuran parameter aktifnya, sehingga terasa seperti model yang jauh lebih kecil. Tapi kebutuhan memorinya tetap mengikuti parameter total, karena semua pakar harus siap dimuat. Model 400B MoE bisa cepat menjawab, tetapi tetap butuh memori sebesar model 400B. Inilah sebabnya membandingkan "70B" dengan "400B" tidak bisa hanya melihat angka. Model 70B padat (*dense*) memakai seluruh 70 miliar parameternya untuk setiap token, sedangkan model 400B MoE mungkin hanya memakai belasan miliar. ## Membaca nama model secara utuh Selain angka parameter, nama model biasanya membawa beberapa penanda lain: - **Instruct atau Chat**: sudah disempurnakan untuk mengikuti instruksi dan bercakap. Versi tanpa penanda ini (base) biasanya belum nyaman dipakai untuk chat. - **Angka E**: jumlah pakar pada model MoE, seperti 16E atau 128E. - **Q4, Q5, Q8, GGUF, AWQ**: format atau tingkat kuantisasi file. - **Panjang konteks**: misalnya 32K atau 128K, menunjukkan berapa token yang bisa diproses sekaligus. - **Nomor versi**: model 3.1 dan 3.2 dari keluarga yang sama bisa berbeda kualitas walau ukurannya sama. Kalau kamu berencana menjalankan model sendiri, pertimbangkan juga perangkatnya. Panduan memilih laptop untuk keperluan ini ada di [spesifikasi laptop untuk AI lokal](https://nivelva.com/insight/spesifikasi-laptop-ai-lokal). ## Ringkasan Angka 7B, 70B, dan 400B menunjukkan jumlah parameter model dalam miliar. Angka ini memberi gambaran kasar kemampuan dan, yang lebih pasti, kebutuhan memori untuk menjalankannya. Pada model mixture of experts, bedakan parameter total (menentukan memori) dan parameter aktif (memengaruhi kecepatan). Untuk memilih model, jadikan angka parameter titik awal, lalu uji langsung dengan tugas nyata. ## Sumber - - - --- Diterbitkan oleh Nivelva Insight (https://nivelva.com/insight/). Artikel ini: https://nivelva.com/insight/arti-angka-7b-70b-400b-model-ai Kontak Nivelva: WhatsApp https://wa.me/6285111245007, email hello@nivelva.com