Topik: mixture of experts

3 artikel tentang mixture of experts di Nivelva Insight.

Meta merilis bobot Muse Spark Open, model MoE 816 miliar parameter dengan konteks 1 juta token. Ini spesifikasi, lisensi...

12 Nov 20265 menit baca

Penjelasan sederhana Mixture of Experts (MoE) pada model AI, cara kerja router dan expert, arti parameter aktif, serta dampaknya...

11 Nov 20265 menit baca

Apa maksud 7B, 70B, atau 400B di nama model AI, bagaimana hubungannya dengan kemampuan dan kebutuhan memori, serta beda parameter...

7 Nov 20265 menit baca