Apa Itu AI Gateway? Satu API untuk Banyak Model AI
AI gateway menyatukan banyak penyedia model AI dalam satu endpoint OpenAI-compatible, dengan fallback saat kuota habis. Ini cara kerja dan contohnya.
Jawaban singkat
AI gateway adalah perantara antara aplikasimu dan penyedia model AI. Aplikasi cukup memanggil satu endpoint, lalu gateway meneruskan permintaan ke model yang tepat dan pindah otomatis ke penyedia lain saat kuota habis. 9Router adalah contoh AI gateway self-hosted.
Daftar isi
Semakin banyak tim memakai lebih dari satu model AI. Satu model untuk coding, satu lagi untuk merangkum dokumen, dan cadangan saat kuota yang utama habis. Masalahnya, setiap penyedia punya alamat API, API key, dan format sendiri. Mengganti model berarti mengubah pengaturan di setiap aplikasi.
AI gateway menyelesaikan masalah ini. Aplikasimu cukup terhubung ke satu alamat, dan gateway yang mengatur ke model mana permintaan itu diteruskan. Artikel ini menjelaskan cara kerjanya, kapan kamu membutuhkannya, dan contoh AI gateway self-hosted bernama 9Router.
Apa itu AI gateway?
AI gateway adalah lapisan perantara antara aplikasi dan penyedia model bahasa (LLM). Konsepnya mirip API gateway di dunia web: semua permintaan masuk lewat satu pintu, lalu gateway memutuskan ke mana permintaan diteruskan.
Dari sisi aplikasi, yang terlihat hanya satu endpoint dan satu API key. Di belakangnya, gateway bisa terhubung ke banyak penyedia model sekaligus. Kalau suatu saat kamu ingin mengganti model, cukup ubah pengaturan di gateway, bukan di setiap aplikasi.
Apa arti "OpenAI-compatible"?
Banyak alat AI, mulai dari editor kode sampai platform otomasi, sudah mendukung format API milik OpenAI. Format ini menjadi semacam bahasa bersama: aplikasi mengirim daftar pesan dan nama model, lalu menerima jawaban dengan struktur yang sama.
Endpoint OpenAI-compatible berarti gateway menerima permintaan dengan format itu. Akibatnya, aplikasi yang sudah bisa memakai OpenAI biasanya cukup diubah dua hal: base URL diarahkan ke gateway, dan API key diganti dengan kunci dari gateway. Model dari penyedia lain pun bisa dipanggil dengan cara yang sama.
Bagaimana cara kerja AI gateway?
- Aplikasi mengirim permintaan ke endpoint gateway, misalnya dari editor kode atau workflow otomasi.
- Gateway membaca model yang diminta dan aturan routing yang kamu buat.
- Permintaan diteruskan ke penyedia yang sesuai, memakai API key penyedia yang tersimpan di gateway.
- Kalau penyedia itu gagal atau kuotanya habis, gateway mencoba penyedia cadangan (fallback).
- Jawaban dikembalikan ke aplikasi dalam format yang sama, dan pemakaian tercatat di gateway.
Karena semua lalu lintas lewat satu titik, gateway juga menjadi tempat yang tepat untuk memantau kuota dan pemakaian token.
Kapan bisnis butuh AI gateway?
Tidak semua orang perlu. Kalau kamu hanya memakai satu aplikasi chat AI, gateway belum memberi banyak manfaat. Gateway mulai berguna bila:
- Memakai beberapa penyedia model dan ingin mengaturnya dari satu tempat.
- Pekerjaan sering terhenti karena kuota habis. Fallback memindahkan permintaan ke penyedia lain tanpa kamu harus mengganti pengaturan.
- Banyak alat terhubung ke AI, misalnya editor kode, n8n, dan AI agent, sehingga mengganti model di setiap alat merepotkan.
- Ingin memantau pemakaian token dan kuota dari satu dasbor.
- Tidak ingin API key penyedia tersebar di banyak aplikasi dan laptop.
| Tanpa gateway | Dengan AI gateway | |
|---|---|---|
| Endpoint di aplikasi | Satu per penyedia | Satu untuk semua |
| Ganti model | Ubah pengaturan tiap aplikasi | Ubah di gateway |
| Kuota habis | Pekerjaan berhenti sampai diganti manual | Pindah otomatis ke penyedia cadangan |
| API key penyedia | Tersebar di banyak aplikasi | Tersimpan di gateway |
| Pantau pemakaian | Di dasbor masing-masing penyedia | Satu tempat |
Apa itu 9Router?
9Router adalah AI gateway self-hosted. Ia menyediakan satu endpoint OpenAI-compatible yang terhubung ke lebih dari 60 penyedia model, dengan routing pintar, fallback otomatis saat kuota habis, dan kompresi token untuk menghemat pemakaian.
Kegunaan yang tercantum di katalog Nivelva Apps antara lain menjadi router untuk Claude Code dan Cursor, fallback multi-penyedia, dan memantau kuota. Contohnya, editor kodemu memanggil satu endpoint 9Router. Saat kuota penyedia utama habis, 9Router meneruskan permintaan ke penyedia lain yang sudah kamu siapkan, sehingga pekerjaan tetap berjalan.
Karena self-hosted, API key penyedia dan aturan routing tersimpan di server milikmu sendiri.
Bagaimana memasang 9Router?
Di Nivelva Apps, 9Router bisa dipasang sekali klik. Tim Nivelva menyiapkan stack dan SSL, lalu kamu mendapat alamat namamu.nivelva.app untuk dipakai sebagai base URL di aplikasi. Domain sendiri bisa ditambahkan kapan saja dengan SSL otomatis.
Paket minimal 9Router adalah Medium:
| Paket | vCPU | RAM | Harga per bulan |
|---|---|---|---|
| Medium | 1 | 2 GB | Rp25.000 |
| Pro | 2 | 2 GB | Rp35.000 |
| Enterprise | 2 | 4 GB | Rp50.000 |
Harga dan paket minimal mengikuti halaman Nivelva Apps saat artikel ini ditulis. Biaya di atas adalah biaya server untuk gateway. Pemakaian model tetap dibayar ke masing-masing penyedia sesuai API key yang kamu hubungkan.
Pengelolaan dilakukan lewat panel: restart, update, melihat log, serta memantau CPU, RAM, dan uptime. Akses SSH tidak disediakan, dan backup harian tersedia sebagai add-on berbayar.
Bagaimana AI gateway dipakai bersama AI agent dan n8n?
AI gateway paling terasa manfaatnya saat dipakai bersama alat lain. AI agent seperti Hermes Agent atau OpenClaw bisa diarahkan ke endpoint gateway, sehingga agent tetap bekerja walau satu penyedia sedang bermasalah. Penjelasan tentang agent ada di artikel AI agent self-hosted.
Hal yang sama berlaku untuk workflow otomasi. Node AI di n8n bisa memakai endpoint OpenAI-compatible, jadi semua alur AI-mu cukup terhubung ke satu gateway.
Pertanyaan yang sering diajukan
Apakah AI gateway sama dengan penyedia model AI?
Tidak. Gateway tidak membuat jawaban sendiri. Ia meneruskan permintaan ke penyedia model yang kamu hubungkan, lalu mengembalikan jawabannya ke aplikasi.
Apakah aplikasi saya harus diubah untuk memakai gateway?
Untuk aplikasi yang mendukung format OpenAI, biasanya cukup mengganti base URL dan API key ke milik gateway.
Apa itu fallback?
Fallback adalah perpindahan otomatis ke penyedia cadangan saat penyedia utama gagal atau kuotanya habis, sehingga pekerjaan tidak terhenti.
Apakah biaya model AI termasuk paket 9Router di Nivelva Apps?
Tidak. Paket Nivelva Apps adalah biaya server tempat 9Router berjalan. Pemakaian model dibayar ke masing-masing penyedia.
