Celah SGLang Dipakai Membobol Server AI NEAR AI

NEAR AI, penyedia layanan AI dan infrastruktur inferensi di ekosistem NEAR Protocol, mengumumkan pembobolan sebagian infrastrukturnya pada 9 November 2026. Pintu masuknya adalah celah remote code execution (RCE) di SGLang, mesin inferensi open-source yang dipakai untuk menjalankan model bahasa besar di server mereka.

Kenapa ini penting bagi kamu? SGLang dan mesin inferensi sejenis makin banyak dipasang sendiri oleh perusahaan yang ingin menjalankan model AI di server sendiri. Kasus NEAR AI menunjukkan bahwa satu celah di mesin inferensi cukup untuk membuka jalan ke sistem lain, bahkan di lingkungan yang dirancang untuk kerahasiaan data. Fakta di artikel ini mengacu pada laporan insiden resmi NEAR AI per 11 November 2026.

Apa yang terjadi di NEAR AI?

Laporan resmi NEAR AI menyebut penyerang memanfaatkan celah RCE di SGLang untuk menjalankan kode di satu server inferensi. Dari sana, penyerang menjangkau infrastruktur yang lebih luas, termasuk sistem internal di balik fitur Private Chat yang sebelumnya sudah dihentikan (deprecated).

Bagian yang paling banyak dibicarakan: pada 8 November, penyerang berpotensi melihat permintaan yang sedang diproses di server tersebut, termasuk permintaan dalam mode rahasia (confidential mode). NEAR AI menulis terus terang bahwa confidential computing melindungi data dari operator dan host, tetapi tidak melindungi dari celah di perangkat lunak yang berjalan di dalam lingkungan itu. Itulah yang terjadi di sini.

Data apa saja yang terpapar?

Menurut laporan NEAR AI, rinciannya sebagai berikut.

NEAR AI menyatakan tidak menemukan tanda bahwa percakapan Private Chat yang tersimpan atau file yang diunggah ikut diakses. Laporan resminya tidak membahas dompet kripto atau dana, dan media seperti The Block juga tidak melaporkan kehilangan dana.

Celah SGLang yang mana?

Ini pertanyaan yang belum terjawab. Per 11 November 2026, laporan NEAR AI tidak menyebut nomor CVE, versi SGLang yang terdampak, atau endpoint yang dipakai. NEAR AI hanya menyebut sudah melaporkan celah itu ke proyek SGLang dan memasang perbaikan di semua server inferensinya. Halaman keamanan repositori SGLang di GitHub juga belum memuat advisori yang dipublikasikan.

Jadi, belum jelas apakah perbaikan untuk celah ini sudah tersedia untuk pengguna SGLang lain. Yang jelas, SGLang bukan pertama kali disorot tahun ini. Contohnya CVE-2026-5760, celah kritis yang dicatat CERT/CC pada April 2026: file model berbahaya bisa memicu eksekusi kode lewat endpoint rerank. Catatan CERT/CC menyebut tidak ada tanggapan atau patch dari pengelola selama proses koordinasi saat itu. Belum ada informasi resmi bahwa celah di kasus NEAR AI sama dengan celah ini.

Apa saja yang sudah dilakukan NEAR AI?

Langkah yang disebut di laporan resmi:

• mencabut semua sesi aktif dan kredensial administratif,
• mengganti semua token agen,
• mematikan Private Chat,
• memasang perbaikan SGLang di semua server inferensi,
• menyelesaikan rotasi kredensial lain dan tinjauan forensik penuh,
• menghubungi pengguna dan 18 pemilik agen yang terdampak lewat security@near.ai.

NEAR AI juga mengingatkan pengguna untuk berhati-hati terhadap pesan tak diminta yang menyebut akun atau saldo mereka. Data nama, email, dan saldo yang bocor adalah bahan empuk untuk phishing yang terlihat meyakinkan.

Bagaimana mengamankan server SGLang milikmu?

Kalau kamu menjalankan SGLang, vLLM, Ollama, atau mesin inferensi lain di server sendiri, beberapa kebiasaan ini mengurangi risiko secara nyata, apa pun celah yang nanti ditemukan.

• Jangan buka API inferensi ke internet. Ikat server ke alamat lokal atau jaringan privat, lalu taruh di belakang reverse proxy dengan autentikasi, atau akses lewat VPN. Prinsipnya sama seperti mengamankan API Ollama agar tidak terbuka ke publik.
• Pakai kunci API. SGLang menyediakan opsi --api-key saat menjalankan server. Ini bukan pengganti firewall, tetapi menambah satu lapis.
• Hanya muat model dari sumber tepercaya. Beberapa celah SGLang tahun ini dipicu file model berbahaya. Hindari mengaktifkan eksekusi kode dari repositori model yang tidak kamu periksa.
• Isolasi proses inferensi. Jalankan di container atau mesin terpisah dengan hak akses minimum. Server inferensi tidak perlu bisa menjangkau database pengguna, panel admin, atau sistem internal lain.
• Jauhkan rahasia dari log. Di kasus NEAR AI, dua kunci API terpapar karena tercatat di log. Saring header dan token sebelum ditulis ke log.
• Pantau pembaruan. Ikuti rilis dan halaman keamanan repositori SGLang, dan perbarui begitu ada perbaikan keamanan.
• Siapkan rencana insiden. Tahu siapa yang mencabut kredensial dan memberi tahu pengguna akan memangkas waktu panik. Kerangkanya ada di panduan respons insiden siber.

Bila kamu baru akan memasang mesin inferensi, pertimbangkan sejak awal desain jaringannya, seperti dibahas di cara pasang vLLM di server GPU Ubuntu 24.04. Banyak prinsip di sana juga berlaku untuk SGLang.

Pelajaran besarnya

Kasus ini menggeser fokus keamanan AI. Selama ini perhatian banyak tertuju pada model: prompt injection, kebocoran data lewat jawaban, atau penyalahgunaan. NEAR AI menunjukkan bahwa perangkat lunak di sekitar model, yaitu mesin inferensi, API, dan layanan pendukungnya, sama pentingnya. NEAR AI sendiri menyatakan akan menerapkan ketelitian analisis keamanan yang sama pada perangkat lunak inferensi dan layanan di sekitarnya seperti pada enclave-nya.

Untuk tim kecil, pelajarannya sederhana: perlakukan server AI seperti server produksi lain. Tutup dari internet, beri hak akses minimum, dan perbarui secara rutin.