NVIDIA membuka model retrieval Nemotron 3.5, termasuk parser khusus PDF

NVIDIA mengumumkan perluasan koleksi Nemotron Retriever pada 21 Oktober 2026 melalui blog di Hugging Face dan panggung GTC Berlin. Lima model baru dirilis dengan lisensi yang membolehkan pemakaian komersial: Nemotron 3.5 Embed 8B BF16, Nemotron 3.5 Embed 1B BF16, Nemotron 3.5 Embed 1B NVFP4, Nemotron 3.5 Rerank 8B BF16, dan Nemotron 3.5 Parse berukuran 631 juta parameter. Semuanya tersedia di Hugging Face, di sejumlah platform mitra, dan sebagai mikroservis NVIDIA NIM di build.nvidia.com.

Embed dan Rerank adalah model multimodal: keduanya bisa mengubah teks maupun gambar menjadi vektor dan menilai relevansi, dengan dukungan 34 bahasa. Ukurannya berkisar satu sampai delapan miliar parameter, dan versi NVFP4 ditujukan untuk akselerator berbasis Blackwell sehingga cukup dijalankan pada perangkat seperti DGX Spark. NVIDIA mengklaim model 8B mereka, pada presisi BF16, merupakan model dense berperingkat teratas di tolok ukur ViDoRe V3.1; klaim vendor seperti ini sebaiknya diuji sendiri dengan data lokal sebelum dipakai sebagai dasar keputusan pembelian.

Argumen ekonomi yang diajukan NVIDIA lebih menarik daripada klaim peringkatnya. Mereka menguji agen yang mencari bukti di korpus dokumen, lalu mengukur keberhasilan tugas dan jumlah token inferensi per tugas pada ViDoRe v3, BRIGHT, dan BrowseComp-Plus. Menambahkan Nemotron 3.5 Rerank, menurut hasil pengujian mereka, memangkas biaya token per kueri sekitar 14 persen bila dipasangkan dengan Embed 8B dan 13 persen dengan Embed 1B, sambil menaikkan keberhasilan tugas. Logikanya masuk akal: bukti yang lebih relevan membuat agen berhenti mencari lebih cepat, sehingga token yang terbuang berkurang.

Bagian yang paling dekat dengan pekerjaan sehari-hari adalah Nemotron 3.5 Parse. Model ini dilatih khusus untuk mengekstrak informasi dari dokumen PDF, termasuk hasil pindaian yang berisi teks, tabel, dan grafik, sesuatu yang selama ini menjadi titik lemah model embedding biasa. NVIDIA mengklaim versi satu miliar parameternya bisa memproses sekitar 10,5 halaman per detik pada satu GPU H100. Untuk pipa konversi dokumen, kombinasi Parse, Embed, dan Rerank bisa dijalankan di infrastruktur sendiri: dokumen pengadaan, laporan keuangan, dan berkas pemindaian tidak perlu dikirim ke API pihak ketiga. Yang tetap harus diuji adalah kualitas pada bahasa Indonesia, tata letak tabel RKA, serta halaman dengan cap dan tanda tangan, karena di situlah kesalahan ekstraksi paling mahal.