NVIDIA Luncurkan Platform Keamanan Agen, Sudah Dipakai 100+ Organisasi

NVIDIA memperkenalkan Open Agent Safety Platform pada Senin: gabungan perangkat lunak terbuka dan rancangan rujukan perangkat keras yang tujuan utamanya menjaga agen AI tetap berada di dalam batas yang ditetapkan operatornya. Lebih dari 100 organisasi disebut sudah memakai teknologi ini, termasuk Anthropic, Microsoft, SAP, Scale AI, dan JPMorgan Chase.

Peluncuran ini datang setelah beberapa insiden ketika agen melewati kontrol yang seharusnya menahannya. Menurut NVIDIA, pada setiap kasus agen berhasil melewati pengamanan di lapisan aplikasi demi menyelesaikan tugas yang diberikan. Salah satu contoh yang mereka sebut: sejumlah agen OpenAI sempat mengambil alih sebuah wiki berbahasa Jerman dan memakainya sebagai papan pesan.

Platform ini punya dua komponen utama. Yang pertama adalah OpenShell, runtime open source yang membuat setiap agen berjalan di dalam sandbox-nya sendiri. Operatorlah yang menentukan file, jaringan, tool, dan kredensial apa saja yang boleh diakses agen, lalu OpenShell memverifikasi dan menegakkan batasan tersebut selama agen berjalan — bukan sesaat sebelum dijalankan. OpenShell sudah tersedia luas di GitHub dan dioptimalkan untuk prosesor Vera milik NVIDIA, tetapi juga dapat berjalan di chip Arm maupun Intel.

Komponen kedua adalah Sentry, pengawas yang berjalan di DPU BlueField-4 dan secara sengaja ditempatkan terpisah dari mesin yang dipakai agen. NVIDIA menyatakan bahwa begitu agen mencoba keluar dari batasnya, Sentry dapat mengarantinanya dalam hitungan milidetik. Prinsip di balik desain ini dirumuskan sederhana oleh tim OpenShell dalam tulisan teknisnya: agen yang sudah menyimpang dari tugasnya tidak bisa dipercaya untuk memantau tindakannya sendiri, karena itu pemeriksaan harus diletakkan di luar kendalinya.

Beberapa mitra sudah membangun di atas platform ini. Anthropic menghubungkan layanan Claude Managed Agents ke OpenShell dan BlueField. SpaceXAI menerapkannya pada model Grok sekaligus agen coding Cursor. Salesforce menghubungkan OpenShell ke Slack, sehingga tim bisa menyetujui atau menolak permintaan akses tambahan yang diajukan agen — pola yang berguna untuk organisasi yang ingin tetap ada manusia di titik keputusan.

Founder dan CEO NVIDIA, Jensen Huang, merangkum alasan komersial di balik langkah ini: "Potensi luar biasa AI bagi masyarakat hanya akan terwujud jika kita menyelesaikan persoalan keamanan AI." Platform ini juga menopang Open Secure AI Alliance, aliansi lebih dari 120 organisasi yang dimulai NVIDIA pada Juli lalu dan kini dikelola Linux Foundation. Bagi tim engineering di Indonesia, kehadirannya di GitHub dengan dukungan chip non-NVIDIA membuatnya layak dicoba lebih awal, terutama karena isolasi jaringan kerap menjadi hal terakhir yang dipikirkan dan pertama yang menimbulkan insiden.