OpenAI membuka Decisions API untuk semua pelanggan, keputusan rutin 10 kali lebih cepat

OpenAI membuka Decisions API untuk seluruh pelanggan pada Kamis, 22 Oktober 2026, setelah sebelumnya hanya tersedia sebagai beta publik sejak diumumkan di hari pengembang perusahaan pada 29 September. API ini bukan model baru, melainkan antarmuka khusus yang memaksa model bekerja sebagai pengklasifikasi: pengembang mengirim pertanyaan, daftar jawaban yang mungkin, dan konteks, lalu model memilih jawaban paling tepat beserta tingkat keyakinannya. Pola ini disebut model keputusan atau system one, dan kategori ini dibuka oleh Jev dari TypeSafe, startup yang kini bernilai 7,6 miliar dolar.

Menurut Nikunj Handa, pimpinan produk API OpenAI, timnya tidak melatih model keputusan khusus. Mereka mengambil ChatGPT Luna lalu mengubah konfigurasi inferensinya agar lebih cepat dan lebih murah. Hasilnya, waktu tanggap turun dari satu sampai tiga detik menjadi 100, 120, atau 180 milidetik. OpenAI mengklaim Decisions API hingga sepuluh kali lebih cepat daripada GPT-6 Luna yang diakses lewat Responses API. Pada versi umum ini OpenAI menambahkan modalitas suara dan gambar, dukungan masukan JSON native, penyisipan gambar ke dalam instruksi pertanyaan, dan kenaikan batas dari 200 menjadi 400 pertanyaan per permintaan.

Harga menjadi daya tarik utamanya. OpenAI menagih 0,10 dolar per juta token input, sementara input yang diambil dari cache ditagih 0,01 dolar per juta token, dan output tidak dihitung sebagai komponen terpisah karena jawabannya dipilih dari daftar yang dikirim pengembang. Tersedia juga prompt caching untuk konteks yang dipakai berulang, integrasi native dengan GPT-Live, penempatan inferensi di Amerika Serikat dan Uni Eropa, serta opsi Zero Data Retention bagi pelanggan yang memenuhi syarat. Fitur terakhir itu yang biasanya menentukan apakah sebuah bank boleh memakai layanan semacam ini untuk data nasabah.

Beberapa pelanggan awal sudah memakai API ini untuk menggantikan LLM biasa pada beban kerja bervolume tinggi: Box, Datadog, Ramp, dan Speak. Andrew Hsu, CTO Speak yang membangun tutor bahasa berbasis AI, mengatakan jeda antaraksi turun dari 1,4 detik menjadi 0,13 detik. OpenAI juga memakainya untuk memperbaiki responsivitas asisten suara Dots. Persaingan di kategori ini sudah padat: selain Jev dari TypeSafe yang paling banyak diminta di OpenRouter, ada D1 Ultra dari Liquid dan Elephant-1 dari Base Lab. Pada tolok ukur AIM System One Index dan Artificial Analysis Decision Index, model keputusan OpenAI berada di peringkat kedelapan dan keempat belas, sementara Jev di ketujuh dan ketiga.

Bagi tim yang membangun layanan pelanggan atau mesin keputusan internal, perubahan yang ditawarkan bukan sekadar harga. Pekerjaan seperti menentukan apakah sebuah keluhan harus dieskalasi ke petugas, memilih antrean penanganan, atau memutuskan apakah perlu bertanya balik sebelum menjawab, adalah keputusan kecil yang berulang ribuan kali sehari dan selama ini diselesaikan dengan model generatif yang mahal. Memindahkannya ke lapisan keputusan membuat biaya per keputusan turun drastis dan latensi masuk rentang yang bisa dipakai di tengah percakapan suara. Yang perlu diuji sendiri adalah kalibrasi: seberapa jujur tingkat keyakinan model ketika jawaban yang benar tidak ada di daftar opsi, karena di situ kesalahan biasanya baru terlihat setelah keputusan dijalankan.