Hinton dan Bengio Peringatkan Ledakan Kecerdasan dari Otomatisasi Riset AI

Sebanyak lebih dari 20 peneliti menandatangani kertas berjudul What if automating AI R&D triggers an intelligence explosion yang diterbitkan Cambridge Programme on AI Science & Policy sebagai Frontier AI Working Paper Series No. 2/2026. Daftar penulisnya tidak hanya akademisi: ada Geoffrey Hinton dari University of Toronto dan Vector Institute, Yoshua Bengio dari Universitas Montreal dan Mila, kepala ilmuwan OpenAI Jakub Pachocki, salah satu pendiri Anthropic Jack Clark, kepala ilmuwan Microsoft Eric Horvitz, Dawn Song dari UC Berkeley yang juga wakil presiden riset AI Meta, Anton Korinek, Girish Sastry, Tom Davidson, Jeff Clune, dan Soren Mindermann. Menurut The Guardian, mereka menulis dalam kapasitas pribadi, bukan atas nama perusahaan masing-masing.

Istilah yang mereka pakai adalah ledakan kecerdasan, yaitu percepatan kemajuan AI yang didorong AI sendiri sehingga lompatan yang biasanya butuh bertahun-tahun bisa terjadi dalam hitungan bulan atau lebih cepat. Mekanismenya dijelaskan dalam dua bagian: sistem AI memperluas angkatan kerja riset karena makin pintar dan makin cepat mengerjakan pekerjaan riset, lalu angkatan kerja baru itu menghasilkan sistem yang lebih baik lagi, sehingga lingkarannya berulang dan menguat. Menurut penulisnya, sumber paling mungkin ledakan ini adalah otomatisasi riset dan pengembangan, karena kemajuan perangkat lunak bisa langsung dipakai ulang, berbeda dari kemajuan perangkat keras yang bergantung pada rantai manufaktur bertahun-tahun.

Bukti awalnya disusun dari data internal laboratorium AI. Menurut kertas tersebut, porsi kode yang disetujui pengembang di Anthropic naik dari angka satu digit pada Januari 2025 ke lebih dari 80 persen pada Mei 2026. Porsi pekerjaan riset dan pengembangan yang diselesaikan AI dengan pengawasan manusia ringan naik dari 1 persen pada Maret 2025 menjadi 26 persen pada Agustus 2026. Dari tren itu, penulisnya membuat ekstrapolasi tentatif bahwa proyek riset berbulan-bulan bisa diotomatiskan sepenuhnya sekitar pertengahan 2028, dan bahwa pada taraf kemampuan ahli, satu pengembang bisa menjalankan angkatan kerja setara jutaan peneliti manusia terbaik.

Kertas itu tidak hanya berbicara manfaat. Penulisnya menyebut tiga risiko utama: kemampuan yang tumbuh lebih cepat dari kemampuan masyarakat beradaptasi, hilangnya kendali manusia atas sistem AI, dan melemahnya pengawasan kekuasaan baik di dalam negara, antarnegaran, maupun antara perusahaan dan cabang pemerintahan. Pada skenario paling ekstrem, hilangnya kendali disebut bisa berujung pada tersingkirkannya atau punahnya manusia. Kalimat yang paling sering dikutip dari kertas itu berbunyi: begitu ledakan kecerdasan dimulai, jendela untuk bertindak bisa menutup. Mereka juga jujur soal ketidakpastian dan menyebut empat friksi yang bisa memperlambat laju: imbal hasil yang menurun, batas komputasi dan data, tugas yang sulit diotomatiskan, serta waktu latihan model yang panjang.

Rekomendasi kebijakannya tiga. Pertama, pemerintah diminta memperoleh visibilitas atas seberapa jauh perusahaan mengotomatiskan risetnya sendiri, antara lain lewat laporan kemajuan yang transparan dan auditor independen yang ditempatkan di dalam perusahaan, mengikuti pola pengawas residen di lembaga nuklir atau perbankan. Kedua, dicari cara membatasi laju perluasan kapasitas, termasuk kemungkinan menjeda pelatihan di pusat data dan memakai jaringan yang terpisah dari internet untuk mencegah kebocoran bobot model. Ketiga, masyarakat disiapkan menghadapi dampaknya lewat rencana respons darurat dan kesepakatan internasional. Untuk pembaca yang mengurusi pengadaan TI, isi kertas ini punya efek praktis: pertanyaan soal seberapa besar proses pengembangan vendor dijalankan oleh mesin akan segera terasa relevan di dokumen kepatuhan dan uji tuntas, bukan hanya di seminar kebijakan.