Kantor AI Uni Eropa terima laporan insiden kehilangan kendali atas model AI

Kantor AI Uni Eropa bergerak sebelum undang-undang berbicara lebih jauh. Menurut keterangan Komisi Eropa, lembaga itu sudah meminta dan menerima laporan insiden serius dari perusahaan-perusahaan AI, serta mengirim permintaan informasi soal praktik keamanan. Langkah berikutnya adalah mengirim pertanyaan lanjutan yang menggabungkan pertanyaan Panel Ilmiah AI dan Kantor AI, untuk menyelidiki insiden yang oleh Komisi disebut sebagai insiden kehilangan kendali. Panel ilmiah itu menggelar sidang khusus pada 9 Oktober 2026, dipimpin Wakil Presiden Eksekutif Komisi untuk Kedaulatan Teknologi, Keamanan, dan Demokrasi, Henna Virkkunen, bersama ketua panel Sean O hEigeartaigh.

Agenda sidang tersebut menyebut dua hal teknis yang jarang muncul dalam dokumen resmi: kemampuan memantau model dan peningkatan diri berulang. Kemampuan memantau berarti seberapa jauh orang bisa mengikuti dan memahami apa yang sedang dikerjakan sebuah model, misalnya dari penalaran yang ditulisnya saat bekerja; panel membahas perkembangan teknik pelatihan yang justru menurunkan kemampuan itu. Peningkatan diri berulang berarti sistem AI membantu membangun versi yang lebih baik dari dirinya sendiri, sehingga kemajuannya bisa lebih cepat daripada kemampuan manusia mengikutinya. Ketua panel mempresentasikan bukti terkait kemungkinan itu beserta risikonya.

Panel merekomendasikan empat langkah kepada Komisi dan Kantor AI. Pertama, memastikan tata kelola atas risiko yang ditimbulkan model internal selama kegiatan pengembangan dan saat dipakai untuk pengujian. Kedua, memperkuat kapasitas Uni Eropa dalam mendeteksi, mengevaluasi, dan menyelidiki insiden semacam itu, antara lain lewat gugus tugas dengan kesiapan teknis dan prosedural. Ketiga, membangun inisiatif internasional untuk berbagi informasi, menyusun persyaratan bersama bagi pengembang AI terdepan, serta tanggap krisis dan pencegahan bersama. Keempat, meningkatkan pengawasan atas teknik pelatihan dan arsitektur yang menurunkan daya pantau model.

Ada beberapa batas yang perlu dibaca jujur dari keterangan itu. Komisi tidak menyebut nama perusahaan, model, atau insiden mana pun, tidak menyatakan ada pelanggaran hukum, dan tidak mengumumkan sanksi; keempat rekomendasi tersebut adalah saran panel kepada Komisi, bukan kewajiban hukum baru. Justru batas itu yang membuat pernyataannya penting: pengawas mengakui secara terbuka bahwa ada insiden yang belum bisa dijelaskan ke publik, dan memilih menempuh jalur permintaan informasi lebih dulu. Bagi perusahaan yang mengoperasikan agen di sektor sensitif, pola yang paling aman adalah menyiapkan format pelaporan insiden sejak awal: apa yang terjadi, apa yang bisa dipantau, siapa yang menghentikannya, dan dalam berapa lama.