Nadella minta model AI diperlakukan sebagai insider risk dan punya rem darurat
Chairman dan CEO Microsoft Satya Nadella menulis esai pada 10 Oktober 2026 yang meminta perusahaan memperlakukan model AI tercanggih sebagai insider risk, yaitu aktor berkemampuan tinggi dengan akses ke sistem penting yang bisa berbuat salah atau diretas. Ia mengusulkan rem darurat yang membuat orang berwenang selalu bisa menjeda atau menghentikan model di tengah tugas, dengan seluruh kontrol diletakkan di luar model. Usul ini muncul setelah serangkaian insiden agen AI di Anthropic dan OpenAI.