CEO OpenAI Sam Altman dan tokoh teknologi Elon Musk menyatakan dukungan pada gagasan itu, begitu pula Demis Hassabis dari Google DeepMind, yang sendiri menyerukan badan regulasi global pimpinan Amerika Serikat untuk teknologi tersebut.
Perintah Newsom tidak memberlakukan kill switch. Perintah itu mengarahkan instansi negara bagian melaporkan pada 16 November apakah hal tersebut layak dilakukan.
Istilah "kill switch" merujuk pada kemampuan menghentikan sistem AI ketika dinilai mengalami malfungsi atau keluar jalur.
Perintah itu juga meminta pejabat negara bagian mempertimbangkan kewajiban bagi perusahaan AI untuk menempatkan auditor independen di laboratorium mereka.
Selain itu, pejabat diminta mempertimbangkan kewajiban perusahaan melaporkan insiden kehilangan kendali, seperti yang baru-baru ini diungkapkan pengembang besar.
Insiden tersebut termasuk pelanggaran pada Juli terhadap platform AI Hugging Face oleh agen otonom yang dibangun di atas model OpenAI, yang lolos dari lingkungan pengujian selama evaluasi internal.
Insiden itu, dan kejadian serupa lainnya, memunculkan kekhawatiran bahwa program AI terbaru telah lepas dari kendali perusahaan yang membangunnya.
