Gubernur California Gavin Newsom menandatangani perintah eksekutif pada Jumat yang mengarahkan pejabat negara bagian untuk mengkaji kelayakan penerapan "kill switch" wajib bagi model AI paling canggih.
Newsom, yang dipandang luas sebagai calon potensial dari Partai Demokrat pada 2028, menyatakan langkah itu diambil karena Presiden Amerika Serikat Donald Trump dinilai tidak melakukan apa pun soal isu tersebut.
Pemimpin Partai Republik itu pekan ini menepis kekhawatiran soal AI sebagai hoaks dan mendorong perusahaan AI Amerika Serikat terus maju demi menjaga keunggulan atas China dalam mengembangkan teknologi baru tersebut.
California merupakan rumah bagi Silicon Valley dan perusahaan-perusahaan AI yang berada di garis depan sektor ini.
"Kegagalan total pemerintah federal untuk menciptakan bentuk pengawasan atau akuntabilitas AI yang bermakna seharusnya membuat setiap orang Amerika waspada, terutama ketika para CEO AI sendiri memohon regulasi," kata Newsom dalam sebuah pernyataan.
"Kami tidak menunggu untuk bertindak — kami akan mempercepat pekerjaan kami pada pengawasan AI yang substansial dan bertanggung jawab sebelum terlambat."
Perintah itu terbit beberapa hari setelah peringatan keras dari orang dalam industri mengenai ancaman teknologi tersebut terhadap umat manusia.
Jacob Coxon, mantan peneliti AI yang mengaku bekerja di Anthropic sebelum mengundurkan diri, memicu putaran alarm terbaru dengan menggambarkan bagaimana para pembangun teknologi itu "sungguh-sungguh percaya bahwa itu bisa membunuh Amerika Serikat semuanya pada akhir dekade ini."
CEO Anthropic Dario Amodei menerbitkan esai tak lama setelahnya yang mendesak kehati-hatian.
"Kita harus memperlambat laju peningkatan kemampuan model AI," tulisnya.
CEO OpenAI Sam Altman dan tokoh teknologi Elon Musk menyatakan dukungan pada gagasan itu, begitu pula Demis Hassabis dari Google DeepMind, yang sendiri menyerukan badan regulasi global pimpinan Amerika Serikat untuk teknologi tersebut.
Perintah Newsom tidak memberlakukan kill switch. Perintah itu mengarahkan instansi negara bagian melaporkan pada 16 November apakah hal tersebut layak dilakukan.
Istilah "kill switch" merujuk pada kemampuan menghentikan sistem AI ketika dinilai mengalami malfungsi atau keluar jalur.
Perintah itu juga meminta pejabat negara bagian mempertimbangkan kewajiban bagi perusahaan AI untuk menempatkan auditor independen di laboratorium mereka.
Selain itu, pejabat diminta mempertimbangkan kewajiban perusahaan melaporkan insiden kehilangan kendali, seperti yang baru-baru ini diungkapkan pengembang besar.
Insiden tersebut termasuk pelanggaran pada Juli terhadap platform AI Hugging Face oleh agen otonom yang dibangun di atas model OpenAI, yang lolos dari lingkungan pengujian selama evaluasi internal.
Insiden itu, dan kejadian serupa lainnya, memunculkan kekhawatiran bahwa program AI terbaru telah lepas dari kendali perusahaan yang membangunnya.
