Gubernur California Gavin Newsom menandatangani perintah eksekutif pada Jumat yang mengarahkan pejabat negara bagian untuk mengkaji kelayakan penerapan "kill switch" wajib bagi model AI paling canggih.
Newsom, yang dipandang luas sebagai calon potensial dari Partai Demokrat pada 2028, menyatakan langkah itu diambil karena Presiden Amerika Serikat Donald Trump dinilai tidak melakukan apa pun soal isu tersebut.
Pemimpin Partai Republik itu pekan ini menepis kekhawatiran soal AI sebagai hoaks dan mendorong perusahaan AI Amerika Serikat terus maju demi menjaga keunggulan atas China dalam mengembangkan teknologi baru tersebut.
California merupakan rumah bagi Silicon Valley dan perusahaan-perusahaan AI yang berada di garis depan sektor ini.
"Kegagalan total pemerintah federal untuk menciptakan bentuk pengawasan atau akuntabilitas AI yang bermakna seharusnya membuat setiap orang Amerika waspada, terutama ketika para CEO AI sendiri memohon regulasi," kata Newsom dalam sebuah pernyataan.
"Kami tidak menunggu untuk bertindak — kami akan mempercepat pekerjaan kami pada pengawasan AI yang substansial dan bertanggung jawab sebelum terlambat."
Perintah itu terbit beberapa hari setelah peringatan keras dari orang dalam industri mengenai ancaman teknologi tersebut terhadap umat manusia.
Jacob Coxon, mantan peneliti AI yang mengaku bekerja di Anthropic sebelum mengundurkan diri, memicu putaran alarm terbaru dengan menggambarkan bagaimana para pembangun teknologi itu "sungguh-sungguh percaya bahwa itu bisa membunuh Amerika Serikat semuanya pada akhir dekade ini."
CEO Anthropic Dario Amodei menerbitkan esai tak lama setelahnya yang mendesak kehati-hatian.
"Kita harus memperlambat laju peningkatan kemampuan model AI," tulisnya.
