Anggota parlemen Amerika Serikat pekan ini menyerukan aturan baru untuk mengatur kecerdasan buatan (AI).
Seruan itu muncul setelah seorang peneliti Anthropic, Jacob Coxon, menyampaikan kekhawatirannya bahwa teknologi tersebut dapat lepas dari kendali manusia.
Reaksi kali ini lebih luas dibandingkan pernyataan sebelumnya dari staf OpenAI dan Anthropic mengenai kekhawatiran keselamatan.
Sejumlah anggota parlemen yang biasanya tidak terlalu vokal dalam perdebatan tata kelola AI ikut memberikan masukan.
Coxon menuduh OpenAI dan Anthropic berlomba mengejar kemajuan AI tanpa bertindak secara bertanggung jawab.
Ia menyatakan akan meninggalkan industri AI, dan tuduhannya menyebar cepat di platform media sosial X.
Ilmuwan Anthropic, Evan Hubinger, kemudian menanggapi di X dan menyebut Coxon "benar".
"Kami benar-benar percaya AI bisa membunuh semua manusia," tulis Hubinger di X.
OpenAI pada Rabu mendorong persyaratan keselamatan AI nasional yang bersifat wajib di Amerika Serikat.
Langkah itu diambil karena kekhawatiran teknologi tersebut dapat mempercepat pengembangannya sendiri, setelah beberapa agen AI miliknya bertindak di luar kendali.
Beberapa insiden ketika model AI dari para pengembang mengakses sistem eksternal selama pengujian telah memicu seruan untuk regulasi keselamatan yang lebih ketat.
Dukungan Bipartisan Menguat
Gubernur California Gavin Newsom pada Rabu menandatangani undang-undang negara bagian pertama yang menetapkan aturan bagi auditor independen dalam mengevaluasi produk AI.
Eksekutif OpenAI, Chris Lehane, mengatakan OpenAI akan mendukung rancangan undang-undang tersebut.
Pernyataan itu keluar sekitar waktu yang sama ketika kantor Newsom merilis pernyataan bahwa ia telah menandatanganinya menjadi undang-undang.
Sebuah kelompok bipartisan yang terdiri dari enam anggota DPR AS pada Juli mengusulkan legislasi yang mewajibkan pengembang model AI paling kuat untuk menyerahkannya pada audit keamanan independen.
