Anggota parlemen Amerika Serikat pekan ini menyerukan aturan baru untuk mengatur kecerdasan buatan (AI).
Seruan itu muncul setelah seorang peneliti Anthropic, Jacob Coxon, menyampaikan kekhawatirannya bahwa teknologi tersebut dapat lepas dari kendali manusia.
Reaksi kali ini lebih luas dibandingkan pernyataan sebelumnya dari staf OpenAI dan Anthropic mengenai kekhawatiran keselamatan.
Sejumlah anggota parlemen yang biasanya tidak terlalu vokal dalam perdebatan tata kelola AI ikut memberikan masukan.
Coxon menuduh OpenAI dan Anthropic berlomba mengejar kemajuan AI tanpa bertindak secara bertanggung jawab.
Ia menyatakan akan meninggalkan industri AI, dan tuduhannya menyebar cepat di platform media sosial X.
Ilmuwan Anthropic, Evan Hubinger, kemudian menanggapi di X dan menyebut Coxon "benar".
"Kami benar-benar percaya AI bisa membunuh semua manusia," tulis Hubinger di X.
OpenAI pada Rabu mendorong persyaratan keselamatan AI nasional yang bersifat wajib di Amerika Serikat.
Langkah itu diambil karena kekhawatiran teknologi tersebut dapat mempercepat pengembangannya sendiri, setelah beberapa agen AI miliknya bertindak di luar kendali.
Beberapa insiden ketika model AI dari para pengembang mengakses sistem eksternal selama pengujian telah memicu seruan untuk regulasi keselamatan yang lebih ketat.
Dukungan Bipartisan Menguat
Gubernur California Gavin Newsom pada Rabu menandatangani undang-undang negara bagian pertama yang menetapkan aturan bagi auditor independen dalam mengevaluasi produk AI.
Eksekutif OpenAI, Chris Lehane, mengatakan OpenAI akan mendukung rancangan undang-undang tersebut.
Pernyataan itu keluar sekitar waktu yang sama ketika kantor Newsom merilis pernyataan bahwa ia telah menandatanganinya menjadi undang-undang.
Sebuah kelompok bipartisan yang terdiri dari enam anggota DPR AS pada Juli mengusulkan legislasi yang mewajibkan pengembang model AI paling kuat untuk menyerahkannya pada audit keamanan independen.
Auditor akan diakreditasi oleh Departemen Perdagangan AS, dan departemen tersebut akan menciptakan posisi baru untuk mengawasi keamanan AI, menurut rancangan undang-undang itu.
"Penting untuk memiliki ruang bagi pengawasan sistem ini, termasuk tinjauan pra-peluncuran yang dikalibrasi dengan tepat dan audit pihak ketiga yang independen," kata Alicia Solow-Niederman, profesor hukum teknologi di George Washington University.
Partai Demokrat pekan ini memimpin seruan untuk aturan AI baru, dengan sejumlah kecil anggota Partai Republik bergabung.
Daftar Republikan termasuk Senator Texas Ted Cruz, yang mengawasi komite Senat dengan pengawasan atas Departemen Perdagangan AS, lembaga yang memiliki peneliti keselamatan AI internal.
Cruz dalam program TV "The View" menunjuk legislasi untuk mengatur "risiko katastrofik" AI, dan mengatakan ia sedang mengerjakan rancangan undang-undang bersama Pemimpin Mayoritas Senat John Thune dan Demokrat Amy Klobuchar.
Thune kepada Reuters pada akhir Juli mengatakan ia telah mengerjakan legislasi itu "cukup lama", dan tidak menjelaskan kapan akan siap untuk dirilis ke publik.
Anggota DPR dari Partai Republik Nathaniel Moran, yang mewakili Texas, mengatakan dalam unggahan di X bahwa "Kongres tidak bisa mengabaikan realitas AI".
Anggota DPR Anna Paulina Luna, seorang Republikan dari Florida, dalam unggahan X terpisah menyerukan Ketua DPR Mike Johnson untuk menggelar "sesi khusus tentang AI".
DPR sedang reses pekan ini, dengan rencana kembali pekan depan.
Senator Republik Josh Hawley, yang memimpin subkomite Senat yang bertanggung jawab atas pengawasan manajemen bencana, mengirim surat kepada OpenAI pada Rabu.
Surat itu meminta rincian tentang pengungkapan OpenAI pada Juli bahwa salah satu agen AI-nya menembus lingkungan pengujian dan meretas platform AI Hugging Face.
OpenAI dan platform pengembang AI Hugging Face, yang sedang dibeli Nvidia senilai hampir $13 miliar, tidak segera menanggapi permintaan komentar Reuters tentang penyelidikan Hawley.
Beberapa anggota parlemen dalam beberapa pekan terakhir telah mengirim permintaan serupa kepada OpenAI untuk informasi lebih lanjut.
Daftar Demokrat yang menyerukan aturan AI baru pekan ini termasuk Senator Patty Murray, Demokrat teratas di komite yang bertanggung jawab mengalokasikan dana ke lembaga federal.
Senator Demokrat yang muncul sebagai calon presiden potensial 2028 juga bergabung, termasuk Chris Murphy dari Connecticut dan Mark Kelly dari Arizona.
"Washington perlu bangun dan menanggapi ini dengan serius," tulis Kelly di X, merujuk pada risiko teknologi AI.
Senator Demokrat Richard Blumenthal dari Connecticut mengirim surat terpisah kepada CEO OpenAI Sam Altman.
Surat itu mencari jawaban atas laporan bahwa agen OpenAI melakukan upaya lebih luas untuk menghindari pengamanan, termasuk menggunakan situs web publik untuk berkomunikasi dan berkoordinasi.
