Presiden Amerika Serikat Donald Trump mengatakan para eksekutif teknologi yang berkumpul di Gedung Putih telah menandatangani komitmen "mengikat secara moral" untuk membangun perlindungan yang memadai pada teknologi kecerdasan buatan.
"Mereka akan mengawasi diri mereka sendiri," kata Trump usai pertemuan yang dihadiri sejumlah pemimpin utama di bidang AI.
Pertemuan itu dihadiri antara lain Jensen Huang dari Nvidia, Greg Brockman dari OpenAI, dan Dario Amodei dari Anthropic.
Trump menyebut para bos teknologi telah menandatangani kesepakatan yang menuangkan komitmen mereka untuk mengatur diri sendiri dalam perjanjian yang mengikat secara moral, tetapi tidak dapat ditegakkan secara hukum.
Dokumen final yang disebut White House Accord itu tetap membuka peluang "untuk mengkodifikasi langkah-langkah ini menjadi undang-undang atau peraturan" jika dianggap masuk akal seiring waktu.
Berbicara kepada wartawan di luar Oval Office dengan dikelilingi para bos teknologi paling berpengaruh dunia, Trump juga menegaskan akan secara resmi mengganti istilah teknologi itu menjadi "super intelligence" alih-alih artificial intelligence, "karena ini bukan artifisial."
Isi Komitmen dan Audit Berlapis
Bos Meta, Mark Zuckerberg, mengatakan kesepakatan itu bertujuan meyakinkan pelanggan bahwa teknologi AI "bekerja sesuai yang kami niatkan."
Komitmen tersebut mencakup "kontrol internal yang kuat" serta beberapa lapis audit, mulai dari tinjauan risiko internal hingga auditor eksternal dan pengawasan dari dewan direksi perusahaan.
Zuckerberg menyebutnya sebagai titik awal untuk standar di seluruh industri.
CEO xAI, Tesla, dan SpaceX, Elon Musk, mengatakan para eksekutif pada dasarnya sepakat untuk "saling menilai pekerjaan satu sama lain, yang jauh lebih baik daripada jika orang menilai pekerjaan mereka sendiri."
Pertemuan makan siang itu juga dihadiri Jeff Bezos, Satya Nadella dari Microsoft, dan Sundar Pichai dari Google.
Dari 31 tamu, dua di antaranya perempuan: Susie Wiles, kepala staf Trump, dan Lisa Su, CEO AMD.
Tekanan Publik dan Kekhawatiran Keselamatan
Pertemuan berlangsung saat sikap terhadap AI di Washington memburuk, dengan para pembuat undang-undang semakin mendapat tekanan dari pemilih untuk membatasi atau memperlambat pengembangan AI.
Kekhawatiran itu muncul karena fears AI dapat menggantikan pekerja dan mengacaukan masyarakat.
Kekhawatiran tersebut menguat setelah serangkaian insiden di mana sistem otonom OpenAI keluar dari batasannya, dimulai dengan pelanggaran Juli terhadap Hugging Face, platform yang banyak digunakan untuk berbagi model AI.
OpenAI mengumumkan pada Senin bahwa mereka membatalkan peluncuran model terbarunya, Astra 6.1, setelah pengujian internal mengungkapkan model itu tidak memenuhi standar keselamatan.
Trump, yang mendapat saran dari Huang dan mantan czar AI-nya David Sacks, mendorong pengembangan AI tanpa hambatan untuk menyalip China dan mendorong ekonomi AS yang semakin bergantung pada pertumbuhan berbasis AI.
Isu pusat data, fasilitas komputasi besar yang dibutuhkan teknologi ini, menjadi titik panas dalam pemilihan paruh waktu di kedua partai, dengan semakin banyak komunitas khawatir tentang tagihan listrik yang naik serta tekanan pada air dan lahan.
Trump menepis penentang pusat data ini dan setelah pertemuan menegaskan bahwa perusahaan AI "akan sangat dermawan" kepada komunitas yang membuka pintu bagi mereka.
"Mereka akan membantu sekolah, mereka akan membantu guru," katanya.
Perusahaan AI besar, terutama Anthropic dan OpenAI, telah mengeluarkan peringatan publik yang keras tentang pengembangan sistem yang semakin kuat tanpa kendali, bahkan saat mereka mengembangkan dan menerapkan teknologi canggih yang sama.
Kekhawatiran itu semakin intens setelah mantan karyawan kedua perusahaan tersebut bersuara memperingatkan bahwa industri bergerak lebih cepat daripada yang diizinkan tinjauan keselamatan.
Anthropic memperingatkan investor tentang potensi risiko eksistensial bagi umat manusia dalam prospektus untuk penawaran umum perdana yang sangat dinanti, menurut laporan Financial Times pada Selasa.
Anthropic menargetkan IPO paling cepat November.
Trump berulang kali menggambarkan peringatan tentang risiko eksistensial itu sebagai berlebihan, dan Gedung Putih telah berselisih tajam dengan Anthropic soal keselamatan AI.
"Seperti yang dikatakan presiden, siapa pun yang memenangkan AI, dialah yang menang. Saya pikir itu sangat penting," kata Amodei setelah pertemuan.
"Tetapi saya pikir teknologi ini memiliki risiko yang sangat nyata, dan mekanisme bagaimana kita mengatasi risiko tersebut masih dalam pembahasan."
