Amerika Serikat dan China bersiap membahas risiko keamanan kecerdasan buatan (AI) dalam dialog yang direncanakan pada pertengahan September.
Dua sumber yang mengetahui rencana tersebut mengungkapkan hal ini kepada Reuters.
Dialog ini akan menjadi pembicaraan bilateral resmi pertama yang khusus membahas AI antara kedua negara sejak Donald Trump kembali menjabat sebagai presiden AS.
Menteri Keuangan AS, Scott Bessent, akan memimpin delegasi AS.
Meski demikian, juru bicara Departemen Keuangan AS mengatakan tidak ada pertemuan yang dijadwalkan. Trump dan Presiden China Xi Jinping dijadwalkan bertemu pada 24 September dalam KTT di Washington.
Agenda yang Diusulkan
AS ingin membahas kerja sama dalam memantau serangan siber yang diarahkan oleh AI.
Washington juga telah mengajukan proposal untuk meminta laboratorium AI AS dan China 'mengawasi diri sendiri' dan berbagi informasi untuk mencegah serangan siber terkait AI.
Kekhawatiran AS juga mencakup potensi model AI China di masa depan yang mampu melakukan serangan siber.
Selain itu, AS ingin mengangkat dugaan distilasi model AI proprietary AS oleh China.
Pada Juni lalu, penasihat sains dan teknologi Gedung Putih, Michael Kratsios, menuduh Moonshot AI China mencuri model Fable milik Anthropic untuk membantu pengembangan rilis K3.
Distilasi adalah proses melatih model AI yang lebih kecil menggunakan output dari model yang lebih besar dan lebih mahal.
Di sisi China, dialog tersebut dapat dipimpin oleh Wakil Perdana Menteri He Lifeng, yang merupakan mitra protokoler Bessent.
Namun, alternatif seperti Ding Xuexiang, pejabat nomor 7 China, juga dipertimbangkan.
Ding, yang merupakan orang kepercayaan Xi dan anggota Komite Tetap Politbiro Partai Komunis, mengoordinasikan kebijakan teknologi, AI, dan semikonduktor China.
Lokasi dan peserta lain belum dapat dipastikan, tetapi Kratsios dan Menteri Sains China, Yin Hejun, dapat hadir.
Agenda dan peserta final masih berubah, menurut sumber. Gedung Putih menolak berkomentar, sementara Kementerian Luar Negeri China dan kementerian terkait belum menanggapi permintaan komentar.
Pentingnya Dialog bagi China
Pejabat China telah berulang kali menekankan pentingnya dialog AI dalam pertemuan persiapan dengan mitra AS. Mereka menganggap dialog ini sebagai hasil utama dari KTT para pemimpin AS-China.
Dalam sepekan terakhir, regulator ruang siber China memperingatkan tentang 'risiko kehilangan kendali AI yang ekstrem'.
Media yang berafiliasi dengan negara juga mengkritik Anthropic, menekankan bahwa batasan pada AI canggih harus berlaku sama untuk model China dan AS.
Mantan eksekutif Microsoft, Craig Mundie, muncul sebagai perantara penting di belakang layar. Ia menjajaki tanggapan China terhadap proposal AS untuk dialog AI.
Mundie adalah ketua bersama saluran dialog AI Jalur II AS-China.
Kedua pihak juga membahas pagar pengaman AI dalam dialog Jalur 1.5 di Beijing pekan lalu, menurut mantan Perdana Menteri Australia, Kevin Rudd, yang ikut serta.
Pada Juni, Trump menandatangani perintah eksekutif AI yang menetapkan kerangka kerja sukarela untuk tinjauan keamanan siber pra-rilis model AI canggih.
Namun, AS belum merilis kriteria untuk tinjauan tersebut.
Sementara itu, karyawan di laboratorium AI top AS, termasuk Anthropic dan OpenAI, telah menyerukan 'menahan laju batas' untuk mengelola risiko global AI canggih.
Scott Singer, salah satu direktur Inisiatif AI China di Carnegie Endowment for International Peace, mengatakan China telah menyatakan kekhawatiran tentang apakah AS memiliki regulasi yang memadai untuk model AI paling canggih.
Kedua belah pihak termotivasi untuk memastikan mereka dapat mengelola krisis lintas batas secara efektif.
Samm Sacks, peneliti senior di New America, mengatakan meskipun hasilnya mungkin terbatas, membuka saluran di mana kedua belah pihak dapat berbagi pengamatan dan bersama-sama memantau insiden keamanan AI akan menjadi titik awal yang penting.
'Kita berada pada titik kritis di mana agen canggih dapat menyebabkan kerusakan besar jika tidak dipantau. AS dan China sama-sama rentan.
Ini melampaui persaingan geopolitik,' kata Sacks.
