Coxon mengatakan ia semakin khawatir bahwa model AI akan segera memperoleh kemampuan super yang dapat melampaui kendali manusia.
"Anda membangun pikiran setingkat manusia atau superhuman, tanpa memahami apa yang diinginkannya, atau dipikirkannya, atau cara berpikirnya," kata Coxon.
Di tengah persaingan global yang sengit untuk dominasi AI, Coxon juga mendesak kerja sama antara Amerika Serikat dan China, dua negara yang memimpin perlombaan, untuk memperlambat dan mengatasi masalah keselamatan.
"Saya sangat berharap orang-orang di China yang melihat masalah yang sama dengan kita, jadi mereka mencoba membangun teknologi yang sama, akan sampai pada kesimpulan yang sama bahwa ini harus dilakukan dengan cara yang terukur, dan seharusnya mudah untuk bekerja sama dalam semacam perlambatan bersama," kata Coxon.
Jika tidak, katanya, "kita berisiko menjalankan perlombaan yang sama dengan China, yang bisa sama berbahayanya."
Pendiri teknologi dan investor David Sacks menanggapi seruan para pemimpin AI untuk regulasi dengan unggahan media sosial yang menantang mereka.
Sacks, wakil ketua dewan penasihat Gedung Putih untuk sains dan teknologi, mengatakan Amodei dan pemimpin lainnya adalah pihak yang menentukan laju pengembangan.
Sacks mengatakan mereka memiliki kekuatan untuk memperlambat pengembangan sendiri.
"Cara termudah untuk tidak membangun superintelligence adalah dengan Anda setuju untuk tidak membangunnya," tulis Sacks.
