Kekhawatiran bahwa kecerdasan buatan bisa melampaui batas jangkauan atau tindakan manusia bukan hal baru.
Alan Turing, matematikawan Inggris yang dianggap salah satu otoritas paling awal soal kecerdasan buatan, memperkirakan pada 1951 bahwa AI akhirnya akan mengambil kendali dari manusia.
Kurang dari satu dekade kemudian, Norbert Wiener, matematikawan lain, memperingatkan bahwa mesin cerdas akan berupaya mencapai tujuannya sendiri dan manusia tidak akan mampu menghentikannya.
Pada 2026, seberapa masuk akal kekhawatiran bahwa AI, baik karena lepas dari kendali manusia maupun disalahgunakan orang tak bermoral, bisa menyebabkan peristiwa katastrofik atau keruntuhan peradaban?
Tidak ada yang tahu.
Para ahli di bidang ilmu komputer, filsafat, dan bidang lain membayangkan banyak jalur yang bisa membuat sistem AI masa depan memicu bencana global, baik karena lepas dari kendali manusia maupun di tangan orang tak bermoral.
Jalur itu berkisar dari mengerahkan senjata dan mengidentifikasi patogen mematikan hingga memanipulasi pemerintah agar berkonflik atau mengganggu jaringan pangan, energi, dan komunikasi yang menopang fungsi masyarakat.
Tidak ada perkiraan yang diterima luas soal seberapa cepat skenario itu bisa terjadi dan tidak ada konsensus soal kemungkinannya.
Pada 2023, lembaga nirlaba Center for AI Safety mengeluarkan pernyataan yang ditandatangani lebih dari 350 peneliti dan eksekutif teknologi, termasuk Amodei dari Anthropic dan CEO OpenAI Sam Altman.
Pernyataan itu menyebut mitigasi risiko kepunahan akibat AI harus menjadi prioritas global bersama pandemi dan perang nuklir.
Laporan Keselamatan AI Internasional 2026, yang disusun dengan panduan lebih dari 100 ahli independen, menyatakan sistem saat ini menunjukkan tanda-tanda awal kemampuan relevan, tetapi belum pada tingkat yang bisa memungkinkan hilangnya kendali.
