CEO OpenAI Sam Altman menyoroti pemborosan kapasitas DRAM yang tersebar di komputer pribadi. Menurutnya, memori seharusnya dipusatkan di data center agar bisa melayani banyak pengguna sepanjang waktu.
Pandangan itu disampaikan Altman dalam sebuah forum diskusi.
Ia menilai sebagian besar PC rumahan hanya memakai RAM secara penuh pada momen tertentu, sementara sisa waktunya memori menganggur.
Dalam konteks pasokan DRAM dunia yang kian ketat, pola pemakaian seperti itu dinilai tidak efisien. Altman pun menjadikan utilisasi memori sebagai inti argumennya.
Utilisasi Memori Jadi Kunci
Altman menegaskan bahwa pasokan DRAM global saat ini berada dalam kondisi terbatas.
Alih-alih membiarkan kapasitas besar tersebar di jutaan komputer pribadi, ia menilai sumber daya itu lebih baik dikonsentrasikan di server yang beroperasi 24 jam nonstop.
"Dari sudut pandang alokasi global, sebenarnya cukup buruk jika semua orang memiliki sebagian pasokan DRAM dunia yang terbatas di komputer masing-masing dan hanya terpakai 5 persen waktunya," ujarnya, seperti dikutip dari keterangannya.
Ia menambahkan, utilisasi maksimal di cloud menjadi kebutuhan saat menghadapi lingkungan pasokan yang sangat terbatas.
Logikanya, data center dapat melayani ribuan permintaan inferensi AI secara bergantian dalam satu waktu.
Sebaliknya, sebuah PC pribadi hanya melayani satu pengguna dan tidak sepanjang hari.
Bagi Altman, efisiensi alokasi menjadi prioritas ketika pasokan memori tidak mampu mengikuti permintaan yang meledak akibat gelombang AI generatif.
Pernyataan ini muncul di tengah tren yang bergerak ke arah berlawanan. Menjalankan model AI langsung di perangkat atau local inference semakin populer belakangan ini.
Pengguna dapat mengunduh model open-weight seperti Llama, Mistral, atau DeepSeek dan menjalankannya di PC dengan bantuan GPU dan RAM besar.
Pendekatan ini diminati karena tidak memerlukan langganan bulanan dan menjaga privasi data tetap di tangan pengguna.
Namun, Altman tampaknya melihat tren tersebut dari kacamata bisnis. Model utama OpenAI bersifat closed-source dan dijalankan di server perusahaan.
Semakin banyak orang bergantung pada inferensi lokal, semakin kecil pula ketergantungan mereka pada layanan berlangganan berbasis cloud.
