Biaya pengadaan DRAM pada server enterprise bisa mencapai 60 hingga 90 persen dari total harga satu unit. AMD menawarkan solusi perangkat lunak bernama Mext untuk menekan beban tersebut.
Mext memanfaatkan algoritma machine learning guna memindahkan data yang jarang diakses dari DRAM ke SSD yang lebih murah.
Klaimnya, kebutuhan kapasitas DRAM bisa dipangkas hingga separuh tanpa mengorbankan performa signifikan.
Dari pengujian awal pada 145 sistem enterprise, AMD memperkirakan penghematan biaya memori pelanggan mencapai 5 juta dolar AS atau sekitar Rp88,5 miliar.
Prediksi AI Atasi Latensi SSD
Memindahkan data pasif ke penyimpanan sekunder sebenarnya bukan hal baru.
Swap file pada Windows sudah menerapkan prinsip serupa, tetapi kecepatan SSD yang hingga 500 kali lebih lambat dari DRAM sering membuat performa anjlok.
Mext mengatasi hambatan itu dengan pendekatan proaktif.
Model pembelajaran mesin berbasis arsitektur transformer memprediksi halaman memori yang akan dibutuhkan aplikasi, lalu memindahkan data dari SSD ke RAM sebelum diminta.
Riset internal Meta menunjukkan 50 hingga 80 persen halaman memori di server enterprise tidak diakses kembali setidaknya selama lima menit.
Ini menandakan besarnya kapasitas DRAM yang terbuang untuk data pasif.
Proses pelatihan model AI Mext tergolong ringan.
AMD menyebut training awal hanya butuh kurang dari satu detik dengan satu core prosesor AMD Epyc, dan model beradaptasi sendiri tanpa bantuan GPU.
Pada pengujian Synopsys PrimeTime, Mext mampu menggantikan 50 persen DRAM dengan SSD NVMe sambil mempertahankan 95 persen performa awal.
Bahkan saat DRAM tersisa 25 persen, performa masih terjaga di angka 80 persen.