Pengujian terbaru terhadap kartu grafis Intel Arc B580 menunjukkan bahwa kecepatan pemrosesan AI tidak hanya ditentukan oleh spesifikasi perangkat keras.
Dengan mesin inferensi open-source XeStrata, kartu grafis berbasis arsitektur Battlemage ini berhasil menjalankan model bahasa besar berkapasitas 125 miliar parameter pada kecepatan 31,1 tokens per second.
Angka tersebut hampir tiga kali lipat dibandingkan pengujian memakai Strata standar yang hanya mencatat 10,9 tokens per second.
Lompatan performa generasi teks hingga 185 persen itu diperoleh tanpa mengubah komponen kartu grafis sama sekali.
Optimasi Perangkat Lunak di Balik Lonjakan Throughput
Pengujian yang dipublikasikan media teknologi Jepang, PC Watch, menggunakan unit ASRock Intel Arc B580 Challenger 12GB OC.
Model bahasa yang dijalankan adalah Qwen3.8-Flash-Next dengan metode kuantisasi IQ3_S, context window 64K token, serta 8-bit KV cache.
Peningkatan signifikan ini bersumber dari perbedaan pengoptimalan instruksi antara Strata versi 0.2.1 dan XeStrata.
XeStrata dirancang khusus untuk memaksimalkan jalur eksekusi pada arsitektur GPU Intel.
Perangkat lunak ini memanfaatkan unit akselerasi Intel Xe Matrix Extensions (XMX) yang tertanam di chipset Arc B580.
Hasilnya, throughput pemrosesan teks meningkat tajam saat menangani perintah kompleks.
Kendati demikian, hasil ini terfokus pada kecepatan generasi teks atau output throughput.
Kecepatan pemrosesan awal (prompt processing), latensi respons pertama, hingga tingkat akurasi jawaban tidak berubah drastis hanya karena pergantian mesin inferensi.
Secara teknis, VRAM 12GB GDDR6 pada Intel Arc B580 tidak akan sanggup menampung seluruh bobot data model AI 125B.
Di sinilah arsitektur XeStrata berperan melalui teknik offloading yang membagi beban kerja antara memori grafis dan memori utama komputer.
Sistem pengujian mengombinasikan Intel Arc B580 dengan prosesor Intel Core Ultra 5 250KF Plus dan RAM DDR5 64GB di atas sistem operasi Ubuntu 26.04 LTS.
Berdasarkan dokumentasi teknis, model Qwen3.8 dengan kuantisasi IQ3_S membutuhkan alokasi RAM sistem sekitar 50GB.
Artinya, keberadaan RAM 64GB menjadi syarat mutlak agar model raksasa ini dapat berjalan.
Kartu grafis berfungsi sebagai akselerator pemrosesan angka, sementara RAM menampung sebagian besar parameter model.