Qualcomm mulai membocorkan peningkatan pada NPU Hexagon untuk chip Snapdragon 8 Elite Gen 6 Pro. Informasi ini muncul menjelang Snapdragon Summit yang dijadwalkan pada 22 September.
Perusahaan menyebut NPU baru ini dirancang khusus untuk AI agentik. Fokus utamanya adalah mempercepat kinerja model transformer yang menjadi tulang punggung AI generatif modern.
Element Accelerator dan Memori Lebih Besar
Salah satu peningkatan utama adalah kehadiran Element Accelerator yang dibuat khusus untuk beban kerja transformer.
Unit ini melengkapi ekstensi scalar, vector, dan matrix untuk mempercepat operasi penting pada model besar.
Qualcomm juga memperbesar shared memory hingga 50% dibandingkan generasi sebelumnya. Tujuannya agar data model yang sering diakses tetap dekat dengan NPU.
Dengan memori yang lebih besar, hambatan memori dapat berkurang. Agen AI diharapkan tetap responsif saat menangani konteks panjang, banyak alat, dan tugas bersamaan.
Peningkatan ini diklaim menghasilkan pengalaman AI agentik yang lebih cepat dan responsif. Selain itu, NPU baru disebut mampu bernalar lebih efisien tanpa mengorbankan efisiensi daya perangkat mobile.
Dukungan untuk Model INT4 dan Mixture-of-Experts
Qualcomm mengklaim NPU anyar ini memiliki prefill hingga 50% lebih cepat untuk model INT4. Peningkatan ini relevan untuk aplikasi AI yang membutuhkan respons cepat.
NPU tersebut juga disebut sangat cocok untuk model Mixture-of-Experts (MoE). Model MoE hanya mengaktifkan sebagian parameter per token, sehingga lebih efisien secara komputasi.
Secara keseluruhan, Hexagon NPU baru ini didesain untuk AI yang selalu aktif, penalaran konteks panjang, model multimodal, agen bersamaan, dan loop aksi berlatensi rendah.
Detail lebih lanjut mengenai Snapdragon 8 Elite Gen 6 Pro dan varian standarnya akan diumumkan pada Snapdragon Summit 22 September mendatang.
