Perkembangan kecerdasan buatan (AI) mulai bergeser dari komputasi berbasis awan menuju pengolahan data langsung di perangkat lokal atau on-device AI.
Biaya berlangganan infrastruktur awan yang tinggi, isu privasi data, serta kendala latensi menjadi pendorong utama pergeseran ini.
Para pengembang dan peneliti pun mencari alternatif perangkat keras yang mampu menjalankan model bahasa besar (LLM) secara mandiri.
Di tengah dominasi GPU berharga mahal yang boros daya, industri mulai melirik arsitektur cip khusus yang efisien untuk beban kerja AI inference.
Axera memperkenalkan prosesor seri AX8860P sebagai jawaban atas kebutuhan tersebut.
Cip ini merupakan system-on-chip yang dilengkapi akselerator Neural Processing Unit (NPU) mandiri bernama AXNeutron.
Akselerator ini dirancang untuk mentenagai komputer mini ringkas, salah satunya Sipeed MaixStation.
Perangkat Mini PC AI itu diproyeksikan menjadi mesin komputasi lokal berkinerja tinggi yang siap menantang perangkat keras AI kelas atas di pasar global.
Arsitektur AXNeutron: Pendekatan Baru di Luar GPU Klasik
Keunggulan cip Axera AX8860P terletak pada arsitektur NPU AXNeutron yang dikembangkan secara internal oleh Axera.
Berbeda dari GPU Nvidia Blackwell yang mengandalkan ribuan inti pemrosesan paralel konvensional pada unit DGX Spark, AXNeutron dibangun atas fondasi programmable dataflow design.
Pendekatan ini dirancang untuk mengoptimalkan alur kerja pemrosesan AI langsung pada tingkat perangkat keras.
Manfaat utamanya terletak pada efisiensi lalu lintas data.
Dalam arsitektur komputer tradisional, transfer data bolak-balik antara unit pemrosesan dan memori sering menjadi hambatan yang memicu panas berlebih dan pemborosan daya.
Arsitektur AXNeutron meminimalkan pergerakan data yang tidak perlu sehingga pemanfaatan perangkat keras berjalan maksimal.
Hal ini krusial saat menjalankan model AI berbasis arsitektur Transformer yang membutuhkan kalkulasi matriks berulang dan intensif.
Di atas kertas, NPU ini diklaim sanggup menyuplai daya komputasi hingga 256 TOPS pada presisi tingkat rendah FP4.
Spesifikasi teknis tersebut menunjukkan upaya Axera menghadirkan alternatif komputasi AI lokal yang lebih efisien dibandingkan GPU konvensional.
