Seorang developer berhasil menemukan cara untuk melatih model kecerdasan buatan (AI) langsung di perangkat Apple Silicon M4, melewati batasan yang selama ini diterapkan Apple.
Capaian ini membuka akses ke daya komputasi Neural Engine (ANE) yang sebelumnya hanya digunakan untuk menjalankan model yang sudah dilatih (inference).
>>> Asus Dawn 7S Ryzen Edition Resmi Meluncur di China dengan Ryzen AI 5 330
Rekayasa Balik Neural Engine
Developer dengan nama pengguna @0x0SojalSec mengumumkan di X bahwa mereka berhasil melakukan reverse-engineering pada keterbatasan ANE.
Dengan metode ini, mereka mampu mengakses hingga 15,8 TFLOPS daya komputasi untuk pelatihan penuh, termasuk backpropagation pada model transformer.
Alih-alih menggunakan framework Core ML atau Metal milik Apple, tim tersebut membangun Model Intermediate Language (MIL) khusus untuk berkomunikasi langsung dengan Neural Engine.
Semua data diproses di RAM untuk menghindari penulisan ke penyimpanan yang lambat, sehingga proses berjalan cepat dan stabil.
Mereka juga menemukan solusi menggunakan perintah exec() untuk memulai ulang proses saat pelatihan macet, memungkinkan checkpoint dan kelanjutan pelatihan.
Potensi Besar untuk Komunitas AI
Proyek ini telah dibagikan di GitHub, menunjukkan bahwa pelatihan jaringan saraf di ANE mungkin dilakukan dengan sedikit dependensi tambahan.
>>> Qualcomm Luncurkan Snapdragon Reality Elite untuk XR Generasi Baru
Pengujian awal menunjukkan hasil impresif, seperti langkah pelatihan transformer yang selesai hanya dalam hitungan milidetik pada chip M4.
Apple sendiri belum secara resmi mengaktifkan atau mendukung pelatihan di Neural Engine, dan hanya memasarkan chip tersebut untuk inference dengan klaim hingga 38 TOPS.
Upaya reverse-engineering ini membuktikan bahwa chip M4 menyimpan potensi lebih besar dari yang diketahui publik.
Temuan ini menjadi kabar baik bagi komunitas AI karena dapat mengubah Mac dan iPad biasa menjadi mesin pelatihan lokal yang lebih mumpuni untuk model kecil, mengurangi ketergantungan pada layanan cloud.
Hal ini juga memicu diskusi tentang pendekatan perangkat keras-perangkat lunak yang sangat terkontrol oleh Apple.
>>> HyperOS 4 Debut di Xiaomi Foldable, Bukan Seri 18?
Ke depannya, akan menarik untuk melihat apa lagi yang ditemukan komunitas seiring semakin banyak orang bereksperimen dengan metode ini.
