Google mengumumkan peluncuran Gemma 4 12B pada Rabu, 3 Juni 2026. Model AI open-source ini dirancang khusus untuk berjalan secara lokal di perangkat konsumen seperti laptop dan PC.
Dengan 12 miliar parameter, model ini tidak memerlukan server cloud atau GPU mahal. Ini menjadi langkah besar dalam demokratisasi akses AI.
Multimodal Tanpa Encoder Eksternal
Gemma 4 12B adalah model multimodal pertama dalam keluarga Gemma. Ia mendukung input teks, gambar, dan audio secara native.
Semua data diproses langsung oleh backbone LLM tanpa encoder eksternal.
Google mengganti vision encoder tradisional dengan modul embedding ringan yang hanya terdiri dari satu operasi perkalian matriks, positional embedding, dan normalisasi layer.
Hasilnya, gambar bisa langsung "dibaca" oleh LLM tanpa pipeline panjang. Arsitektur ini lebih efisien memori dan lebih cepat.
Berjalan di Laptop Modern
Google menyatakan model ini dapat berjalan optimal pada perangkat dengan VRAM atau unified memory minimal 16 GB.
Spesifikasi ini umum ditemukan di laptop modern seperti MacBook Pro M-series, laptop Windows berbasis Intel Core Ultra, atau AMD Ryzen AI.
Inferensi dilakukan sepenuhnya di perangkat (on-device).
Artinya, tidak perlu koneksi internet, data tetap di perangkat untuk privasi lebih terjaga, latensi hampir nol, dan biaya operasional nol.
Ini membuka pintu bagi aplikasi AI yang sebelumnya tidak mungkin dijalankan secara lokal. Contohnya transkripsi video real-time, analisis presentasi, atau asisten pribadi multimodal.
